François Chollet acha que o atual benchmark de superinteligência é demasiado fácil de passar

François Chollet acredita que os atuais padrões de superinteligência são demasiado fáceis de serem alcançados

Resumo

François Chollet criou o Keras e atualmente faz pesquisa em IA no Google. Ele criticou recentemente a forma como medimos o progresso em direção à superinteligência artificial. O que ele quer dizer é que: se a sua IA só precisa vencer um pequeno grupo de humanos — e esses humanos podem nem ser tão bons assim — isso não significa nada.

A definição de Chollet de ASI é bastante direta: vencer todos os humanos em uma determinada área. Com esse critério, já conseguimos isso no xadrez e no Go.

O significado dessa crítica é que ela desafia a noção da indústria sobre as capacidades da IA e o que realmente constitui progresso.

Análise

A visão de Chollet vem de seus muitos anos de experiência em aprendizado profundo e avaliação de IA. Ele está preocupado que as demonstrações impressionantes que derrotam poucos humanos possam levar as pessoas a acreditar que estamos próximos da verdadeira superinteligência. Isso pode desviar investimentos e pesquisas.

O xadrez e o Go são boas referências. O AlphaGo não apenas venceu alguns humanos — ele venceu todos os humanos. Este é precisamente o padrão que Chollet deseja que seja adotado em outras áreas.

Isso está relacionado a uma discussão maior: como passar da IA estreita (que é boa apenas em uma tarefa) para sistemas que superam os humanos em todos os aspectos. Se essa visão ganhar mais aceitação, os laboratórios que trabalham em modelos de ponta podem enfrentar pressão para adotar padrões mais rigorosos.

Há também uma tensão contínua: pesquisadores como Chollet, que vêm do mundo do código aberto, tendem a ter uma visão mais cautelosa, enquanto os ciclos de hype da indústria sempre tendem a exagerar.

Avaliação de impacto

• Importância: Média
• Categoria: Perspectivas técnicas, pesquisa em IA, tendências da indústria