Geoffrey Hinton alerta para risco de apagão e crise financeira com IA

Geoffrey Hinton, um dos pioneiros da inteligência artificial (IA), alertou para a possibilidade de um incidente grave envolvendo a tecnologia ainda neste ano ou em 2027. Em entrevista ao jornal britânico The Guardian, o cientista citou como exemplos um apagão causado por um ataque cibernético e uma interrupção do sistema financeiro, e defendeu regras internacionais para avaliar modelos antes de sua liberação.

Hinton, de 78 anos, disse que a humanidade talvez estivesse melhor se não tivesse desenvolvido a IA. Ao mesmo tempo, afirmou que a tecnologia pode trazer avanços importantes e até levar a um “futuro maravilhoso”. Para ele, porém, ainda não está claro se a sociedade conseguirá administrar os riscos.

O pesquisador não prevê necessariamente um acidente nuclear ao comparar um possível episódio futuro a Chernobyl. A referência, explicou, diz respeito à dimensão do impacto: um ataque apoiado por IA contra a geração de energia poderia causar um apagão amplo, enquanto uma falha poderia deixar o sistema financeiro fora do ar por uma semana. Hinton disse que a sociedade conseguiria se recuperar, mas que um evento desse porte levaria governos e empresas a prestar mais atenção aos perigos.

O cientista afirmou que situações recentes envolvendo agentes de IA mostram que as preocupações não são apenas hipotéticas. Ele mencionou episódios registrados no verão do Hemisfério Norte, nos quais agentes da OpenAI teriam conspirado para invadir o site Hugging Face. Comparou esses casos a um alerta como o acidente de Three Mile Island, em 1979, quando uma falha em uma usina na Pensilvânia provocou o derretimento parcial do núcleo de um reator.

Hinton estimou que, dentro de uma década — possivelmente antes —, será possível avaliar se a sociedade conseguiu controlar os riscos e alcançar o que chamou de “abundância radical”. Caso fracasse, disse, o resultado pode incluir aumento da desigualdade entre ricos e pobres, desemprego em massa, conflitos culturais e uma sociedade profundamente dividida.

Ele também criticou dirigentes de grandes empresas de IA por priorizarem a disputa comercial e o desenvolvimento de modelos mais poderosos. Hinton disse não confiar em Sam Altman, presidente-executivo da OpenAI, responsável pelo ChatGPT, e questionou as prioridades de Altman, Mark Zuckerberg, da Meta, e Elon Musk, da xAI. “Acho que Zuckerberg, Musk e Sam Altman entendem os riscos e não estão nem aí. Preferem ficar com o dinheiro. Essa é a minha opinião”, afirmou.

O pesquisador considera preocupante que Altman lidere uma das principais empresas dos Estados Unidos na corrida por sistemas avançados de IA, em competição direta com a China. Em setembro, Altman defendeu a atuação da OpenAI e disse que o mundo deveria confiar que a companhia tomaria as decisões corretas, por entender a responsabilidade que tem.

Para reduzir os riscos, Hinton propõe fiscalização internacional obrigatória, com testes independentes, avaliações de segurança e critérios comuns entre países. Ele apoia um plano defendido pelo presidente da Finlândia e por outros 32 países, entre eles Alemanha, Canadá, Austrália e Singapura. A proposta contrasta com a posição do governo de Donald Trump, que rejeita um controle global e defende que as próprias empresas sejam responsáveis pela regulamentação, sob o argumento de que regras mais rígidas poderiam prejudicar a competitividade americana diante da China.

Hinton compara o modelo de fiscalização desejado à atuação da agência reguladora de medicamentos dos Estados Unidos, a FDA. A ideia é exigir que as empresas apresentem a uma autoridade independente evidências estatísticas de que os benefícios de um sistema superam seus riscos antes de lançá-lo. O cientista citou a talidomida, medicamento desenvolvido na década de 1950 que causou graves malformações congênitas em milhares de bebês, para argumentar que não basta liberar produtos e responsabilizar seus fabricantes depois.

Apesar dos alertas, Hinton disse acreditar que ainda é possível evitar uma catástrofe. “Meu instinto diz que ainda estamos no controle. Talvez consigamos fazer alguma coisa. Só vai funcionar se fizermos um grande esforço, mas podemos muito bem fazer esse esforço”, afirmou.