Google é processado por busca com inteligência artificial em Chromebook

Os pais de uma menina de 13 anos processaram o Google nos Estados Unidos, sob a alegação de que a filha usou ferramentas de inteligência artificial integradas à busca da empresa para planejar um possível suicídio e o próprio funeral. A ação foi apresentada na segunda-feira, 2, em um tribunal da Califórnia; os pais dizem que perceberam o risco e impediram que ela tentasse tirar a própria vida.

A adolescente mora na Carolina do Norte e usava um Chromebook fornecido pela escola. Segundo o processo, o acesso ao aplicativo Gemini, do Google, e ao ChatGPT, da OpenAI, estava bloqueado pela instituição, mas a busca do Google, que oferece recursos de inteligência artificial, continuava disponível. A ação acusa a empresa de negligência na integração dessas ferramentas aos laptops usados por estudantes.

Os pais afirmam que a menina tinha boas notas, tocava música e participava das Girl Scouts, sem histórico de transtornos mentais. Meses depois de começar a usar a busca com inteligência artificial no computador escolar, ela teria entrado em uma crise psicológica. Em 17 de março, um programa de monitoramento da escola identificou um documento chamado “Funeral” e alertou a família.

Ao acessar a conta da filha, a mãe a viu escrevendo uma carta de despedida. O pai interveio, segundo a ação. A família sustenta que a escola deveria manter a busca desativada até que o Google retire o modo de inteligência artificial ou assegure a segurança dos estudantes que o utilizam. Andrew Liddell, advogado dos pais, defendeu essa medida.

O Google informou que está analisando as alegações e que as leva a sério. A empresa afirma que o modo de inteligência artificial tem mecanismos de proteção contra automutilação e tentativas de contorná-los. A ação é descrita como o primeiro processo conhecido a acusar o Google de negligência relacionada à oferta de inteligência artificial em Chromebooks.

O caso ocorre em meio a outras disputas judiciais nos Estados Unidos sobre os efeitos de ferramentas de inteligência artificial para adolescentes. A OpenAI enfrenta processos por morte indevida, incluindo um movido pelos pais de Adam Raine, de 16 anos, que morreu por suicídio; segundo as alegações, ele teria usado métodos recomendados pelo ChatGPT. Em janeiro, o Google e a startup Character.AI concordaram em resolver extrajudicialmente ações apresentadas por famílias de adolescentes.

Em outro processo ligado à proteção de menores, Google, TikTok e Meta contestam separadamente, na Justiça da Califórnia, uma lei estadual que proíbe plataformas de oferecer recursos considerados viciantes a usuários com menos de 16 anos. Sancionada pelo governador Gavin Newsom em setembro, a norma está prevista para entrar em vigor em 1º de janeiro de 2027. A disputa sobre o Chromebook, por sua vez, trata do acesso de estudantes à busca com inteligência artificial, e não do aplicativo Gemini, que a escola já havia bloqueado.