Google DeepMind enfrenta pressão por contratos sobre riscos da IA
Dezenas de trabalhadores em Londres pedem que a empresa estenda a todos os contratos a mudança que libera novos funcionários da cláusula ao saírem.
Resumo em 30 segundos
Pesquisadores do Google DeepMind em Londres querem que a empresa revise contratos de confidencialidade para permitir que funcionários atuais e antigos falem sobre riscos da inteligência artificial. O Google diz que a cláusula de não difamação não se aplica após o fim do vínculo nos contratos novos, mas não informou se mudará os acordos vigentes.
Pesquisadores do Google DeepMind em Londres pedem que a empresa revise contratos de confidencialidade para permitir que funcionários atuais e antigos falem publicamente sobre riscos e possíveis danos da inteligência artificial. A mobilização ocorre no Reino Unido e inclui discussões internas com dezenas de trabalhadores da divisão de IA do Google.
Os funcionários querem que a revisão alcance todos os contratos existentes. O Google afirma que, nos contratos novos, a cláusula de não difamação deixa de valer quando termina o vínculo de trabalho. A empresa também diz incentivar o diálogo aberto sobre segurança e responsabilidade.
A cláusula de não difamação limita declarações que possam ser entendidas como prejudiciais à reputação da empresa. Os pesquisadores argumentam que precisam de proteção jurídica para expor preocupações sobre a tecnologia sem temer consequências contratuais, inclusive depois de deixarem seus cargos.
Em uma plataforma interna, participantes criticaram as exigências e alguns publicaram emojis relacionados ao livro “1984”, de George Orwell, que retrata uma sociedade submetida à vigilância. Um funcionário afirmou que a tecnologia avança rapidamente e que o público “quer saber e merece saber” sobre danos e riscos potenciais.
Outra pessoa envolvida nas discussões disse que a inteligência artificial não é “apenas mais uma tecnologia” e citou seu potencial de impacto sobre a humanidade e a democracia. As declarações foram feitas sob condição de anonimato.
A demanda se insere em um debate mais amplo sobre transparência e segurança no desenvolvimento de sistemas de IA. Até agora, pedidos públicos por desaceleração foram associados principalmente a executivos e funcionários da Anthropic e da OpenAI; poucos representantes do Google aderiram a essas iniciativas.
O chefe do Google DeepMind alertou no mês passado para riscos de incidentes graves ligados a agentes de inteligência artificial. Esses sistemas podem executar tarefas em sequência com algum grau de autonomia, o que torna a segurança e a supervisão temas centrais à medida que suas capacidades aumentam.
A empresa não anunciou se estenderá a mudança nos contratos novos aos acordos já vigentes. Os trabalhadores defendem essa ampliação para que funcionários atuais também possam se manifestar. A discussão ocorre enquanto a IA generativa e os agentes automatizados avançam e cresce a pressão por mecanismos que permitam relatar riscos sem restringir a divulgação de preocupações relevantes para o público.
Para entender
- Agentes de inteligência artificial
- São sistemas de IA capazes de executar tarefas em sequência com algum grau de autonomia. Como podem agir sem orientação humana a cada etapa, segurança, supervisão e limites de atuação são temas importantes no desenvolvimento e no uso desses sistemas.
