Anthropic propõe bloqueio judicial para lançamentos de IA perigosos
Em carta a Gavin Newsom, a empresa defende que autoridades possam pedir a um tribunal que impeça a estreia de modelos avaliados como ameaça grave.
Resumo em 30 segundos
A Anthropic pediu ao governador da Califórnia, Gavin Newsom, que autoridades possam recorrer à Justiça para bloquear o lançamento de modelos de IA considerados uma ameaça grave. A empresa também rejeita botões capazes de desligar sistemas inteiros e defende intervenções direcionadas. A carta foi enviada após Newsom convocar especialistas para discutir regras de segurança.
A Anthropic pediu ao governador da Califórnia, Gavin Newsom, que autoridades possam recorrer à Justiça para impedir o lançamento de modelos de inteligência artificial (IA) avaliados como uma ameaça grave ao público. A proposta consta em uma carta enviada em 15 de outubro, após Newsom reunir especialistas para discutir requisitos de segurança para a tecnologia.
A empresa defende que, diante de uma avaliação de risco grave, o governo possa solicitar a um tribunal uma ordem para bloquear o lançamento do modelo. A recomendação retoma propostas anteriores da Anthropic. Um porta-voz confirmou que a carta é autêntica; o gabinete de Newsom não respondeu de imediato a um pedido de comentário.
A companhia também se opõe à exigência de que desenvolvedores instalem “botões de desligamento” para desativar sistemas inteiros caso percam o controle sobre eles. Em vez disso, propõe medidas mais específicas, como interromper um agente de IA considerado problemático ou retirar de um cliente o acesso a determinado modelo. A empresa avalia que essas intervenções seriam mais eficazes.
A posição foi apresentada depois de a Anthropic ter enfrentado uma restrição do governo dos Estados Unidos. Em junho, o governo Trump ordenou que a empresa limitasse imediatamente o acesso de estrangeiros aos modelos Mythos 5 e Fable 5, que têm capacidades cibernéticas. A justificativa foi a preocupação com a segurança nacional. Mais tarde, o Departamento de Comércio suspendeu a ordem.
A restrição tratava do acesso estrangeiro a modelos específicos, enquanto a carta enviada a Newsom propõe um mecanismo judicial para impedir lançamentos considerados perigosos. São medidas distintas: uma limita o acesso a sistemas já existentes; a outra permitiria buscar o bloqueio de um modelo antes de sua disponibilização.
Nos Estados Unidos, senadores dos dois partidos discutiram em setembro um projeto que daria ao governo poder para barrar o lançamento de certos modelos considerados inseguros. As empresas poderiam contestar a decisão em um tribunal federal, mas os parlamentares não avançaram com a proposta antes do recesso pré-eleitoral. Em julho, deputados também apresentaram um projeto chamado “Lei do Botão de Desligamento da IA”, que permitiria ordenar a desativação de modelos capazes de ameaçar vidas ou a economia.
A Anthropic enviou suas recomendações após Newsom convocar, em setembro, um painel de especialistas para elaborar propostas de requisitos de segurança para a IA. O debate envolve como reduzir riscos sem depender necessariamente do desligamento de sistemas inteiros, e quem deve ter autoridade para decidir quando um modelo pode ser lançado.
