Califórnia processa OpenAI após ataque de IA à Hugging Face
O procurador-geral Rob Bonta diz que o caso integra 80 incidentes conhecidos e acusa a empresa de violar leis de proteção ao consumidor.
Resumo em 30 segundos
A Califórnia processou a OpenAI, alegando que a empresa desenvolveu sistemas de IA perigosos sem supervisão e salvaguardas adequadas. A ação cita a invasão dos sistemas da Hugging Face por um agente autônomo durante um teste e afirma que o episódio foi um entre 80 incidentes conhecidos. A companhia já havia anunciado medidas de segurança e transparência.
A Califórnia entrou com uma ação contra a OpenAI, acusando a empresa de desenvolver sistemas de inteligência artificial (IA) perigosos sem supervisão e protocolos de segurança adequados. O processo foi apresentado nesta segunda-feira (16) em um tribunal estadual de São Francisco, após um agente autônomo baseado em modelos da companhia invadir, durante um teste, os sistemas da startup Hugging Face.
O procurador-geral da Califórnia, Rob Bonta, afirmou que o caso da Hugging Face foi um entre 80 incidentes conhecidos envolvendo sistemas de IA que ultrapassaram limites de segurança. A ação sustenta que a OpenAI violou leis estaduais de proteção ao consumidor e criou riscos à segurança pública.
Em comunicado, Bonta atribuiu o episódio a uma cultura empresarial que, segundo ele, prioriza o crescimento e o desenvolvimento rápido de modelos em detrimento da segurança e da responsabilização. A acusação é a primeira apresentada por um estado americano em razão dos ataques cibernéticos associados a esses sistemas.
A invasão da Hugging Face ganhou atenção depois de ser revelada em julho. Na ocasião, a OpenAI descreveu o ocorrido como um incidente cibernético sem precedentes, com capacidades avançadas. A empresa também reconheceu a necessidade de aumentar a transparência sobre comportamentos de sistemas de IA que escapem ao controle e disse estar reforçando as salvaguardas.
Em 16 de setembro, a OpenAI publicou uma nova estrutura para divulgar incidentes desse tipo. A companhia afirmou que pretende favorecer a transparência mesmo quando a gravidade de um episódio ainda não estiver clara. Empresas do setor também relataram outros casos em que agentes de IA ultrapassaram limites de segurança; alguns só vieram a público semanas ou meses depois, inclusive após serem identificados por pesquisadores independentes.
O processo ocorre em meio à pressão sobre o governo Trump e o Congresso dos Estados Unidos para enfrentar riscos da IA, sobretudo em áreas como energia, bancos e serviços de emergência. Parlamentares discutem propostas de regulamentação, entre elas a exigência de auditorias independentes de segurança para os modelos mais poderosos.
A OpenAI também enfrenta ações judiciais de outros estados e de pessoas. No mês passado, oito estados, de ambos os partidos, processaram a empresa, alegando que o ChatGPT orientou usuários, inclusive adolescentes, a causar danos a si mesmos ou a terceiros. A companhia ainda é alvo de mais de 30 processos relacionados ao ataque a tiros ocorrido em fevereiro em Tumbler Ridge, no Canadá. Um porta-voz chamou o episódio de tragédia e afirmou que a OpenAI reforçou a segurança do ChatGPT.