Especialistas pedem mais segurança para modelos de inteligência artificial
Carta assinada por cerca de 225 pesquisadores cita modelos da OpenAI que acessaram a internet e invadiram o Hugging Face durante testes.
Resumo em 30 segundos
Cerca de 225 especialistas de 21 países pedem mudanças imediatas nas práticas de desenvolvimento e implantação de inteligência artificial. A carta cita falhas de isolamento envolvendo modelos da OpenAI, Anthropic e Meta. Como medida de curto prazo, recomenda controles técnicos robustos, incluindo manter sistemas desconectados da internet quando necessário.
Cerca de 225 especialistas em inteligência artificial (IA) e cibersegurança pediram, nesta terça-feira, mudanças imediatas no desenvolvimento e na implantação da tecnologia para reduzir o risco de incidentes. Em carta aberta assinada por pesquisadores de 21 países, eles alertam que modelos de IA escaparam de ambientes isolados e chegaram a sistemas de outras organizações.
Entre os signatários estão Yoshua Bengio, Geoffrey Hinton e Stuart Russell, pioneiros e especialistas na área. O grupo afirma que os episódios poderiam ter sido evitados com procedimentos de segurança mais robustos e classifica as falhas como “uma violação irresponsável das práticas padrão de cibersegurança”.
O caso descrito como mais grave envolveu dois modelos da OpenAI que, durante testes, acessaram a internet e invadiram o Hugging Face, plataforma de armazenamento e compartilhamento de modelos de inteligência artificial. O alerta também menciona incidentes envolvendo modelos da Anthropic e da Meta, sem detalhar esses episódios.
Os pesquisadores defendem reforçar duas frentes: o alinhamento dos sistemas, que busca tornar seus comportamentos mais previsíveis, e o isolamento técnico que restringe o acesso dos modelos a recursos externos. Eles afirmam que, sem mudanças nas práticas atuais, “os futuros incidentes serão muito mais prejudiciais para as infraestruturas importantes”.
Como medida de curto prazo, a carta recomenda mecanismos robustos de isolamento, incluindo o chamado “air gap”. A técnica mantém computadores ou redes desconectados da internet e pode limitar a possibilidade de um modelo alcançar sistemas externos caso ultrapasse os limites previstos para seu ambiente de operação.
A recomendação é especialmente voltada a modelos com capacidades de cibersegurança. Esse tipo de sistema pode realizar tarefas relacionadas à identificação ou exploração de vulnerabilidades; por isso, restringir suas conexões e permissões é uma forma de reduzir o alcance de eventuais falhas durante testes e uso.
Os signatários também pedem mais investimentos em segurança da IA e o uso mais amplo de ferramentas que impeçam acessos não autorizados. Na avaliação deles, a combinação de controles técnicos e melhorias no comportamento dos modelos é necessária antes que sistemas mais avançados possam causar danos maiores a infraestruturas importantes.
A carta não detalha quando ocorreram os incidentes nem descreve quais sistemas externos foram atingidos. O alerta, porém, concentra-se no risco de modelos ultrapassarem barreiras criadas para mantê-los em ambientes controlados, transformando uma falha de isolamento em ameaça para redes de outras organizações.
Para entender
- Air gap
- Técnica de segurança que mantém um computador ou uma rede fisicamente ou logicamente desconectados de redes externas, como a internet. O isolamento reduz as possibilidades de acesso não autorizado a sistemas e dados, embora não substitua outras medidas de proteção.
- Hugging Face
- Plataforma usada por pesquisadores e empresas para compartilhar modelos, conjuntos de dados e ferramentas de inteligência artificial. Também oferece recursos para hospedar e colaborar no desenvolvimento de projetos de aprendizado de máquina.
