Hugging Face alerta que ataques podem fechar plataformas abertas
Irene Solaiman vê risco de controles mais rígidos reduzirem a participação de desenvolvedores independentes e concentrarem a IA em grandes empresas.
Resumo em 30 segundos
Irene Solaiman, chefe de políticas da Hugging Face, alerta que o aumento de ataques cibernéticos pode levar plataformas de código aberto a restringir o acesso. A empresa diz reforçar a segurança com medidas como a troca mais frequente de tokens administrativos. O custo do monitoramento também pode pesar para repositórios menores.
Irene Solaiman, chefe de políticas da Hugging Face, alertou que o aumento de ataques cibernéticos contra plataformas de código aberto pode levar empresas a restringir o acesso a esses sistemas. A avaliação foi feita em um episódio do podcast Equity e aponta riscos para um modelo usado por desenvolvedores e pesquisadores de diferentes instituições.
Plataformas abertas permitem que usuários acessem e compartilhem códigos, modelos de inteligência artificial e dados. Essa colaboração acelerou o desenvolvimento de tecnologias ao reunir contribuições de muitas pessoas, mas também pode expor recursos valiosos a tentativas de invasão e roubo de credenciais.
“A combinação de portas abertas e dados valiosos nos torna alvos principais”, disse Solaiman. Para ela, há o risco de o setor abandonar parte dessa abertura e adotar controles mais rígidos, como verificação de identidade, aprovação prévia de publicações e limites para o que os desenvolvedores podem disponibilizar.
A mudança poderia reforçar a proteção das plataformas, mas também reduzir a participação de desenvolvedores independentes. Solaiman alertou que regras mais restritivas podem concentrar ainda mais as tecnologias avançadas nas grandes empresas de tecnologia, que têm mais recursos para cumprir exigências de segurança.
A Hugging Face afirma estar adotando medidas para proteger sua plataforma sem eliminar o acesso aberto. Entre elas, estão a troca mais frequente de tokens administrativos — credenciais digitais que autorizam o acesso a sistemas — e controles de rede para dificultar o uso indevido de contas.
O GitHub também trabalha na identificação de atividades suspeitas em seus pacotes de software. A vigilância contínua, porém, tem custos elevados, segundo Solaiman, o que pode dificultar a adoção de proteções semelhantes por repositórios menores.
O código aberto é um modelo em que o código de um programa pode ser acessado e, conforme as regras de sua licença, usado, estudado e modificado por outras pessoas. Na inteligência artificial, a abertura pode incluir também modelos e conjuntos de dados. O formato favorece a colaboração e amplia o acesso a ferramentas, mas exige mecanismos para reduzir riscos sem restringir de forma excessiva quem pode contribuir.
O alerta coloca em discussão como equilibrar segurança e abertura à medida que crescem os ataques cibernéticos. A adoção de controles mais rigorosos pode proteger plataformas, mas também tornar mais difícil para pesquisadores e desenvolvedores independentes participar do desenvolvimento de sistemas de inteligência artificial.