Anthropic detalha riscos de IA em prospecto para possível IPO
O prospecto não informa quando será o IPO da Anthropic nem define preço por ação ou valuation; também descreve riscos de segurança e possíveis danos.
Resumo em 30 segundos
No prospecto para uma possível oferta de ações na Nasdaq, a Anthropic descreve riscos ligados a seus modelos de IA, como uso para desenvolver armas, falhas em sistemas autônomos e perda de controle. Especialistas divergem sobre a dimensão dessas ameaças e avaliam o momento financeiro e as perspectivas do setor.
A Anthropic apresentou um prospecto para uma oferta pública inicial de ações (IPO, na sigla em inglês) na Nasdaq em que descreve riscos associados ao desenvolvimento e ao uso de sistemas avançados de inteligência artificial (IA). O documento, com cerca de 100 páginas, trata de possíveis danos ligados aos modelos da empresa, criadora do Claude, e inclui riscos de segurança, falhas operacionais e consequências financeiras de incidentes graves.
A companhia afirma que seus modelos mais capazes já demonstraram aptidões que poderiam ajudar pessoas mal-intencionadas a desenvolver armas químicas, biológicas ou outros armamentos perigosos. O prospecto diz que a Anthropic utiliza mecanismos técnicos para detectar e bloquear usos indevidos, mas ressalva que essas proteções podem ser incompletas, ficar desatualizadas, ser contornadas ou não funcionar como previsto.
O documento também aborda os chamados riscos agênticos, associados a sistemas capazes de executar tarefas e fluxos de trabalho de forma contínua. Segundo a empresa, esses recursos poderiam provocar danos em cascata, como apagar dados ou comprometer código em produção, em escala e velocidade superiores à capacidade de supervisão humana.
Outro ponto destacado é a possibilidade de a IA contribuir para o desenvolvimento de sistemas mais avançados. A Anthropic afirma que acelerar esse processo poderia elevar os riscos de segurança, especialmente se levar ao chamado autoaprimoramento recursivo, em que sistemas ajudam a aperfeiçoar versões futuras de si mesmos. A empresa diz que sua Política de Escalonamento Responsável prevê monitoramento e medidas de mitigação conforme esses riscos aumentem.
A Anthropic também alerta que um incidente catastrófico poderia gerar prejuízos tão amplos que nem uma seguradora isolada nem o conjunto do setor teria capacidade para cobri-los. O prospecto inclui ainda preocupações com a perda de controle de modelos, comportamentos de autopreservação, ataques cibernéticos em larga escala contra empresas e governos e a propagação de falhas entre sistemas de IA.
O professor André Gaio, da FIA Business School, avalia que há um risco real de não ser possível compreender plenamente as decisões de sistemas que se aprimoram. Ele explica que modelos de aprendizado profundo envolvem muitas etapas de decisão, o que dificulta identificar com precisão como determinado dado levou a uma resposta.
Gaio pondera, porém, que empresas também podem usar o temor em torno da IA como instrumento de marketing. Na avaliação dele, anúncios de modelos cada vez mais poderosos alimentam a expectativa de que a tecnologia se aproxime de uma forma de consciência própria. Ele diz que o medo pode impulsionar a atenção do mercado e a procura por produtos de segurança digital.
José Medeiros, sócio da firma de investimentos São Pedro Capital, considera parte das preocupações exagerada. Para ele, se o desenvolvimento da tecnologia representasse uma ameaça iminente à humanidade, as empresas deveriam restringi-lo e avançar com mais cautela. Medeiros também afirma que a decisão de buscar investidores em bolsa pode refletir uma oportunidade de captar recursos em um momento favorável do mercado, e não necessariamente uma falta imediata de dinheiro.
O investidor avalia que abrir o capital enquanto há otimismo pode garantir recursos para compromissos futuros e dar mais fôlego à companhia. Ele observa que, em ofertas de empresas de tecnologia, o entusiasmo inicial pode diminuir depois que as ações começam a ser negociadas. O prospecto, por si só, não estabelece uma data para a oferta, um preço por ação ou um valor definitivo para a empresa.
Gabriela Moraes, também sócia da São Pedro Capital, diz que a situação financeira da Anthropic e o crescimento de sua receita ajudaram a afastar a impressão de que a empresa buscaria o IPO apenas para financiar sua sobrevivência imediata. Ela menciona a presença de clientes corporativos e perspectivas de expansão, mas ressalta que a companhia tem compromissos elevados com fornecedores de infraestrutura e processamento para IA.
Moraes afirma que as estimativas atuais apontam que a oferta de capacidade para atender à demanda por IA só alcançaria o nível necessário por volta de 2030. Ela ressalva que essas projeções podem mudar e que o crescimento do setor não garante que todas as empresas hoje beneficiadas pela expansão continuarão prosperando. Nas últimas semanas, ações de companhias de tecnologia que investem grandes somas em IA registraram quedas nos Estados Unidos e na China.
Medeiros distingue o momento atual da bolha da internet do início dos anos 2000. Naquela época, segundo ele, houve investimentos em infraestrutura que levariam anos para gerar retorno e avaliações de empresas muito distantes da realidade. Hoje, diz, uma eventual bolha poderia estar ligada às margens elevadas de fabricantes de semicondutores, cuja capacidade de produção é limitada. TSMC e Samsung devem colocar novas fábricas em operação até 2030.
Para entender
- IPO
- IPO é a sigla em inglês para oferta pública inicial de ações. Nesse processo, uma empresa passa a vender ações ao público em uma bolsa de valores, como forma de captar recursos e abrir seu capital a investidores.