Google apresenta dois novos chips de IA para agentes autônomos
O TPU 8tx promete proteger dados no hardware, enquanto o TPU 8i Max dobra memória e poder computacional para executar dezenas de agentes.
Resumo em 30 segundos
O Google anunciou dois chips da oitava geração de TPUs, voltados a tarefas de agentes autônomos. O TPU 8tx foi desenvolvido para proteger dados e modelos durante o processamento e reduzir a latência. Já o TPU 8i Max dobra poder computacional, SRAM e largura de banda de memória HBM em relação ao TPU 8i.
O Google anunciou nesta segunda-feira, 9 de novembro, dois novos chips de inteligência artificial (IA), o TPU 8i Max e o TPU 8tx, voltados a cargas de trabalho de agentes autônomos. A empresa afirma que os equipamentos foram desenvolvidos para atender à demanda por mais capacidade de processamento e segurança à medida que esses sistemas são adotados por empresas. Os dois modelos integram a oitava geração de TPUs, que já tinha outras configurações lançadas neste ano.
O TPU 8tx foi projetado para proteger dados sensíveis e os parâmetros dos modelos de IA diretamente no hardware, mantendo-os isolados mesmo durante o processamento. Segundo o Google, o chip tem latência duas vezes menor que a do TPU 8t, apresentado em abril. A latência é o tempo de resposta entre o envio de uma solicitação e o início do processamento; reduzi-la pode tornar operações mais rápidas.
O TPU 8i Max, por sua vez, busca evitar limitações de memória quando dezenas de agentes são executados ao mesmo tempo. Em comparação com o TPU 8i, oferece o dobro de poder computacional, de memória SRAM e de largura de banda de memória HBM. SRAM e HBM são tipos de memória usados para manter dados próximos dos processadores e permitir acesso rápido durante tarefas intensivas.
A companhia também afirma que o 8i Max reúne o dobro de silício na mesma estrutura. Com isso, data centers podem concentrar mais capacidade de computação por área e por consumo de energia, segundo o Google. Data centers são instalações que abrigam servidores e equipamentos de processamento usados para serviços digitais e computação em nuvem.
Em comunicado, Amin Vahdat, diretor de tecnologia e vice-presidente sênior de IA e infraestrutura do Google, afirmou que empresas precisam de aceleradores capazes de trabalhar com grandes janelas de contexto de modelos de IA. Ele também citou a demanda de clientes sujeitos a regras rigorosas por recursos específicos de criptografia para determinadas operações.
TPU é a sigla em inglês para Unidade de Processamento Tensorial, um tipo de chip desenvolvido pelo Google para acelerar tarefas de inteligência artificial. A empresa usa esses processadores no treinamento de seus próprios modelos e os disponibiliza a clientes do Google Cloud. Segundo a companhia, quase 100 clientes já utilizam a tecnologia, entre eles laboratórios, universidades, varejistas e empresas de negociação.