Parceria com Samsung Visa Contornar GPUs Nvidia e Otimizar o Claude
Anthropic Entra na Corrida dos Chips Personalizados
A Anthropic, criadora do modelo de IA Claude, anunciou que está montando uma equipe interna de desenvolvimento de chips para projetar seus próprios processadores ASIC personalizados. O objetivo é lidar com as cargas de trabalho de inferência de IA, buscando maior eficiência e redução de custos.
Por Que Chips Personalizados?
- Economia de Custos: GPUs Nvidia, embora excelentes para treinamento, são caras e gastam muita energia para inferência. Chips personalizados podem reduzir o Custo Total de Propriedade em até 65%.
- Eficiência Otimizada: Silício customizado pode ser especificamente otimizado para os modelos de IA da Anthropic, permitindo que o Claude rode mais rápido e de forma mais eficiente em grande escala.
- Crescimento Acelerado: Com o crescimento explosivo da Anthropic no espaço do consumidor e contratos governamentais, a necessidade de hardware eficiente para milhões de tokens se tornou crucial.
Gigantes da Tecnologia Já Adotaram
A Anthropic não está sozinha nesta tendência. Empresas como Google, Meta, Microsoft, Amazon e OpenAI já estão desenvolvendo suas próprias soluções de hardware:
- Google: Há 12 anos com seus TPUs (Tensor Processing Units) em parceria com a Broadcom.
- Amazon: Possui os chips Trainium e Inferentia.
- Meta: Recentemente anunciou novos designs MTIA.
- Microsoft: Desenvolve a linha Maia.
- Tesla: Com os designs de chips AI5 e AI6 após o projeto Dojo.
A Busca por Parceiros
Embora a Anthropic não tenha revelado seu parceiro de co-design, relatórios indicam que a Samsung está em negociações para a fabricação. A Samsung traria vasta experiência em design e fabricação, além de acesso à memória crucial para a produção de chips.
Desafios e Benefícios
O desenvolvimento de ASICs personalizados é um empreendimento caro e complexo, exigindo não apenas o hardware, mas também uma pilha de software otimizada. No entanto, para grandes empresas de IA com capacidade de investimento e escala, os ganhos de eficiência e controle justificam o investimento.
Quem se Beneficia?
- Anthropic: Redução de custos operacionais e maior controle sobre a infraestrutura de IA.
- Parceiros de Co-design e Fabricação: Empresas como TSMC, Broadcom e Marvell são grandes beneficiárias, com enormes contratos e previsões de receita bilionárias. A Broadcom, por exemplo, é parceira de Google e OpenAI. A Marvell trabalha com Amazon e Microsoft.
- Samsung: Se confirmada como parceira, ganharia uma posição significativa neste mercado.
- TSMC: A maior beneficiária, produzindo a maioria dos semicondutores avançados do mundo e essencial para as tecnologias de empacotamento.
Impacto no Mercado de GPUs
Embora os chips personalizados provavelmente não eliminem a dependência de GPUs Nvidia para treinamento de modelos de IA, cada chip de inferência personalizado instalado é uma GPU Nvidia a menos sendo usada para o mesmo propósito. Isso pode ajudar a reduzir o domínio da Nvidia no segmento de inferência, mas seu papel no treinamento de IA ainda é inigualável.