Erro Milionário da Amazon com IA

Gasto inesperado de US$1.8M com Claude Sonnet supera orçamento em 860% em tarefas de codificação.

Custos Inesperados com IA

Relatórios internos da Amazon revelam um gasto excessivo com projetos de Inteligência Artificial, resultando em milhões de dólares acima do orçamento previsto.

O Caso Claude Sonnet

  • Gasto Catastrófico: Um projeto de codificação de baixo nível, utilizando a IA Claude Sonnet para associar detalhes de autores a listagens no site, gerou uma fatura surpreendente de US$1.8 milhão.
  • Desvio Orçamentário: Este valor representa um aumento de 860% sobre o orçamento inicial alocado, e o problema só foi detectado cerca de cinco meses após seu início.

Outros Incidentes Milionários

  • Ferramenta de Auditoria: Outro projeto, ironicamente destinado a construir uma ferramenta de auditoria financeira, acumulou um custo adicional de US$541.000.
  • Otimização Logística: Um sistema projetado para reduzir os tempos de entrega na rede de logística da Amazon gerou uma despesa extra de US$134.000.

A Posição da Amazon

A empresa afirma estar “experimentando, aprendendo e melhorando como a utiliza, incluindo como impulsionamos a eficiência de custos”. Apesar dos valores impressionantes, esses gastos excessivos com IA representam menos de 0.1% da receita trimestral da gigante, que ultrapassa US$181 bilhões.

Histórico de Desafios com IA

Não é a primeira vez que a Amazon enfrenta questões relacionadas à IA. Anteriormente, a AWS registrou várias interrupções causadas por falhas de bots de codificação de IA. A empresa respondeu a isso limitando o acesso desses agentes. Além disso, a Amazon descontinuou um placar interno que incentivava o uso de IA, repensando a política devido aos crescentes custos.

O Problema da Indústria

Muitas empresas incentivam o uso intensivo de IA para aumentar a produtividade. No entanto, o CTO da Uber questiona a ligação direta dessa política com o sucesso dos produtos. Com a transição para modelos de “pagamento por token”, os custos de IA aumentaram drasticamente, esgotando orçamentos anuais em semanas e tornando a prática insustentável para a maioria das empresas, embora gigantes como Amazon e Microsoft ainda possam absorver esses impactos.

Baseado no artigo de Tom’s Hardware