Embora a expectativa para a tecnologia seja de barateamento com o avanço, a inteligência artificial apresenta um problema peculiar: os custos de uso disparam, mesmo com modelos cada vez mais sofisticados, como detalhado pela VentureBeat.
A verdadeira promessa da IA reside em cargas de trabalho “agentificadas”, onde bots executam tarefas complexas e multifacetadas, que antes demandavam dias ou semanas de trabalho humano. Imagine um bot analisando dados financeiros para identificar clientes lucrativos — uma tarefa trivial para a máquina.
O tempo de computação da IA é medido em tokens. Enquanto perguntas e respostas simples consomem de 200 a 4.000 tokens, uma tarefa agentificada pode facilmente gastar milhões. Isso se deve à “amplificação de tokens”, um termo recém-cunhado.
Modelos de IA não possuem memória ou cognição persistente. Cada nova interação exige que o modelo recarregue e processe todo o histórico da conversa e os dados anexados. Assim, cada pergunta adicional em um diálogo prolongado torna-se progressivamente mais cara, acumulando tokens rapidamente.
Uma tarefa de geração de relatório, por exemplo, pode envolver múltiplas etapas (pesquisa de planilhas, CRM, buscas na web) e dezenas de passos intermediários. Cada um adiciona milhares de tokens, resultando em milhões de tokens gastos cumulativamente para uma única solicitação “inocente”.
Uma única pergunta que gasta 280.000 tokens pode custar aproximadamente $1. Se essa tarefa for executada a cada 15 minutos, os custos podem chegar a $96 por dia ou $2.880 por mês. Relatórios complexos, com milhões de tokens, transformam esse $1 em $10, totalizando $28.800 mensais para apenas um relatório em um departamento.
Essa realidade impulsionou gigantes como Anthropic, Microsoft e OpenAI a mudar para modelos de faturamento baseados em uso, limitando severamente os gastos de tokens em planos de taxa fixa. Muitos desenvolvedores ficaram chocados ao descobrir o custo real de suas operações.
Para corporações que utilizam muitos agentes de IA, esses custos podem se tornar proibitivos, superando até mesmo os gastos com funcionários humanos. Empresas como Uber e Amazon estão controlando os gastos com IA, tornando o gerenciamento de tokens uma preocupação financeira e de engenharia.
As empresas de IA estão investindo em otimizações como cache de prompts, roteamento de modelos, processamento em lote e gerenciamento de janelas de contexto para reduzir o consumo de tokens. Cada medida pode gerar uma queda percentual significativa nos gastos.
No entanto, os custos continuam a subir. Modelos mais inteligentes e usuários mais hábeis resultam em tarefas agentificadas mais complexas e demoradas, adicionando ordens de magnitude aos contadores de tokens. A corrida para controlar os custos da IA parece ser um desafio contínuo, apesar de avanços como os modelos Deepseek, que prometem custos drasticamente menores.