LLM FinOps: o custo da IA para quem assina o orçamento · Capítulo 9 de 24 · 13 min
A conta do agente não é a conta do chat
Uma solicitação vira dezenas de chamadas, o custo é dominado pela entrada reenviada, e duas execuções idênticas podem diferir trinta vezes.
Este capítulo faz parte do curso gratuito LLM FinOps: o custo da IA para quem assina o orçamento.
O time apresenta um piloto de agente que rodou algumas semanas, mostra a fatura pequena e pede aprovação para produção. Alguém pergunta quanto custa cada interação, a resposta vem em centavos, e a conta de produção é feita ali mesmo, de cabeça: centavos vezes o volume esperado. O número fecha e o projeto passa.
Meses depois a fatura não guarda relação nenhuma com o que foi aprovado, e a explicação oferecida na sala costuma ser que o volume cresceu acima do previsto. Na maioria dos casos o volume não teve culpa. A EY mediu o salto que ninguém orçou: uma interação que custava US$ 0,04 em chat passa a custar US$ 1,20 quando o mesmo pedido ganha recuperação por ferramenta, planejamento e subagentes. Cerca de trinta vezes mais caro, no mesmo pedido, para o mesmo usuário, com o mesmo volume.
A estimativa de volume estava correta. O que estava errado era o preço unitário emprestado do chat e aplicado a um sistema que se comporta de outra maneira.
Ao final deste módulo você será capaz de: (1) exigir do time qual dos três desenhos de agente está na proposta, porque o multiplicador de consumo medido vai de 4 vezes a mil vezes conforme o desenho; (2) reprovar orçamento agêntico calculado por média de execução e pedir a distribuição inteira, com o valor do meio e o pior caso já medido declarados ao lado da média; (3) apontar onde o dinheiro está na fatura de um agente, que é o contexto reenviado a cada passo, não a resposta entregue; (4) impor dois números como condição de passagem do piloto para a produção: custo por tarefa concluída e teto de gasto por execução.
O estagiário que relê a pasta inteira antes de cada telefonema
Você entrega uma pergunta a um estagiário e ele não responde na hora. Ele monta um plano, faz o primeiro telefonema, anota o que ouviu, e antes do segundo telefonema relê a pasta desde a primeira página, incluindo a anotação que ele mesmo acabou de escrever. Antes do terceiro, relê tudo outra vez, agora com duas anotações a mais. Ao fim de quarenta telefonemas ele entrega uma resposta de uma página e releu a pasta quarenta vezes, cada vez mais grossa. A empresa paga por página lida, não por página entregue. E a mesa dele é alugada por hora.
Em um agente, a linha mais cara da fatura é a releitura, e a releitura cresce a cada passo que o próprio agente decide dar.
O que muda entre um chat e um agente, do ponto de vista da fatura
Em um chat, uma pergunta gera uma resposta. Você sabe quantas requisições vão acontecer antes de elas acontecerem, porque quem decide é a pessoa que digita. Em um agente, quem decide quantas requisições acontecem é o próprio modelo. Ele recebe um objetivo, escolhe os passos, chama ferramentas, avalia o que voltou, corrige o rumo e só então responde. O número de requisições por pedido do usuário deixa de ser dado de entrada do orçamento e passa a ser resultado da execução.
O curso já mostrou, em "A API não tem memória: a conversa inteira é recobrada", que cada requisição carrega tudo o que veio antes. Em "Tokens de raciocínio: o dial que ninguém regulou", ficou registrado que o rascunho do modelo é cobrado como saída na geração e recobrado como entrada nos turnos seguintes. Um agente empilha os dois efeitos e acrescenta um terceiro: o resultado de cada ferramenta chamada também entra no contexto, também é texto pago, e também volta a ser cobrado no passo seguinte.
- Etapa 1 de 7: Solicitação
Um pedido do usuário. É isto que o comitê contou como uma unidade.
- Etapa 2 de 7: Plano
O modelo decide quantos passos vai dar. Ninguém aprovou essa quantidade.
- Etapa 3 de 7: Chamada de ferramenta
Busca, leitura de arquivo, consulta a sistema. Algumas têm preço próprio fora do token.
- Etapa 4 de 7: Resultado no contexto
O que a ferramenta devolveu passa a ser texto pago, e fica.
- Etapa 5 de 7: Releitura do contexto
O passo seguinte reenvia tudo, inclusive o que já foi cobrado antes.
- Etapa 6 de 7: Retentativa
Passo que falha não desconta nada e ainda engorda o contexto.
- Etapa 7 de 7: Resposta
A parte que o usuário vê, e a menor linha da fatura.
Por que a conta cresce mais rápido que o número de passos
Imagine um agente que produz mil tokens novos por passo. A intuição de orçamento diz que vinte passos custam vinte mil tokens. A fatura cobra outra coisa, porque no passo dois o agente reenvia o passo um, no passo três reenvia os dois anteriores, e assim por diante até o fim. O total de entrada cobrada cresce com o quadrado do número de passos.
A documentação de orçamentos de tarefa da Anthropic publica esse efeito em escala pequena e conferível: em três turnos, o cliente transmitiu cerca de 20.820 tokens para produzir apenas 19.000 tokens de trabalho novo, porque a mensagem inicial foi enviada três vezes e a resposta do primeiro turno, duas. Em três turnos a distorção é modesta. Em vinte e seis passos, que é a média medida em um agente de segurança em operação (ProjectDiscovery, abr/2026), ela decide o orçamento inteiro.
A FinOps Foundation publicou em maio de 2026 a lista das cinco variáveis que dirigem o consumo de uma requisição, e ela serve de pauta pronta para a reunião com o time:
- Custo fixo do prompt de sistema, cobrado em toda requisição mesmo quando ninguém o vê
- Contexto e memória arrastados de um passo para o seguinte
- Escolha do modelo, que muda a quantidade de tokens gastos e não apenas o preço unitário
- Tamanho da saída pedida ao modelo
- Custo de retentativa e de orquestração, que é o item que só aparece em sistema agêntico
A aritmética do reenvio, com mil tokens novos por passo
| Passos do agente | Estimativa ingênua | Entrada cobrada de fato | Quanto a estimativa erra |
|---|---|---|---|
| 1 passo | 1.000 tokens | 1.000 tokens | Nada |
| 5 passos | 5.000 tokens | 15.000 tokens | 3 vezes |
| 10 passos | 10.000 tokens | 55.000 tokens | 5,5 vezes |
| 20 passos | 20.000 tokens | 210.000 tokens | 10,5 vezes |
É a mesma aritmética de "A API não tem memória: a conversa inteira é recobrada", com uma hipótese mais enxuta. Lá, toda requisição carregava um bloco fixo de 2.000 tokens de instrução e definições de ferramenta, e por isso vinte turnos chegavam a 234.000 tokens de entrada cobrada. Aqui entra só o trabalho novo de mil tokens por passo, e vinte passos dão 210.000. A hipótese muda o número e não muda a curva. A tabela é derivada, não medida, e serve para uma coisa só: mostrar que perguntar quantos passos o agente dá pesa mais no orçamento do que discutir o tamanho da resposta. Se você levar estes valores para um relatório, rotule a linha como derivada.
Fonte: Aritmética do próprio laço, calculada aqui a partir da regra de reenvio. O par de vinte passos (20.000 estimados contra 210.000 cobrados) aparece publicado em relato de engenharia da Augment Code, 07/2026, com confiança a verificar.
Quanto um agente consome em relação a um chat equivalente
4x
Agente com ferramenta, contra uma conversa de chat
Anthropic, jun/2025
15x
Sistema multiagente, contra a mesma conversa
Anthropic, jun/2025
5x a 30x
Cargas de raciocínio e agênticas, por tarefa
FinOps Foundation, mai/2026
~30x
Chat de US$ 0,04 que vira orquestração de US$ 1,20
EY, jun/2026
~1000x
Tarefa agêntica de código, contra chat de código
arXiv 2604.22750, abr/2026
Fonte: Anthropic (jun/2025), FinOps Foundation (mai/2026), EY (jun/2026) e arXiv 2604.22750 (abr/2026). As quatro fontes usam definições diferentes do que é um agente, e por isso os números não se contradizem. Uma ressalva de procedência na terceira linha: a faixa de 5 a 30 vezes está publicada pela própria FinOps Foundation em Token economics, de maio de 2026 (finops.org/insights/token-economics-the-atomic-unit-of-ai-value), e é essa publicação que a sustenta aqui. A mesma faixa também circula atribuída à Gartner em cobertura de imprensa, sem base amostral no texto que a divulgou, e nessa segunda versão ela aparece como número a verificar em "Antes de acreditar em qualquer número de IA".
Os números acima variam de 4 vezes a mil vezes, e essa variação não indica erro de conta em ninguém. Ela mostra que a palavra agente nomeia coisas de tamanhos muito diferentes. Quatro vezes descreve um assistente que chama uma ou duas ferramentas por pedido. Trinta vezes descreve uma orquestração com planejamento e subagentes. Mil vezes descreve uma tarefa de código que roda por dezenas de passos até fechar sozinha. A primeira pergunta que você faz ao time, antes de abrir qualquer planilha, é qual desses três desenhos está na proposta, e quantos passos ele dá na mediana e no pior caso já observado.
Onde o corte paga em carga agêntica
O corte que a intuição de chat manda fazer: encurtar a resposta
Baixa alavancagem
- Pedir respostas mais curtas ao modelo, porque a saída custa cinco a seis vezes a entrada por token
- Discutir em reunião o tamanho do texto final entregue ao usuário
- Cobrar do time economia justamente na fração menor da fatura de um agente
- Medir progresso pelo número de caracteres devolvidos por execução
- Deixar intacto o histórico reenviado a cada passo, que é o item que cresce sozinho
O corte que paga em agente: reduzir o contexto reenviado
Onde o dinheiro está
- Perguntar qual é a razão medida entre tokens de entrada e de saída na carga real
- Exigir limpeza dos resultados de ferramenta já consumidos ao longo da execução
- Cobrar taxa de acerto de cache no relatório mensal, porque a releitura é a maior linha
- Limitar quantas ferramentas ficam declaradas por requisição, já que cada declaração ocupa contexto pago antes de ser usada
- Fixar teto de passos e de tokens por execução antes de liberar a produção
O retrato medido de uma carga agêntica, e o que cada linha decide
| Medida | Valor observado | Fonte e data | O que ela decide na sua mesa |
|---|---|---|---|
| Razão bruta de tokens de entrada para tokens de saída | 53,9x a 559,8x | arXiv 2605.26297, 05/2026 | Onde exigir o corte: no reenvio, e não na resposta |
| Contexto médio por execução, medido no SWE-bench Pro | 68,7 mil a 80,1 mil tokens, com máximos de 146 mil a 166 mil | arXiv 2605.26297, 05/2026 | O tamanho real da unidade que você está comprando por pedido |
| Inflação de contexto em execuções que falham | até 1,8x em relação às bem-sucedidas | arXiv 2605.26297, 05/2026 | Falha custa mais que acerto, então taxa de erro passa a ser linha de custo |
| Correlação entre o consumo que o modelo estima e o que ele gasta | no máximo 0,39, com subestimativa sistemática | arXiv 2604.22750, 04/2026 | Estimativa produzida pelo próprio modelo não serve como base de orçamento |
| Passos e chamadas de ferramenta por tarefa em um agente de segurança em operação | 26 passos e 40 chamadas em média, com uma tarefa complexa chegando a 60 milhões de tokens | ProjectDiscovery, 04/2026 | A ordem de grandeza de uma tarefa real, publicada pela empresa que a operou |
Nenhuma destas linhas descreve o seu agente. Elas descrevem a ordem de grandeza que você deve exigir que seja medida no seu, e o vocabulário com que pedir a medição.
Fonte: arXiv 2605.26297 (05/2026), arXiv 2604.22750 (04/2026) e ProjectDiscovery (04/2026). As quatro primeiras linhas vêm de caracterização de carga em bancada pública; a última, de relato de engenharia da própria empresa.
Verificação rápida
Um diretor pede corte de 30% na fatura de um assistente agêntico que resolve tíquetes. O time chega com três opções. Qual delas ataca a maior linha do gasto nessa carga?
Por que a média engana em carga agêntica
O gasto de um agente não se organiza em torno de um valor típico. Quase toda execução custa pouco, algumas poucas custam muito, e é essa minoria que estoura o orçamento do mês. Dois números descrevem essa forma, e os dois vão aparecer em todo painel de consumo que o time apresentar. Mediana é o valor do meio: metade das execuções custou menos que ela. Percentil 99, escrito p99 daqui em diante e assim mesmo nos relatórios que você vai receber, é o valor abaixo do qual ficam noventa e nove de cada cem execuções, ou seja, o dia ruim que a operação precisa conseguir pagar.
A média fica entre os dois e não substitui nenhum dos dois. As execuções caras a puxam para cima, o que já a torna pior que a mediana para descrever o dia comum, e ela ainda assim fica muito abaixo do p99, o que a torna inútil para dimensionar o pior dia. Orçamento fechado na média erra nas duas pontas de uma vez.
Três fatos que impedem orçar agente por média. Primeiro: duas execuções da mesma tarefa podem diferir até 30 vezes em tokens totais (arXiv 2604.22750, 04/2026). Segundo: execuções que falham inflam o contexto em até 1,8 vez em relação às que dão certo (arXiv 2605.26297, 05/2026), de modo que o dia ruim fica mais caro que o dia bom em duas frentes ao mesmo tempo. Terceiro: modelos de fronteira não sabem prever o próprio consumo, com correlação máxima de 0,39 entre a estimativa e o gasto real e subestimativa sistemática (arXiv 2604.22750, 04/2026). Consequência direta para a sua planilha: orçamento agêntico se dimensiona pela cauda da distribuição medida, com o p99 declarado ao lado da média, e cada execução recebe teto próprio. Média de piloto é exatamente o número que produz surpresa na fatura de produção. O sintoma dessa conta feita com régua de chat aparece na medição da EY de junho de 2026: em uma organização de serviços financeiros regulados, cerca de um terço dos desenvolvedores esgota a cota mensal de tokens antes do fim do mês.
Como tratar as histórias de conta estourada que circulam
Em alguma reunião você vai ouvir a história do agente que queimou dezenas de milhares de dólares em um laço de vários dias. Duas versões circulam bastante: um laço com quatro agentes rodando onze dias e cerca de US$ 47.000 consumidos, e um agente que gastou US$ 4.200 em 63 horas. As duas saíram de posts de blog, sem relatório público de incidente que permita conferir a conta. A história da fatura de US$ 500 milhões, que aparece em apresentação de fornecedor, não tem fonte primária nenhuma.
Use esses relatos como ilustração e diga em voz alta que não estão confirmados. Para a decisão, o que serve é dado auditável. A pesquisa State of FinOps 2026, com 1.192 praticantes responsáveis por mais de US$ 83 bilhões de gasto anual, apurou que 98% das equipes já gerenciam gasto de IA, contra 31% dois anos antes. Controlar essa fatura deixou de ser exceção de empresa avançada. Quem chega ao comitê sem controle chega atrasado, e a anedota não substitui o gate.
Multiagente antes de prova de ganho é gasto multiplicado
A proposta que chega ao comitê com a palavra multiagente costuma vir acompanhada da promessa de qualidade superior. Existe medição pública que recomenda cautela. No artigo The Illusion of Multi-Agent Advantage, um agente único de referência resolveu 57,09% das tarefas do SWE-Bench Lite por US$ 286,40, enquanto uma arquitetura multiagente automatizada resolveu 45,52% por US$ 998,20 na mesma bancada. Nota mais baixa por cerca de três vezes e meia o custo.
O desenho multiagente pode ganhar em outros tipos de tarefa, e a bancada citada é de código. O que a medição desautoriza é aprová-lo antes de existir avaliação própria mostrando ganho por real gasto. A ordem defensável em comitê tem três tempos: começar com um agente único, medir custo por tarefa concluída durante algumas semanas, e federar em subagentes só quando aparecer número que pague a federação.
O teste de necessidade do multiagente, medido em bancada pública
57,09%
Tarefas resolvidas pelo agente único de referência
SWE-Bench Lite
US$ 286,40
Custo total dessa mesma execução
45,52%
Tarefas resolvidas pela arquitetura multiagente automatizada
Mesma bancada, mesmas tarefas
US$ 998,20
Custo total da versão multiagente
Fonte: arXiv 2606.13003, The Illusion of Multi-Agent Advantage, 06/2026. Bancada pública de tarefas de código; o resultado não se estende automaticamente a outros tipos de tarefa.
O time de tecnologia rodou por seis semanas um piloto de agente que lê a documentação de um sinistro, consulta três sistemas internos e escreve o parecer inicial. O piloto processou 400 sinistros e a fatura de API somou US$ 240, o que dá US$ 0,60 por sinistro. A proposta de produção é de 20.000 sinistros por mês, orçada em US$ 12.000 mensais por multiplicação direta. Duas condições do piloto não estão na proposta: cada sinistro passava por um analista que interrompia a execução quando ela se alongava, e a documentação usada era o subconjunto mais organizado da base.
Você preside o comitê que decide na quinta-feira. Qual encaminhamento você dá?
O que exigir antes de assinar um piloto agêntico
Perguntas para a reunião de proposta
0/4Números que o piloto precisa entregar antes da produção
0/4Controles ligados no dia da virada
0/4Escreva três linhas, sem voltar ao texto. Linha um: os dois números sem os quais um piloto agêntico não sobe para produção na sua empresa, com a definição de cada um em uma frase. Linha dois: qual dos três desenhos de agente está na proposta que já está na sua mesa, e qual multiplicador de consumo em relação a chat esse desenho justifica pedir. Linha três: o valor do teto de gasto por execução que você exigiria e o que acontece com a tarefa quando o teto é atingido. Se a linha três terminar em algo como a execução para e alguém é avisado, o seu gate está completo.
Perguntas frequentes deste capítulo
Nosso piloto custou pouco. Por que a produção custaria trinta vezes mais?
Multiagente é o futuro. Devemos começar por ele?
Como orçar algo cuja mesma tarefa varia trinta vezes de custo?
Seu caderno neste capítulo
Abrir o caderno completoSelecione um trecho do capítulo para destacar ou anotar. Nos vídeos e áudios, use Anotar este momento. No teclado, selecione com Shift e as setas e use Alt+Shift+D para destacar ou Alt+Shift+N para anotar.
Salvo neste navegador. Entre na sua conta para levar o caderno a outros aparelhos.
Entre na sua conta para compartilhar o que aprendeu e convidar alguém para estudar com você.
Conexões deste capítulo
Veja o que estudar antes e para onde seguir depois, explore os conceitos e compare abordagens em outros cursos. Sugestões marcadas como “sugerido pelo grafo” vêm dos assuntos em comum, não do índice do curso.
Estude antes
- Montar um relatório de IA só com métricas que resistem à perguntasugerido pelo grafoApresenta o conceito “Custo por tarefa”, usado em “A conta do agente não é a conta do chat”.
- CursoVídeo com IA: Claude Code, Codex e ElevenLabssugerido pelo grafo4 capítulos de “LLM FinOps: o custo da IA para quem assina o orçamento” usam conceitos apresentados em “Vídeo com IA: Claude Code, Codex e ElevenLabs”.
- CursoPrompt Engineering para Executivossugerido pelo grafo5 capítulos de “LLM FinOps: o custo da IA para quem assina o orçamento” usam conceitos apresentados em “Prompt Engineering para Executivos”.
Conceitos deste capítulo
O mesmo assunto em outros cursos
- Prompt Engineering para ExecutivosCalcular o custo de uma iniciativa de IA pela tabela de preçosExaminar conexões de Calcular o custo de uma iniciativa de IA pela tabela de preços
- MCP para quem decideMedir a fatura invisível do contextoExaminar conexões de Medir a fatura invisível do contexto
- Frontends com VibecodingCalcular custo por tarefa e definir governançaExaminar conexões de Calcular custo por tarefa e definir governança
- Agentes de código para executivosFixar o teto de gasto por execução do agenteExaminar conexões de Fixar o teto de gasto por execução do agente
Voltar ao capítulo anterior: Tokens de raciocínio: o dial que ninguém regulou
Leve uma ideia para a prática
Escolha uma atividade no painel e volte a este curso quando quiser.
Atividades e evolução ficam reunidas no painel da sua conta.
Capítulos vizinhos em LLM FinOps: o custo da IA para quem assina o orçamento
- 07A API não tem memória: a conversa inteira é recobrada
- 08Tokens de raciocínio: o dial que ninguém regulou
- 09A conta do agente não é a conta do chat
- 10Os custos que não são token
- 11Cache de prefixo: o desconto de 90% com risco zero