LLM FinOps: o custo da IA para quem assina o orçamento · Capítulo 8 de 24 · 10 min
Tokens de raciocínio: o dial que ninguém regulou
O rascunho que o modelo produz antes de responder é cobrado como saída e volta como entrada nos turnos seguintes, o que torna o esforço um dial de custo sobre o loop inteiro.
Este capítulo faz parte do curso gratuito LLM FinOps: o custo da IA para quem assina o orçamento.
Fechamento de mês. A linha de saída da fatura veio acima da do mês anterior, o número de usuários é o mesmo, o produto é o mesmo e a tabela de preço do fornecedor não mudou. O time responde que ninguém mexeu em nada, e tecnicamente está correto: ninguém mexeu.
O que mudou foi quanto o modelo decide pensar antes de responder. Existe um parâmetro que define isso, ele tem valor padrão, e na maioria das empresas ninguém sentou para escolher em que posição ele fica. É o item da fatura de IA que combina três propriedades incômodas: mexe no custo em ordem de grandeza, está a uma linha de configuração de distância e não aparece em ata de reunião nenhuma.
Ao final deste módulo você será capaz de: (1) explicar por que o rascunho que o modelo produz antes de responder entra duas vezes na conta; (2) perguntar ao time em que nível de esforço cada fluxo roda hoje e quem escolheu esse nível; (3) exigir uma varredura de esforço sobre as avaliações da própria empresa antes de fixar o ajuste; (4) reprovar tanto o esforço máximo por padrão quanto o corte do raciocínio sem medição de retrabalho; (5) distinguir orçamento de tarefa, que orienta o modelo, de teto de gasto, que corta a operação.
O parecerista que pensa em voz alta e anexa o rascunho ao processo
Você contrata um parecerista por hora. Ele lê o caso, rascunha o raciocínio em folhas soltas, chega à conclusão e anexa as folhas de rascunho ao processo. Pagar as horas de rascunho é justo, porque o rascunho é o trabalho. O detalhe caro vem depois: o processo agora tem trinta páginas a mais, e cada vez que alguém pede um novo parecer sobre o mesmo caso, o parecerista relê o processo inteiro, rascunho incluído, e cobra a releitura. A tarifa de releitura é menor que a de redação, e ela incide em toda consulta seguinte.
Onde a analogia para de valer: o parecerista humano cansa e resume por conta própria. O modelo não cansa, e em compensação você pode regular quanto rascunho ele produz, o que nenhum contrato de honorários permite fazer com um advogado.
Chame de token de raciocínio esse rascunho: o texto que o modelo gera para si mesmo antes de escrever a resposta que você lê. Ele existe porque melhora o resultado em tarefa difícil, e cobra por isso em duas etapas.
Na geração, o rascunho é cobrado como saída, a tarifa mais cara da tabela. Depois, nos modelos que preservam os blocos de raciocínio no histórico, ele volta como entrada em todos os turnos seguintes e é cobrado de novo, agora a tarifa de entrada. É a mesma mecânica sem memória que aparece em "A API não tem memória: a conversa inteira é recobrada", com um agravante que vale registrar: aqui o texto reenviado não foi escrito por ninguém da sua empresa, e o volume dele varia de resposta para resposta.
- Etapa 1 de 6: Turno 1: você envia a pergunta
Cobrada como entrada
- Etapa 2 de 6: O modelo rascunha o raciocínio
Cobrado como saída, a tarifa mais cara
- Etapa 3 de 6: O modelo escreve a resposta que você lê
Também cobrada como saída
- Etapa 4 de 6: O rascunho fica anexado ao histórico
Nos modelos que preservam os blocos de raciocínio
- Etapa 5 de 6: Turno 2: o histórico inteiro volta ao modelo
O rascunho do turno 1 é cobrado agora como entrada
- Etapa 6 de 6: Turno 3: o histórico volta outra vez
Aqui está a seta de retorno: cada turno novo recobra como entrada todo rascunho anterior
Onde o raciocínio aparece na fatura, fornecedor por fornecedor
| Fornecedor | Como o raciocínio entra na conta | O que isso muda para quem aprova |
|---|---|---|
| Anthropic (linha Claude) | Cobrado como saída quando gerado e recobrado como entrada nos turnos seguintes, nos modelos que preservam os blocos de raciocínio | O volume é visível e o nível de esforço é regulável; a conta cresce com o número de turnos, e não apenas com o tamanho da pergunta |
| Google (linha Gemini) | Sem linha separada na fatura: o raciocínio já está embutido no preço de saída anunciado | A fatura não mostra quanto do gasto foi rascunho, então a comparação com outro fornecedor precisa ser feita por custo total da tarefa concluída |
| Mistral (linha Magistral) | Raciocínio cobrado a preço de modelo comum, sem linha separada de token de raciocínio: US$ 2 de entrada e US$ 5 de saída por milhão de tokens no Magistral Medium | Preço mais previsível e nenhuma visibilidade do rascunho; o dial de esforço deixa de ser a alavanca disponível na mesa |
| DeepSeek (v4-pro) | Modo de raciocínio ligado por padrão, com saída a US$ 0,87 por milhão de tokens | Se ninguém desligou, você está pagando rascunho em toda chamada, inclusive nas triviais que não precisariam dele |
Cotação de julho de 2026. Preço de tabela muda sem aviso e nenhum destes valores descreve o que a sua empresa paga se houver desconto negociado; use a tabela como ordem de grandeza e nunca como base contratual.
Fonte: Documentação oficial de preços de Anthropic, Google, Mistral AI e DeepSeek, consultada em jul/2026
Esforço médio contra esforço máximo, medido pelo fornecedor no lançamento do Opus 4.5
76% menos
Tokens de saída em esforço médio
Para igualar a melhor nota do Sonnet 4.5 no SWE-bench Verified
48% menos
Tokens de saída em esforço máximo
No mesmo comparativo, com nota superior
+4,3 pp
Vantagem de nota no esforço máximo
Pontos percentuais acima do Sonnet 4.5 no mesmo benchmark
Fonte: Anthropic, anúncio de lançamento do Claude Opus 4.5, nov/2025
A leitura executiva desse par de números incomoda quem trata raciocínio como interruptor de duas posições. Mais esforço não produziu resultado melhor por real gasto de forma constante: a geração nova entregou a mesma nota consumindo cerca de um quarto dos tokens de saída. Quem fixou tudo no máximo porque máximo soa como qualidade pagou a diferença sem receber nota melhor em troca.
O dial tem cinco posições
O parâmetro de esforço da Anthropic vai de baixo a máximo, em cinco níveis, e controla todos os tokens da resposta, inclusive quantas chamadas de ferramenta o modelo faz. Em esforço baixo o modelo aciona menos ferramentas. Isso transforma o dial num controle sobre o loop inteiro, com efeito de custo que vai bem além do tamanho do rascunho. A conta desse loop é o assunto de "A conta do agente não é a conta do chat", e ela começa exatamente aqui.
Como o nível de esforço é decidido na maioria das empresas e como ele deveria ser decidido
Esforço máximo por padrão, sem ninguém ter escolhido
Situação atual
- O nível vem do valor padrão do fornecedor ou de um ajuste feito uma vez, no primeiro protótipo, e nunca revisto
- O mesmo nível vale para classificar um e-mail e para revisar um contrato de fornecimento
- A justificativa é qualitativa: máximo soa mais seguro diante do cliente
- A linha de saída da fatura sobe e ninguém consegue apontar qual fluxo é responsável
- Trocar de geração de modelo não muda o ajuste, então o ganho de eficiência da geração nova é consumido em rascunho a mais
Varredura de esforço sobre as avaliações da própria empresa
O que exigir
- O time roda a mesma bateria de avaliações em cada nível de esforço e registra nota e tokens lado a lado
- Cada tipo de tarefa recebe o nível mais baixo que ainda passa no critério de aceite escrito
- A justificativa é uma tabela com nota, tokens consumidos e custo por tarefa concluída
- A varredura é repetida quando o fornecedor lança geração nova, porque o ponto ótimo se move
- Você aprova o nível por tipo de tarefa, com dono nomeado e data de revisão marcada
Duas armadilhas simétricas, e as duas custam dinheiro. A primeira é o corte seco. Desligar o raciocínio ou fixá-lo no nível mais baixo derruba a linha de saída no mês seguinte, e o efeito colateral aparece em outro lugar da operação: resposta pior, retentativa, revisão humana, ticket reaberto. Nada disso entra na contagem de tokens, e tudo isso tem custo. Se o time propõe o corte, cobre a medição do que aconteceu com a taxa de acerto da tarefa, com linha de base anterior ao corte. A segunda é confundir orçamento de tarefa com teto de gasto. A Anthropic oferece um orçamento de tokens para o loop agêntico que o modelo vê como contagem regressiva, em beta desde 13 de março de 2026, com mínimo aceito de 20.000 tokens. Ele orienta o modelo a se conter e não impede o estouro. O limite que corta de fato continua sendo o número máximo de tokens da resposta. Quem aprovou um orçamento de tarefa acreditando ter ligado um freio de faturamento aprovou uma recomendação.
Duas medições acadêmicas fecham o raciocínio deste módulo, e a segunda muda como você lê qualquer comparativo que um fornecedor apresentar.
Uma caracterização de cargas agênticas publicada em maio de 2026 mediu que a variante com raciocínio alocou de 45,8% a 67,6% da saída em tokens de pensamento. Entre quase metade e dois terços do que se paga na tarifa mais cara da tabela é rascunho que ninguém da sua empresa vai ler.
Um estudo de julho de 2026, com doze modelos de fronteira em sete conjuntos de avaliação, mostrou que orçamentos de token maiores melhoram substancialmente o desempenho e que avaliações de orçamento fixo subestimam cada vez mais a capacidade dos modelos novos. A consequência prática é direta: a nota de benchmark passou a depender de quanto se decidiu gastar para produzi-la. Comparativo que publica nota sem publicar tokens consumidos deixou de ser comparável, e desmontar esse tipo de material é o assunto de "Benchmark sem custo declarado não é evidência de compra".
A área de sinistros usa um fluxo de IA que lê o aviso do cliente, consulta a apólice e propõe um enquadramento para o analista humano aprovar. O fluxo entrou em produção há cinco meses com o nível de esforço de raciocínio no máximo, escolhido pelo desenvolvedor que montou o protótipo e nunca revisto. A linha de saída da fatura mais que dobrou desde então, sem aumento no volume de sinistros. No mês passado o fornecedor lançou uma geração nova de modelo.
Você tem meia hora de reunião com o time. Qual pedido você faz?
Três perguntas, vinte minutos de reunião. Primeira: em que nível de esforço de raciocínio cada fluxo de IA em produção roda hoje, e quem escolheu esse nível? A resposta honesta em muitas empresas é que ninguém escolheu, e ela já é o começo do trabalho. Segunda: existe bateria de avaliações que permita comparar nota e tokens entre níveis? Sem ela, a varredura não tem como acontecer, e esse passa a ser o primeiro entregável. Terceira: quando o fornecedor lançou a última geração de modelo, alguém revisou o ajuste de esforço? Critério de sucesso: você sai da reunião com uma tabela de uma linha por fluxo, contendo nível atual, dono do ajuste e data da última revisão. Essa tabela é o insumo do teto de gasto que o curso manda ligar mais adiante, em "Teto de gasto: o que mandar ligar esta semana".
Escreva, sem voltar ao texto, duas coisas: o nível de esforço de raciocínio em que roda o fluxo de IA mais caro da sua empresa e o nome de quem escolheu esse nível. Se você não sabe nenhuma das duas, essa é a sua decisão desta semana: nomear o dono do ajuste e marcar a data em que ele apresenta a varredura de esforço com nota e tokens por nível. Depois defina, em uma frase, o critério com que você aprovará ou reprovará a proposta dele, lembrando que fatura menor acompanhada de nota menor ainda precisa de justificativa.
Perguntas frequentes deste capítulo
Podemos simplesmente desligar o raciocínio para cortar a conta?
Por que a fatura dobrou se o número de usuários não mudou?
Como eu comparo dois modelos se a nota depende de quanto cada um gastou?
Seu caderno neste capítulo
Abrir o caderno completoSelecione um trecho do capítulo para destacar ou anotar. Nos vídeos e áudios, use Anotar este momento. No teclado, selecione com Shift e as setas e use Alt+Shift+D para destacar ou Alt+Shift+N para anotar.
Salvo neste navegador. Entre na sua conta para levar o caderno a outros aparelhos.
Entre na sua conta para compartilhar o que aprendeu e convidar alguém para estudar com você.
Conexões deste capítulo
Veja o que estudar antes e para onde seguir depois, explore os conceitos e compare abordagens em outros cursos. Sugestões marcadas como “sugerido pelo grafo” vêm dos assuntos em comum, não do índice do curso.
Estude antes
- Escolher quanto raciocínio pagar em cada tarefasugerido pelo grafoApresenta o conceito “Nível de esforço (effort)”, usado em “Tokens de raciocínio: o dial que ninguém regulou”.
- Montar um relatório de IA só com métricas que resistem à perguntasugerido pelo grafoApresenta o conceito “Custo por tarefa”, usado em “Tokens de raciocínio: o dial que ninguém regulou”.
- CursoVídeo com IA: Claude Code, Codex e ElevenLabssugerido pelo grafo4 capítulos de “LLM FinOps: o custo da IA para quem assina o orçamento” usam conceitos apresentados em “Vídeo com IA: Claude Code, Codex e ElevenLabs”.
- CursoPrompt Engineering para Executivossugerido pelo grafo5 capítulos de “LLM FinOps: o custo da IA para quem assina o orçamento” usam conceitos apresentados em “Prompt Engineering para Executivos”.
Conceitos deste capítulo
O mesmo assunto em outros cursos
- Prompt Engineering para ExecutivosCalcular o custo de uma iniciativa de IA pela tabela de preçosExaminar conexões de Calcular o custo de uma iniciativa de IA pela tabela de preços
- MCP para quem decideMedir a fatura invisível do contextoExaminar conexões de Medir a fatura invisível do contexto
- Software e IA para executivosEscolher entre buscar, treinar ou rotear antes de pagar a contaExaminar conexões de Escolher entre buscar, treinar ou rotear antes de pagar a conta
- RLM 2027Baixar o custo por pergunta e vigiar o que a média escondeExaminar conexões de Baixar o custo por pergunta e vigiar o que a média esconde
Voltar ao capítulo anterior: A API não tem memória: a conversa inteira é recobrada
Leve uma ideia para a prática
Escolha uma atividade no painel e volte a este curso quando quiser.
Atividades e evolução ficam reunidas no painel da sua conta.
Capítulos vizinhos em LLM FinOps: o custo da IA para quem assina o orçamento
- 06Como o fornecedor cobra: tabela, assento e crédito
- 07A API não tem memória: a conversa inteira é recobrada
- 08Tokens de raciocínio: o dial que ninguém regulou
- 09A conta do agente não é a conta do chat
- 10Os custos que não são token