Cortar a conta de IA começando pelas alavancas gratuitas

Para cortar a conta de IA em 2026, use antes as alavancas que não custam qualidade: cache do começo fixo do prompt, menos tokens, lote para o que pode esperar e esforço de raciocínio menor. Trocar de modelo fica para o fim. Vale para quem paga API por volume; comece medindo o cache do fluxo mais caro.

A ordem pesa porque cada alavanca cobra um preço diferente. Cache e higiene de tokens saem de graça, o lote cobra prazo de entrega, e esforço menor ou modelo menor podem cobrar acerto, que só a suíte de avaliação mede. Começar pela troca de modelo cobra duas vezes, na migração e no retrabalho das respostas que pioram, e deixa intacto o desperdício do prompt.

Esse desperdício costuma morar num detalhe que a fatura não mostra. Uma linha com data e hora no topo do system prompt (a instrução fixa que abre cada chamada) muda o começo do pedido a cada requisição, e o fornecedor cobra preço cheio por um texto quase idêntico ao da chamada anterior.

Como o cache de prompt reduz a fatura

Cache de prompt (prompt caching) é a memória curta do fornecedor para o começo repetido do pedido, como o garçom que já anotou o pedido de sempre. A primeira chamada grava esse prefixo, o trecho inicial idêntico entre chamadas, e paga um pouco mais; as seguintes releem o prefixo por uma fração do preço. Na Anthropic, a escrita custa 1,25× a entrada no prazo de cinco minutos e 2× no de uma hora, e a leitura custa 0,1× na maioria dos modelos, 0,05× no Opus 5.5 e no Sonnet 5.5 e 0,025× no Fable 5.1.

O casamento do prefixo é exato e segue a ordem tools, system, messages: ferramentas primeiro, instrução de sistema depois e mensagens por último, até o bloco marcado com cache_control (a etiqueta que diz ao Claude onde termina o trecho a guardar). Um caractere diferente no começo invalida tudo o que vem depois. Por isso o desenho do prompt decide a conta: o que é fixo sobe para o topo, e o que muda (data, cliente, pergunta) desce para a última mensagem.

Em 2026 a conta ficou mais favorável. O mínimo cacheável é de 512 tokens nos modelos Claude 5.x, contra 4.096 no Haiku 4.5, e a OpenAI guarda o prefixo por 30 minutos do GPT-5.6 em diante. Um prefixo usado em dez chamadas dentro de cinco minutos custa 2,15 unidades em vez de dez (uma escrita a 1,25 e nove leituras a 0,1), cerca de 78% a menos nessa parte da entrada.

O que quebra o cache sem avisar

No Claude, mudar a definição das ferramentas, o tool_choice (a regra que diz se e qual ferramenta o modelo deve chamar), as imagens, os parâmetros de pensamento ou o effort de topo (o nível de esforço declarado no corpo da chamada) entre requisições invalida o prefixo. A data no topo do system prompt faz o mesmo de forma mais discreta, porque a API não devolve erro algum e só cobra a entrada cheia. O conserto é levar o que muda para depois do último bloco cacheado e, quando precisar trocar o esforço no meio da conversa, usar uma mensagem de sistema dentro de messages, que a Anthropic documenta como preservadora do cache.

Cada fornecedor cobra o cache de um jeito, e um prefixo que rende no Claude pode não render nada no Gemini se ficar abaixo do mínimo de lá. A tabela junta mínimo, prazo, preço de leitura e escrita e desconto de lote em outubro de 2026.

Enxugar tokens, mandar para lote e baixar o esforço

Higiene de tokens é tirar do pedido o que o modelo não usa: instrução repetida, exemplo que não muda a resposta, histórico velho e o pedido de “pense passo a passo”, que os guias da Anthropic, da OpenAI e do Google mandam remover em modelos de raciocínio. A saída merece mais cuidado que a entrada, porque custa cinco vezes mais nos modelos Claude atuais (US$ 20 contra US$ 4 por milhão de tokens no Opus 5.5). Peça o formato curto que a tarefa exige e defina max_tokens, o teto de tokens da resposta.

O lote (Batch API, a fila assíncrona sem prazo garantido) dá 50% de desconto em entrada e saída na Anthropic, na OpenAI e no Gemini, e no Claude o desconto se soma ao do cache. Classificação noturna, enriquecimento de cadastro e relatório semanal cabem ali; atendimento ao vivo fica fora.

Esforço (effort) é o botão que regula quanto o modelo pensa antes de responder, como a diferença entre um rascunho e uma revisão completa. No Claude, output_config.effort vai de low a max e afeta todos os tokens de saída, inclusive chamadas de ferramenta, e a Anthropic afirma que baixar o esforço reduz pensamento, custo e latência de forma mais confiável que instruções no prompt. No Gemini, o pensamento é cobrado como saída. Teste um nível abaixo na suíte de avaliação antes de cogitar outro modelo.

Roteamento (routing) é mandar cada pedido ao modelo mais barato que resolve, como a triagem de um pronto-socorro. A diferença de tabela explica o interesse: o Haiku 5.5 cobra US$ 0,10 por milhão de tokens de entrada até 100 mil tokens de prompt, contra US$ 4 do Opus 5.5. A troca só entra em produção quando a suíte de avaliação mostra o mesmo acerto no fluxo roteado.

Em agentes, o custo cresce com o histórico, porque cada volta do laço relê tudo o que veio antes. Context editing (a limpeza automática de resultados antigos de ferramentas) apaga do contexto as chamadas mais velhas: a estratégia clear_tool_uses_20250919 dispara por padrão em 100.000 tokens de entrada e mantém os três usos mais recentes. A compactação no servidor, compact_20260112, resume o histórico e é a estratégia que a Anthropic chama de primária para conversas longas.

O que medir para saber se funcionou

No Claude, o campo usage (o recibo de consumo que volta em cada resposta) traz cache_creation_input_tokens, os tokens gravados no cache, e cache_read_input_tokens, os relidos a preço baixo; no Gemini, o campo é usage.total_cached_tokens. Some esses números por fluxo e calcule a taxa de acerto do cache: tokens lidos do cache sobre o total de entrada. Fluxo com prefixo repetido e leitura zerada tem um invalidador escondido.

A métrica de decisão é o custo por tarefa concluída: gasto total do fluxo dividido pelas tarefas que passaram na avaliação. Chamada barata que precisa ser refeita entra duas vezes no gasto e uma vez no denominador, por isso o custo por chamada engana quem compara modelos.

Reorganizar um prompt para cachear

O exemplo abaixo usa o assistente de atendimento da Raiz Verde Cosméticos, empresa fictícia. Os dois prompts têm o mesmo conteúdo e produzem a mesma resposta; muda só a ordem, e com ela o campo usage.

Faça hoje

Abra o fluxo de maior gasto, rode três requisições seguidas em menos de cinco minutos e leia cache_read_input_tokens na segunda e na terceira (no Gemini, total_cached_tokens). Se vier zero com prefixo acima do mínimo, procure a data, o id ou a ferramenta que muda no topo e leve para a última mensagem. Em 30 minutos o prefixo inteiro deve voltar como leitura de cache, e a conta do mês seguinte mostra o resto.