Menos token, mesma qualidade: o que funciona e o que só parece

A fatura subiu, você pediu um plano de contenção, e o plano chegou com quatro linhas. Reduzir o teto de tamanho da resposta. Pedir tudo em formato estruturado. Trocar o formato dos dados que circulam entre os sistemas por uma notação mais enxuta. E, no fim da lista, treinar um modelo próprio para baratear o token.

As quatro parecem razoáveis. Três delas economizam pouco ou cobram acurácia em troca, e a quarta encarece o token em vez de baratear. Nenhuma dessas conclusões é opinião: as três primeiras estão medidas em documentação de fornecedor e em trabalho acadêmico publicado, e a quarta está na tabela de preços do fornecedor que vende o serviço.

O que você precisa desta meia hora de reunião é saber quais linhas do plano aprovar, quais devolver com pergunta e qual ordem exigir.

Por que essa ordem e não outra

Porque a única coisa que separa economia de estrago é uma medição feita antes. Quando o time enxuga um prompt e a reclamação do cliente sobe três semanas depois, ninguém consegue provar que uma coisa causou a outra, e a discussão vira memória contra memória. Com um conjunto de casos de teste congelado, a mesma pergunta se responde em uma tarde.

Há um segundo motivo, e ele é aritmético. Como o curso mostrou em "Token, entrada e saída: a unidade da conta e a assimetria que decide onde cortar", a saída custa de cinco a seis vezes o preço da entrada, e isso vale para os três maiores fornecedores ao mesmo tempo (tabelas oficiais de preço da Anthropic, da OpenAI e do Google, consultadas em julho de 2026). A proporção decide onde vale gastar esforço: cortar dez por cento do prompt move pouco a fatura, e cortar dez por cento da resposta move cinco a seis vezes mais. Instrução de saída concisa é alavanca de custo, e o time costuma tratá-la como preferência de estilo.

Como ler esses números numa reunião

Um corte de 18% a 27% em tokens é real e não é desprezível. O que o transforma em decisão ruim é o preço: nove a quatorze pontos percentuais de acurácia. Traduzido para a sua operação, isso significa que de nove a quatorze casos em cada cem passam a sair errados para economizar cerca de um quinto do gasto de uma linha da fatura. Compare com o cache de prefixo, apresentado em "Cache de prefixo: o desconto de 90% com risco zero", que corta uma fração maior do custo e devolve exatamente a mesma resposta. Quando existe alavanca neutra em qualidade sobre a mesa, gastar acurácia é escolha, e escolha precisa de dono.

A leitura que inverte a proposta do time cabe em uma frase: o modelo personalizado é cobrado mais caro por token que o modelo base. A economia do ajuste fino existe, e vem de outro lugar. A própria OpenAI descreve o mecanismo: o modelo ajustado permite prompts mais curtos, com menos exemplos e menos dados de contexto, o que economiza custo de token em escala porque o conhecimento proprietário deixa de ser reenviado a cada requisição.

A pergunta a fazer ao time, portanto, é aritmética: quantos tokens de prompt deixam de ser enviados por requisição, vezes quantas requisições por mês, e isso cobre o quê exatamente. Se ninguém tiver os dois números, a proposta volta para a mesa de origem.

Existe uma terceira via entre instrução e ajuste fino, e ela interessa especialmente a quem opera em setor regulado. Um trabalho aceito no ACL 2026 Industry Track descreve a destilação em nível de prompt: em vez de treinar um modelo menor, transfere-se o raciocínio do modelo grande para dentro do prompt de sistema dele, sem alterar nenhum parâmetro. Em dois conjuntos públicos de teste, a taxa de acerto equilibrada entre as classes — a métrica que os autores chamam de Macro F1 — subiu de 57% para 90,0% em um deles, o StereoSet, e de 67% para 83% no outro, o Contract-NLI.

O que importa à sua mesa vem depois da métrica: o comportamento continua legível dentro do prompt, em vez de ficar enterrado nos pesos de um modelo treinado. Quando o regulador, a auditoria interna ou o cliente perguntar por que o sistema respondeu daquele jeito, a resposta está escrita em português e pode ser mostrada. Modelo ajustado não tem essa propriedade, e o custo dessa perda não aparece em nenhuma planilha de infraestrutura.