Escolher o modelo de cada etapa e calcular o custo por tarefa

Antes dos nomes das camadas, guarde duas leituras estruturais.

Comece pela camada 4, que nenhum time deveria tratar como opcional ou menos nobre. Ferramentas determinísticas (programas que dão sempre a mesma resposta, como a calculadora do caixa) produzem veredito binário a custo marginal quase nulo, e tudo que puder ser verificado por elas não deveria consumir token nenhum (token: a unidade de texto que o fornecedor cobra, como o pulso de uma ligação). Ela dá o melhor retorno da topologia inteira, e é a mais esquecida justamente porque não se parece com IA.

Já o humano sênior entra como camada de execução do fluxo, com responsabilidade definida: arbitrar o que nenhuma automação (tarefa que a máquina faz sozinha, como o débito automático) arbitra. Tratado como supervisor externo olhando por cima do ombro, ele vira gargalo. Tratado como camada, ele tem fila, escopo e critério de acionamento, que é o que permite dimensionar o trabalho dele.

Seguido pelas camadas, o caminho de um pedido de incorporação (o PR, pacote de mudança que pede para entrar no produto) tem forma de ampulheta, e vale dizer o que estreita, porque a figura não diz sozinha. O que estreita é o número de chamadas caras. O fluxo abre com poucas chamadas premium no plano, alarga no meio com muitas chamadas baratas e determinísticas de execução e verificação, e volta a estreitar em poucas chamadas premium de revisão adversarial, antes de chegar ao humano sênior. Em volume de chamadas a figura é um losango; em dinheiro por chamada, é a ampulheta.

Guarde a proporção desse exemplo, porque ela desmonta uma crença comum. A infraestrutura de agente gerenciado responde por cerca de 11% do custo total de uma hora de sessão. O custo dominante continua sendo token, e é por isso que roteamento e cache (guardar o começo repetido do pedido, como deixar a massa-base pronta na padaria) rendem mais do que qualquer negociação de contrato de infraestrutura.

Corrija também um número que circula bastante. A cifra de US$ 0,25 por hora de sessão aparece em vários materiais na web. A documentação oficial diz US$ 0,08 por hora de sessão, medida em milissegundos e acumulada apenas enquanto a sessão está em execução: tempo ocioso, em reagendamento ou encerrado não conta.

Agora a disciplina de melhor retorno por hora de trabalho investida, e a que costuma ficar pela metade: o cache de contexto.

Duas frases explicam a mecânica. Ler um trecho que já está guardado custa cerca de um décimo do preço de entrada, e gravar custa um prêmio sobre esse preço, maior quanto mais longa for a validade. A tabela a seguir traz os multiplicadores e o ponto de equilíbrio de cada validade, com um elo que o material técnico costuma omitir: quando a coluna da direita compara com 2,0 e com 3,0, esses são os custos de ler o mesmo trecho duas e três vezes a preço cheio, sem cache nenhum.

Uma linha abaixo, na tabela oficial, está o detalhe que decide se a economia existe: há um piso de prefixo, que varia de 512 a 4.096 tokens conforme o modelo. Abaixo desse piso, o cache não é criado. Sem erro, sem aviso, sem linha no registro. A equipe configura cache, acredita ter 90% de desconto na entrada e paga preço cheio o ano inteiro.

Três fatos de 2026 explicam por que essa disciplina saiu da engenharia e chegou ao conselho.

Preço de tabela tem data de validade, e ela costuma estar escrita. O preço promocional de US$ 2 por milhão de tokens de entrada do modelo intermediário vale até 31/08/2026 e volta para US$ 3. Tome a mesma chamada de 40 mil tokens de entrada e 4 mil de saída: com a promoção, a chamada inteira sai por US$ 0,12, sendo US$ 0,08 de entrada e US$ 0,04 de saída; a partir de setembro, a mesma chamada inteira custa US$ 0,18. Alta de 50% no custo por chamada, sem que uma única linha do seu código tenha mudado. Quem migrou de fornecedor olhando a diferença entre US$ 2 e US$ 3, e lendo isso como 33% de desconto, comprou uma economia com prazo. É por esse motivo que os cenários desta aula foram calculados a preço cheio.

Gastar mais não entrega proporcionalmente mais, e existe medição observada disso. O gasto mediano com IA por funcionário, medido em transação real de cartão corporativo de mais de 70 mil empresas, foi de US$ 11,38 por mês. O percentil 1 gastou US$ 7.449, cerca de 650 vezes a mediana. Nenhuma empresa atravessa essa distância por decisão deliberada; ela é atravessada por ausência de política.

Os placares públicos ordenam por acerto e deixam o custo de fora. Imagine dois resultados idênticos de 88% num teste público de engenharia de software: um obtido com US$ 50 de inferência por tarefa, outro com US$ 0,50. Os dois números são inventados aqui para ilustrar, e é exatamente esse o ponto: o placar não publica a segunda coluna, então ninguém consegue distinguir os dois casos olhando o ranking. Existe um índice que chega mais perto de juntar desempenho e custo na mesma vista, o Artificial Analysis Intelligence Index, e vale conhecê-lo. Enquanto o custo por tarefa não estiver ao lado da pontuação, qualquer comparação econômica entre modelos é reconstrução feita por terceiros. Quando um fornecedor apresentar a pontuação dele, a pergunta seguinte é sempre quanto custou cada tarefa daquela rodada.

Falta um risco que não aparece em nenhuma tabela de preço: a plataforma onde você apoiou a verificação pode ser desligada.

Em junho de 2026 os dois movimentos aconteceram no mesmo mês e em direções opostas. A AWS levou avaliação de agentes a disponibilidade geral dentro do AgentCore, com avaliação em lote, teste A/B (duas versões comparadas lado a lado, como dois cardápios em dias alternados) sobre tráfego real de produção e recomendações derivadas de rastros. A OpenAI anunciou, em 03/06/2026, a depreciação da própria plataforma de Evals e do Agent Builder.

Quem apoiou a verificação numa plataforma de fornecedor perdeu a verificação, e perdeu justamente a parte do fluxo que existe para provar que o resto funciona. A conclusão operacional é curta: o artefato de evidência precisa ser exportável e legível fora da ferramenta que o gerou. Isso vale como critério de compra, com o mesmo peso do preço.

Suponha uma agência de duas pessoas que usa agente para gerar teste a partir de especificação pronta: na camada eficiente cada chamada sai por US$ 0,06, no modo premium por US$ 0,30, cinco vezes mais pelo mesmo teste que a camada determinística vai conferir de qualquer jeito. As três tarefas abaixo acham esse tipo de diferença na sua operação:

1. 01Matriz de roteamento. Construa a tabela de tarefa por camada para as dez tarefas mais frequentes do time: triagem de chamado, geração de teste, refatoração, migração de banco, revisão adversarial, documentação, pesquisa no repositório e o que mais aparecer. Valide com a liderança técnica onde a matriz diverge da prática. A entrega é uma página, com dono, exceções permitidas e data da próxima revisão.
2. 02Simulação de economia da unidade. Para um pedido de incorporação típico, calcule o cenário tudo em premium e o cenário roteado, usando as tabelas desta aula como molde e o preço vigente dos modelos que vocês usam.
3. 03Auditoria de cache. Meça o tamanho do prefixo estável dos seus pedidos e compare com o piso do modelo que você usa. Procure carimbo de hora, identificador único e nome de usuário no início do pedido.

Confira o resultado em quatro pontos antes de levar à liderança: (a) cada divergência entre matriz e prática foi classificada como desperdício ou risco, com justificativa; (b) a economia percentual está calculada com preços datados e fonte citada, e a planilha traz a data da próxima revisão de preço; (c) você nomeou o risco que o roteamento introduz e a camada que o absorve, porque simulação sem risco nomeado está otimista demais; (d) a auditoria de cache voltou com o tamanho do prefixo em número, e se ele ficou abaixo do piso do modelo, o cache ainda não existe.