LLM FinOps: o custo da IA para quem assina o orçamento · Capítulo 17 de 24 · 11 min
Modelo aberto não é modelo grátis: a conta do construir contra o comprar
A placa de vídeo cobra igual rodando a cem por cento ou a cinco, e o ponto de equilíbrio da auto-hospedagem exige um volume concorrente que a maioria das empresas não tem.
Este capítulo faz parte do curso gratuito LLM FinOps: o custo da IA para quem assina o orçamento.
A pergunta chega sempre no mesmo ponto da reunião. Alguém projeta a fatura da API, o número incomoda, e um diretor pergunta por que a empresa paga por algo que existe de graça na internet. A pergunta é legítima e a premissa está torta em um lugar só: o que é gratuito nos modelos abertos é a licença de usar os pesos, e a licença nunca foi a linha cara.
A linha cara é a máquina que roda o modelo. Ela é alugada por hora, cobra pelo tempo em que fica ligada e ignora completamente se alguém mandou uma requisição naquele minuto. Quem aprova a troca está aprovando uma mudança de natureza no orçamento, e essa mudança tem um denominador que quase nenhuma empresa mediu.
Ao final deste módulo você será capaz de: (1) separar a licença gratuita do modelo do custo de operação, que é o que aparece na fatura; (2) ler a conta da auto-hospedagem na única unidade que permite comparação, custo por milhão de tokens em função da ocupação; (3) exigir a medição de requisições concorrentes em voo antes de aprovar qualquer nó próprio; (4) reconhecer o que quantização e ajuste fino entregam de fato, e o que eles não resolvem.
O caminhão parado na garagem custa o mesmo do caminhão rodando cheio
Uma transportadora contratada cobra por entrega feita. Se o mês foi fraco, a fatura foi fraca. Frota própria funciona no sentido contrário: a parcela do caminhão, o motorista, o seguro e o pátio vencem no dia certo, com carga ou sem carga. Nenhuma das duas opções é errada. A escolha entre elas se decide por quantos dias no mês o caminhão roda cheio, e o preço do caminhão tem pouco a dizer sobre isso.
Ao trocar API por servidor próprio, o custo deixa de acompanhar o uso e passa a correr no relógio. O denominador da conta vira a ocupação.
O que muda quando o token deixa de ser a unidade de cobrança
Na API, você paga por token consumido e o fornecedor absorve a ociosidade dele. Num serviço próprio, você aluga a máquina por hora e produz os tokens que conseguir dentro daquela hora. O custo por milhão de tokens some da tabela do fornecedor e vira uma divisão que você mesmo faz: quanto a máquina custou no mês, dividido por quantos tokens ela efetivamente entregou no mês.
O numerador dessa divisão é conhecido e aparece no contrato de nuvem. O denominador depende do quanto a placa ficou trabalhando, e é ele que decide se a conta fecha.
Preço de referência de um nó com oito placas de alto desempenho
US$ 101,007
Preço por hora do nó a3-highgpu-8g
Região us-central1, preço sob demanda
~US$ 73 mil
Custo do mesmo nó por mês em regime de 24 horas por dia
Antes de qualquer custo de operação
8
Placas NVIDIA H100 nessa configuração de nó
É a unidade que se aluga, e ela cobra ligada
Fonte: Google Cloud, tabela oficial de preços, julho de 2026. Preço de tabela de nuvem muda; confira a data antes de usar em orçamento.
A tabela a seguir usa uma premissa deliberadamente favorável à auto-hospedagem. Em vez do preço sob demanda de mais de cem dólares por hora, ela parte de um nó equivalente a cerca de vinte dólares por hora, que é o patamar de quem assume compromisso longo ou usa provedor especializado, e soma a operação até chegar a cerca de dezesseis mil dólares por mês. Mesmo com essa concessão, o resultado é o que está abaixo. Repare que a única coluna que muda entre as linhas é a ocupação.
Custo efetivo por milhão de tokens de saída, em função da ocupação da placa
| Ocupação sustentada | Custo efetivo por milhão de tokens de saída | Comparação com a API aberta a US$ 0,87 | Como esse cenário se parece na operação real |
|---|---|---|---|
| 100% | cerca de US$ 10 | cerca de 11 vezes mais caro | Fila cheia o tempo inteiro, inclusive à noite e no fim de semana |
| 50% | cerca de US$ 20 | cerca de 23 vezes mais caro | Carga forte no horário comercial e máquina vazia no resto do dia |
| 20% | cerca de US$ 50 | cerca de 57 vezes mais caro | Uso interno de um time, concentrado em poucas horas |
| 5% | cerca de US$ 200 | cerca de 230 vezes mais caro | Piloto ainda em validação, que é o cenário mais comum no primeiro ano |
| API aberta equivalente | US$ 0,87 | Linha de base da comparação | DeepSeek v4-pro, preço de tabela de saída por milhão de tokens |
Os valores de auto-hospedagem vêm de análise de terceiro com premissas declaradas, e não de fatura auditada de empresa nomeada. A terceira coluna é divisão simples feita aqui a partir das duas primeiras, e está marcada como derivada por isso. Preço de tabela de API muda com frequência: refaça a conta com a cotação do dia antes de levá-la à mesa.
Fonte: Auto-hospedagem: Developers Digest, junho de 2026, análise de ponto de equilíbrio com premissas explicitadas. Preço de API: DeepSeek, tabela oficial, julho de 2026.
A frase que circula na reunião e a frase que sustenta uma decisão
Modelo aberto é sempre mais barato
Coluna a evitar
- Compara a licença do modelo, que não é cobrada, com a fatura da API, que é
- Trata a placa como despesa que só aparece quando alguém usa
- Toma o preço por milhão de tokens do fornecedor como se houvesse equivalente direto dentro de casa
- Ignora as horas em que o serviço fica ligado esperando requisição
- Deixa fora do orçamento o time que mantém o serviço no ar, atualiza o modelo e responde por indisponibilidade
O preço efetivo depende da ocupação sustentada
Coluna recomendada
- Compara custo mensal total dividido por tokens efetivamente produzidos, dos dois lados da conta
- Parte do fato de que a placa cobra o mesmo rodando a cem por cento e a cinco
- Exige a medição de requisições concorrentes em voo antes de qualquer projeção de economia
- Trata a ociosidade noturna e de fim de semana como linha de custo, porque ela é
- Inclui operação, plantão e troca de geração de modelo na mesma planilha
Ocupação é o denominador, e quase ninguém mede o seu
O número que circula nas reuniões costuma ser volume por dia. Requisições por dia dizem pouco sobre ocupação, porque quarenta mil chamadas espalhadas em oito horas úteis deixam a máquina parada nas outras dezesseis, e o custo daquelas dezesseis horas continua vencendo. O número que decide é outro: quantas requisições estão em voo ao mesmo tempo, no pico e fora dele, ao longo de trinta dias.
A análise de ponto de equilíbrio publicada em junho de 2026 pela Developers Digest coloca a faixa de viabilidade em aproximadamente cinquenta a cem requisições concorrentes sustentadas na maior parte do dia. Carga de empresa brasileira média raramente se parece com isso: ela abre às oito, fecha às dezenove, some no fim de semana e concentra pico em poucos dias do mês. Tráfego irregular empurra o custo efetivo por token para cima na proporção inversa da carga, e o gráfico dessa subida é a tabela que você acabou de ler.
A pergunta a fazer ao time, com essas palavras: qual é a nossa concorrência medida em requisições em voo, e por quantos dias ela foi medida? Se a resposta vier em requisições por dia, a medição ainda não existe.
A auto-hospedagem fecha para você? Pontue o risco de cada linha
Pontue cada dimensão pela operação de hoje, deixando fora a intenção declarada e o que o fornecedor prometeu. A escala vai de 0 a 4, em que 0 é a condição que favorece um serviço próprio e 4 é a que o inviabiliza. A soma vai de 0 a 20 e indica se o pedido chega à sua mesa em condição de ser aprovado.
0 = acima de 100 sustentadas na maior parte do dia. 2 = entre 20 e 50, concentradas no horário comercial. 4 = ninguém mediu, e só existe volume por dia.
0 = a fila nunca esvazia, inclusive de madrugada e no fim de semana. 2 = cheia no horário comercial e vazia no resto. 4 = picos concentrados em poucos dias do mês.
0 = existe equipe com plantão e substituto definido. 2 = existe uma pessoa, sem substituto. 4 = ninguém foi nomeado e essa linha não está no orçamento apresentado.
0 = a empresa aceita operar uma versão congelada por dois anos. 2 = pretende atualizar quando sobrar tempo. 4 = a área espera o melhor modelo disponível a cada trimestre.
0 = exigência escrita de contrato, de regulador ou de cliente sobre onde o dado é processado. 2 = exigência ainda em análise jurídica. 4 = a única razão apresentada é a percepção de que sai mais barato.
A carga é regular, existe time nomeado e o motivo não se resume a preço. Peça a conta completa em custo por milhão de tokens, com as horas ociosas dentro do numerador, e o preço da API equivalente na mesma planilha, na mesma data. Aprovar nesta faixa é decisão informada.
Os dois atalhos que aparecem na mesma reunião, e o que cada um entrega de fato. O primeiro é a quantização, que reduz a precisão numérica com que os pesos do modelo são guardados, para caber mais modelo na mesma placa. O mercado usa duas intensidades, e os nomes delas vão aparecer na proposta que o time levar à sua mesa. A moderada, chamada FP8, corta a memória pela metade e aumenta a vazão em até 1,6 vez, com queda de cerca de 0,6 ponto de acurácia num teste padrão de conhecimento geral chamado MMLU-Pro (69,64% contra 70,24% sem quantização). A agressiva, chamada INT4, corta 75% da memória e chega a 2,7 vezes mais tokens por segundo, ao custo de cerca de 1,6 ponto médio de acurácia. Isso é troca declarada, e a pergunta executiva correspondente também é: qual queda de acurácia foi aceita, medida em qual conjunto de avaliação, e quem assinou embaixo? Vale registrar o que a quantização não faz: ela mexe na vazão e na memória, e não na ociosidade. Placa parada continua cobrando. O segundo atalho é o ajuste fino, e a conta dele já está feita no módulo "Menos token, mesma qualidade: o que funciona e o que só parece": o modelo ajustado é cobrado mais caro por token que o base, US$ 4,00 de entrada e US$ 16,00 de saída por milhão contra US$ 0,75 e US$ 4,50 do modelo base na tabela da OpenAI de julho de 2026, somados a US$ 100,00 por hora de treino, e a economia só existe se o prompt encurtar o bastante para cobrir essa diferença. O que este módulo acrescenta é o efeito cruzado: ajuste fino em modelo auto-hospedado não mexe na ociosidade da placa, que é o denominador desta decisão.
A cooperativa processa cerca de 40 mil documentos de análise cadastral por mês, de segunda a sexta, entre oito e dezenove horas. A fatura de API do último mês fechou em US$ 9 mil. O time de tecnologia leva à reunião uma proposta de alugar um nó com placas e rodar um modelo aberto, projetando 80% de economia. A projeção foi feita supondo a placa ocupada o tempo todo, e ninguém mediu requisições concorrentes em voo.
O que você aprova na reunião de quinta-feira?
Duas linhas somem de toda comparação feita apenas com preço de tabela. A primeira é o restante do custo de IA: a FinOps Foundation publicou em maio de 2026 que o custo de IA tem nove camadas, entre elas computação e armazenamento em nuvem, rede e egresso, engenharia e governança, aquisição de dados e treino, e que o token cobre apenas o custo marginal variável da inferência. Quando a inferência migra para dentro de casa, essas camadas deixam de estar embutidas no preço do fornecedor e passam a ser suas. A segunda é a visibilidade. A documentação do Datadog LLM Observability, em julho de 2026, declara que a ferramenta estima custo multiplicando os tokens do registro pelo preço público do modelo, e que modelos auto-hospedados ou com preço negociado exigem custo informado manualmente. Ao sair da API, você também sai do número que o painel entregava sem esforço, e passa a precisar apurar o seu custo por milhão de tokens à mão, todo mês. Vale exigir que quem propõe a migração diga quem vai fazer essa apuração.
O que exigir antes de aprovar um nó próprio
Antes da reunião de aprovação
0/3Na mesa, antes de assinar
0/4Depois da decisão
0/3Escreva três linhas sobre a carga que alguém na sua empresa quer tirar da API, e a primeira é a que decide. Linha um: qual é a ocupação sustentada real dessa carga, medida em requisições concorrentes em voo ao longo de trinta dias, e não estimada a partir do volume diário. Linha dois: quem responde pela disponibilidade do serviço se ele passar a rodar dentro de casa, com nome e substituto. Linha três: qual o motivo declarado da auto-hospedagem, exigência escrita sobre onde o dado é processado ou percepção de preço. Se a linha três disser preço e a linha um estiver vazia, a decisão desta semana é adiar a compra e mandar medir.
Perguntas frequentes deste capítulo
Rodar modelo aberto na nossa infraestrutura não elimina o custo por token?
Ajuste fino do modelo não deixa tudo mais barato no longo prazo?
Em que cenário a auto-hospedagem realmente fecha a conta para nós?
Seu caderno neste capítulo
Abrir o caderno completoSelecione um trecho do capítulo para destacar ou anotar. Nos vídeos e áudios, use Anotar este momento. No teclado, selecione com Shift e as setas e use Alt+Shift+D para destacar ou Alt+Shift+N para anotar.
Salvo neste navegador. Entre na sua conta para levar o caderno a outros aparelhos.
Entre na sua conta para compartilhar o que aprendeu e convidar alguém para estudar com você.
Conexões deste capítulo
Veja o que estudar antes e para onde seguir depois, explore os conceitos e compare abordagens em outros cursos. Sugestões marcadas como “sugerido pelo grafo” vêm dos assuntos em comum, não do índice do curso.
Estude antes
- CursoVídeo com IA: Claude Code, Codex e ElevenLabssugerido pelo grafo4 capítulos de “LLM FinOps: o custo da IA para quem assina o orçamento” usam conceitos apresentados em “Vídeo com IA: Claude Code, Codex e ElevenLabs”.
- CursoPrompt Engineering para Executivossugerido pelo grafo5 capítulos de “LLM FinOps: o custo da IA para quem assina o orçamento” usam conceitos apresentados em “Prompt Engineering para Executivos”.
Conceitos deste capítulo
O mesmo assunto em outros cursos
- Deploy para decisão executivaLer a fatura de plataforma linha por linhaExaminar conexões de Ler a fatura de plataforma linha por linha
- Software e IA para executivosCalcular quanto cada publicação custa na fatura do mêsExaminar conexões de Calcular quanto cada publicação custa na fatura do mês
- Engenharia de Software para ExecutivosPôr teto na conta de IA e cobrar o retornoExaminar conexões de Pôr teto na conta de IA e cobrar o retorno
Leve uma ideia para a prática
Escolha uma atividade no painel e volte a este curso quando quiser.
Atividades e evolução ficam reunidas no painel da sua conta.