Escolher como a IA consulta o acervo da empresa

Para ligar a IA ao acervo da empresa em 2026, escolha entre três desenhos pelo tamanho do acervo e pelo ritmo com que ele muda: janela cheia com cache, RAG ou busca na hora por ferramentas. Serve a quem compra ou monta assistente interno, e hoje você testa um prompt que obriga a resposta a citar a fonte.

Claude, GPT e Gemini aceitam cerca de um milhão de tokens por chamada, e o Grok 4.7 aceita 500 mil. No Claude, um milhão de tokens equivale a umas 555 mil palavras, o que convida a despejar o acervo inteiro. A conta falha em dois pontos: a precisão cai quando a janela enche e o preço sobe a cada documento que entra sem necessidade.

No sentido oposto, o banco de vetores comprado por reflexo cobra mensalidade para indexar um acervo que talvez coubesse inteiro numa chamada com cache. A escolha sai de dois fatos que a operação já conhece: quantas páginas o acervo tem e com que frequência elas mudam.

Três desenhos para a IA ler o acervo

Janela cheia com cache é mandar o acervo inteiro em cada chamada, como entregar a pasta toda ao analista. Nada se perde por falha de busca, e o cache de prompt (o fornecedor guarda o começo repetido da chamada e cobra menos para reler) derruba o custo. No Claude Opus 5.5 e no Sonnet 5.5, a releitura sai a 0,05× do preço de entrada, e a documentação da Anthropic diz que o cache de cinco minutos se paga já na primeira releitura.

RAG (retrieval-augmented generation, ou geração aumentada por recuperação: o bibliotecário que traz só os três livros certos) quebra o acervo em trechos indexados, busca os mais parecidos com a pergunta e envia só eles ao modelo. A consulta fica barata e o acervo pode ser enorme. O preço aparece na omissão, porque o trecho que o índice não traz o modelo não lê, e uma versão antiga parecida com a pergunta pode vencer a vigente.

Busca na hora (just-in-time retrieval) é o desenho que a Anthropic descreveu em setembro de 2025 para agentes: o modelo guarda endereços leves, como caminhos de arquivo e consultas salvas, e carrega o conteúdo por ferramentas quando precisa. O Claude Code lê um arquivo de instruções no início e usa grep (busca por palavra dentro dos arquivos) para o resto. Desde 2024 mudaram duas coisas: janela de um milhão virou padrão e os modelos passaram a conduzir sozinhos várias rodadas de busca. A atenção do modelo continua sendo o recurso escasso.

Os desenhos se combinam. O mesmo artigo da Anthropic trata a busca na hora como alternativa ou complemento da recuperação por embeddings (textos convertidos em números que medem semelhança de sentido): o núcleo pequeno e estável vai inteiro na janela, e o resto o agente busca quando a pergunta pede.

Cada desenho falha num ponto diferente, e é isso que a matriz separa. A janela cheia perde precisão conforme cresce, efeito que o relatório Context Rot, da Chroma, mediu e que o capítulo anterior detalha; um único trecho parecido com a resposta, mas errado, já derruba o desempenho. O RAG falha pela omissão e pela versão errada; a busca na hora gasta chamadas de ferramenta e tempo.

Posição também conta: a ordem vista no capítulo anterior, com documentos no topo e pergunta no fim, vale para os três desenhos.

Os quatro fornecedores vendem a consulta ao acervo como recurso pronto, com nomes e regras de preço diferentes. O desenho escolhido na matriz continua valendo em qualquer um; muda onde fica o índice, quem guarda os arquivos e a partir de que tamanho a chamada inteira fica mais cara.

Em setores diferentes, a mesma pergunta decide o desenho: o acervo cabe na janela e muda com que frequência? Os três casos abaixo são ilustrativos.

Citação obrigatória da fonte interna vale para os três desenhos, porque deixa o revisor conferir a resposta em segundos. O guia monta esse prompt com políticas fictícias de despesas, incluindo uma versão substituída para testar se o modelo escolhe a vigente e uma pergunta sem resposta no acervo.

O cache só reduz a conta quando o começo da chamada se repete idêntico; com dado que muda a cada hora, cada mudança paga uma escrita nova, e a escolha muda de lado.

Relacione as fontes à presença da marca na busca

Para levar a discussão ao conteúdo público do seu site, compare GEO e SEO. A comparação trata de descoberta e citação na web, um contexto diferente da consulta a documentos internos.

Faça hoje

Copie o primeiro prompt, troque as políticas fictícias por três políticas reais da sua área, com id, versão e vigência, e rode 20 perguntas que o time fez no último mês, incluindo duas que o acervo não responde. Em 30 minutos você tem a prova: toda afirmação com endereço e trecho que confere com o documento, e a frase de abstenção nas duas perguntas sem resposta. Se algum trecho não sustentar a frase, corrija o prompt ou o acervo antes de ampliar o teste.