De onde vem a informação que a IA usa

Um modelo de linguagem recursivo, ou RLM, usa um programa para consultar um texto longo por partes. O material fica guardado fora da conversa imediata com a IA, em uma variável: um lugar da memória que o programa consegue ler.

O modelo gera código para localizar e dividir esse material, pode delegar a análise de trechos a outras chamadas de IA e reúne os resultados para responder. A decisão do gestor é verificar se essa organização melhora a resposta com custo e limites aceitáveis, comparando com a leitura direta e a busca em documentos.

Exemplo: Antes de trocar o modelo de IA, precisamos descobrir por que uma resposta falha. Vamos acompanhar a Veredas Ambiental, uma consultoria fictícia de Belo Horizonte, e seus personagens Helena e Caio. O acervo de 6.400 documentos e os resultados apresentados ao longo dessa história são uma simulação didática, não um estudo de cliente. Nesse cenário, catorze anos de processos somam cerca de 52 milhões de tokens, os fragmentos de texto usados pelo modelo.

Helena, coordenadora técnica, responde aos clientes e assina os pareceres. Caio, engenheiro de dados, montou dois anos atrás um assistente de busca vetorial sobre esse acervo. No cenário, ele acerta perguntas como “onde está o laudo de março da PCH” e erra “quantas condicionantes vencidas temos em todos os empreendimentos”. O erro de contagem preocupa Helena porque pode chegar ao cliente sem evidência suficiente.

Ao terminar este capítulo, você saberá distinguir o que um modelo aprendeu, o que recebe na pergunta e o que consulta durante a tarefa. Também poderá classificar as falhas antes de decidir o que mudar. Começaremos pelo diagnóstico e pelas siglas que aparecem no restante do curso.

Três lugares de onde sai a resposta de um modelo de linguagem

Todo modelo de linguagem responde com o que encontra em três lugares. O primeiro são os parâmetros: os bilhões de números ajustados no treino, que guardam o que o modelo aprendeu antes de você chegar. É uma memória parecida com a de quem estudou para uma prova anos atrás: vasta, sem índice e sem data. O modelo não sabe dizer de qual livro tirou cada frase.

Em segundo lugar vem o contexto: o material que chega na chamada, como pergunta, instruções e documentos. A janela de contexto limita quantos tokens cabem nessa interação, como a área de uma mesa para espalhar papéis. O limite varia conforme o modelo e a configuração; parte do espaço também pode ser necessária para a resposta. Antes de dimensionar um projeto, confira a documentação da versão usada.

Ferramentas formam o terceiro lugar. São funções que o modelo chama para buscar ou calcular fora de si: uma busca num índice, uma consulta a banco, um trecho de código executado. O resultado volta para o contexto e só então entra na resposta. Uma calculadora sobre a mesa ajuda quem sabe o que digitar nela; o modelo precisa decidir o que perguntar à ferramenta.

Cada lugar traz uma limitação. A informação aprendida no treino pode estar desatualizada e não fornece, por si só, a fonte de uma afirmação. O contexto ocupa espaço e afeta o custo de processamento. As ferramentas acrescentam trabalho, tempo e possíveis cobranças. Usar os parâmetros não torna a chamada gratuita: o custo depende do serviço, do processamento realizado e do contrato, inclusive das regras de cache.

Os três lugares podem contribuir para o mesmo pedido. Para acompanhar a execução, separe quatro gestos: receber a pergunta e o material; recuperar informações adicionais; usar as evidências para raciocinar; e entregar uma resposta verificável. Uma falha pode ocorrer em mais de um desses momentos.

A primeira arquitetura famosa para o gesto de recuperar é o RAG, sigla de geração aumentada por recuperação. Patrick Lewis e mais onze autores do Facebook AI Research, da UCL e da NYU publicaram a proposta em maio de 2020. O modelo consulta passagens da Wikipédia indexadas por significado e escreve a resposta com elas à vista. Na época, atingiu o melhor resultado em três testes de perguntas abertas.

Os autores chamavam os parâmetros de memória paramétrica e o índice de memória não paramétrica. A recuperação por significado pode encontrar passagens mesmo quando elas usam palavras diferentes da pergunta. Buscar poucos trechos é útil para localizar uma evidência, mas pode ser insuficiente para uma contagem que exige cobertura ampla. Nesse caso, avalie filtros, novas buscas, consultas estruturadas ou leitura sistemática do acervo.

Os RLMs oferecem outra forma de organizar essa leitura: mantêm o material em um ambiente externo e permitem que o modelo escreva código para examiná-lo, selecionar partes e consultar outros modelos sobre elas. Os trechos e resultados necessários voltam ao contexto das chamadas. Essa organização também pode combinar busca com processamento por partes; a escolha depende da tarefa.

O vocabulário do curso e as siglas que parecem iguais

RLM quer dizer Recursive Language Model, modelo de linguagem recursivo. Alex L. Zhang e Omar Khattab apresentaram a ideia num post de blog em 15 de outubro de 2025. O artigo, assinado por Zhang, Tim Kraska e Khattab, os três do MIT CSAIL, saiu no arXiv em 31 de dezembro de 2025. A versão atual, a terceira, é de 11 de maio de 2026.

Pela definição do artigo, o RLM é uma estrutura de inferência montada em volta de um modelo comum. Estrutura de inferência é o programa que organiza as chamadas ao modelo na hora de responder, sem mudar os pesos dele. Por fora, a interface continua a de sempre: entra texto, sai texto. Por dentro, o prompt vira uma variável num ambiente de programação, e o modelo escreve código para ler essa variável aos pedaços.

Recursivo, aqui, significa que o código escrito pelo modelo pode chamar o próprio modelo, ou uma cópia menor dele, sobre um pedaço do material. Cada chamada devolve um resultado que o código guarda e combina. A resposta final nasce dessa árvore de chamadas, e nenhuma delas precisa ler o acervo inteiro. A versão atual do artigo afirma que isso processa entradas mais de uma ordem de grandeza acima da janela do modelo.

Os quatro termos aparecem juntos em anúncios e posts, mas não significam a mesma coisa. Organizar chamadas recursivas não faz o modelo aprender automaticamente com cada pergunta nem altera seus pesos. A preservação de variáveis, registros e resultados depende da implementação. Se a empresa precisa de memória entre sessões, deve projetar e avaliar essa função separadamente.

RLM designa uma abordagem, e não um produto único. O projeto de referência publica a biblioteca rlms; o DSPy oferece o módulo dspy.RLM. As implementações diferem em limites, ferramentas e isolamento. Para uma decisão de compra ou adoção, verifique a versão, os modelos compatíveis e as condições do teste, em vez de inferir capacidade a partir da sigla.

Com as palavras no lugar, a pergunta útil passa a ser “em qual dos quatro gestos o meu sistema falha?”. Uma falha de recuperação pede investigar a busca; uma falha de interpretação pede avaliar o modelo e a forma de apresentar as evidências. Trocar por um modelo maior pode ajudar em algumas tarefas, mas não corrige, por si só, a ausência do material necessário.

Como a Veredas descobriu por que o assistente contava errado

Helena levou a Caio uma pergunta de negócio que o assistente nunca acertava: “quais condicionantes de monitoramento hídrico estão vencidas ou com laudos contraditórios, em quais empreendimentos, e com que evidência?”. Condicionante é a obrigação que o órgão ambiental impõe na licença, como medir a turbidez de um córrego a cada trimestre e entregar o laudo. Vencida quer dizer prazo passado sem laudo entregue.

Antes de trocar qualquer peça, os dois montaram um conjunto de avaliação. Helena escreveu 120 perguntas com a resposta de referência de cada uma: 40 de localização, 50 de agregação ou contagem e 30 de cruzamento entre pares de documentos. Cruzamento é comparar um documento com outro, como o laudo de 2023 com o de 2024 do mesmo poço, para achar contradição.

Rodado sobre as 120 perguntas, o assistente de busca vetorial acertou 64. O retrato por tipo de pergunta mostrou o padrão que Helena já sentia no dia a dia: 36 de 40 em localização, 21 de 50 em agregação e 7 de 30 em cruzamento. O sistema era bom em achar e ruim em juntar.

Caio então abriu cada um dos 56 erros e perguntou em qual gesto a resposta tinha quebrado. Criou quatro rótulos. Informação: o dado não existia no índice, como laudos escaneados sem texto legível. Contexto: o dado existia, mas não chegou ao modelo. Raciocínio: o dado chegou e o modelo concluiu errado, como comparar datas em formatos diferentes. Execução: a resposta quebrou no caminho, cortada ou fora do formato.

Com a regra escrita, o rótulo deixou de depender do palpite de quem lia o erro. Para conferir, Helena sorteou 15 dos 56 rótulos para revisar e discordou de 2. Os dois eram laudos que chegaram ao modelo pela metade, e ambos ficaram como erro de contexto.

Trinta e um dos 56 erros, mais da metade, eram de contexto. O dado estava no acervo e no índice, e o modelo nunca o viu. A causa ficou clara quando Caio contou os documentos que cada resposta exigia. Uma pergunta de contagem sobre condicionantes hídricas em todos os empreendimentos precisava de cerca de 300 documentos. O assistente mandava ao modelo os 8 trechos mais parecidos com a pergunta.

Oito trechos não equivalem a oito documentos completos. Dividir esse número por 300 não mede a cobertura do acervo. Caio precisa verificar quais documentos relevantes chegaram à resposta, se as passagens contêm as datas necessárias e quais ficaram de fora. A busca por significado pode encontrar sinônimos, mas a estratégia de recuperação precisa atender à pergunta: localizar uma passagem e contar todas as ocorrências exigem verificações diferentes.

No cenário, os 12 erros de raciocínio pesavam mais no cruzamento. Mesmo com os dois laudos disponíveis, o modelo misturava unidades, confundia o ponto de coleta ou usava a data de emissão como data de amostragem. Aumentar o contexto, por si só, não garante resolver essas falhas. Os seis erros de informação exigiam melhorar a extração dos PDFs escaneados.

Daí sai também um teto. Se uma nova arquitetura consertasse todos os 31 erros de contexto e nenhum outro, o placar subiria de 64 para 95 acertos em 120. Esse número não promete nada; ele diz até onde vale investir na forma de expor o acervo antes de atacar raciocínio e extração. Proposta que prometa mais precisa explicar qual dos outros três tipos de erro também resolve.

Helena decidiu manter o assistente nas perguntas de localização, em que o cenário registra 90% de acerto, e testar outras formas de recuperar e combinar evidências. Caio ficou com uma pergunta: como processar um acervo de 52 milhões de tokens quando ele excede a janela do modelo escolhido, sem perder o controle sobre o que foi consultado?

Como ler as evidências deste curso. A Veredas, seus personagens, resultados e contas formam um cenário fictício. Resultados de pesquisa aparecem com a publicação de origem; recursos de bibliotecas dependem da versão consultada. A revisão de 24 de outubro de 2026 incorpora trabalhos publicados desde agosto e mantém os textos anteriores que explicam os fundamentos.

A primeira decisão é escolher o problema certo. Classifique as falhas do seu assistente: informação ausente, trecho não recuperado, interpretação errada ou execução incompleta. Conte quantos documentos cada resposta precisa consultar. Esse diagnóstico, e não um número fixo de documentos, determina se vale testar outra forma de leitura.