RLM 2027 · Capítulo 21 de 30 · 13 min
Classificar cada auto-melhoria pelo que ela altera e por quem a avalia
Posicione 16 métodos de auto-melhoria pelo objeto alterado e pelo validador e separe aprender de selecionar antes de chamar uma mudança de aprendizado.
Este capítulo faz parte do curso gratuito RLM 2027.
No relatório trimestral da Veredas, três mudanças diferentes apareceram sob a mesma frase: “o assistente aprendeu com o uso”. A primeira era a memória de estratégias, que o agente propõe e Caio aprova toda semana. A segunda, a queda de US$ 0,86 para US$ 0,41 por pergunta, que Caio fez à mão. A terceira, uma proposta dele para deixar um otimizador reescrever as instruções do módulo RLM.
Helena devolveu o relatório com duas perguntas para cada mudança: o que mudou de fato e quem garantiu que a mudança era boa? Sem essas respostas, o cliente lê “aprendeu” como promessa de que o sistema vai melhorar sozinho, e a Veredas assume um compromisso que nunca mediu. Das três mudanças, só a primeira é auto-melhoria em operação; a segunda é trabalho de engenheiro, e a terceira ainda precisa de portão.
Ao terminar, você classifica qualquer método de auto-melhoria por dois eixos: o objeto alterado e o validador. Você posiciona 16 trabalhos de 2022 a 2025 nessa grade, com o número principal de cada um, e entende por dentro os métodos que adaptam um agente sem tocar nos pesos do modelo.
Auto-melhoria, neste curso, é uma mudança persistente que um sistema faz em si mesmo a partir do próprio desempenho, como o cozinheiro que anota no caderno o ajuste que deu certo e o usa no dia seguinte. Três fenômenos vizinhos recebem o mesmo nome e falham em ao menos uma das três condições: persistir, partir do desempenho e ser proposta pelo próprio sistema.
Quatro fenômenos que costumam levar o mesmo nome
| Fenômeno | O que sobra depois da tarefa | Quem propõe a mudança | Exemplo no curso |
|---|---|---|---|
| Recursão de inferência | Nada: as subchamadas terminam com a execução | O modelo, dentro de uma pergunta | As 30 subchamadas por pergunta do protótipo dspy.RLM |
| Repetição com ferramentas | Nada: o agente tenta de novo até passar e esquece | O modelo, dentro de uma tarefa | O laço que refaz a resposta quando a checagem de formato recusa |
| Ajuste fino (fine-tuning) | Pesos novos | Uma equipe, com dados que ela escolheu | O RLM-Qwen3-8B treinado por Zhang, Kraska e Khattab |
| Auto-melhoria | Prompt, memória, código ou pesos alterados | O próprio sistema, a partir do que fez | A memória de estratégias da Veredas |
Ajuste fino: treinar de novo um modelo pronto com exemplos escolhidos, mudando os pesos.
As fronteiras se movem com um detalhe. O ajuste fino vira auto-melhoria quando é o sistema que gera os próprios dados de treino e decide o que fica, como no STaR. A repetição vira auto-melhoria quando o que funcionou é gravado e relido na tentativa seguinte, como no Reflexion, ainda que só dentro da mesma tarefa. O teste rápido cabe numa pergunta: se você reinicia o sistema amanhã, alguma coisa que ele mudou em si continua lá?
Dois eixos bastam para posicionar qualquer método. O primeiro é o objeto alterado, em ordem crescente de custo para desfazer: o prompt, a memória ou contexto (notas e casos lidos a cada execução), o código do agente (ferramentas, laço, habilidades) e os pesos, que só mudam com treino. O segundo é quem valida: o próprio modelo, um juiz de IA (outro modelo que lê e dá nota), um verificador programático (um programa que confere, como um teste) ou um humano.
Se a figura ultrapassar a área visível, deslize para os lados. Pelo teclado, foque a figura e use as setas.
A grade mostra três coisas. Quase todo método publicado depende de um verificador programático, porque é o sinal mais barato de repetir milhares de vezes. Os que confiam no próprio modelo ficam nas pontas: o Self-Refine, que nem persiste, e o Self-Rewarding, que mexe nos pesos por DPO (treino com pares de respostas, uma melhor e uma pior, sem gerar amostras novas durante o treino). A coluna humana está quase vazia, e é nela que a Veredas opera.
Dezesseis métodos de auto-melhoria pelos dois eixos
| Método | Data | O que muda | Quem valida | Número principal |
|---|---|---|---|---|
| STaR | 03/2022 | Pesos, ajustados nos raciocínios que acertaram | Verificador: a resposta final confere com o gabarito | Comparável a ajustar um modelo 30 vezes maior no CommonsenseQA |
| Self-Refine | 03/2023 | Só a saída da tarefa; nada persiste | O próprio modelo aponta falhas e reescreve | Cerca de 20 pontos absolutos em média, em sete tarefas |
| Reflexion | 03/2023 | Memória episódica em texto | Testes e sinais do ambiente, lidos pelo próprio modelo | 91% de pass@1 no HumanEval, contra 80% do GPT-4 |
| Voyager | 05/2023 | Código: biblioteca de habilidades | Juiz de IA (o GPT-4 confere a tarefa) e o ambiente | 3,3 vezes mais itens únicos no Minecraft; marcos até 15,3 vezes mais rápido |
| Promptbreeder | 09/2023 | Prompts e os próprios prompts de mutação | Verificador: acerto num lote de treino | Supera Chain-of-Thought e Plan-and-Solve; sem percentual no resumo |
| Self-Rewarding LMs | 01/2024 | Pesos, por DPO iterativo | O próprio modelo como juiz | Llama 2 70B, em três iterações, supera Claude 2, Gemini Pro e GPT-4 0613 no AlpacaEval 2.0 |
| ADAS | 08/2024 | Código: o desenho do agente | Verificador: nota em benchmark | Agentes inventados mantêm vantagem ao mudar de domínio e de modelo; sem percentual |
| Gödel Agent | 10/2024 | Código do agente, inclusive a lógica que o melhora | Verificador: utilidade medida no ambiente | ACL 2025; sem percentual no resumo |
| SICA | 04/2025 | O próprio código do agente | Verificador: benchmark | De 17% para 53% num subconjunto aleatório do SWE-Bench Verified |
| Darwin Gödel Machine | 05/2025 | Código do agente, com arquivo aberto de variantes | Verificador: benchmark | SWE-bench de 20,0% para 50,0%; Polyglot de 14,2% para 30,7% |
| AlphaEvolve | 05/2025 | Código de programas-alvo (algoritmos, kernels) | Avaliadores automáticos | 0,7% da computação do Google recuperada; 48 multiplicações em matrizes complexas 4x4 |
| Absolute Zero | 05/2025 | Pesos, com tarefas que o próprio modelo propõe | Verificador: executor de código | Estado da arte em código e matemática sem dados externos; sem percentual |
| SEAL | 06/2025 | Pesos, por autoedições que viram ajuste fino | Verificador: desempenho depois da atualização | Sem percentual no resumo |
| GEPA | 07/2025 | Instruções de cada módulo | Métrica com nota e texto de retorno | 6% acima do GRPO na média, até 20%, com até 35 vezes menos rollouts |
| Memento | 08/2025 | Memória de casos; o LLM fica congelado | Retorno do ambiente | 87,88% Pass@3 na validação do GAIA; 79,40% no teste |
| ACE | 10/2025 | Contexto: um manual de estratégias | Retorno de execução, lido por um refletor de IA | +10,6% em agentes e +8,6% em finanças |
pass@1: acerto com uma única resposta submetida por problema; no Reflexion, essa resposta pode sair de várias rodadas internas com testes do próprio agente. Rollout: uma execução completa do sistema numa tarefa. Autoedição, no SEAL: texto que o próprio modelo escreve para ser usado no próprio ajuste fino.
Fonte: Resumos no arXiv (data da primeira versão) e post do Google DeepMind de 14/05/2025 para o AlphaEvolve; conferidos em outubro de 2026
Leia a coluna de números com a etiqueta de cada um. Os do AlphaEvolve são da própria empresa sobre o próprio sistema. O ganho do SICA vale num subconjunto do benchmark. O do GEPA compara com o GRPO, otimizador de aprendizado por reforço que usa a média de um grupo de respostas como linha de base; o curso de aprendizado por reforço explica a mecânica. Cinco resumos não trazem percentual: Promptbreeder, ADAS, Gödel Agent, SEAL e Absolute Zero.
Auto-melhoria de 2022 a 2026, pelo objeto que cada trabalho alterou
- março de 2022Concluído
STaR
Pesos ajustados nos próprios raciocínios que acertaram.
- março de 2023Concluído
Reflexion e Self-Refine
Memória verbal entre tentativas; crítica que não persiste.
- maio de 2023Concluído
Voyager
Biblioteca de habilidades escritas em código.
- janeiro de 2024Concluído
Self-Rewarding
O modelo vira juiz do próprio treino.
- agosto de 2024Concluído
ADAS
Um meta-agente programa agentes novos.
- maio de 2025Concluído
AlphaEvolve e Darwin Gödel Machine
Laços evolutivos com avaliador automático e arquivo.
- julho de 2025Concluído
GEPA
Reflexão em linguagem natural e seleção por Pareto.
- outubro de 2025Concluído
ACE
Contexto que cresce por atualizações incrementais.
- março de 2026Concluído
Memento-Skills
Habilidades em markdown que evoluem sem mexer nos pesos.
- maio de 2026Concluído
More Skills, Worse Agents?
Biblioteca de 202 habilidades perde até 21%.
- agosto de 2026Agora
Prime Agent
Laço /refine sobre prompts, memória e subagentes.
Dentro da grade, um terceiro corte separa quem aprende de quem seleciona. Selecionar é gerar muitas variantes e guardar a que avaliou melhor, como um concurso de receitas: nenhuma receita aprende nada, o júri escolhe. Aprender é atualizar um estado que muda o comportamento em casos novos, como pesos treinados ou uma memória consultada a cada tarefa. A diferença decide o que conta como prova.
Quatro mecanismos e o que cada um precisa provar
| Mecanismo | O que acontece | Exemplos | O que conta como prova |
|---|---|---|---|
| Refinar durante a inferência | O modelo aponta as falhas da própria resposta e a reescreve | Self-Refine | Ganho por tarefa contra uma única tentativa, com o custo das tentativas extras |
| Recuperar experiência | Notas ou casos de tarefas passadas entram no contexto | Reflexion, Memento, ACE | Ganho em tarefas novas, além da tarefa repetida |
| Selecionar entre variantes | Gera candidatos e guarda o que avaliou melhor | Promptbreeder, GEPA, AlphaEvolve, Darwin Gödel Machine | Ganho num conjunto que a seleção nunca viu |
| Atualizar pesos | Gradiente sobre dados que o próprio sistema gerou | STaR, Self-Rewarding, SEAL, Absolute Zero | Ganho fora da distribuição de treino e sem regressão no que já funcionava |
Como a adaptação sem pesos funciona por dentro
No Reflexion, de março de 2023, o agente erra, escreve em texto por que errou e guarda esse comentário numa memória episódica, lida na tentativa seguinte da mesma tarefa. Os autores chamam isso de reforço verbal: o sinal de erro vira frase, sem gradiente. Os 91% no HumanEval vêm de tentativas repetidas no mesmo problema, com testes que o próprio agente escreve; levar a lição para um problema novo fica fora do desenho.
O ACE, de outubro de 2025, trata o contexto como um manual de estratégias que cresce. Três papéis dividem o trabalho: o gerador resolve tarefas e produz trajetórias, o refletor lê as trajetórias e extrai lições, e o curador transforma as lições em itens curtos e os integra ao manual. A integração é incremental, por delta: entram itens novos e mudam itens específicos, sem reescrever o manual inteiro.
- Etapa 1 de 5: Gerador
Resolve a tarefa e registra a trajetória
- Etapa 2 de 5: Refletor
Lê a trajetória e escreve a lição
- Etapa 3 de 5: Curador
Converte a lição em item e calcula o delta
- Etapa 4 de 5: Manual atualizado
Itens novos somados, repetidos fundidos
- Etapa 5 de 5: Próxima tarefa
O gerador lê o manual inteiro
O delta responde a dois defeitos que o artigo nomeia. Métodos anteriores reescreviam o contexto inteiro a cada rodada. Sofriam de viés de brevidade, que troca o detalhe do domínio por um resumo enxuto, e de colapso de contexto, em que a reescrita repetida apaga detalhes até o manual ficar genérico. Com itens estruturados e atualizações locais, o ACE ganhou 10,6% em agentes e 8,6% em finanças, sem rótulos humanos, só com o retorno natural da execução.
A memória da Veredas corre o mesmo risco. Se Caio pedisse ao agente que fundisse as dez notas aprovadas num texto único toda semana, a nota sobre o número da condicionante logo depois da sigla da licença viraria “procure padrões antes de ler” em poucas rodadas. Notas guardadas como itens separados, com data e autor, são o delta da Veredas.
O GEPA, de julho de 2025, evolui as instruções de um programa com dois recursos. A métrica devolve nota e um texto que diz por que a execução errou, e um modelo de reflexão lê esse texto e propõe a instrução nova. A seleção mantém uma fronteira de Pareto por instância: guarda todo candidato que tem a melhor nota em ao menos um exemplo de validação, o que preserva estratégias complementares.
O Memento, de agosto de 2025, guarda casos: cada tarefa vira um registro com plano, resultado e nota, e a tarefa seguinte busca os casos parecidos antes de agir. O LLM fica congelado; o que pode ser treinado é o seletor de casos, uma rede pequena à parte. Na mesma família, o Training-Free GRPO, de outubro de 2025, compara grupos de tentativas e guarda a lição em texto, sem calcular gradiente; o nome imita o GRPO só por analogia.
Adaptação sem pesos, lado a lado
| Método | O que guarda | Como atualiza | Risco típico |
|---|---|---|---|
| Reflexion | Comentário em texto sobre a tentativa que falhou | A cada tentativa da mesma tarefa | Lição que só vale para aquela tarefa |
| ACE | Manual de estratégias em itens | Delta do curador depois de cada lote | Manual que incha e é lido inteiro em toda execução |
| GEPA | Instruções de cada módulo | Reflexão sobre o texto da métrica e seleção por Pareto | Instrução ajustada ao conjunto que a escolheu |
| Memento | Casos com plano, resultado e nota | Grava caso novo; o seletor aprende a buscar | Caso ruim recuperado como se fosse bom |
| Training-Free GRPO | Lições extraídas de grupos de tentativas | Comparação entre tentativas do mesmo grupo | Nome que sugere treino de pesos que não acontece |
Em todos, os pesos do modelo de linguagem continuam os mesmos. No Memento, a memória de casos soma de 4,7 a 9,6 pontos absolutos em tarefas fora da distribuição.
Fonte: arXiv 2303.11366, 2510.04618, 2507.19457, 2508.16153 e 2510.08191
Adaptar sem pesos tem um custo que cresce em silêncio. Em maio de 2026, Song e Wei mediram que agentes perdem até 21% de desempenho quando a biblioteca passa de poucas habilidades úteis para 202, porque o agente escolhe a habilidade errada. Em abril, Zhao e colegas mostraram que experiência acumulada só em tarefas benignas ainda pode reduzir a recusa em cenários de risco. Memória e manual pedem poda com a mesma frequência com que crescem.
Classifique as dez intervenções da tabela abaixo pelas duas perguntas de Helena, o que mudou e quem validou, antes de ler a última coluna. Duas são da Veredas; uma delas é a memória de estratégias do capítulo sobre provar uma auto-melhoria antes de acreditar nela.
Dez intervenções classificadas pelos dois eixos
| Intervenção | O que muda | Quem valida | É auto-melhoria? |
|---|---|---|---|
| Memória de estratégias da Veredas: o agente propõe notas e Caio aprova | Memória | Humano, com metade retida | Sim, com portão humano |
| Queda de US$ 0,86 para US$ 0,41 por pergunta na Veredas | Código, mudado por Caio | Humano, nas 120 perguntas | Não: a mudança veio de fora |
| RLM que abre 30 subchamadas para responder uma pergunta | Nada persiste | Não se aplica | Não: recursão de inferência |
| Agente de código que roda os testes e tenta de novo até passar | Só a saída | Testes | Não: repetição sem memória |
| Reflexion em cinco tentativas do mesmo problema | Memória episódica | Testes escritos pelo próprio agente | Sim, de alcance curto |
| Equipe ajusta um modelo com 5 mil exemplos rotulados | Pesos | Humano, pelos rótulos | Não: ajuste fino externo |
| Modelo julga as próprias respostas e treina por DPO | Pesos | O próprio modelo | Sim, sem validador externo |
| Agente reescreve o próprio código e mede no SWE-bench | Código | Verificador programático | Sim |
| Biblioteca de habilidades que cresce a cada tarefa concluída | Código | Juiz de IA | Sim |
| Manual de estratégias atualizado por delta depois de cada lote | Contexto | Retorno de execução e refletor de IA | Sim |
As duas primeiras linhas são do cenário ilustrativo da Veredas Ambiental.
O relatório trimestral diz que o assistente da Veredas “aprendeu com o uso” e que a acurácia vai subir sozinha. A única auto-melhoria persistente é a memória de dez notas aprovadas por Caio; o ganho medido foi de custo, de US$ 0,41 para US$ 0,37 por pergunta.
Como a frase deve sair no relatório ao cliente?
Liste as mudanças que o seu sistema sofreu nos últimos três meses e escreva, para cada uma, o objeto alterado, o validador e se ela sobrevive a um reinício. Está pronto quando nenhuma linha tem “o próprio modelo” como único validador sem um conjunto de perguntas que ele nunca viu ao lado. O próximo capítulo monta esse conjunto e o laço que seleciona variantes contra ele.
Seu caderno neste capítulo
Abrir o caderno completoSelecione um trecho do capítulo para destacar ou anotar. Nos vídeos e áudios, use Anotar este momento. No teclado, selecione com Shift e as setas e use Alt+Shift+D para destacar ou Alt+Shift+N para anotar.
Salvo neste navegador. Entre na sua conta para levar o caderno a outros aparelhos.
Entre na sua conta para compartilhar o que aprendeu e convidar alguém para estudar com você.
Conexões deste capítulo
Veja o que estudar antes e para onde seguir depois, explore os conceitos e compare abordagens em outros cursos. Sugestões marcadas como “sugerido pelo grafo” vêm dos assuntos em comum, não do índice do curso.
Estude antes
- Descubra como a IA escolhe quem citarsugerido pelo grafoApresenta os conceitos “Fine-tuning” e “LLM”, usados em “Classificar cada auto-melhoria pelo que ela altera e por quem a avalia”.
- CursoVídeo com IA: Claude Code, Codex e ElevenLabssugerido pelo grafo4 capítulos de “RLM 2027” usam conceitos apresentados em “Vídeo com IA: Claude Code, Codex e ElevenLabs”.
- CursoSkills de IA com Vibecoding e Terminalsugerido pelo grafo2 capítulos de “RLM 2027” usam conceitos apresentados em “Skills de IA com Vibecoding e Terminal”.
- CursoSetup Completo: do zero ao Claude Codesugerido pelo grafo3 capítulos de “RLM 2027” usam conceitos apresentados em “Setup Completo: do zero ao Claude Code”.
Conceitos deste capítulo
O mesmo assunto em outros cursos
- Agentes de código para executivosTreinar agentes de vários turnos e decidir quem recebe o créditoExaminar conexões de Treinar agentes de vários turnos e decidir quem recebe o crédito
- Prompt Engineering para ExecutivosAvaliar a IA com uma planilha de 20 a 50 tarefas reaisExaminar conexões de Avaliar a IA com uma planilha de 20 a 50 tarefas reais
- Agentes de IA Autônomos: Do Conceito à ProduçãoTestes e avaliaçãoExaminar conexões de Testes e avaliação
Voltar ao capítulo anterior: Mapear híbridos, imagem e trabalho prolongado com evidência e lacuna
Leve uma ideia para a prática
Escolha uma atividade no painel e volte a este curso quando quiser.
Atividades e evolução ficam reunidas no painel da sua conta.
Capítulos vizinhos em RLM 2027
- 19Julgar as apostas de recursão aprendida e execução previsível
- 20Mapear híbridos, imagem e trabalho prolongado com evidência e lacuna
- 21Classificar cada auto-melhoria pelo que ela altera e por quem a avalia
- 22Montar o laço gerar, avaliar e selecionar com um conjunto selado
- 23Distribuir o crédito numa árvore de chamadas: resultado, processo ou verificador