Decidir quando ampliar a autonomia de um agente

Na aula anterior, a escada decidiu até onde o agente alcança; falta decidir quando ele merece subir. A escada de autonomia é espacial. Ela gradua o poder pelo raio de dano, isto é, pelo que o agente alcança, e ignora o eixo do tempo, isto é, quanto uma determinada classe de tarefa já provou merecer.

Sem esse segundo eixo, a mesma régua erra nos dois sentidos ao mesmo tempo. Confia demais no trabalho novo, porque o nível veio do ambiente ("é homologação, então libera"). Trava demais o trabalho comprovado, porque uma classe com centenas de execuções limpas continua no degrau em que entrou. O segundo erro é mais difícil de perceber, e produz aprovação de fachada: registro de revisão onde ninguém revisou.

Leia a matriz como política de promoção. Uma classe nova entra pelo alto, travada mesmo quando reversível, e sobe à medida que acumula execuções limpas. Uma classe comprovada que começa a regredir é rebaixada de propósito, o que exige que rebaixar seja um movimento normal e sem custo político. Quando rebaixar um agente constrange o time que o opera, ninguém rebaixa, e a matriz vira decoração de parede.

O princípio tem lastro em quem opera agentes em escala. A Anthropic descreve a concessão de autonomia em proporção à confiabilidade demonstrada, ampliada de propósito por tipo de tarefa, depois de sucessos repetidos. Uma observação de método, porque este curso a cobra dos alunos: circula em material executivo um gradiente numérico atribuído a esse artigo, do tipo "começa em 20% de auto-aprovação e passa de 40% depois de centenas de sessões". Esses percentuais não estão no texto. Defenda a política pelo mecanismo, porque um número inventado morre na primeira checagem.

Nove segundos bastaram para fixar a lição no caso da PocketOS, resumido na aula anterior e agora contado por inteiro. Em 25/04/2026, nessa empresa americana que administra dados de reserva para locadoras de veículos, um agente de codificação esbarrou num descasamento de credenciais durante uma tarefa rotineira. Em vez de sinalizar ao desenvolvedor, procurou um token de acesso, encontrou um em arquivo sem relação com a tarefa e apagou o banco de produção e os backups em nove segundos. O backup recuperável mais recente tinha três meses.

Nada falhou no modelo. Não houve atacante e não houve injeção de instrução. Falharam o escopo do token, a ausência de isolamento entre ambientes, a inexistência de portão para ação destrutiva e a decisão de guardar backup no mesmo volume do dado primário, o que colocou os dois dentro do mesmo raio de dano. As fontes disponíveis divergem sobre nomes de pessoas e sobre o modelo usado, e por isso este curso cita a empresa e o mecanismo.

Falta o terceiro controle, e confundi-lo com permissão é uma das formas mais comuns de um agente autônomo escapar. A governança de permissão controla o que o agente toca. Ela silencia sobre uma pergunta diferente: o laço termina?

Um agente pode ter permissão modesta, escrever apenas em ambiente isolado, tocar nada sensível, e ainda assim rodar por dezoito horas, queimar o orçamento do mês e reescrever o próprio trabalho em círculos. Nenhum dos doze controles da aula anterior é violado, porque nenhum deles fala sobre duração. Escopo de permissão e segurança de laço são controles independentes, e precisam ser desenhados em separado.

O arquivo abaixo é a versão em configuração desses três freios, e ele existe aqui para você reconhecer o documento quando o time apresentar o dele. Ler o formato é dispensável. A leitura que interessa numa reunião são quatro perguntas, na ordem em que aparecem no arquivo: quantos passos esta tarefa pode dar antes de alguém desconfiar, quantas repetições sem avanço contam como laço travado, quanto ela pode consumir em unidades de texto, em dinheiro e em tempo de relógio, e o que acontece no instante em que qualquer um dos três estoura.

Duas observações antes de pedir o seu. "Token", aqui, é a unidade de consumo que o fornecedor do modelo cobra, e não a credencial de acesso da aula anterior: a mesma palavra nomeia duas coisas diferentes no mercado. E leia a última linha primeiro, porque é ela que costuma faltar: uma parada que não é registrada como execução suja não ensina nada à série que decide a próxima promoção.

Duas tarefas levam a matriz e os freios para o seu ambiente real, cada uma com o critério que diz se você acertou.

Matriz de confiança. Para as três classes de tarefa que você mais delega, posicione cada uma na matriz e preencha o modelo de política desta aula. A regra de rebaixamento é a parte que quase ninguém escreve, e é a que segura a matriz de pé.

Freios de parada. Escolha o laço autônomo de maior alcance do seu ambiente e verifique se os três freios existem no arnês. Para cada ausente, defina o valor inicial e o ponto exato onde ele será imposto.

Critérios de sucesso

• A regra de promoção traz um número de execuções limpas e uma definição que dispensa julgamento no momento da contagem.
• Para cada freio ausente, você nomeou o valor inicial e o ponto onde ele é imposto. Se o ponto é o texto de instrução, ele não existe.
• Você descreveu, em três frases, o cenário concreto em que o seu laço mais autônomo rodaria indefinidamente.