UM MODELO DE LINGUAGEM REESCREVE SEUS PRÓPRIOS PESOS
Um modelo de linguagem é treinado uma vez, congelado e colocado em uso. Para melhorá-lo, normalmente é preciso outro treinamento — grandes clusters de computação, um pipeline de treinamento e as pessoas que sabem usá-los. O que um usuário pode mudar, o prompt, desaparece assim que a tarefa muda. Jiajun Fan, Ge Liu e colegas da UIUC, da CMU, de Rutgers, de Princeton e de Stanford fizeram outra pergunta: um modelo consegue reescrever seus próprios pesos — os bilhões de números que o definem — apenas raciocinando, sem nenhum treinamento?
A resposta, escrevem, é sim, “pela primeira vez, até onde sabemos”. Chamam isso de autorreescrita (self-rewriting).
Uma sessão sobre os próprios pesos
Os experimentos usam uma única família de modelos abertos, Qwen3.5, em quatro tamanhos: 2, 4, 9 e 27 bilhões de parâmetros. Cada modelo recebe uma sessão sobre seus próprios pesos. Ele recebe suas respostas corrigidas a problemas de matemática de treino e um ambiente Python no qual pode ler e sobrescrever suas matrizes de pesos. Também pode executar a si mesmo um número limitado de vezes — 20 passagens diretas (forward passes) — para responder a problemas com e sem sua edição, usando as mesmas sementes aleatórias, ou para ler seus próprios estados ocultos.
O que ele não pode fazer é treinar. O ambiente recusa qualquer cálculo de gradientes e qualquer otimizador, não tem GPU nem acesso à rede e bloqueia edições que apenas mudariam a escala de uma matriz inteira. Cada valor que o modelo altera é escrito pelo seu próprio raciocínio. Os resultados são então verificados em problemas que as sessões nunca viram.
Encontrando a matriz quebrada
Num primeiro teste, a equipe deu ao modelo de 27 bilhões de parâmetros uma cópia danificada de si mesmo: oito linhas de uma matriz, na camada 30 de 64, sobrescritas com ruído. O modelo só foi informado de que alguns valores tinham sido corrompidos. A cópia não resolvia nada.
Sua sessão parece uma depuração. Primeiro ele suspeitou das primeiras camadas — errado, e seus próprios testes disseram isso. Depois comparou o maior peso de cada matriz de saída com o peso típico e encontrou o culpado: “A down_proj da camada 30 tem um valor atípico extremo de 1397x”. Sua correção foi suave: nessa matriz e em 19 outras, limitar qualquer peso acima de 15 vezes a mediana de sua matriz. Ele não restaurou os valores originais, que nunca viu; limitou os aleatórios. Em 200 problemas de matemática reservados, a cópia passou de 0% para 33%. Mais impressionante: o reparo, encontrado apenas com texto, também funcionou com imagens: em seis benchmarks de imagens que nunca tinha visto, a cópia subiu de 7,3% para 70,2%, o que equivale a 83% da precisão do modelo intacto.
Aprendendo a parar
Com seus próprios pesos intactos, o modelo 27B partiu de um diagnóstico: a maioria de suas respostas esgotava os tokens, mas quase todas as que terminavam estavam certas. Em suas próprias palavras: “meu raciocínio está correto, mas me alongo demais ou não convirjo para conclusões de forma eficiente.”
Então ele comparou seus estados ocultos nas respostas que terminam e nas que se estendem sem fim, encontrou a direção que as separa e removeu uma pequena parte dela de uma camada. Seus testes favoreceram a edição. Num segundo protocolo, o sistema também verificava cada edição uma vez em problemas reservados antes que o modelo decidisse submetê-la. Nas oito primeiras sessões desse tipo, todas relatadas, o modelo desistiu em cinco e submeteu três. Duas delas o tornaram significativamente melhor em 490 problemas novos: +6,6 pontos (de 57,2% para 63,8%) e +4,0 pontos. O maior ganho veio de uma mudança surpreendentemente simples — ajustar levemente um parâmetro em cada camada de atenção linear —, depois da qual menos respostas esgotaram os tokens. Num problema, o modelo original repetiu uma única frase 549 vezes sem responder; depois da edição, respondeu corretamente. Cada sessão por trás dos maiores ganhos rodou em poucas horas numa única GPU.
Só o maior modelo consegue
Com a mesma tarefa e as mesmas ferramentas, o tamanho fez toda a diferença. O modelo de 2 bilhões de parâmetros não fez nenhuma edição: a maior parte de seu código falhou. Os modelos de 4 e 9 bilhões adicionaram ruído aleatório a seus pesos e se quebraram; o modelo de 9 bilhões chegou a submeter uma edição que o deixou incapaz de responder a problemas novos. Só o modelo de 27 bilhões mediu antes de agir e manteve o que seus testes sustentavam. Para os autores, essa é a primeira evidência, dentro de uma família de modelos, de que a capacidade de diagnosticar e reescrever os próprios pesos cresce com o tamanho.
Em que se apoiam as afirmações
Os resultados vêm de uma única família de modelos e, na maior parte, de problemas de matemática. Os ganhos corrigem principalmente respostas que nunca terminam, e uma das três edições submetidas não trouxe ganho significativo. O reparo recupera a maior parte, não tudo, do que o dano removeu. Os autores vislumbram um futuro em que melhorar um modelo exija “uma conversa em vez de um treinamento” e, possivelmente, um caminho para modelos que melhorem a si mesmos repetidas vezes. Esse caminho, insistem, deve ser trilhado com pessoas no circuito (in the loop): cada versão que um modelo fizer de si mesmo deve ser avaliada, quanto à segurança e quanto à tarefa, e confirmada por uma pessoa.
