QUAND L'IA COPIE L'IA, QUELQU'UN DOIT CONTINUER D'APPRENDRE
Entraînez un modèle génératif sur la production d’un modèle précédent, et il se dégrade. Au fil des générations, le contenu le plus rare disparaît avant le commun, et ce que produit le modèle se rétrécit. Cet effondrement des modèles est aujourd’hui bien étudié — ses remèdes aussi. Tous ceux qui marchent apportent quelque chose de l’extérieur de la boucle : des données humaines fraîches, des données réelles conservées, des vérificateurs, une sélection humaine.
Nam Le, du département d’informatique de l’université du Vermont, pointe ce que ces analyses tiennent pour acquis. Elles traitent les données fraîches comme une archive fixe, disponible en quantité voulue, et supposent que le monde décrit reste immobile. Rien de tout cela n’est vrai : le texte frais est écrit par des gens, qui interrogent de plus en plus les modèles au lieu de chercher par eux-mêmes ; et le monde ne cesse de changer.
Un vieux paradoxe
Ces deux questions sont au cœur d’une théorie plus ancienne. En 1988, Rogers a décrit ce qu’on appelle aujourd’hui le paradoxe de Rogers : dans une population où la copie se répand parce qu’elle coûte moins cher, pour chacun, qu’apprendre, tout le monde finit pas mieux loti que dans une population qui n’aurait jamais copié. Les copies se périment, et quelqu’un doit continuer à payer pour apprendre.
Des travaux ultérieurs en évolution culturelle ont affiné l’idée. Un apprenant critique copie, vérifie la copie face au monde et apprend par lui-même si elle échoue ; de tels apprenants relèvent le gain de tous. Un apprenant conformiste copie ce qui est courant, ce qui coûte peu mais érode les variantes rares.
L’argument de Le : entraîner un modèle sur la production d’un autre modèle, c’est exactement de l’apprentissage social en ce sens, et la théorie devrait donc s’appliquer. Dans sa forme la plus simple, elle donne une règle d’une ligne pour la part de savoir que garde une lignée quand une fraction de ses données d’entraînement est fraîche.
Darwin et Moby Dick, recopiés
Pour la tester, Le a entraîné des lignées de petits modèles de langage sur deux livres du projet Gutenberg, L’Origine des espèces de Darwin et Moby Dick de Melville. Chaque génération apprenait sur du texte produit par la précédente, mêlé à un peu de texte frais tiré du livre.
Nourris de leur seule production, des modèles fondés sur les mots ont perdu quatre mots rares sur cinq en douze générations. Un échantillon de la génération de départ se lit encore « i cannot see that a genus become fitted for most justly celebrated elder huber » ; à la douzième, « struggle of the on that may inheritable detected i hybrids, kept. »
Le plus frappant, c’est la prédiction. Le a ajusté l’unique paramètre de la règle — la probabilité qu’un savoir copié se perde à chaque génération — sur la seule lignée entièrement autonourrie, puis l’a utilisé, sans le changer, pour prédire les lignées à 10 %, 30 % ou 50 % de données fraîches. La règle retrouve le nombre de mots rares conservés à 3 points de pourcentage près. Avec une seconde classe de savoir, fragile contre durable, elle tient aussi pour un petit transformeur et pour un modèle de langage pré-entraîné, OPT-125m.
Quand le monde bouge
Ensuite, c’est le « monde » lui-même qui changeait : une fenêtre glissant à travers les deux livres, si bien que du vocabulaire nouveau arrivait sans cesse et que d’anciens mots partaient. Plus il bougeait vite, plus une lignée qui se recopie avait besoin de données fraîches. Pour garder 80 % de ce que couvrirait un corpus entièrement frais, la part fraîche devait passer d’environ 30 % à environ 45 %. Les domaines qui changent vite, prédit l’article, seront les premiers à se dégrader à mesure que le texte synthétique s’accumule.
Le modèle pré-entraîné s’est comporté autrement : son savoir tenait, que le monde bouge ou non. Pour Le, ses poids pré-entraînés — les réglages internes appris sur un vaste corpus avant l’expérience —, hérités tels quels à chaque génération, sont un savoir qui ne passe jamais par la chaîne de copie. Avec une réserve : le texte glissant était ici du texte que le modèle avait déjà vu pendant son pré-entraînement.
Les humains dans la boucle
Vient alors la partie qui donne son titre à l’article. Le a construit un modèle où chacun peut soit découvrir un fait par lui-même, à un certain coût, soit interroger l’IA gratuitement, et n’avoir raison qu’aussi souvent que l’IA. Ce que les gens écrivent devient les données d’entraînement du modèle suivant, avec une part de texte écrit par le modèle lui-même.
L’équilibre est brutal :
- l’IA finit par avoir raison juste assez souvent pour que l’interroger rapporte exactement autant que chercher soi-même, coût de la recherche compris — quelles que soient sa taille ou son architecture ;
- les gens, dans l’ensemble, n’y gagnent rien par rapport à un monde sans IA : le paradoxe de Rogers, pour les humains et les machines réunis ;
- plus les modèles écrivent eux-mêmes leur texte d’entraînement, plus il faut de gens qui continuent d’apprendre par eux-mêmes — deux fois plus quand la moitié du texte vient des modèles. Les données fraîches, conclut Le, se paient en effort humain.
Il existe une porte de sortie. Si les gens vérifient la réponse de l’IA face au monde et réapprennent quand elle est fausse, le paradoxe se brise : dans la simulation, le gain moyen — ce que chacun gagne par fait, 1 pour une réponse juste moins ce qu’a coûté la recherche — se stabilise à 0,93, contre 0,70 sans IA. Les outils qui rendent la vérification bon marché ne sont pas, dans cette optique, un confort, mais ce qui empêche tout le système de s’effondrer.
Des filtres qui aggravent les choses
La même grille de lecture classe les filtres utilisés pour nettoyer les données synthétiques. Garder les échantillons qu’un modèle juge les plus plausibles, c’est copier en conformiste, et dans les expériences cela a accéléré la perte des mots rares : le modèle pré-entraîné n’en a gardé que 5 %, contre 57 % quand la moitié des échantillons était conservée au hasard. Seuls les filtres qui confrontent le texte au monde agissent comme des apprenants critiques. Tout cela a été montré sur de petits modèles, le plus grand de 125 millions de paramètres, et Le désigne le passage à grande échelle comme la principale question ouverte.
