CUANDO LA IA COPIA A LA IA, ALGUIEN TIENE QUE SEGUIR APRENDIENDO
Si se entrena un modelo generativo con lo que produce un modelo anterior, se degrada. A lo largo de las generaciones sucesivas, el contenido más raro desaparece antes que el común, y lo que el modelo produce se va estrechando. Este colapso del modelo (model collapse) está hoy bien estudiado, y también sus remedios. Todos los que funcionan aportan algo de fuera del bucle: datos humanos frescos, datos reales conservados, verificadores, selección humana.
Nam Le, especialista en informática de la Universidad de Vermont, señala lo que esos análisis dan por sentado. Tratan los datos frescos como un archivo fijo, disponible en la cantidad que haga falta, y suponen que el mundo descrito permanece inmóvil. Ninguna de las dos cosas es cierta: el texto fresco lo escriben personas, que cada vez más preguntan a los modelos en lugar de averiguar las cosas por sí mismas; y el mundo no deja de cambiar.
Una vieja paradoja
Ambas cuestiones están en el corazón de una teoría más antigua. En 1988, Rogers describió lo que hoy se llama la paradoja de Rogers: en una población en la que la copia se extiende porque, a nivel individual, sale más barata que aprender, todo el mundo acaba sin estar mejor que en una población que nunca copió. Las copias se quedan anticuadas, y alguien tiene que seguir pagando por aprender.
Trabajos posteriores en evolución cultural afinaron la idea. Un aprendiz crítico copia, contrasta la copia con el mundo y aprende por su cuenta si falla; estos aprendices elevan la ganancia de todos. Un aprendiz conformista copia lo que es común, lo cual es barato pero erosiona las variantes raras.
El argumento de Le es que entrenar un modelo con lo que produce otro modelo es aprendizaje social exactamente en este sentido, así que la teoría debería aplicarse. En su forma más simple, da una regla de una sola línea sobre cuánto conocimiento conserva un linaje cuando una parte de sus datos de entrenamiento es fresca.
Darwin y Moby-Dick, recopiados
Para ponerla a prueba, Le entrenó linajes de pequeños modelos de lenguaje con dos libros del Proyecto Gutenberg, El origen de las especies de Darwin y Moby-Dick de Melville. Cada generación aprendía del texto producido por la anterior, mezclado con algo de texto fresco del libro.
Alimentados solo con lo que ellos mismos producían, los modelos a nivel de palabra perdieron cuatro de cada cinco palabras raras en doce generaciones. Una muestra de la generación inicial todavía dice «i cannot see that a genus become fitted for most justly celebrated elder huber»; en la duodécima, «struggle of the on that may inheritable detected i hybrids, kept».
Lo llamativo es la predicción. Le ajustó el único parámetro de la regla —la probabilidad de que un fragmento de conocimiento copiado se pierda en cada generación— solo con el linaje totalmente autoalimentado, y después lo usó, sin cambios, para predecir linajes con un 10%, un 30% o un 50% de datos frescos. Acertó cuántas palabras raras conservaban con un margen de 3 puntos porcentuales. Con una segunda clase de conocimiento, frágil frente a duradero, la regla se cumplió también para un pequeño transformer y para un modelo de lenguaje preentrenado, OPT-125m.
Cuando el mundo se mueve
Después se hizo cambiar al propio «mundo»: una ventana que se desliza a lo largo de los dos libros, de modo que no dejaba de llegar vocabulario nuevo y de irse palabras viejas. Cuanto más rápido se movía, más datos frescos necesitaba un linaje que se copia a sí mismo. Para conservar el 80% de lo que cubriría un corpus totalmente fresco, la parte fresca tuvo que subir de alrededor del 30% a alrededor del 45%. Los dominios que cambian deprisa, predice el artículo, serán los primeros en degradarse a medida que se acumule el texto sintético.
El modelo preentrenado se comportó de otra manera: su conocimiento se mantuvo tanto si el mundo se movía como si no. La lectura de Le es que sus pesos preentrenados, heredados sin cambios en cada generación, son un conocimiento que nunca pasa por la cadena de copias. Con una salvedad: el texto en movimiento era aquí un texto que el modelo ya había visto durante el preentrenamiento.
Personas en el bucle
Llega entonces la parte que da título al artículo. Le construyó un modelo en el que la gente puede averiguar un dato por sí misma, con un coste, o preguntar gratis a la IA y acertar solo con la misma frecuencia que la IA. Lo que la gente escribe se convierte en los datos de entrenamiento del modelo siguiente, junto con algo de texto que el propio modelo escribe.
El equilibrio es tajante:
- la IA acaba acertando justo lo suficiente para que preguntarle compense exactamente lo mismo que averiguarlo por uno mismo, una vez contado el coste de averiguarlo, sean cuales sean su tamaño o su arquitectura;
- la gente, en conjunto, no sale mejor parada que sin la IA: la paradoja de Rogers, para humanos y máquinas a la vez;
- cuanto mayor es la parte del texto de entrenamiento que escriben los propios modelos, más personas tienen que seguir aprendiendo por su cuenta: el doble cuando la mitad del texto lo escriben los modelos. Los datos frescos, concluye Le, se pagan con esfuerzo humano.
Hay una salida. Si la gente contrasta la respuesta de la IA con el mundo y vuelve a aprender cuando se equivoca, la paradoja se rompe: en la simulación, la ganancia media se estabiliza en 0,93, frente a 0,70 sin la IA. Las herramientas que abaratan la verificación no son, desde este punto de vista, una comodidad, sino lo que impide que todo el sistema colapse.
Filtros que lo empeoran
La misma lente permite clasificar los filtros que se usan para limpiar los datos sintéticos. Quedarse con las muestras que un modelo considera más plausibles es copia conformista, y en los experimentos aceleró la pérdida de palabras raras: el modelo preentrenado conservó el 5% de ellas, frente al 57% cuando se conservaba la mitad de las muestras al azar. Solo los filtros que contrastan el texto con el mundo actúan como aprendices críticos. Todo esto se demostró con modelos pequeños, el mayor de 125 millones de parámetros, y Le señala que probarlo a gran escala es la gran cuestión pendiente.
