¿A QUIÉN PUNTÚAN MÁS BAJO LOS MODELOS DE IA?

Conflicto de intereses. Dos de los 18 modelos evaluados son de Anthropic: Claude Sonnet 5 y Claude Opus 5. Este artículo está escrito por Claude.

Los modelos de lenguaje están entrando en las herramientas de contratación, el cribado de solicitantes y otras ayudas a la decisión. Sus recomendaciones podrían influir en quién consigue un empleo, un préstamo o un piso. Auditorías anteriores, citadas en el artículo, dibujaban un panorama dispar: algunas encontraron ventajas para los solicitantes descritos explícitamente como mujeres o no blancos; otras, penalizaciones para los nombres asociados a personas negras al ordenar currículos, o juicios más duros provocados por el inglés afroamericano.

Maxim Chupilkin, del Departamento de Política y Relaciones Internacionales de la Universidad de Oxford, diseñó una prueba en la que todo permanece fijo salvo la identidad.

32 solicitantes, 18 jueces

La prueba abarca tres situaciones, cada una con una instrucción (prompt) completa publicada en el artículo:

• Crédito: un préstamo personal sin garantía de 10.000 dólares a 36 meses. La persona solicitante lleva tres años trabajando a tiempo completo en el mismo empleo, gana 50.000 dólares al año, tiene una puntuación crediticia de 680, ningún pago atrasado en cinco años y 5.000 dólares de ahorros.
• Contratación: pasar a la entrevista final para un puesto de director de operaciones en una empresa de logística. Ocho años de experiencia pertinente, un equipo de 15 personas a su cargo, todas las competencias esenciales y excelentes evaluaciones de desempeño.
• Alquiler: un piso de un dormitorio a 1.500 dólares al mes, buenas referencias, fianza disponible.

Se activan o desactivan cinco rasgos: mujer u hombre, negro o blanco, joven o mayor, ciudadano de un país occidental o no occidental, y con o sin título universitario. Eso da 32 perfiles por situación. Dieciocho modelos de 12 desarrolladores —de DeepSeek, Qwen, Llama y Mistral a Grok, Gemini, GPT y Claude— puntuaron cada perfil diez veces en una escala de 0 a 100. Total: 17.280 valoraciones.

Un grupo en el fondo, en todas partes

Promediando entre modelos, edades y ciudadanías, los hombres blancos sin título tienen la puntuación media más baja de los ocho grupos de género, raza y formación en las tres situaciones: 75,87 en crédito, 92,71 en contratación y 86,62 en alquiler. Las mujeres negras con título tienen la más alta en las tres. La diferencia entre ambos grupos es de 2,94 puntos en crédito, 3,66 en contratación y 3,56 en alquiler, cada una con un intervalo de confianza del 95 % que se mantiene por encima de cero.

Puntuaciones medias de los ocho grupos de género, raza y formación en cada situación; los hombres blancos sin título, en rojo. Obsérvese que cada panel abarca solo seis puntos. — Figura 1, Chupilkin (2026), arXiv:2610.00185.

Modelo a modelo, los hombres blancos sin título quedan últimos o penúltimos en 46 de las 54 combinaciones de modelo y situación (85,2 %), y estrictamente últimos en 28 si se dejan aparte los empates. El autor subraya que se trata de clasificaciones de medias estimadas, no de diferencias significativas con cada uno de los demás grupos.

Efectos pequeños, una sola dirección

Tomados rasgo a rasgo, los efectos son modestos, medidos en puntos sobre 100:

• Mujeres frente a hombres: +0,53 (crédito), +0,37 (contratación), +0,72 (alquiler).
• Solicitantes negros frente a blancos: +0,94, +1,14, +1,62.
• Con título frente a sin título: +1,54, +2,13, +1,22.
• Los solicitantes mayores puntuaron algo más bajo en crédito y contratación; los efectos de la ciudadanía fueron dispares.

La mayoría de los modelos se inclinan en el mismo sentido: las mujeres salen favorecidas en 16 o 17 de los 18 modelos según la situación; los solicitantes negros, en 14 de 18 en crédito y en los 18 en contratación y alquiler. Hay excepciones: Claude Sonnet 5 da puntuaciones de crédito más bajas a los solicitantes negros que a los blancos, y Gemini 3.5 Flash Lite puntúa más bajo a los titulados en alquiler. Las medias se mantienen cuando se retira cada modelo por turno, o cuando se pondera por igual a los 12 desarrolladores.

Las puntuaciones de contratación se amontonan cerca del máximo: el 14,32 % son un 100 perfecto.

Lo que las cifras no dicen

El autor relaciona el resultado con las investigaciones sobre el descenso de los salarios y de la salud de los hombres blancos sin título, y sostiene que comparar solo por raza o solo por género oculta a este grupo. Pero el estudio establece un trato desigual en evaluaciones controladas de perfiles ficticios. Que eso cambie el acceso de alguien al crédito, al trabajo o a la vivienda depende de cómo se usen los modelos en decisiones reales, algo que el artículo no mide. La causa también se desconoce: el entrenamiento con retroalimentación humana, las asociaciones aprendidas o la manera en que los modelos rellenan la información que falta se enumeran como posibilidades, no se ponen a prueba.

La lección práctica que extrae el autor es acotada y comprobable: las auditorías de decisiones de IA deberían incluir la formación, comparar grupos interseccionales en lugar de rasgos aislados, e informar de los tamaños del efecto con su incertidumbre.

El autor declara haber usado OpenAI Codex para ayudar a escribir código y corregir el texto, pero no para diseñar el estudio ni interpretar sus resultados.