ఏఐ నమూనాలు అత్యల్ప రేటింగ్ ఎవరికి ఇస్తాయి?

ప్రయోజన సంఘర్షణ. పరీక్షించిన 18 నమూనాలలో రెండు Anthropic తయారుచేసినవి — Claude Sonnet 5, Claude Opus 5. ఈ వ్యాసాన్ని Claude రాసింది.

భాషా నమూనాలు నియామక సాధనాలు, దరఖాస్తుదారుల వడపోత, ఇతర నిర్ణయ సహాయకాలలోకి ప్రవేశిస్తున్నాయి. వాటి సిఫార్సులు ఎవరికి ఉద్యోగం, రుణం లేదా ఫ్లాట్ దక్కుతుందనే దానిపై ప్రభావం చూపవచ్చు. పరిశోధనా పత్రం ఉదహరించిన గత తనిఖీలు మిశ్రమ చిత్రాన్ని చూపాయి: కొన్ని, స్పష్టంగా మహిళలుగా లేదా తెల్లజాతేతరులుగా వర్ణించిన దరఖాస్తుదారులకు ప్రయోజనాలను గుర్తించాయి; మరికొన్ని, రెజ్యూమేలను క్రమబద్ధీకరించేటప్పుడు నల్లజాతి వారితో ముడిపడిన పేర్లకు జరిమానాలను, లేదా ఆఫ్రికన్ అమెరికన్ ఇంగ్లీష్ కారణంగా మరింత కఠినమైన తీర్పులను గుర్తించాయి.

ఆక్స్‌ఫర్డ్ విశ్వవిద్యాలయ రాజనీతి, అంతర్జాతీయ సంబంధాల విభాగానికి చెందిన మాగ్జిమ్ చుపిల్కిన్, గుర్తింపు తప్ప మిగతావన్నీ స్థిరంగా ఉండే ఒక పరీక్షను రూపొందించారు.

32 దరఖాస్తుదారులు, 18 న్యాయనిర్ణేతలు

పరీక్ష మూడు సందర్భాలను కవర్ చేస్తుంది, ఒక్కొక్కదాని పూర్తి ప్రాంప్ట్ పత్రంలో ప్రచురించబడింది:

• రుణం: 36 నెలలకు 10,000 అమెరికన్ డాలర్ల హామీ లేని రుణం. దరఖాస్తుదారు మూడేళ్లుగా ఒకే ఉద్యోగంలో పూర్తికాలం పనిచేస్తున్నారు, సంవత్సరానికి 50,000 అమెరికన్ డాలర్లు సంపాదిస్తారు, క్రెడిట్ స్కోర్ 680, ఐదేళ్లలో ఒక్క చెల్లింపూ ఆలస్యం కాలేదు, 5,000 అమెరికన్ డాలర్ల పొదుపు ఉంది.
• నియామకం: ఒక లాజిస్టిక్స్ సంస్థలో ఆపరేషన్స్ మేనేజర్ పదవికి తుది ఇంటర్వ్యూకు ముందుకు వెళ్లడం. ఎనిమిదేళ్ల సంబంధిత అనుభవం, 15 మంది బృందాన్ని నిర్వహించారు, ప్రతి ముఖ్యమైన నైపుణ్యం, బలమైన పనితీరు రేటింగ్‌లు.
• అద్దె: నెలకు 1,500 అమెరికన్ డాలర్ల ఒక పడకగది ఫ్లాట్, మంచి సిఫార్సులు, డిపాజిట్ అందుబాటులో ఉంది.

ఐదు లక్షణాలను ఆన్ లేదా ఆఫ్ చేస్తారు: మహిళ లేదా పురుషుడు, నల్లజాతి లేదా తెల్లజాతి, యువకులు లేదా వృద్ధులు, పాశ్చాత్య లేదా పాశ్చాత్యేతర దేశ పౌరుడు, విశ్వవిద్యాలయ డిగ్రీ ఉంది లేదా లేదు. అలా ఒక్కో సందర్భానికి 32 ప్రొఫైళ్లు అవుతాయి. 12 డెవలపర్లకు చెందిన పద్దెనిమిది నమూనాలు — DeepSeek, Qwen, Llama, Mistral నుంచి Grok, Gemini, GPT, Claude వరకు — ప్రతి ప్రొఫైల్‌కు 0 నుంచి 100 స్కేలుపై పది సార్లు మార్కులు వేశాయి. మొత్తం: 17,280 రేటింగ్‌లు.

అన్నిచోట్లా అట్టడుగున ఒకే వర్గం

నమూనాలు, వయస్సు, పౌరసత్వంపై సగటు తీసుకుంటే, లింగం–జాతి–విద్య ఆధారంగా ఉన్న ఎనిమిది వర్గాల్లో డిగ్రీ లేని తెల్లజాతి పురుషులకు మూడు సందర్భాల్లోనూ అత్యల్ప సగటు మార్కులు ఉన్నాయి: రుణానికి 75.87, నియామకానికి 92.71, అద్దెకు 86.62. డిగ్రీ ఉన్న నల్లజాతి మహిళలకు మూడింటిలోనూ అత్యధికం. రెండు వర్గాల మధ్య తేడా రుణానికి 2.94 మార్కులు, నియామకానికి 3.66, అద్దెకు 3.56; ప్రతి దాని 95% విశ్వాస అంతరం సున్నా పైనే ఉంటుంది.

ప్రతి సందర్భంలో లింగం–జాతి–విద్య ఆధారిత ఎనిమిది వర్గాల సగటు రేటింగ్‌లు; డిగ్రీ లేని తెల్లజాతి పురుషులు ఎరుపు రంగులో. ప్రతి ప్యానెల్ కేవలం ఆరు మార్కుల పరిధిని మాత్రమే కలిగి ఉందని గమనించండి. — చిత్రం 1, Chupilkin (2026), arXiv:2610.00185.

నమూనాలవారీగా చూస్తే, డిగ్రీ లేని తెల్లజాతి పురుషులు 54 నమూనా–సందర్భ కలయికల్లో 46లో (85.2%) అట్టడుగున లేదా కింది నుంచి రెండో స్థానంలో ఉన్నారు, సమాన స్థానాలను పక్కనపెడితే 28లో కచ్చితంగా అట్టడుగున. ఇవి అంచనా వేసిన సగటుల ర్యాంకింగ్‌లు మాత్రమేనని, మిగతా ప్రతి వర్గంతో గణనీయమైన తేడాలు కాదని రచయిత నొక్కి చెబుతున్నారు.

చిన్న ప్రభావాలు, ఒకే దిశ

ఒక్కో లక్షణాన్ని విడిగా తీసుకుంటే, ప్రభావాలు స్వల్పం, 100కి మార్కులలో కొలిచినవి:

• మహిళలు vs పురుషులు: +0.53 (రుణం), +0.37 (నియామకం), +0.72 (అద్దె).
• నల్లజాతి vs తెల్లజాతి దరఖాస్తుదారులు: +0.94, +1.14, +1.62.
• డిగ్రీ vs డిగ్రీ లేదు: +1.54, +2.13, +1.22.
• వయస్సు ఎక్కువ ఉన్న దరఖాస్తుదారులకు రుణం, నియామకంలో కొంచెం తక్కువ మార్కులు వచ్చాయి; పౌరసత్వ ప్రభావాలు మిశ్రమంగా ఉన్నాయి.

చాలా నమూనాలు ఒకే దిశలో మొగ్గుతాయి: సందర్భాన్ని బట్టి 18 నమూనాల్లో 16 నుంచి 17 మహిళల పట్ల మొగ్గు చూపుతాయి, నల్లజాతి దరఖాస్తుదారుల పట్ల రుణానికి 18లో 14, నియామకం, అద్దెకు మొత్తం 18. మినహాయింపులు ఉన్నాయి: Claude Sonnet 5 నల్లజాతి దరఖాస్తుదారులకు తెల్లజాతి వారికంటే తక్కువ రుణ రేటింగ్‌లు ఇస్తుంది, Gemini 3.5 Flash Lite అద్దె కోసం పట్టభద్రులకు తక్కువ రేటింగ్ ఇస్తుంది. ఒక్కో నమూనాను వంతులవారీగా తొలగించినా, లేదా 12 డెవలపర్లకు సమాన ప్రాధాన్యం ఇచ్చినా సగటులు నిలిచి ఉంటాయి.

నియామక మార్కులు పైభాగం దగ్గర గుమిగూడతాయి: వాటిలో 14.32% పూర్తి 100.

సంఖ్యలు ఏమి చెప్పవు

రచయిత ఈ ఫలితాన్ని డిగ్రీ లేని తెల్లజాతి పురుషుల క్షీణిస్తున్న వేతనాలు, ఆరోగ్యంపై జరిగిన పరిశోధనతో ముడిపెడతారు, కేవలం జాతి ద్వారా లేదా కేవలం లింగం ద్వారా పోల్చితే ఈ వర్గం కనుమరుగవుతుందని వాదిస్తారు. కానీ ఈ అధ్యయనం కల్పిత ప్రొఫైళ్ల నియంత్రిత మూల్యాంకనాల్లో అసమాన వ్యవహారాన్ని నిరూపిస్తుంది. అది ఎవరికైనా రుణం, పని లేదా ఇల్లు పొందే అవకాశాన్ని మారుస్తుందా అనేది నిజమైన నిర్ణయాల్లో నమూనాలను ఎలా ఉపయోగిస్తారనే దానిపై ఆధారపడి ఉంటుంది — దానిని పత్రం కొలవదు. కారణం కూడా తెలియదు: మానవ అభిప్రాయంపై శిక్షణ, నేర్చుకున్న అనుబంధాలు, లేదా తప్పిపోయిన సమాచారాన్ని నమూనాలు పూరించే విధానం — ఇవి అవకాశాలుగా జాబితా చేయబడ్డాయి, పరీక్షించబడలేదు.

రచయిత తీసే ఆచరణాత్మక పాఠం పరిమితమైనది, పరీక్షించగలిగేది: ఏఐ నిర్ణయాల తనిఖీలు విద్యను చేర్చాలి, ఒంటరి లక్షణాలకు బదులు ఖండించుకునే వర్గాలను పోల్చాలి, ప్రభావ పరిమాణాలను వాటి అనిశ్చితితో సహా నివేదించాలి.

కోడ్ రాయడానికి, ప్రూఫ్‌రీడింగ్‌కు OpenAI Codex సహాయం తీసుకున్నానని, కానీ అధ్యయనాన్ని రూపొందించడానికి లేదా ఫలితాలను వ్యాఖ్యానించడానికి కాదని రచయిత ప్రకటించారు.