AIని AI నకలు చేసినప్పుడు, ఎవరో ఒకరు నేర్చుకుంటూనే ఉండాలి
ఒక జనరేటివ్ నమూనాకు (generative model) అంతకుముందరి నమూనా అవుట్పుట్పై శిక్షణ ఇస్తే, అది క్షీణిస్తుంది. వరుస తరాల్లో, అత్యంత అరుదైన విషయం సాధారణమైనదాని కంటే ముందే అదృశ్యమవుతుంది, నమూనా ఉత్పత్తి చేసేది కుంచించుకుపోతుంది. ఈ నమూనా పతనం (model collapse) ఇప్పుడు బాగా అధ్యయనం చేయబడింది — దాని నివారణలు కూడా. పనిచేసే నివారణలన్నీ ఆ వలయం (loop) బయటి నుంచి ఏదో ఒకటి తీసుకొస్తాయి: తాజా మానవ దత్తాంశం, నిలుపుకున్న నిజమైన దత్తాంశం, ధృవీకరణ సాధనాలు (verifiers), మానవ ఎంపిక (curation).
యూనివర్సిటీ ఆఫ్ వెర్మాంట్కు చెందిన కంప్యూటర్ శాస్త్రవేత్త నామ్ లే (Nam Le), ఆ విశ్లేషణలు దేన్ని సహజమని భావిస్తాయో ఎత్తి చూపుతారు. అవి తాజా దత్తాంశాన్ని, ఎంత పరిమాణంలో కావాలంటే అంత అందుబాటులో ఉండే ఒక స్థిర భాండాగారంగా (archive) పరిగణిస్తాయి, వర్ణించబడుతున్న ప్రపంచం కదలకుండా ఉంటుందని ఊహిస్తాయి. రెండూ నిజం కాదు: తాజా పాఠాన్ని మనుషులు రాస్తారు, వారు విషయాలను స్వయంగా తెలుసుకునే బదులు మరింత ఎక్కువగా నమూనాలనే అడుగుతున్నారు; పైగా ప్రపంచం మారుతూనే ఉంటుంది.
ఒక పాత వైరుధ్యం
ఈ రెండు సమస్యలూ ఒక పాత సిద్ధాంతం యొక్క మూలంలోనే ఉన్నాయి. 1988లో, రోజర్స్ ఇప్పుడు రోజర్స్ వైరుధ్యం (Rogers’ paradox) అని పిలిచేదాన్ని వర్ణించారు: నేర్చుకోవడం కంటే వ్యక్తిగతంగా చౌక కాబట్టి నకలు చేయడం వ్యాపించే ఒక జనాభాలో, చివరకు అందరూ ఎప్పుడూ నకలు చేయని జనాభాలో కంటే ఏమాత్రం మెరుగ్గా ఉండరు. నకళ్లు పాతబడతాయి, నేర్చుకోవడానికి ఎవరో ఒకరు మూల్యం చెల్లిస్తూనే ఉండాలి.
సాంస్కృతిక పరిణామంపై తర్వాతి పరిశోధనలు ఈ ఆలోచనను మెరుగుపరిచాయి. విమర్శనాత్మక (critical) అభ్యాసకులు నకలు చేస్తారు, ఆ నకలును ప్రపంచంతో సరిచూస్తారు, అది విఫలమైతే స్వయంగా నేర్చుకుంటారు; ఇలాంటి అభ్యాసకులు అందరి ప్రతిఫలాన్నీ (payoff) పెంచుతారు. అనుసరణశీల (conformist) అభ్యాసకులు సాధారణంగా ఉన్నదాన్నే నకలు చేస్తారు, అది చౌకైనది కానీ అరుదైన వైవిధ్యాలను (variants) క్షీణింపజేస్తుంది.
ఒక నమూనాకు మరో నమూనా అవుట్పుట్పై శిక్షణ ఇవ్వడం సరిగ్గా ఈ అర్థంలో సామాజిక అభ్యాసం (social learning) అని, కాబట్టి ఈ సిద్ధాంతం వర్తించాలని లే వాదిస్తారు. దాని సరళమైన రూపంలో, శిక్షణ దత్తాంశంలో కొంత వాటా తాజాగా ఉన్నప్పుడు ఒక వంశపరంపర (lineage) ఎంత జ్ఞానాన్ని నిలుపుకుంటుందో చెప్పే ఒక-వాక్య నియమాన్ని అది ఇస్తుంది.
డార్విన్, మోబీ-డిక్, మళ్లీ మళ్లీ నకలు
దాన్ని పరీక్షించడానికి, ప్రాజెక్ట్ గుటెన్బర్గ్ (Project Gutenberg) నుంచి తీసుకున్న రెండు పుస్తకాలపై — డార్విన్ రాసిన On the Origin of Species (జాతుల పుట్టుక), మెల్విల్ రాసిన Moby-Dick (మోబీ-డిక్) — లే చిన్న భాషా నమూనాల వంశపరంపరలకు శిక్షణ ఇచ్చారు. ప్రతి తరం, ముందరి తరం ఉత్పత్తి చేసిన పాఠం నుంచి, పుస్తకం నుంచి తీసుకున్న కొంత తాజా పాఠంతో కలిపి, నేర్చుకుంది.
తమ సొంత అవుట్పుట్ను మాత్రమే అందించినప్పుడు, పద-స్థాయి (word-level) నమూనాలు పన్నెండు తరాల్లో ప్రతి ఐదు అరుదైన పదాల్లో నాలుగింటిని కోల్పోయాయి. ప్రారంభ తరం నుంచి తీసిన ఒక మాదిరి (sample) ఇంకా ఇలా చదవబడుతుంది: “i cannot see that a genus become fitted for most justly celebrated elder huber”; పన్నెండో తరానికి వచ్చేసరికి: “struggle of the on that may inheritable detected i hybrids, kept.”
అద్భుతమైన భాగం అంచనా. లే నియమం యొక్క ఏకైక పరామితిని — నకలు చేసిన ఒక జ్ఞాన శకలం ప్రతి తరంలో కోల్పోయే అవకాశాన్ని — పూర్తిగా తన సొంత అవుట్పుట్తోనే పోషించిన వంశపరంపరపై మాత్రమే సరిపెట్టారు (fitted), ఆపై దాన్ని ఏ మార్పూ లేకుండా 10%, 30% లేదా 50% తాజా దత్తాంశం ఉన్న వంశపరంపరలను అంచనా వేయడానికి ఉపయోగించారు. అవి ఎన్ని అరుదైన పదాలను నిలుపుకున్నాయో దానితో అది 3 శాతం పాయింట్ల లోపే సరిపోలింది. జ్ఞానానికి రెండో తరగతిని జోడించడంతో — సులభంగా పోయేది (fragile) వర్సెస్ మన్నికైనది (durable) — ఈ నియమం ఒక చిన్న ట్రాన్స్ఫార్మర్కు (transformer), ముందస్తు శిక్షణ పొందిన (pretrained) ఒక భాషా నమూనా OPT-125mకు కూడా నిలిచింది.
ప్రపంచం కదిలినప్పుడు
తర్వాత, “ప్రపంచం” స్వయంగా మారేలా చేశారు: రెండు పుస్తకాల గుండా జారే ఒక కిటికీ (window), దాంతో కొత్త పదజాలం వస్తూనే ఉంది, పాత పదాలు వెళ్లిపోతూనే ఉన్నాయి. అది ఎంత వేగంగా కదిలితే, తనను తాను నకలు చేసుకునే వంశపరంపరకు అంత ఎక్కువ తాజా దత్తాంశం అవసరమైంది. పూర్తిగా తాజాగా ఉండే ఒక కార్పస్ (corpus) కవర్ చేసేదాంట్లో 80% నిలుపుకోవడానికి, తాజా వాటా సుమారు 30% నుంచి సుమారు 45%కు పెరగాల్సి వచ్చింది. కృత్రిమ (synthetic) పాఠం పోగుపడుతున్న కొద్దీ, వేగంగా మారే రంగాలే మొదట క్షీణిస్తాయని పత్రం అంచనా వేస్తుంది.
ముందస్తు శిక్షణ పొందిన నమూనా భిన్నంగా ప్రవర్తించింది: ప్రపంచం కదిలినా కదలకపోయినా దాని జ్ఞానం నిలిచింది. లే వ్యాఖ్యానం ప్రకారం, దాని ముందస్తు శిక్షణ బరువులు (pretrained weights) — ప్రయోగానికి ముందు ఒక పెద్ద కార్పస్ నుంచి అది నేర్చుకున్న అంతర్గత అమరికలు — ప్రతి తరం ఏ మార్పూ లేకుండా వారసత్వంగా అందుతాయి కాబట్టి, అవి నకలు గొలుసు గుండా ఎప్పుడూ ప్రయాణించని జ్ఞానం. ఒక హెచ్చరికతో: ఇక్కడ కదిలే పాఠం, ముందస్తు శిక్షణ సమయంలో నమూనా ఇప్పటికే చూసిన పాఠమే.
వలయంలో మనుషులు
తర్వాత పత్రానికి దాని శీర్షికను ఇచ్చే భాగం వస్తుంది. లే ఒక నమూనాను నిర్మించారు, అందులో ప్రజలు ఒక వాస్తవాన్ని కొంత ఖర్చుతో స్వయంగా తెలుసుకోవచ్చు, లేదా AIని ఉచితంగా అడిగి, AI ఎంత తరచుగా సరైనదో అంతే తరచుగా సరైన సమాధానం పొందవచ్చు. ప్రజలు రాసేది, నమూనా స్వయంగా రాసే కొంత పాఠంతో పాటు, తర్వాతి నమూనా యొక్క శిక్షణ దత్తాంశం అవుతుంది.
సమతాస్థితి (equilibrium) కఠినమైనది:
- తెలుసుకునే ఖర్చును లెక్కలోకి తీసుకున్నాక, AI చివరకు దాన్ని అడగడం స్వయంగా తెలుసుకున్నంత ప్రయోజనాన్నే సరిగ్గా ఇచ్చేంత తరచుగా మాత్రమే సరైనదిగా ఉంటుంది — దాని పరిమాణం లేదా నిర్మాణం (architecture) ఏదైనా సరే;
- మొత్తంగా ప్రజలు AI లేనప్పటి కంటే ఏమాత్రం మెరుగ్గా ఉండరు: మనుషులకు, యంత్రాలకు కలిపి రోజర్స్ వైరుధ్యం;
- శిక్షణ పాఠంలో ఎంత ఎక్కువ భాగాన్ని నమూనాలే స్వయంగా రాస్తే, అంత ఎక్కువ మంది ప్రజలు సొంతంగా నేర్చుకుంటూనే ఉండాలి — పాఠంలో సగం నమూనా రాసినదైతే రెండింతల మంది. తాజా దత్తాంశానికి మూల్యం మానవ శ్రమతో చెల్లించబడుతుందని లే ముగిస్తారు.
బయటపడే దారి ఒకటి ఉంది. ప్రజలు AI సమాధానాన్ని ప్రపంచంతో సరిచూసి, అది తప్పైనప్పుడు మళ్లీ నేర్చుకుంటే, వైరుధ్యం విచ్ఛిన్నమవుతుంది: సిమ్యులేషన్లో, సగటు ప్రతిఫలం — ఒక వ్యక్తి ప్రతి వాస్తవానికి పొందేది, సరైన సమాధానానికి 1, దానిలోంచి తెలుసుకోవడానికి అయిన ఖర్చు తీసివేసి — 0.93 వద్ద స్థిరపడుతుంది, AI లేకుండా 0.70తో పోలిస్తే. ధృవీకరణను చౌకగా చేసే సాధనాలు, ఈ దృష్టిలో, ఒక సౌలభ్యం కాదు, మొత్తం వ్యవస్థ కుప్పకూలకుండా కాపాడేవి అవే.
పరిస్థితిని మరింత దిగజార్చే వడపోతలు
కృత్రిమ దత్తాంశాన్ని శుభ్రం చేయడానికి వాడే వడపోతలను (filters) కూడా ఇదే దృష్టికోణం వర్గీకరిస్తుంది. ఒక నమూనాకు అత్యంత నమ్మదగినవిగా అనిపించే మాదిరులను ఉంచుకోవడం అనుసరణశీల నకలు, ప్రయోగాల్లో అది అరుదైన పదాల నష్టాన్ని వేగవంతం చేసింది: ముందస్తు శిక్షణ పొందిన నమూనా వాటిలో 5% నిలుపుకుంది, సగం మాదిరులను యాదృచ్ఛికంగా ఉంచినప్పుడు 57%. పాఠాన్ని ప్రపంచంతో సరిచూసే వడపోతలు మాత్రమే విమర్శనాత్మక అభ్యాసకుల్లా పనిచేస్తాయి. ఇదంతా చిన్న నమూనాలతోనే చూపబడింది, వాటిలో అతిపెద్దది 125 మిలియన్ పరామితులతో; దీన్ని పెద్ద స్థాయిలో పరీక్షించడమే కీలకమైన తెరిచి ఉన్న ప్రశ్న అని లే పేర్కొంటారు.
