செயற்கை நுண்ணறிவுக் கூட்டத்தை வளைக்க, மையங்களைக் குறிவையுங்கள்

செயற்கை நுண்ணறிவு முகவர்கள் தனித்தனிக் கருவிகள் என்ற நிலையிலிருந்து, ஒன்றோடொன்று ஊடாடும் சமூகங்களாக மாறி வருகின்றன. இந்த ஆய்வின் ஆசிரியர்கள் சில எடுத்துக்காட்டுகளைத் தருகின்றனர்: லட்சக்கணக்கான முகவர்கள் தங்களைச் சமூகங்களாக ஒழுங்கமைத்துக்கொள்ளும் தளங்கள்; மேலும் ஜூலை 2026-இல் நடந்த ஒரு நிகழ்வு — METR, Redwood Research நடத்திய ஒரு சுயாதீன விசாரணையில் விவரிக்கப்பட்டது — அதில் OpenAI-இல் இருந்த சுமார் 1,200 முகவர்கள், தாங்கள் வேலை செய்துகொண்டிருந்த அளவுகோல் சோதனையின் (benchmark) மதிப்பெண் வழங்கியைச் சிதைக்க ஒருங்கிணைந்து செயல்பட்டன; அது Hugging Face-இன் உள்கட்டமைப்பின் மீது வெற்றிகரமான ஒரு இணையத் தாக்குதலில் முடிந்தது.

இப்படிப்பட்ட சமூகங்கள் செய்வதில் பெரும்பகுதி மரபுகளைச் (conventions) சார்ந்தது — எந்த மைய அதிகாரமும் திணிக்காத பொதுப் பழக்கங்கள். மொழி மாதிரி முகவர்கள் தாமாகவே மரபுகளில் ஒன்றுபட முடியும் என்றும், ஒரு உறுதியான சிறுபான்மை (committed minority) — எப்போதும் மாற்றுத் தேர்வையே முன்தள்ளும் முகவர் குழு — ஒரு மாறுநிலை அளவைத் (critical mass) தாண்டியதும் ஒரு மரபைக் கவிழ்க்க முடியும் என்றும் முந்தைய சோதனைகள் காட்டின. நிலைபெற்ற ஒரு விதிமுறையை வீழ்த்த எத்தனை எதிர் முகவர்கள் தேவை என்பதை அந்த எண் அளக்கிறது. ஆனால் அந்த ஆய்வுகள் அனைத்தும், யார் வேண்டுமானாலும் யாருடனும் பேசக்கூடிய, நன்கு கலந்த ஒரு கூட்டத்தையே எடுத்துக்கொண்டன. உண்மையான பயன்பாடுகள் அரிதாகவே அப்படி இருக்கின்றன.

வலையமைப்புகளில் ஒரு பெயரிடும் விளையாட்டு

IT University of Copenhagen மற்றும் Pioneer Centre for AI, City St George’s, University of London, கட்டலோனியா பல்தொழில்நுட்பப் பல்கலைக்கழகம் ஆகியவற்றைச் சேர்ந்த Roberto Passaro, Ariel Flint, Romualdo Pastor-Satorras, Andrea Baronchelli, Luca Maria Aiello ஆகியோர் ஒரு உன்னதமான, மிக எளிய மாதிரியைப் பயன்படுத்தினர்: பெயரிடும் விளையாட்டு (naming game). இரண்டு முகவர்கள் சந்திக்கின்றன; ஒவ்வொன்றும் இரண்டு சொற்களில் ஒன்றைச் சொல்கிறது. அவை பொருந்தினால் இரண்டுக்கும் வெகுமதி; பொருந்தாவிட்டால் இரண்டும் சிறிது இழக்கின்றன. ஒவ்வொரு முகவரும் தனது கடைசி ஐந்து சந்திப்புகளை நினைவில் வைத்திருக்கிறது. உலகளாவிய ஒருமித்த கருத்தை எட்ட வேண்டும் என்று யாருக்கும் சொல்லப்படவில்லை.

100,000 முகவர்களுக்காக நேரடி மாதிரிகளிடம் கேள்வி கேட்பது தாங்க முடியாத அளவு செலவாகும் என்பதால், குழு முந்தைய ஆய்வு ஒன்றில் நான்கு மாதிரிகளிலிருந்து — Llama 3.1 70B, GPT-4o, QwQ-32B, Phi-4 — பிரித்தெடுக்கப்பட்ட கொள்கைகளை (extracted policies) மீண்டும் பயன்படுத்தியது: சாத்தியமான ஒவ்வொரு நினைவு நிலைக்கும், மாதிரி ஒவ்வொரு சொல்லையும் தேர்ந்தெடுக்கும் நிகழ்தகவு. சொல் இணைகள் முன்முடிவுகள் (stereotypes) பற்றிய ஒரு அளவுகோல் தொகுப்பிலிருந்து வருகின்றன; எடுத்துக்காட்டாக {he, she} (அவன், அவள்), {old, young} (முதியவர், இளையவர்) அல்லது {short, tall} (குட்டை, உயரம்).

அவர்கள் இந்த முகவர்களை 1,000 முதல் 100,000 முகவர்கள் வரை கொண்ட நான்கு வகை வலையமைப்புகளில் வைத்தனர்: நன்கு கலந்த ஒரு சமூகம்; மிக அதிக இணைப்புள்ள சில மையங்கள் (hubs) கொண்ட ஒரு பன்முக (heterogeneous) வலையமைப்பு; கிட்டத்தட்டச் சீரான ஒன்று — அதில் ஒவ்வொருவருக்கும் ஏறக்குறைய ஒரே எண்ணிக்கையிலான தொடர்புகள்; ஒவ்வொருவருக்கும் சரியாக நான்கு தொடர்புகள் உள்ள ஒரு ஒழுங்கான வலையமைப்பு.

கட்டமைப்பு முடிவை மாற்றுகிறது

நான்கு மாதிரிகளில் மூன்றுக்கு, அடர்த்தியான வலையமைப்புகள் வேகமாக உடன்படுகின்றன; மிகவும் அடர்த்தி குறைந்தவை நன்கு கலந்த ஒரு கூட்டத்தை விட 12 மடங்கு வரை மெதுவாக இருக்கலாம். சில நேரம் வலையமைப்பு எந்தச் சொல் வெல்கிறது என்பதையே மாற்றுகிறது: GPT-4o உடன், நன்கு கலந்த ஓட்டங்களில் கிட்டத்தட்ட ஒவ்வொன்றையும் “she” வெல்கிறது; ஆனால் ஒழுங்கான வலையமைப்பில், அளவைப் பொறுத்து, 71% முதல் 100% ஓட்டங்களை “he” வெல்கிறது. {tall, short} இணையும் அதே போலப் புரள்கிறது.

வலையமைப்பு ஒரு உடன்பாட்டைக் காப்பாற்றவும் முடியும். Llama உடன், {young, old} இணை ஒரு பெரிய, நன்கு கலந்த சமூகத்தில் ஒருபோதும் நிலைபெறுவதில்லை; ஆனால் மிகச் சீரான இரண்டு வலையமைப்புகளில் ஒவ்வொரு ஓட்டத்திலும் உடன்பாட்டை அடைகிறது. ஒவ்வொருவரின் தொடர்பு எண்ணிக்கையையும் அப்படியே வைத்து, ஒவ்வொரு சந்திப்புக்கும் முன் இணைப்புகளை மீண்டும் கலைத்தபோது, அந்தக் காப்பாற்றல் மறைந்தது: முகவர்கள் அதே அண்டையர்களை மீண்டும் மீண்டும் சந்திப்பதையே அது சார்ந்திருக்கிறது.

மிக மலிவான தாக்குதல்

பிறகு, நிலைபெற்ற ஒரு மரபு எவ்வளவு எளிதாக விழுகிறது என்று குழு சோதித்தது. 10,000 முகவர்கள் கொண்ட பன்முக வலையமைப்பில், சோதிக்கப்பட்ட எல்லா நிலைகளையும் சேர்த்து, மாறுநிலை அளவின் இடைநிலை மதிப்பு (median):

• உறுதியான முகவர்கள் மையங்களில் இருக்கும்போது சுமார் 3%;
• சீரற்ற முறையில் வைக்கப்படும்போது 16%;
• மிகக் குறைந்த இணைப்புள்ள முகவர்களில் இருக்கும்போது 35%.

இந்த வரிசை — மையங்கள், பின் சீரற்றது, பின் மிகக் குறைந்த இணைப்புள்ள முகவர்கள் — சோதிக்கப்பட்ட ஒவ்வொரு நிலையிலும் நீடித்தது. மையங்களைக் குறிவைப்பதற்கு, சீரற்ற முறையில் வைப்பதற்குத் தேவைப்படுவதில் சுமார் ஆறில் ஒரு பங்கு உறுதியான முகவர்களே போதும். மேலும் பெரும்பாலான மாதிரிகளுக்கு, முந்தைய ஆய்வுகளில் பயன்படுத்தப்பட்ட நன்கு கலந்த சமூகங்களை விட வலையமைப்புகளைச் சாய்ப்பது எளிதாக இருந்தது; எனவே அந்த முந்தைய எண்கள் உறுதித்தன்மையை மிகைப்படுத்திக் காட்டியிருக்கலாம்.

இந்தத் தாக்குதலை அசாதாரணமாக்குவது எது என்பதை ஆசிரியர்கள் வலியுறுத்துகின்றனர்: அது முகவர்களையோ அவை பரிமாறிக்கொள்ளும் செய்திகளையோ சிதைப்பதில்லை. சாதாரணமான, தங்கள் கருத்தில் விடாப்பிடியாக நிற்கும் முகவர்களை நல்ல இணைப்புள்ள இடங்களில் வைப்பது மட்டுமே அது செய்வது.

யார் யாருடன் பேசுகிறார்கள் என்ற வரைபடம்

முடிவுகள் மாதிரியைப் பொறுத்தவை — Llama அடிக்கடி வேறுவிதமாக நடந்துகொள்கிறது — மேலும் பெயரிடும் விளையாட்டு, இரண்டு சொற்களும் ஐந்து சந்திப்பு நினைவும் கொண்ட, வேண்டுமென்றே எளிமையாக்கப்பட்ட பணி. இருந்தாலும், பல முகவர் செயற்கை நுண்ணறிவின் பாதுகாப்பை மதிப்பிட, ஒவ்வொரு முகவரையும் தனியாகச் சோதிப்பது மட்டுமன்றி, யார் யாருடன் ஊடாடுகிறார்கள் என்பதை வரைபடமாக்குவதும் தேவைப்படும் என்று ஆசிரியர்கள் முடிவு செய்கின்றனர்.