நுரையீரலுக்குப் பதில் மருத்துவமனை முத்திரையைப் படிக்கும் AI

ஒரு மார்பு எக்ஸ்-கதிர் வகைப்படுத்தி, நுரையீரலில் உள்ள நோய்க்குப் பதிலாக, ஒவ்வொரு படத்தின் மூலையிலும் மருத்துவமனை பொறிக்கும் குறியீட்டைப் படிக்கக் கற்கக்கூடும். அப்போது அது அந்த மருத்துவமனையின் தரவில் நன்றாகச் செயல்பட்டு, அடுத்ததில் சத்தமில்லாமல் தோற்கிறது. முந்தைய ஆய்வுகள் COVID-19, நிமோனியா வகைப்படுத்திகளுக்கு இதை ஆவணப்படுத்தின. அவற்றால் சொல்ல முடியாதது: மாதிரியின் எந்தப் பகுதி அந்தப் படிப்பைச் செய்கிறது, அந்தப் பகுதியை நீக்கினால் பயன் உண்டா என்பது.

வழக்கமான விளக்கக் கருவிகள் — Grad-CAM போன்ற வெப்ப வரைபடங்கள், attention rollout, LIME — ஒரு மாதிரி எங்கே பார்த்தது என்று காட்டுகின்றன. பொறுப்பான கூறை அவை அடையாளம் காண்பதில்லை; காரணத்தை நிறுவவும் முடியாது. மகெரெரே பல்கலைக்கழகத்தின் Joshua Muhumuza, Cornelius Kalenzi ஆகியோர், மொழி மாதிரிகளைப் பிரித்தாய்வதற்காக உருவாக்கப்பட்ட இயங்குமுறை விளக்கத்தன்மை (mechanistic interpretability) கருவித்தொகுப்பைக் கடன் வாங்கி, ஒரு Vision Transformer மீது பயன்படுத்தினர்.

கற்பித்தல் மருத்துவமனையிலிருந்து மாவட்ட மருத்துவமனைக்கு

ஆசிரியர்கள் ஆபத்தை உறுதியாக விவரிக்கின்றனர். Transformer அடிப்படையிலான எக்ஸ்-கதிர் வகைப்படுத்திகள், வளம் குறைந்த இடங்களில் காசநோய், நிமோனியா பரிசோதனைக்கு மேலும் மேலும் பயன்படுத்தப்படுகின்றன; பெரும்பாலும் ஒரு பெரிய பரிந்துரை மருத்துவமனையில் பயிற்றுவிக்கப்பட்டு, மறுதணிக்கையின்றி, வேறுபட்ட இயந்திரங்கள், மென்பொருள், லேபிள் பழக்கங்கள் கொண்ட மாவட்ட மருத்துவமனைகளுக்கோ நடமாடும் பிரிவுகளுக்கோ நகர்த்தப்படுகின்றன. தன் சொந்த மருத்துவமனையின் முத்திரையைக் கற்ற ஒரு மாதிரி, எதையும் பொறிக்காத, அல்லது வேறெதையோ வேறிடத்தில் பொறிக்கும் ஒரு மருத்துவமனையைச் சந்திக்கும் கணத்திலேயே சீர்குலையும்.

144-இல் ஒரு தலை

ஆராயப்பட்ட மாதிரி ViT-Base/16 (ImageNet-21k-இல் முன்பயிற்சி பெற்ற, பொதுவில் கிடைக்கும் google/vit-base-patch16-224 சோதனைச்சாவடி), ஒவ்வொரு படத்தையும் 196 துண்டுகளாக (patches) வெட்டி, ஒவ்வொன்றிலும் 12 கவனத் தலைகள் கொண்ட 12 அடுக்குகள் வழியே அவற்றைச் செயலாக்குகிறது. குழு 144 தலைகள் அனைத்துக்கும், அவற்றின் கவனம் எவ்வளவு குவிந்தது, எவ்வளவு தொலைவு எட்டுகிறது என்பதன் அடிப்படையில் மதிப்பெண் இட்டது.

குவிவு 7 முதல் 9 வரையிலான அடுக்குகளில் திடீரெனத் தோன்றுகிறது. ஒரு தலை தனித்து நிற்கிறது: L8H10, 8-ஆம் அடுக்கின் 10-ஆம் தலை. அது தன் கவனத்தில் 34.6%-ஐ ஒரே ஒரு துண்டின் மீது வைக்கிறது — வேறு எந்தத் தலையையும்விட 2.8 மடங்கு. மேல் இடது மூலையில் “D CLINO” என்று குறிக்கப்பட்ட ஓர் எக்ஸ்-கதிர்ப் படத்தில், அது தன் கவனத்தில் 0.346-ஐ அந்தத் துண்டின் மீது வைக்கிறது — சீரான நிலையான 0.0051-இன் 68 மடங்கு; நுரையீரலுக்குக் கிட்டத்தட்ட எதுவும் கிடைப்பதில்லை.

மேல் இடது மூலையில் லேபிள் உள்ள ஒரு மார்பு எக்ஸ்-கதிர்ப் படம், அருகில் அந்த மூலையை மட்டும் ஒளிரச் செய்யும் ஒரு கவன வரைபடம்.

முதலில் ஆராயப்பட்ட எக்ஸ்-கதிர்ப் படத்தில் L8H10 தலை: மூலைக் குறிப்பின் மீது ஒரு பிரகாசமான புள்ளி, நுரையீரல் மீது கிட்டத்தட்டக் கருப்பு. — படம் 4, Muhumuza, Kalenzi (2026), arXiv:2610.21638.

200 COVID-19 எக்ஸ்-கதிர்ப் படங்களில், அந்தத் தலை 123-இல் (62%) இப்படி நடந்துகொள்கிறது. அந்தப் படங்களில், மூலை மீதான கவனம் சராசரியாக நுரையீரல் மீதான கவனத்தின் 57.5 மடங்கு; மற்றவற்றில் 0.77 மடங்கு. இரண்டு குழுக்களும் ஒன்றன்மேல் ஒன்று படிவதில்லை. இந்த நடத்தையைக் கணிப்பது பிரகாசம் அல்ல, மூலையில் உள்ள உள்ளூர் வேறுபாடு (local contrast) — வெளிர் பின்னணியில் உள்ள அடர் எழுத்துகள் உருவாக்குவது சரியாக அதுதான்.

144 தலைகளிலும் அதிகபட்சக் கவனத்தின் வெப்ப வரைபடம், ஒரே ஒரு அடர் கட்டத்துடன்; அருகில், ஒரு சிவப்புப் பட்டை மற்றவற்றைவிட உயர்ந்து நிற்கும் பட்டை வரைபடம்.

ஒவ்வொரு தலைக்கும் ஒரே துண்டின் மீதான அதிகபட்சக் கவனம்: L8H10 (சிவப்பு) 0.346-இல், அடுத்தது 0.124-இல். — படம் 3, Muhumuza, Kalenzi (2026), arXiv:2610.21638.

அழித்து நிரூபித்தல்

மூலையைத் தட்டையான சாம்பல் நிறத்தால் மூடுவது சுத்தமான சோதனை அல்ல: சீரான சாம்பல் சதுரமே அதிக வேறுபாடு கொண்டது, அது தலையை ஈர்க்கிறது. எனவே ஆசிரியர்கள் அதற்குப் பதில் மூலையை உண்மையான திசு போன்ற அமைப்பால் நிரப்பி உள்வரைந்தனர் (inpainting). அப்போது மூலை மீதான கவனம் 200-இல் 158 படங்களில் (79%) குறைந்தது. பாதிக்கப்பட்ட படங்களில் நுரையீரல் மீதான கவனம் 1.52 மடங்கு அதிகரித்தது; மற்றவற்றில் அசையவே இல்லை (0.99 மடங்கு). தலையை இயக்குவது பிரகாசமோ விளிம்புகளோ அல்ல, எழுத்தே.

இந்த அமைப்பு வேறு இடங்களிலும் மீண்டும் தோன்றுகிறது: NIH ChestX-ray14 தரவுத்தொகுப்பின் 200 எக்ஸ்-கதிர்ப் படங்களில் 79%-இல், வேறு இரண்டு கட்டமைப்புகளில் — DeiT-Base (L9H2 தலை, 88%), ViT-Large/16 (L8H8 தலை, 80%).

யாருடைய சோதனைகளாலும் காண முடியாத சுற்று

மைய முடிவு எதிர்மறையானது. அதே கட்டமைப்பின் மீது கட்டப்பட்ட ஐந்து-வகை எக்ஸ்-கதிர் வகைப்படுத்தியில், L8H10-ஐ அணைத்தது 5% கணிப்புகளை மாற்றியது — ஆனால் பாதிக்கப்பட்ட படங்களில் போலவே சாதாரணப் படங்களிலும் அதே அளவு அடிக்கடி (p = 0.340). சுயாதீனமாகப் பயிற்றுவிக்கப்பட்ட இரண்டாவது நிமோனியா வகைப்படுத்தியும் அதே வெற்று முடிவைத் தந்தது. சந்தேகத்துக்குரிய மூன்று தலைகளையும் ஒரே நேரத்தில் (L8H10, L7H2, L9H3) அணைத்தது மாற்றங்களை இரட்டிப்பாக்கி 10% ஆக்கியது — இன்னும் குறிப்பிட்ட விளைவு இல்லாமல் (p = 0.532).

ஆசிரியர்கள் இதை மிகைமை (redundancy) என்று படிக்கின்றனர்: தகவல் பல கூறுகளில் பரவியுள்ளது; எனவே மிகத் தெளிவாகத் தெரியும் சுமப்பவர்களை நீக்கினால், மீதியுள்ளவை வேலையைச் செய்கின்றன. மறுபயிற்சியும் உதவவில்லை. எக்ஸ்-கதிர்ப் படங்களில் முழு நுண்சீரமைப்புக்குப் பிறகும், பாதிக்கப்பட்ட 123 படங்களில் 121 (98.4%) அந்தத் தலையை இன்னும் தூண்டின; ஏனெனில், ஒரு படம் எந்த மருத்துவமனையிலிருந்து — எந்த நோய்களிலிருந்து — வருகிறது என்பதை லேபிள் பழக்கங்கள் பின்தொடரும் தரவில், முத்திரை தொடர்ந்து கணிப்புத் திறனுடன் இருக்கிறது.

பயன்படுத்தும் முன் உள்ளே பாருங்கள்

ஆபத்து என்பது ஒரு தவறான நோயறிதல் அல்ல, மாதிரி மருத்துவமனை மாறும்போது இயங்கத் தொடங்கும் ஒரு மறைந்த பலவீனம் என்று ஆசிரியர்கள் எழுதுகின்றனர். அவர்களின் பரிந்துரை: கவனத் தலைகளைத் தணிக்கை செய்து, சுமப்பவர்களை அடையாளம் கண்டு, அவற்றைக் காரண ரீதியாகச் சரிபார்த்து, இதைப் பயன்பாட்டுக்கு முன்பே — குறிப்பாக நிறுவனங்களுக்கு இடையே — செய்வது. அவர்கள் அறிந்த நம்பகமான தீர்வுகள் தரவு நிலையில் மட்டுமே: குறிப்புகள் நீக்கப்பட்ட படங்களில் பயிற்றுவிப்பது, அல்லது அடையாளம் காணப்பட்ட தலைகளைப் பயிற்சியின்போது தண்டிப்பது.

வரம்புகளும் கூறப்பட்டுள்ளன. மூலைப் பகுதியும் வரம்பு மதிப்பும் இந்தத் தரவுத்தொகுப்புகளுக்கே அமைக்கப்பட்டன; நுண்சீரமைப்புச் சோதனைகள் 200 படங்களை மட்டுமே பயன்படுத்தின; தீர்க்கமான சோதனை — ஒரே அளவுள்ள, குறிப்புள்ள படங்களுக்கும் குறிப்பு நீக்கப்பட்ட படங்களுக்கும் இடையிலான பயிற்சி ஒப்பீடு — இன்னும் செய்யப்படவில்லை.