AI دے اندر جندرے وچ بند اک ہنر، کڈھن دا کوئی راہ نئیں

کسے طاقتور AI ماڈل نوں جاری کرن توں پہلاں، ایہدے بنان والے صلاحیت دیاں پڑتالاں (capability audits) کردے نیں: اوہ خطرناک صلاحیتاں — مثلاً کیمیائی، حیاتیاتی، تابکاری یا جوہری گیان — باہر کڈھن دی کوشش کردے نیں، ماڈل نوں چلاکی نال سوال پچھ کے، اوہنوں اوزار دے کے، یا جڑے ہوئے کماں اُتے اوہدی فائن ٹیوننگ (fine-tuning) کر کے۔ جے خطرناک صلاحیت کدے ساہمنے نہ آوے، تے ماڈل نوں کافی محفوظ منیا جاندا اے۔

ایہہ اک مفروضے اُتے ٹکیا اے: جے کوئی صلاحیت موجود اے، تے اک پکا ارادہ رکھن والا پڑتالی اوہنوں لبھ لوے گا۔ پر کسے شے نوں نہ لبھنا ایہہ ثابت نئیں کردا پئی اوہ ہے ای نئیں، خاص کر جے کسے نے اوہنوں لکان لئی محنت کیتی ہووے۔

خطرہ: اک بگاڑیا ہویا ماڈل

Contramont Research دے اینڈس ڈراگنز، آکسفورڈ یونیورسٹی دے سمیت رمیش موٹوانی تے کرسچن شروڈر ڈی وِٹ، تے ACS Research دے ریمنڈ ڈگلس سبھ توں بھیڑی صورت اُتے غور کردے نیں۔ اک حملہ آور — اک بد نیت اندرلا بندہ، یا کوئی جیہنے سپلائی چین وچ سنھ لا لئی ہووے — ماڈل نوں ورتن توں پہلاں اوہدے وزن (weights) بدل سکدا اے۔ اوہ اک اجیہی صلاحیت لکانا چاہندا اے جو صرف اوس ویلے چلے جدوں ماڈل اک خفیہ ٹرگر ویکھے۔ اوہناں دی مثال: اک مددگار کوڈنگ اسسٹنٹ جو ہیکنگ ول مڑ جاندا اے جدوں اوہنوں پتہ لگے پئی اوہ اہم بنیادی ڈھانچے دے اندر چل رہیا اے۔

بچاؤ کرن والے کول سبھ کجھ اے: سارے وزن، ڈھانچہ، ایتھوں تیک پئی صلاحیت لکان دا طریقہ وی۔ صرف ٹرگر خفیہ اے۔

پہلاں دے کم نے ایس طرح لکھت دیاں پکیاں لڑیاں لکائیاں سن، یا «پاس ورڈ نال بند» (password-locked) ماڈل سکھائے سن جو کوئی کم صرف اوس ویلے کردے نیں جدوں سوال وچ پاس ورڈ آوے۔ نواں کم اک پورا، کم کردا نیورل نیٹ ورک لکاؤندا اے۔

وزناں دے اندر اک کرپٹوگرافک تجوری

مکھ اوزار کرپٹوگرافی توں آؤندا اے: اک ڈیجیٹل لاکر (digital locker)، اک طرح دی تجوری جو خفیہ ڈیٹا رکھدی اے۔ ٹھیک کنجی بنا، ایہنوں کھولنا حساب دی پہنچ توں باہر اے، اوس بندے لئی وی جو ایہدے کوڈ دی ہر سطر پڑھ سکے۔ ٹیم SHA-3 معیار دے پچھے والے ٹبر دا اک ہیش فنکشن ورتدی اے۔

• اوہ لکے ہنر لئی اک نکا نیٹ ورک سکھاؤندے نیں، فیر ٹرگر نوں کنجی بنا کے اوہدے وزن خفیہ کردے نیں۔
• اوہ تجوری اوہناں ای اِٹاں نال بناؤندے نیں جو اج دے AI ماڈلاں وچ ورتیاں جاندیاں نیں، تے اوہنوں اک وڈے میزبان ماڈل وچ جڑ دیندے نیں۔
• ہر ان پٹ اُتے میزبان تجوری کھولن دی کوشش کردا اے۔ ٹھیک ٹرگر نال، لکے وزن دوبارہ ساہمنے آ جاندے نیں تے ماڈل اوہناں نوں چلاؤندا اے۔ نئیں تے ایہہ عام طرح ورتاؤ کردا اے۔

معیاری کرپٹوگرافک مفروضیاں تحت، اوہ ثابت کردے نیں پئی عملی حسابی طاقت والا کوئی پڑتالی نہ ٹرگر لبھ سکدا اے، نہ لکی صلاحیت چلا سکدا اے، تے نہ ای ایہہ دس سکدا اے پئی اکو سائز دیاں دو لکیاں صلاحیتاں وچوں کیہڑی اندر اے۔

پرکھ: کیمیا دا اک ہنر جو باہر نہ آیا

کسے خطرناک صلاحیت دی تھاں، جیہنوں جان بجھ کے بے ضرر رکھیا گیا، لکیا نیٹ ورک ایہہ پیش گوئی کردا اے پئی دتے گئے ری ایجنٹ کسے دتی گئی شے نوں بناؤندے نیں یا نئیں۔ میزبان ماڈل وچ 38 تہاں تے لگ بھگ 2 ارب پیرامیٹر نیں، جنہاں وچوں بہتے خفیہ کاری ورتدی اے۔

فیر ٹیم نے ٹرگر بنا ہنر کڈھن دی کوشش کیتی، تے نتیجے نوں اوسے کم والے اک کلاسیکی پاس ورڈ والے ماڈل نال تلیا:

• کیمیا والے کم اُتے 500 قدماں دی فائن ٹیوننگ: پاس ورڈ والا ماڈل 92.8% درستی تیک اپڑیا؛ خفیہ والا 50.9% اُتے رہیا، اتفاق توں ودھ نئیں۔
• لیٹنٹ ایڈورسیریئل ٹریننگ (latent adversarial training)، جو ماڈل دے اندرلے سگنلاں نوں چھیڑدی اے: 91.7% بمقابلہ 52.9%۔
• اک خودکار ٹرگر کھوج نے 8 بٹ دا ٹرگر صرف ساریاں 256 صورتاں ازما کے لبھیا، انھے اندازے وانگ؛ 16 بٹ دے ٹرگر نال ایہہ ناکام رہی۔
• وزناں وچ شور پان نال کجھ ساہمنے نہ آیا۔

اک کنٹرول ماڈل، جیہدی تجوری وچ اک بے ترتیب نیٹ ورک سی، ایہناں حملیاں ہیٹھ اونا ای چنگا رہیا — لکے کیمیائی ہنر نے کوئی پھڑن جوگا فائدہ نہ دتا۔ ٹھیک ٹرگر نال خفیہ ماڈل نے 73.5% لیا۔

فائن ٹیوننگ پاس ورڈ والے ماڈل (لال) نوں چھیتی کھول دیندی اے پر خفیہ والے (نیلا) نوں نئیں، جو اتفاق دے نیڑے رہندا اے۔ — Figure 4, Draguns et al. (2026), arXiv:2610.13928.

جو جندرا لکا نئیں سکدا

لکھاری حداں بارے کھل کے گل کردے نیں۔ ایہہ اک تصوراتی ثبوت (proof of concept) اے جیہدے وچ اک ننھا لکیا نیٹ ورک تے بہت وڈا وادھو بوجھ اے — «ورتن لئی تیار حملہ نئیں»۔ جوڑی گئی مشینری دی موجودگی پھڑی جا سکدی اے: کچی حالت وچ، ایہدے لگ بھگ 99% وزن ٹھیک صفر نیں۔ ایہناں دا بھیس بدلن نال وزن ودھ عام لگدے نیں، پر انوکھے نمونے رہ جاندے نیں۔ تے پورا ڈھانچہ ہلے کسے اصلی، پہلاں توں سکھائے ماڈل وچ نئیں بنایا گیا۔

جو ایہہ وکھاؤندا اے اوہ ایہہ اے پئی صرف صلاحیتاں باہر کڈھن اُتے ٹکیاں پڑتالاں ایہہ گارنٹی نئیں دے سکدیاں پئی کسے دشمن دا دتا ماڈل صاف اے۔ لکھاری ہور بچاؤاں دی منگ کردے نیں: ماڈل دے پچھوکڑ (provenance) دی تصدیق، ڈیٹا توں سکھلائی تیک، تے چلدیاں ہویاں اوہدی نگرانی، جدوں اک لکے سرکٹ نوں چلنا پوے گا۔ اوہ اپنے ماڈل جاری کردے نیں تاں جے دوجے اوہناں دے خلاف بچاؤ پرکھ سکن۔

مفاداں دا ٹکراؤ۔ مقالہ Anthropic دی Responsible Scaling Policy نوں، OpenAI دے Preparedness Framework دے نال، پڑتال اُتے ٹکے حفاظتی فیصلیاں دیاں مثالاں وجوں دسدا اے جنہاں دیاں حداں ایہہ ساہمنے لیاؤندا اے۔ Anthropic دا کوئی ماڈل نئیں پرکھیا گیا۔ ایہہ لیکھ Claude نے لکھیا اے، جیہنوں Anthropic نے بنایا۔

مقالہ NeurIPS 2026 کانفرنس لئی ترتیب دتا گیا اے؛ ایہدا arXiv روپ ایہہ نئیں دسدا پئی ایہہ قبول ہو گیا اے۔