رایانش و هوش مصنوعیپیش‌چاپآزمایش۴ دقیقه مطالعه

یک مدل زبانی وزن‌های خودش را بازنویسی می‌کند

یک مدل زبانی یک بار آموزش می‌بیند، منجمد می‌شود و به کار گرفته می‌شود. برای بهتر کردنش معمولاً به یک دور آموزش دیگر نیاز دارید — خوشه‌های محاسباتی بزرگ، یک زنجیرهٔ آموزش و آدم‌هایی که بلدند از آن‌ها استفاده کنند. آنچه یک کاربر می‌تواند تغییر دهد، یعنی پرامپت، به محض تغییر وظیفه از میان می‌رود. جیاجون فان (Jiajun Fan)، گه لیو (Ge Liu) و همکاران در UIUC، CMU، راتگرز (Rutgers)، پرینستون (Princeton) و استنفورد (Stanford) پرسش دیگری مطرح کردند: آیا یک مدل می‌تواند وزن‌های خودش را بازنویسی کند — میلیاردها عددی که آن را تعریف می‌کنند — تنها با استدلال، بی‌هیچ آموزشی؟

پاسخ آن‌ها، به نوشتهٔ خودشان، مثبت است، «تا جایی که می‌دانیم برای نخستین بار». آن‌ها این را خودبازنویسی (self-rewriting) می‌نامند.

جلسه‌ای روی وزن‌های خود

آزمایش‌ها از یک خانواده از مدل‌های باز، Qwen3.5، در چهار اندازه استفاده می‌کنند: 2، 4، 9 و 27 میلیارد پارامتر. هر مدل جلسه‌ای روی وزن‌های خودش می‌گیرد. پاسخ‌های نمره‌گذاری‌شده‌اش به مسئله‌های تمرینی ریاضی را دریافت می‌کند، همراه با یک محیط Python که در آن می‌تواند ماتریس‌های وزنش را بخواند و بازنویسی کند. همچنین می‌تواند خودش را تعداد محدودی بار اجرا کند — 20 گذر رو به جلو (forward passes) — تا با و بدون ویرایشش به مسئله‌ها پاسخ دهد، با همان بذرهای تصادفی (random seeds)، یا تا حالت‌های پنهان (hidden states) خودش را بخواند.

کاری که نمی‌تواند بکند آموزش است. محیط هرگونه محاسبهٔ گرادیان و هرگونه بهینه‌ساز (optimizer) را رد می‌کند، هیچ GPU و هیچ دسترسی به شبکه ندارد، و ویرایش‌هایی را که صرفاً مقیاس کل یک ماتریس را تغییر می‌دهند مسدود می‌کند. هر مقداری که مدل تغییر می‌دهد با استدلال خودش نوشته می‌شود. سپس نتیجه‌ها روی مسئله‌هایی بررسی می‌شوند که جلسه‌ها هرگز ندیده بودند.

یافتن ماتریس خراب

در نخستین آزمون، تیم به مدل 27 میلیارد پارامتری نسخه‌ای آسیب‌دیده از خودش داد: هشت ردیف از یک ماتریس، در لایهٔ 30 از 64، با نوفه بازنویسی شده بود. به مدل فقط گفته شد که برخی مقادیر خراب شده‌اند. این نسخه هیچ مسئله‌ای را حل نمی‌کرد.

جلسه‌اش مثل اشکال‌زدایی خوانده می‌شود. نخست به لایه‌های آغازین مشکوک شد — اشتباه بود، و آزمون‌های خودش هم همین را گفتند. سپس بزرگ‌ترین وزن در هر ماتریس خروجی را با وزن معمول مقایسه کرد و مقصر را یافت: «down_proj لایهٔ 30 یک دادهٔ پرت شدید 1397x دارد». اصلاحش ملایم بود: در آن ماتریس و 19 ماتریس دیگر، هر وزنی را که از 15 برابر میانهٔ ماتریس خودش بیشتر بود سقف‌گذاری کرد. مقادیر اصلی را، که هرگز ندیده بود، بازنگرداند؛ مقادیر تصادفی را سقف‌گذاری کرد. روی 200 مسئلهٔ ریاضی کنارگذاشته‌شده (held-out)، نسخه از 0% به 33% رسید. چشمگیرتر اینکه تعمیر، که تنها بر پایهٔ متن پیدا شده بود، روی تصویرها هم کار کرد: در شش محک (benchmark) تصویری که هرگز ندیده بود، نسخه از 7.3% به 70.2% رسید، یعنی 83% دقت مدل آسیب‌ندیده.

یاد دادن به خود که دست نگه دارد

روی وزن‌های دست‌نخوردهٔ خودش، مدل 27B کارش را با یک تشخیص آغاز کرد: بیشتر پاسخ‌هایش پیش از رسیدن به پایان توکن کم می‌آوردند، اما تقریباً همهٔ آن‌هایی که به پایان می‌رسیدند درست بودند. به گفتهٔ خودش: «استدلالم درست است، اما بیش از حد پرحرفم یا به‌طور کارآمد به نتیجه نمی‌رسم.»

پس حالت‌های پنهانش را در پاسخ‌هایی که به پایان می‌رسند و پاسخ‌هایی که بی‌پایان ادامه پیدا می‌کنند مقایسه کرد، جهتی را که آن‌ها را از هم جدا می‌کند یافت، و سهم کوچکی از آن را از یک لایه حذف کرد. آزمون‌هایش به سود این ویرایش بودند. در پروتکلی دوم، چارچوب هر ویرایش را پیش از آنکه مدل تصمیم به ارسالش بگیرد، یک بار هم روی مسئله‌های رزروشده بررسی می‌کرد. در هشت جلسهٔ نخست از این نوع، که همگی گزارش شده‌اند، مدل در پنج جلسه عقب کشید و سه ویرایش ارسال کرد. دوتا از آن‌ها مدل را روی 490 مسئلهٔ تازه به‌طور معناداری بهتر کردند: +6.6 امتیاز (از 57.2% به 63.8%) و +4.0 امتیاز. سود بزرگ‌تر از تغییری به‌طرز شگفت‌آوری ساده آمد — جابه‌جایی اندکِ یک تنظیم در همهٔ لایه‌های توجه خطی (linear-attention) — که پس از آن پاسخ‌های کمتری توکن کم آوردند. در یک مسئله، مدل اصلی یک جمله را 549 بار تکرار کرد بی‌آنکه پاسخ دهد؛ پس از ویرایش، درست پاسخ داد. هر یک از جلسه‌هایی که پشت بزرگ‌ترین سودها بودند در چند ساعت روی یک GPU اجرا شد.

تنها بزرگ‌ترین مدل از پسش برمی‌آید

با همان وظیفه و همان ابزارها، اندازه همهٔ تفاوت را رقم زد. مدل 2 میلیارد پارامتری هیچ ویرایشی نکرد: بیشتر کدش با شکست روبه‌رو شد. مدل‌های 4 و 9 میلیاردی نوفهٔ تصادفی به وزن‌هایشان افزودند و خودشان را خراب کردند؛ مدل 9 میلیاردی حتی ویرایشی را ارسال کرد که آن را از پاسخ دادن به مسئله‌های تازه ناتوان کرد. تنها مدل 27 میلیاردی پیش از عمل اندازه گرفت و آنچه را آزمون‌هایش تأیید می‌کردند نگه داشت. از نظر نویسندگان، این نخستین شاهد است، درون یک خانوادهٔ مدل، که توانایی تشخیص و بازنویسی وزن‌های خود با اندازه رشد می‌کند.

ادعاها بر چه تکیه دارند

نتیجه‌ها از یک خانوادهٔ مدل و بیشتر از مسئله‌های ریاضی به دست آمده‌اند. سودها عمدتاً پاسخ‌هایی را درست می‌کنند که هرگز تمام نمی‌شوند، و یکی از سه ویرایش ارسال‌شده هیچ سود معناداری نداشت. تعمیر بیشتر آنچه را آسیب از بین برده بود بازمی‌گرداند، نه همه‌اش را. نویسندگان آینده‌ای را می‌بینند که در آن بهتر کردن یک مدل به «یک گفت‌وگو، نه یک دور آموزش» نیاز دارد، و شاید راهی به سوی مدل‌هایی که بارها و بارها خودشان را بهتر می‌کنند. به تأکید آن‌ها، این راه باید با حضور انسان در چرخه پیموده شود: هر مدلی که یک مدل از خودش می‌سازد ارزیابی شود، هم از نظر ایمنی و هم برای خود وظیفه، و به تأیید یک انسان برسد.