وقتی هوش مصنوعی از هوش مصنوعی رونویسی میکند، کسی باید به یادگیری ادامه دهد
یک مدل مولد را با خروجی مدلی پیشین آموزش دهید، و کیفیتش افت میکند. در نسلهای پیاپی، کمیابترین محتوا پیش از محتوای رایج ناپدید میشود و آنچه مدل تولید میکند محدودتر میشود. این فروپاشی مدل (model collapse) اکنون بهخوبی مطالعه شده است — و درمانهایش نیز. همهٔ درمانهایی که کار میکنند چیزی از بیرونِ این حلقه وارد میکنند: دادهٔ انسانیِ تازه، دادهٔ واقعیِ نگهداشتهشده، راستیآزماها (verifiers)، گزینش انسانی.
نام له (Nam Le)، دانشمند علوم رایانه در دانشگاه ورمونت، به چیزی اشاره میکند که آن تحلیلها بدیهی میگیرند. آنها دادهٔ تازه را بایگانیای ثابت میانگارند که به هر اندازه که لازم باشد در دسترس است، و فرض میکنند جهانی که توصیف میشود ایستاست. هیچکدام درست نیست: متن تازه را مردم مینویسند، که روزبهروز بیشتر بهجای پی بردن به چیزها از مدلها میپرسند؛ و جهان پیوسته در حال تغییر است.
یک پارادوکس قدیمی
هر دو مسئله در قلب نظریهای قدیمیتر جای دارند. راجرز (Rogers) در 1988 چیزی را توصیف کرد که امروز پارادوکس راجرز نامیده میشود: در جمعیتی که رونویسی در آن گسترش مییابد چون برای هر فرد ارزانتر از یادگیری است، سرانجام وضع هیچکس بهتر از جمعیتی نیست که هرگز رونویسی نکرده است. رونوشتها کهنه میشوند، و کسی باید پیوسته هزینهٔ یادگیری را بپردازد.
کارهای بعدی در تکامل فرهنگی این ایده را پالایش کردند. یادگیرندهٔ نقاد (critical) رونویسی میکند، رونوشت را با جهان میسنجد و اگر نادرست درآید خودش یاد میگیرد؛ چنین یادگیرندگانی بازده همه را بالا میبرند. یادگیرندهٔ همنوا (conformist) آنچه را رایج است رونویسی میکند، که ارزان است اما گونههای کمیاب را میفرساید.
استدلال له این است که آموزش یک مدل با خروجی مدلی دیگر دقیقاً به همین معنا یادگیری اجتماعی است، پس این نظریه باید در موردش صدق کند. این نظریه در سادهترین صورتش قاعدهای یکخطی به دست میدهد برای اینکه یک دودمان (lineage)، وقتی سهمی از دادههای آموزشیاش تازه است، چه مقدار از دانش را نگه میدارد.
داروین و موبیدیک، بارها رونویسیشده
له برای آزمودن آن، دودمانهایی از مدلهای زبانی کوچک را با دو کتاب از پروژهٔ گوتنبرگ (Project Gutenberg) آموزش داد: دربارهٔ خاستگاه گونهها اثر داروین و موبیدیک اثر ملویل. هر نسل از متنی که نسل پیشین تولید کرده بود، آمیخته با مقداری متن تازه از کتاب، یاد گرفت.
مدلهای در سطح واژه، وقتی تنها با خروجی خودشان تغذیه شدند، در دوازده نسل از هر پنج واژهٔ کمیاب چهار تا را از دست دادند. نمونهای از نسل آغازین هنوز چنین است: «i cannot see that a genus become fitted for most justly celebrated elder huber»؛ و در نسل دوازدهم: «struggle of the on that may inheritable detected i hybrids, kept.»
بخش چشمگیر، پیشبینی است. له تنها پارامتر این قاعده را — احتمال اینکه تکهای از دانشِ رونویسیشده در هر نسل از دست برود — فقط روی دودمانی برازش داد که کاملاً با خروجی خودش تغذیه شده بود، و سپس آن را، بیهیچ تغییری، برای پیشبینی دودمانهایی با 10%، 30% یا 50% دادهٔ تازه به کار برد. این قاعده شمار واژههای کمیابی را که آن دودمانها نگه داشتند با اختلافی حداکثر 3 واحد درصد درست پیشبینی کرد. با افزودن ردهٔ دومی از دانش، شکننده در برابر ماندگار، این قاعده برای یک ترنسفورمر کوچک و برای یک مدل زبانی ازپیشآموزشدیده، OPT-125m، نیز برقرار ماند.
وقتی جهان حرکت میکند
سپس خودِ «جهان» به تغییر واداشته شد: پنجرهای که در طول دو کتاب میلغزید، بهطوری که واژگان تازه پیوسته از راه میرسید و واژههای کهنه پیوسته بیرون میرفتند. هرچه پنجره سریعتر حرکت میکرد، دودمانِ خودرونویس به دادهٔ تازهٔ بیشتری نیاز داشت. برای حفظ 80% از آنچه یک پیکرهٔ کاملاً تازه پوشش میداد، سهم دادهٔ تازه باید از حدود 30% به حدود 45% میرسید. مقاله پیشبینی میکند که حوزههای پرتغییر نخستین حوزههایی خواهند بود که با انباشته شدن متن مصنوعی افت میکنند.
مدل ازپیشآموزشدیده رفتار متفاوتی داشت: دانشش، چه جهان حرکت میکرد چه نه، پابرجا ماند. برداشت له این است که وزنهای ازپیشآموزشدیدهٔ آن، که در هر نسل بیتغییر به ارث میرسند، دانشیاند که هرگز از زنجیرهٔ رونویسی نمیگذرد. با یک قید: متن متحرک در اینجا متنی بود که مدل پیشتر در طول پیشآموزش دیده بود.
مردم در حلقه
سپس بخشی میآید که عنوان مقاله از آن گرفته شده است. له مدلی ساخت که در آن مردم میتوانند یا یک واقعیت را خودشان، با پرداخت هزینه، کشف کنند، یا رایگان از هوش مصنوعی بپرسند و تنها به همان اندازه که هوش مصنوعی درست میگوید، درست باشند. آنچه مردم مینویسند، همراه با مقداری متن که خود مدل مینویسد، دادهٔ آموزشی مدل بعدی میشود.
تعادل این مدل بیپرده است:
- هوش مصنوعی سرانجام فقط آنقدر درست میگوید که پرسیدن از آن دقیقاً به اندازهٔ پی بردن به دست خود سود دهد، وقتی هزینهٔ پی بردن به حساب آید — اندازه یا معماریاش هر چه باشد؛
- وضع مردم در مجموع هیچ بهتر از وضعشان بدون هوش مصنوعی نیست: پارادوکس راجرز، برای انسانها و ماشینها با هم؛
- هرچه سهم بیشتری از متن آموزشی را خود مدلها بنویسند، مردم بیشتری باید به یادگیری از راه خودشان ادامه دهند — وقتی نیمی از متن را مدل نوشته باشد، دو برابر. نتیجهگیری له این است که بهای دادهٔ تازه با تلاش انسانی پرداخته میشود.
راه برونرفتی هست. اگر مردم پاسخ هوش مصنوعی را با جهان بسنجند و وقتی نادرست است دوباره یاد بگیرند، پارادوکس میشکند: در شبیهسازی، میانگین بازده روی 0.93 تثبیت میشود، در برابر 0.70 بدون هوش مصنوعی. از این دیدگاه، ابزارهایی که راستیآزمایی را ارزان میکنند نه یک آسایش، بلکه همان چیزیاند که کل سامانه را از فروپاشی بازمیدارد.
پالایههایی که وضع را بدتر میکنند
همین عدسی، پالایههایی را که برای پاکسازی دادهٔ مصنوعی به کار میروند نیز دستهبندی میکند. نگه داشتن نمونههایی که مدل آنها را محتملترین مییابد رونویسی همنوایانه است، و در آزمایشها از دست رفتن واژههای کمیاب را تندتر کرد: مدل ازپیشآموزشدیده 5% از آنها را نگه داشت، در برابر 57% وقتی نیمی از نمونهها به تصادف نگه داشته شدند. تنها پالایههایی که متن را با جهان میسنجند همچون یادگیرندگان نقاد عمل میکنند. همهٔ اینها با مدلهای کوچک نشان داده شد، که بزرگترینشان 125 میلیون پارامتر داشت، و له آزمودن آن در مقیاس بزرگ را پرسش باز کلیدی میداند.
