اکنون نزدیک به یکسوم وب را هوش مصنوعی مینویسد
مدلهای زبانی بزرگ بیشتر از متنی یاد میگیرند که از وب گردآوری شده است. و بخش هرچه بیشتری از آن متن را خود هوش مصنوعی مینویسد. نویسندگان آن را متن هوش مصنوعیِ «وحشی» (wild AI text) مینامند: متنی که مدلهای گوناگون فراوانی برای خوانندگان انسانی نوشتهاند، در اینترنت منتشر شده و آمیخته با متن انسانی و بیبرچسب به دادهٔ آموزشی راه یافته است. این نه «فروپاشی مدل» (model collapse) است، که در آن مدلی روی خروجی خودش دوباره آموزش میبیند، و نه دادهٔ مصنوعیِ گزینششدهای که عمداً برای کمک به آموزش تولید میشود.
جنا راسل (Jenna Russell)، موهیت ایر (Mohit Iyyer) و همکارانشان در دانشگاه مریلند و در Pangram Labs، شرکتی که آشکارساز متن هوش مصنوعی میفروشد، بر آن شدند تا بسنجند این متن چقدر است و با یک مدل چه میکند.
چه مقدار هوش مصنوعی در وب هست؟
گروه با استفاده از خط لولهٔ FineWeb، که بایگانی عظیم Common Crawl از وب را پالایش میکند، پیکره را تا ژوئن 2026 بازسازی کرد: 96 میلیون سند، 83 میلیارد توکن، یعنی تکهواژههایی که مدل میخواند. هر سند با آشکارساز شرکت، Pangram، برچسب خورد که نرخ مثبت کاذب گزارششدهاش 0.05٪ است؛ این آشکارساز روی 60,000 سند از 2021، پیش از انتشار ChatGPT در اواخر 2022، تنها 0.062٪ را هوش مصنوعی تشخیص داد.
سهم توکنهای نوشتهٔ هوش مصنوعی در متن وبی که از پالایههای کیفیت FineWeb میگذرد:
- کمتر از 0.1٪ در ژوئن 2021؛
- 10.1٪ در ژوئن 2024، 16.1٪ در ژوئن 2025؛
- 27.5٪ در ژوئن 2026، 31.1٪ در اوت 2026؛
- پیشبینی: 42.3٪ در پایان 2027، 50.7٪ در پایان 2028.
این افزایش ناهموار است. در 2026 حدود نیمی از توکنهای آموزشی (tutorial) و «مقالهٔ دانشی» برچسب هوش مصنوعی دارند، در برابر 9٪ از اخبار و 5٪ از وبلاگهای شخصی. بدتر آنکه پالایههای کیفیتی که برای ساختن مجموعههای آموزشی به کار میروند متن هوش مصنوعی را ترجیح میدهند: FineWeb اسناد هوش مصنوعی را 2.3 برابر بیشتر از اسناد انسانی نگه میدارد و پالایهٔ DCLM 9.8 برابر.
800 مدل در بوتهٔ آزمون
گروه 800 مدل زبانی کوچک، از 19.9 میلیون تا 973 میلیون پارامتر، را پیشآموزش داد و به پیکرهای ثابت از متن انسانی، از صفر تا 64 توکن هوش مصنوعی به ازای هر توکن انسانی افزود، و هر کدام را با همان مدل مقایسه کرد که به جای آن، همان تعداد توکن انسانیِ تازه دریافت کرده بود.
- متن هوش مصنوعی تنها به مدلهای تشنهٔ داده کمک کرد، یعنی زیر حدود 10 توکن انسانی به ازای هر پارامتر.
- از بودجهٔ معمولِ بهینه از نظر محاسبه، یعنی حدود 20 توکن به ازای هر پارامتر، افزودن متن هوش مصنوعی خطا روی متن انسانی را بالا برد، در حالی که متن انسانیِ اضافه همچنان آن را پایین میآورد.
- بهترین سهم متن هوش مصنوعی برای پیشبینی متن انسانی از 37٪ در 5 توکن به ازای هر پارامتر به 1٪ در 20 افت کرد. برای پیشبینی متن هوش مصنوعی، این سهم بالای 90٪ ماند.
- تکرار همان متن انسانی بهتر از افزودن متن تازهٔ هوش مصنوعی بود: 2.3٪ خطای کمتر پس از یک دور اضافه و حدود 6.3٪ پس از هشت دور.
- مدلهایی که روی متن هوش مصنوعی آموزش دیدند شروع به نوشتن مثل هوش مصنوعی کردند: عبارتهایی مانند «delve» و «tapestry» از 0.16 به 0.54 در هر 1,000 واژه رسیدند.
«قوانین مقیاسپذیری» موجود — فرمولهایی که خطای یک مدل را از اندازه و دادهاش پیشبینی میکنند — با توکن هوش مصنوعی مانند توکن انسانی رفتار میکنند و اینجا اشتباه میکنند. نویسندگان قانونی تازه پیشنهاد میکنند با سودی که اشباع میشود و زیانی که لگاریتمی رشد میکند، بهطوری که ارزش یک توکن هوش مصنوعی میتواند منفی شود. این قانون که روی مدلهایی تا 268 میلیون پارامتر برازش شده، مدلهای 3.6 برابر بزرگتر را با 41٪ خطای کمتر از بهترین قانون موجود پیشبینی میکند، هرچند پیوست یادآور میشود که برتریاش روی دو مجموعهٔ آزمون در سهمهای پایین هوش مصنوعی معنادار نیست.
صورتحساب پالایش نکردن
بر پایهٔ این قانون، آموزش روی متن پالایشنشدهٔ وب با سهم هوش مصنوعیِ اوت 2026، 1.6 برابر توان محاسباتیِ آموزش روی بخش انسانی آن بهتنهایی هزینه دارد — و در سهم پیشبینیشده برای 2028، 3.0 برابر. و این آسیب بهآسانی از چشم میافتد: متن هوش مصنوعی آسانتر پیشبینی میشود، پس یک مجموعهٔ اعتبارسنجی با 22.3٪ متن هوش مصنوعی 95.5٪ از اجراهای زیانبار را بهبود گزارش کرد. امتیازهای محکهای استاندارد (benchmark) هم با متن هوش مصنوعی تقریباً به اندازهٔ متن انسانی بالا رفتند.
نویسندگان توصیه میکنند وقتی هدف متن انسانی است، متن هوش مصنوعی پالایش شود، دادهٔ انسانی پیش از افزودن دادهٔ هوش مصنوعی تکرار شود، و خطاها روی متن انسانی و هوش مصنوعی جداگانه گزارش شوند. محدودیتها واقعیاند: مدلهایی نه بزرگتر از 973 میلیون پارامتر، تنها زبان انگلیسی، تنها پیشآموزش، و یک آشکارساز واحد که ساختهٔ شرکت خود نویسندگان است — شرکتی که این نتیجهگیریها به سود کسبوکارش است. برای امکان بررسی مستقل، آنها پیکره، هر 800 مدل و کد را منتشر کردهاند.
