کمپیوٹنگ تے مصنوعی ذہانتپری پرنٹتجربہپڑھن لئی ۴ منٹ

ویب دا لگ بھگ اک تہائی حصہ ہن اے آئی لکھدی اے

وڈے بولی ماڈل زیادہ تر ویب توں کٹھی کیتی لکھت توں سکھدے نیں۔ ایس لکھت دا ودھ توں ودھ حصہ آپ اے آئی لکھدی اے۔ لکھاری ایہنوں «جنگلی» اے آئی لکھت (wild AI text) آکھدے نیں: کئی وکھرے ماڈلاں دی انسانی پڑھن والیاں لئی لکھی، آن لائن چھاپی، تے سکھلائی ڈیٹا وچ انسانی لکھت نال رلی تے بنا نشان دے ہونجی گئی لکھت۔ ایہہ نہ «ماڈل ڈھہنا» (model collapse) اے، جتھے کسے ماڈل نوں اوہدی اپنی پیداوار اُتے مڑ سکھایا جاندا اے، تے نہ ای سکھلائی دی مدد لئی جان بجھ کے بنایا چنیا مصنوعی ڈیٹا (synthetic data)۔

یونیورسٹی آف میری لینڈ تے Pangram Labs، اک کمپنی جیہڑی اے آئی لکھت ڈیٹیکٹر ویچدی اے، دے جینا رسل (Jenna Russell)، موہت ایر (Mohit Iyyer) تے اوہناں دے ساتھی ایہہ ناپن نکلے کہ ایہہ لکھت کنی اے تے ایہہ ماڈل نال کیہ کردی اے۔

ویب اُتے کنی اے آئی اے؟

FineWeb پائپ لائن ورت کے، جیہڑی ویب دے وڈے Common Crawl آرکائیو نوں چھاندی اے، ٹیم نے جون 2026 تک دا مجموعہ (corpus) مڑ بنایا: 9 کروڑ 60 لکھ دستاویزاں، 83 ارب ٹوکن، اوہ لفظی ٹوٹے جیہڑے ماڈل پڑھدا اے۔ ہر دستاویز اُتے کمپنی دے ڈیٹیکٹر، Pangram، نال نشان لایا گیا، جیہدی دسی گئی غلط مثبت (false positive) شرح 0.05% اے؛ 2021 دیاں، یعنی 2022 دے اخیر وچ ChatGPT دے آن توں پہلاں دیاں، 60,000 دستاویزاں وچوں ایہنے صرف 0.062% نوں اے آئی دسیا۔

FineWeb دے معیاری چھاننیاں وچوں لنگھن والی ویب لکھت وچ اے آئی دے لکھے ٹوکناں دا حصہ:

  • جون 2021 وچ 0.1% توں گھٹ؛
  • جون 2024 وچ 10.1%، جون 2025 وچ 16.1%؛
  • جون 2026 وچ 27.5%، اگست 2026 وچ 31.1%؛
  • پیشین گوئی: 2027 دے اخیر تک 42.3%، 2028 دے اخیر تک 50.7%۔

وادھا اکسار نہیں۔ 2026 وچ سبق (tutorial) تے «علمی مضمون» دے لگ بھگ ادھے ٹوکناں اُتے اے آئی دا نشان اے، خبراں دے 9% تے ذاتی بلاگاں دے 5% دے مقابلے۔ ہور بھیڑی گل، سکھلائی سیٹ بنان لئی ورتے جان والے معیاری چھاننے اے آئی لکھت دی طرف داری کردے نیں: FineWeb اے آئی دستاویزاں نوں انسانی دستاویزاں توں 2.3 گنا ودھ رکھدا اے، تے DCLM چھاننا 9.8 گنا ودھ۔

800 ماڈل امتحان وچ

ٹیم نے 800 نکے بولی ماڈلاں دی مڈھلی سکھلائی (pretraining) کیتی، 1 کروڑ 99 لکھ توں 97 کروڑ 30 لکھ پیرامیٹراں تک، انسانی لکھت دے اک مقررہ ذخیرے وچ ہر انسانی ٹوکن لئی صفر توں 64 تک اے آئی ٹوکن جوڑ کے، تے ہر اک دا مقابلہ اوسے ماڈل نال کیتا جیہنوں ایہدی تھاں اونے ای تازہ انسانی ٹوکن دتے گئے۔

  • اے آئی لکھت نے صرف ڈیٹا دے بھکھے ماڈلاں دی مدد کیتی، ہر پیرامیٹر لئی لگ بھگ 10 انسانی ٹوکناں توں تھلے۔
  • ہر پیرامیٹر لئی لگ بھگ 20 ٹوکناں دے عام کمپیوٹ لئی سب توں موزوں بجٹ توں، اے آئی لکھت جوڑن نال انسانی لکھت اُتے غلطی ودھی، جدوں کہ وادھو انسانی لکھت ایہنوں گھٹاندی رہی۔
  • انسانی لکھت دی پیشین گوئی لئی اے آئی لکھت دا سب توں چنگا حصہ ہر پیرامیٹر لئی 5 ٹوکناں تے 37% توں ڈگ کے 20 تے 1% رہ گیا۔ اے آئی لکھت دی پیشین گوئی لئی، ایہہ 90% توں اُتے رہیا۔
  • اوہو انسانی لکھت دہرانا تازہ اے آئی لکھت جوڑن توں چنگا سی: اک وادھو گیڑے مگروں 2.3% گھٹ غلطی، اٹھ مگروں لگ بھگ 6.3%۔
  • اے آئی لکھت اُتے سکھائے ماڈل اے آئی وانگ لکھن لگ پئے: «delve» تے «tapestry» ورگے لفظ ہر 1,000 لفظاں وچ 0.16 توں 0.54 تک ودھ گئے۔

موجودہ «سکیلنگ قانون» — اوہ فارمولے جیہڑے ماڈل دی غلطی اوہدے ناپ تے ڈیٹا توں دسدے نیں — اے آئی ٹوکن نوں انسانی ٹوکن ورگا ای لیندے نیں تے ایتھے غلط ہو جاندے نیں۔ لکھاری اک نواں قانون تجویز کردے نیں جیہدا فائدہ اک حد تے رک جاندا اے (saturate) تے نقصان لوگاریتھمی طور تے ودھدا اے، ایس لئی اک اے آئی ٹوکن دی قدر منفی ہو سکدی اے۔ 26 کروڑ 80 لکھ پیرامیٹراں تک دے ماڈلاں اُتے فٹ کیتا، ایہہ 3.6 گنا وڈے ماڈلاں دی پیشین گوئی موجودہ سب توں چنگے قانون توں 41% گھٹ غلطی نال کردا اے، بھاویں ضمیمہ (appendix) دسدا اے کہ گھٹ اے آئی حصیاں تے دو ٹیسٹ سیٹاں اُتے ایہدی برتری اہم نہیں۔

نہ چھانن دا بل

ایس قانون موجب، اگست 2026 دے اے آئی حصے والی اݨ چھانی ویب لکھت اُتے سکھلائی، صرف ایہدے انسانی حصے اُتے سکھلائی دی کمپیوٹنگ طاقت دا 1.6 گنا لیندی اے — 2028 لئی پیشین گوئی کیتے حصے تے 3.0 گنا۔ تے نقصان نظروں اوہلے رہ جانا سوکھا اے: اے آئی لکھت دی پیشین گوئی سوکھی اے، ایس لئی 22.3% اے آئی لکھت والے اک تصدیقی سیٹ (validation set) نے نقصان والیاں 95.5% دوڑاں نوں سدھار دسیا۔ معیاری بینچ مارک سکور وی اے آئی لکھت نال لگ بھگ اونے ای ودھے جنے انسانی لکھت نال۔

لکھاری صلاح دیندے نیں کہ جدوں نشانہ انسانی لکھت ہووے تے اے آئی لکھت چھانی جاوے، اے آئی ڈیٹا جوڑن توں پہلاں انسانی ڈیٹا دہرایا جاوے، تے انسانی تے اے آئی لکھت اُتے غلطیاں وکھو وکھ دسیاں جان۔ حداں اصلی نیں: 97 کروڑ 30 لکھ پیرامیٹراں توں وڈے ماڈل نہیں، صرف انگریزی، صرف مڈھلی سکھلائی، تے اکو ڈیٹیکٹر، لکھاریاں دی کمپنی دا بنایا — جیہدے کاروبار نوں ایہہ نتیجے فائدہ دیندے نیں۔ آزاد جانچ دی اجازت دین لئی، اوہ مجموعہ، سارے 800 ماڈل تے کوڈ جاری کر رہے نیں۔