کمپیوٹنگ تے مصنوعی ذہانتپری پرنٹتجربہپڑھن لئی ۴ منٹ

اے آئی دے خلاصے تہاڈی یاد نوں مڑ لکھ سکدے نیں

جنریٹو اے آئی وڈے خطرے والے کماں وچ پھیل رہی اے: پولیس محکمے ہن باڈی کیمرے دی فوٹیج یا آواز توں آپ مہارے رپورٹاں بنا سکدے نیں؛ اے آئی نوکریاں دی بھرتی تے صحت دے شعبے وچ وی آ گئی اے۔ ایہہ غلطیاں کردی اے۔ اک دسے گئے واقعے وچ، اے آئی دی بنائی اک پولیس رپورٹ نے دعویٰ کیتا کہ اک افسر ڈڈو بن گیا سی — ایہنے پچھوکڑ وچ چلدی فلم The Princess and the Frog دی آواز پھڑ لئی سی۔

عام حفاظتی بندوبست اک انسان اے جیہڑا نتیجہ چیک کردا اے۔ پر انسانی یاد وی بھُلن والی اے۔

50 ورھے پرانا اثر

1978 وچ، ماہرِ نفسیات Elizabeth Loftus نے وکھایا کہ کسے واقعے مگروں ملی جانکاری ایہہ بدل سکدی اے کہ اسیں اوہنوں کیویں یاد رکھدے آں: غلط جانکاری دا اثر (misinformation effect)۔ اوہدے مشہور تجربے وچ، لوکاں نے اک چوک اُتے کار دا حادثہ ویکھیا جتھے یا تاں «رکو» دا نشان سی یا «راہ دیو» دا، فیر اک لکھت پڑھی جیہدے وچ غلط نشان دا ناں سی — تے بہتیاں نے اوہنوں غلط یاد کیتا۔ اک اکلا فعل وی («hit» دی تھاں «smashed»، یعنی «ٹکرائی» دی تھاں «چکنا چور کیتی») بدل سکدا اے کہ لوکاں نوں کاراں کنی تیز جاندیاں یاد آندیاں نیں۔

جارج ٹاؤن یونیورسٹی تے یونیورسٹی آف واشنگٹن دے Mattea Sim، Yael Eiger تے Tadayoshi Kohno نے پچھیا کہ کیہ اے آئی دے خلاصے وی ایہو کم کر سکدے نیں۔

پہلا قدم: اے آئی دے خلاصے کنے ٹھیک نیں؟

اوہناں نے Loftus دی تحقیق دی اک نویں دہرائی وچوں 25 سیکنڈ دیاں دو اینیمیٹڈ ویڈیواں لیاں: اک لال کار «رکو» یا «راہ دیو» دے نشان والے چوک تے اپڑدی اے، سجے مڑدی اے، اک پیدل نوں ٹکر ماردی اے جیہڑا ڈگدا تے اٹھدا اے، تے ڈرائیور باہر نکلدا اے۔ اوہناں نے ChatGPT-5.5 تے Gemini 2.5 Flash-Lite توں گھٹو گھٹ 300 لفظاں دے حقیقی، غیر جانبدار خلاصے منگے جنہاں وچ «ہر ضروری گل» ہووے — کل 20 خلاصے۔

  • ہر خلاصے وچ غلطیاں سن: لگ بھگ 305 لفظاں وچ ہر اک وچ 7 توں 21 تک۔
  • اوسطاً، مرکزی تفصیلاں دا 51.6% غائب سی۔
  • 20 وچوں 19 خلاصیاں نے ٹکر نوں ای چھڈ دتا — سب توں اہم اکلا واقعہ۔
  • 60% نے اجیہیاں تفصیلاں جوڑیاں جیہڑیاں اوتھے نہیں سن، جیویں گھڑے ہوئے پیدل یا گڈیاں۔ اک خلاصے نے تاں ایہہ وی لکھیا کہ «کوئی ہور کردار یا گڈی منظر نال سدھی طرح نہیں جڑی۔»
  • غلطیاں اک کوشش توں دوجی تک بدلدیاں رہیاں: اک خلاصے وچ کار سجے مڑی، دوجے وچ کھبے۔

دوجا قدم: کیہ ایہہ لوکاں دی یاد بدلدا اے؟

امریکا وچ 328 حصہ لین والیاں نے اک ویڈیو ویکھی۔ اک توں دو دن مگروں، اوہناں نے ChatGPT دا لکھیا 21 جملیاں دا خلاصہ پڑھیا۔ ایہدے وچ یا تاں سہی ٹریفک نشان دا ناں سی یا غلط دا۔ کجھ نوں دسیا گیا کہ ایہہ اے آئی نے لکھیا، ہوراں نوں کہ اک پیشہ ور انسانی ٹرانسکرائبر نے — لکھت اکو جیہی سی۔ فیر یاد دا ٹیسٹ ہویا۔

  • سہی خلاصے نال، 83.6% نوں سہی نشان یاد رہیا۔
  • گمراہ کرن والے خلاصے نال، صرف 44.8% نوں۔
  • ایہدے نال کوئی فرق نہ پیا کہ لوک خلاصے نوں اے آئی دا (46.3% سہی) سمجھدے سن یا انسان دا (43.4%)۔
  • نہ اے آئی اُتے بھروسے نے تے نہ ای ایہدی ورتوں دی گنتی نے کوئی خاص فرق پایا۔

اکو جیہے تے گمراہ کرن والے خلاصیاں لئی، اے آئی تے انسانی لیبل نال، یاد دی درستی دا چارٹ۔

سہی ٹریفک نشان یاد رکھن والے حصہ داراں دا حصہ: سہی خلاصے مگروں لگ بھگ 80%، گمراہ کرن والے مگروں 50% توں گھٹ — بھاویں اوہدے اُتے اے آئی دا لیبل سی یا انسان دا۔ — شکل 1، Sim، Eiger تے Kohno (2026)، arXiv:2609.28820۔

حصہ داراں نوں ویڈیو آپ یاد سی: 96.6% نوں ٹھیک یاد سی کہ حادثہ دن ویلے ہویا، جیہڑی تفصیل خلاصے وچ نہیں سی۔ عجیب گل ایہہ کہ «انسانی» خلاصے نوں ودھ صاف سمجھیا گیا، حالاں کہ اوہ لفظ لفظ اکو جیہا سی۔

چکر وچ اک انسان کافی نہیں

لکھاری ایس نتیجے تے اپڑدے نیں کہ جیہڑا بندہ اے آئی نوں ٹھیک کرن لئی ہوندا اے، اوہدی یاد الٹا اوہدیاں غلطیاں نال بدل سکدی اے — کسے دی بُری نیت توں بنا۔ پولیس جیہے شعبیاں وچ، جتھے چشم دید گواہاں دی یاد بہت چِر توں فکر دا وشا رہی اے، اوہ سوال چُکدے نیں کہ کیہ اے آئی ورتی وی جانی چاہیدی اے۔ ایس کم دا اک چھوٹا روپ AAAI/ACM Conference on AI, Ethics, and Society (اکتوبر 2026) دی کارروائی وچ چھاپیا گیا اے۔

حداں

دو سادیاں اینیمیٹڈ ویڈیواں، اک پرامپٹ تے 20 خلاصے؛ آن لائن پرکھی گئی گمراہ کرن والی تفصیل دی اکو قسم۔ حصہ داراں نوں وکھایا گیا خلاصہ کئی کوششاں وچوں چُنیا گیا تے درستی لئی تھوڑا جیہا سودھیا گیا سی۔