رایانش و هوش مصنوعیپیش‌چاپآزمایش۳ دقیقه مطالعه

خلاصه‌های هوش مصنوعی می‌توانند حافظهٔ شما را بازنویسی کنند

هوش مصنوعی مولد در حال گسترش به کارهای پرمخاطره است: ادارات پلیس اکنون می‌توانند از روی فیلم دوربین‌های بدنی یا صدای ضبط‌شده به‌طور خودکار گزارش تولید کنند؛ هوش مصنوعی در استخدام و سلامت هم دیده می‌شود. و اشتباه می‌کند. در یک مورد گزارش‌شده، گزارش پلیسیِ تولیدشده با هوش مصنوعی ادعا کرد که یک مأمور به قورباغه تبدیل شده است — صدای فیلم The Princess and the Frog (شاهزاده و قورباغه) را که در پس‌زمینه پخش می‌شد برداشته بود.

سازوکار حفاظتی معمول، انسانی است که خروجی را بررسی می‌کند. اما حافظهٔ انسان هم خطاپذیر است.

اثری پنجاه‌ساله

در سال 1978، روان‌شناس الیزابت لافتوس (Elizabeth Loftus) نشان داد که اطلاعاتی که پس از یک رویداد دریافت می‌شود می‌تواند شیوهٔ به‌یادآوردن آن را تغییر دهد: اثر اطلاعات نادرست (misinformation effect). در آزمایش کلاسیک او، افراد تصادفی را در یک تقاطع با تابلوی «ایست» یا «حق تقدم» تماشا کردند، سپس متنی خواندند که تابلوی نادرست را نام می‌برد — و بسیاری آن را نادرست به یاد آوردند. حتی یک فعل («smashed» یعنی «درهم کوبید» به‌جای «hit» یعنی «برخورد کرد») می‌تواند سرعتی را که افراد برای خودروها به یاد می‌آورند تغییر دهد.

ماتیا سیم (Mattea Sim)، یائل آیگر (Yael Eiger) و تادایوشی کوهنو (Tadayoshi Kohno)، از دانشگاه جورج‌تاون و دانشگاه واشینگتن، پرسیدند که آیا خلاصه‌های هوش مصنوعی هم می‌توانند همین کار را بکنند.

گام 1: خلاصه‌های هوش مصنوعی چقدر دقیق‌اند؟

آن‌ها دو ویدئوی پویانمایی 25 ثانیه‌ای را از یک بازتکرار امروزیِ مطالعهٔ لافتوس برداشتند: خودرویی قرمز به تقاطعی با تابلوی ایست یا حق تقدم می‌رسد، به راست می‌پیچد، به عابری برخورد می‌کند که زمین می‌خورد و برمی‌خیزد، و راننده پیاده می‌شود. آن‌ها از ChatGPT-5.5 و Gemini 2.5 Flash-Lite خلاصه‌هایی واقع‌گرا و بی‌طرف با دست‌کم 300 واژه خواستند که «همهٔ موارد مهم» را دربر بگیرند — در مجموع 20 خلاصه.

  • همهٔ خلاصه‌ها خطا داشتند: از 7 تا 21 خطا در هر کدام، در حدود 305 واژه.
  • به‌طور میانگین، 51.6٪ از جزئیات محوری غایب بود.
  • 19 خلاصه از 20 خلاصه خودِ تصادف را از قلم انداختند — مهم‌ترین رویداد.
  • 60٪ جزئیاتی افزودند که وجود نداشت، مانند عابران یا وسایل نقلیهٔ ساختگی. یکی از خلاصه‌ها حتی اعلام کرد که «هیچ شخصیت یا وسیلهٔ نقلیهٔ دیگری مستقیماً با صحنه تعامل نداشت».
  • خطاها از یک تلاش به تلاش دیگر تغییر می‌کرد: خودرو در یک خلاصه به راست پیچید و در دیگری به چپ.

گام 2: آیا آنچه مردم به یاد می‌آورند را تغییر می‌دهد؟

328 شرکت‌کننده در ایالات متحده یکی از ویدئوها را تماشا کردند. یک تا دو روز بعد، خلاصه‌ای 21 جمله‌ای خواندند که ChatGPT نوشته بود. این خلاصه یا تابلوی راهنمایی درست را نام می‌برد یا تابلوی نادرست را. به برخی گفته شد که هوش مصنوعی آن را نوشته و به برخی دیگر که یک پیاده‌کنندهٔ متن حرفه‌ای انسانی — متن یکسان بود. سپس آزمون حافظه آمد.

  • با خلاصهٔ درست، 83.6٪ تابلوی درست را به یاد آوردند.
  • با خلاصهٔ گمراه‌کننده، تنها 44.8٪.
  • فرقی نمی‌کرد که افراد فکر کنند خلاصه از هوش مصنوعی آمده (46.3٪ درست) یا از یک انسان (43.4٪).
  • نه اعتماد به هوش مصنوعی و نه میزان استفاده از آن تفاوت معناداری ایجاد نکرد.

نمودار دقت یادآوری برای خلاصه‌های سازگار و گمراه‌کننده، با برچسب هوش مصنوعی و انسان.

سهم شرکت‌کنندگانی که تابلوی درست را به یاد آوردند: حدود 80٪ پس از خلاصهٔ درست، کمتر از 50٪ پس از خلاصهٔ گمراه‌کننده — چه با برچسب هوش مصنوعی و چه انسان. — شکل 1، Sim، Eiger و Kohno (2026)، arXiv:2609.28820.

شرکت‌کنندگان خودِ ویدئو را به یاد داشتند: 96.6٪ به‌درستی به یاد آوردند که تصادف در روز رخ داده است، جزئیاتی که در خلاصه نبود. جالب اینکه خلاصهٔ «انسانی» روشن‌تر ارزیابی شد، هرچند واژه‌به‌واژه همان بود.

یک انسان در حلقه کافی نیست

نویسندگان نتیجه می‌گیرند که فردی که قرار است هوش مصنوعی را تصحیح کند، ممکن است در عوض با خطاهای آن حافظه‌اش دگرگون شود — بی‌آنکه کسی نیت بدی داشته باشد. در حوزه‌هایی مانند کار پلیس، که حافظهٔ شاهدان عینی از دیرباز مایهٔ نگرانی بوده، آن‌ها این پرسش را مطرح می‌کنند که آیا اصلاً باید از هوش مصنوعی استفاده کرد. نسخهٔ کوتاه‌شدهٔ این کار در مجموعه‌مقالات کنفرانس AAAI/ACM دربارهٔ هوش مصنوعی، اخلاق و جامعه (اکتبر 2026) منتشر شده است.

محدودیت‌ها

دو ویدئوی پویانمایی ساده، یک پرامپت (prompt) و 20 خلاصه؛ تنها یک نوع جزئیات گمراه‌کننده که به‌صورت برخط آزموده شد. خلاصه‌ای که به شرکت‌کنندگان نشان داده شد از میان چند تلاش برگزیده شد و برای دقت اندکی ویرایش شد.