ملخّصات الذكاء الاصطناعي قد تعيد كتابة ذاكرتك

ينتشر الذكاء الاصطناعي التوليدي في أعمال عالية المخاطر: فبإمكان أقسام الشرطة اليوم توليد التقارير آليًا من تسجيلات الكاميرات المثبتة على الأجساد أو من التسجيلات الصوتية، كما يظهر الذكاء الاصطناعي في التوظيف والرعاية الصحية. وهو يخطئ. ففي إحدى الحالات المبلّغ عنها، زعم تقرير شرطة كتبه الذكاء الاصطناعي أن أحد الضباط تحوّل إلى ضفدع، إذ التقط الصوت المصاحب لفيلم الأميرة والضفدع الذي كان يُعرض في الخلفية.

والضمانة المعتادة هي إنسان يراجع ما يُنتجه النظام. لكن الذاكرة البشرية أيضًا معرّضة للخطأ.

أثر عمره 50 عامًا

في عام 1978، أثبتت عالمة النفس إليزابيث لوفتس أن المعلومات التي نتلقاها بعد حدث ما يمكن أن تغيّر طريقة تذكّرنا له: إنه أثر المعلومات المضلِّلة (misinformation effect). ففي تجربتها الشهيرة، شاهد المشاركون حادث سيارة عند تقاطع توجد فيه إما إشارة «قف» وإما إشارة «أفسح الطريق»، ثم قرأوا نصًا يذكر الإشارة الخاطئة، فتذكّرها كثيرون منهم على نحو خاطئ. بل إن فعلًا واحدًا («تحطّمت» بدلًا من «اصطدمت») يمكن أن يغيّر السرعة التي يتذكّر الناس أن السيارات كانت تسير بها.

وتساءلت ماتيا سيم وياعيل آيغر وتادايوشي كونو، من جامعة جورجتاون وجامعة واشنطن، عمّا إذا كانت ملخّصات الذكاء الاصطناعي قادرة على فعل الشيء نفسه.

الخطوة الأولى: ما مدى دقة ملخّصات الذكاء الاصطناعي؟

أخذ الباحثون مقطعَي فيديو متحرّكين مدة كل منهما 25 ثانية من إعادة حديثة لدراسة لوفتس: سيارة حمراء تصل إلى تقاطع فيه إشارة «قف» أو «أفسح الطريق»، فتنعطف يمينًا، وتصدم أحد المشاة فيسقط ثم ينهض، وينزل السائق من السيارة. وطلبوا من ChatGPT-5.5 وGemini 2.5 Flash-Lite ملخّصات واقعية ومحايدة لا تقل عن 300 كلمة وتتضمن «كل ما هو مهم»، أي 20 ملخّصًا في المجموع.

• احتوى كل ملخّص على أخطاء: من 7 إلى 21 خطأ في كل منها، في نحو 305 كلمات.
• في المتوسط، غاب 51.6% من التفاصيل الجوهرية.
• أغفل 19 ملخّصًا من أصل 20 حادثة الاصطدام نفسها، وهي أهم حدث على الإطلاق.
• أضاف 60% منها تفاصيل لم تكن موجودة، مثل مشاة أو مركبات مختلَقة. بل إن أحد الملخّصات أكّد أن «لا شخصيات أو مركبات أخرى تفاعلت مباشرة مع المشهد».
• وتغيّرت الأخطاء من محاولة إلى أخرى: فالسيارة انعطفت يمينًا في ملخّص، ويسارًا في آخر.

الخطوة الثانية: هل يغيّر ذلك ما يتذكّره الناس؟

شاهد 328 مشاركًا في الولايات المتحدة أحد المقطعين. وبعد يوم إلى يومين، قرأوا ملخّصًا من 21 جملة كتبه ChatGPT. وكان يذكر إما إشارة المرور الصحيحة وإما الخاطئة. وقيل لبعضهم إن الذكاء الاصطناعي كتبه، ولآخرين إن مفرِّغًا بشريًا محترفًا كتبه، مع أن النص كان متطابقًا. ثم جاء اختبار الذاكرة.

• مع الملخّص الصحيح، تذكّر 83.6% الإشارة الصحيحة.
• ومع الملخّص المضلِّل، لم يتذكّرها سوى 44.8%.
• ولم يُحدث أي فرق أن يظن الناس أن الملخّص من الذكاء الاصطناعي (46.3% إجابات صحيحة) أو من إنسان (43.4%).
• ولم تُحدث الثقة بالذكاء الاصطناعي ولا تكرار استخدامه فرقًا يُعتدّ به.

نسبة المشاركين الذين تذكّروا إشارة المرور الصحيحة: نحو 80% بعد ملخّص صحيح، وأقل من 50% بعد ملخّص مضلِّل، سواء نُسب إلى الذكاء الاصطناعي أو إلى إنسان. — الشكل 1، سيم وآيغر وكونو (2026)، arXiv:2609.28820.

وقد تذكّر المشاركون الفيديو نفسه: فقد تذكّر 96.6% منهم بشكل صحيح أن الحادث وقع نهارًا، وهو تفصيل لم يرد في الملخّص. والغريب أن الملخّص «البشري» قُيِّم على أنه أوضح، مع أنه كان مطابقًا حرفيًا.

وجود إنسان في الحلقة لا يكفي

يخلص المؤلفون إلى أن الشخص المكلّف بتصحيح الذكاء الاصطناعي قد تتعرّض ذاكرته هو للتحريف بسبب أخطائه، من دون أي نية سيئة لدى أحد. وفي مجالات مثل عمل الشرطة، حيث تشكّل ذاكرة شهود العيان مصدر قلق منذ زمن طويل، يتساءلون عمّا إذا كان ينبغي استخدام الذكاء الاصطناعي أصلًا. وقد نُشرت نسخة مختصرة من هذا العمل في وقائع مؤتمر AAAI/ACM للذكاء الاصطناعي والأخلاقيات والمجتمع (أكتوبر 2026).

الحدود

مقطعا فيديو متحرّكان بسيطان، وموجِّه (prompt) واحد، و20 ملخّصًا؛ ونوع واحد من التفاصيل المضلِّلة اختُبر عبر الإنترنت. وقد اختير الملخّص المعروض على المشاركين من بين عدة محاولات، وعُدّل تعديلًا طفيفًا من أجل الدقة.