AI चे सारांश तुमची स्मृती पुन्हा लिहू शकतात

जनरेटिव्ह AI मोठे परिणाम असणाऱ्या कामांमध्ये पसरत आहे: पोलीस विभाग आता बॉडी-कॅमेऱ्याच्या चित्रणावरून किंवा ध्वनीवरून आपोआप अहवाल तयार करू शकतात; भरती आणि आरोग्यसेवेतही AI दिसू लागली आहे. ती चुका करते. नोंदवलेल्या एका प्रकरणात, AI ने तयार केलेल्या एका पोलीस अहवालात म्हटले होते की एक अधिकारी बेडकात रूपांतरित झाला — पार्श्वभूमीत चालू असलेल्या The Princess and the Frog या चित्रपटाचा आवाज तिने टिपला होता.

नेहमीचा सुरक्षा-उपाय म्हणजे निकाल तपासणारा एक माणूस. पण माणसाची स्मृतीही चुकू शकते.

50 वर्षे जुना परिणाम

1978 मध्ये मानसशास्त्रज्ञ एलिझाबेथ लॉफ्टस यांनी दाखवून दिले की एखाद्या घटनेच्या नंतर मिळालेली माहिती ती घटना आपल्याला कशी आठवते ते बदलू शकते: हा चुकीच्या माहितीचा परिणाम (misinformation effect). त्यांच्या अभिजात प्रयोगात लोकांनी ‘थांबा’ किंवा ‘मार्ग द्या’ चिन्ह असलेल्या चौकातील गाडीचा अपघात पाहिला, आणि मग चुकीच्या चिन्हाचा उल्लेख असलेला मजकूर वाचला — आणि अनेकांना ते चुकीचे आठवले. एकच क्रियापद (“आदळली” ऐवजी “चक्काचूर करत धडकली”) बदलले तरी लोकांना गाड्यांचा वेग किती आठवतो ते बदलू शकते.

जॉर्जटाउन विद्यापीठ आणि वॉशिंग्टन विद्यापीठातील मॅटिया सिम, याएल आयगर आणि तादायोशी कोहनो यांनी AI सारांशही असेच करू शकतात का, असा प्रश्न विचारला.

पायरी 1: AI सारांश किती अचूक असतात?

त्यांनी लॉफ्टस यांच्या अभ्यासाच्या एका आधुनिक पुनरावृत्तीतून 25 सेकंदांचे दोन ॲनिमेटेड व्हिडिओ घेतले: एक लाल गाडी ‘थांबा’ किंवा ‘मार्ग द्या’ चिन्ह असलेल्या चौकात येते, उजवीकडे वळते, एका पादचाऱ्याला धडकते, तो पडतो आणि उठतो, आणि चालक गाडीतून उतरतो. त्यांनी ChatGPT-5.5 आणि Gemini 2.5 Flash-Lite कडून किमान 300 शब्दांचे, वस्तुनिष्ठ, तटस्थ आणि “सर्व महत्त्वाचे” समाविष्ट करणारे सारांश मागितले — एकूण 20 सारांश.

• प्रत्येक सारांशात चुका होत्या: सुमारे 305 शब्दांमध्ये प्रत्येकी 7 ते 21.
• सरासरी, मध्यवर्ती तपशिलांपैकी 51.6% गायब होते.
• 20 पैकी 19 सारांशांनी धडकच वगळली — जी सर्वांत महत्त्वाची घटना होती.
• 60% सारांशांनी तिथे नसलेले तपशील जोडले, जसे की कल्पित पादचारी किंवा वाहने. एका सारांशाने तर असेही म्हटले की “इतर कोणतीही पात्रे किंवा वाहने या दृश्याशी थेट संवाद साधत नव्हती.”
• चुका एका प्रयत्नापासून दुसऱ्या प्रयत्नापर्यंत बदलत होत्या: एका सारांशात गाडी उजवीकडे वळली, तर दुसऱ्यात डावीकडे.

पायरी 2: लोकांना जे आठवते ते यामुळे बदलते का?

अमेरिकेतील 328 सहभागींनी यापैकी एक व्हिडिओ पाहिला. एक ते दोन दिवसांनंतर त्यांनी ChatGPT ने लिहिलेला 21 वाक्यांचा सारांश वाचला. त्यात एकतर योग्य वाहतूक-चिन्हाचा किंवा चुकीच्या चिन्हाचा उल्लेख होता. काहींना सांगण्यात आले की तो AI ने लिहिला आहे, तर इतरांना की तो एका व्यावसायिक मानवी प्रतिलेखकाने लिहिला आहे — मजकूर अगदी सारखाच होता. त्यानंतर स्मृती-चाचणी झाली.

• योग्य सारांश वाचणाऱ्यांपैकी 83.6% लोकांना योग्य चिन्ह आठवले.
• दिशाभूल करणाऱ्या सारांशानंतर फक्त 44.8% लोकांना.
• सारांश AI कडून आला आहे (46.3% बरोबर) की माणसाकडून (43.4%) असे लोकांना वाटले, याने काहीच फरक पडला नाही.
• AI वरचा विश्वास किंवा लोक ती किती वेळा वापरतात, यापैकी कशानेही लक्षणीय फरक पडला नाही.

योग्य वाहतूक-चिन्ह आठवलेल्या सहभागींचे प्रमाण: योग्य सारांशानंतर सुमारे 80%, दिशाभूल करणाऱ्या सारांशानंतर 50% पेक्षा कमी — त्याला AI चे लेबल असो वा माणसाचे. — आकृती 1, Sim, Eiger & Kohno (2026), arXiv:2609.28820.

सहभागींना व्हिडिओ स्वतः मात्र आठवत होता: अपघात दिवसा घडला, हा सारांशात नसलेला तपशील 96.6% लोकांना बरोबर आठवला. गंमत म्हणजे, “मानवी” सारांश शब्दशः तोच असूनही अधिक स्पष्ट असल्याचे मानांकन मिळाले.

प्रक्रियेत एक माणूस असणे पुरेसे नाही

लेखकांचा निष्कर्ष असा की AI ची दुरुस्ती करणे अपेक्षित असलेल्या व्यक्तीचीच स्मृती तिच्या चुकांमुळे बदलू शकते — कोणाचाही वाईट हेतू नसताना. पोलिसी कामासारख्या क्षेत्रांमध्ये, जिथे प्रत्यक्षदर्शींची स्मृती हा फार पूर्वीपासून चिंतेचा विषय आहे, तिथे AI वापरावी की नाही यावरच ते प्रश्न उपस्थित करतात. या कामाची संक्षिप्त आवृत्ती AI, नीतिशास्त्र आणि समाज यावरील AAAI/ACM परिषदेच्या कार्यवृत्तात (ऑक्टोबर 2026) प्रकाशित झाली आहे.

मर्यादा

दोन साधे ॲनिमेटेड व्हिडिओ, एक प्रॉम्प्ट आणि 20 सारांश; दिशाभूल करणाऱ्या तपशिलाचा एकच प्रकार ऑनलाइन तपासला गेला. सहभागींना दाखवलेला सारांश अनेक प्रयत्नांमधून निवडला गेला होता आणि अचूकतेसाठी किंचित संपादित केला गेला होता.