RINGKASAN BUATAN AI BISA MENULIS ULANG INGATAN ANDA

AI generatif menyebar ke pekerjaan berisiko tinggi: kepolisian kini dapat membuat laporan secara otomatis dari rekaman kamera tubuh atau audio; AI juga muncul dalam rekrutmen dan layanan kesehatan. AI membuat kesalahan. Dalam satu kasus yang dilaporkan, laporan polisi buatan AI menyatakan bahwa seorang petugas telah berubah menjadi katak — AI itu menangkap soundtrack film The Princess and the Frog yang diputar di latar belakang.

Pengaman yang biasa adalah manusia yang memeriksa hasilnya. Namun ingatan manusia juga bisa keliru.

Efek berusia 50 tahun

Pada 1978, psikolog Elizabeth Loftus menunjukkan bahwa informasi yang diterima setelah suatu peristiwa dapat mengubah cara kita mengingatnya: efek misinformasi. Dalam eksperimen klasiknya, orang-orang menonton kecelakaan mobil di persimpangan dengan rambu berhenti atau rambu beri jalan, lalu membaca teks yang menyebut rambu yang salah — dan banyak yang salah mengingatnya. Bahkan satu kata kerja (“menghantam” alih-alih “menabrak”) dapat mengubah seberapa cepat orang mengingat laju mobil-mobil itu.

Mattea Sim, Yael Eiger, dan Tadayoshi Kohno, dari Georgetown University dan University of Washington, bertanya apakah ringkasan AI bisa melakukan hal yang sama.

Langkah 1: seberapa akurat ringkasan AI?

Mereka mengambil dua video animasi berdurasi 25 detik dari replikasi modern studi Loftus: sebuah mobil merah tiba di persimpangan dengan rambu berhenti atau beri jalan, berbelok ke kanan, menabrak seorang pejalan kaki yang jatuh lalu bangkit, dan pengemudinya keluar. Mereka meminta ChatGPT-5.5 dan Gemini 2.5 Flash-Lite membuat ringkasan faktual dan netral minimal 300 kata yang mencakup “semua hal penting” — total 20 ringkasan.

Setiap ringkasan mengandung kesalahan: 7 hingga 21 per ringkasan, dalam sekitar 305 kata.
Rata-rata, 51,6% detail inti hilang.
19 dari 20 ringkasan tidak menyebut tabrakannya — peristiwa paling penting dari semuanya.
60% menambahkan detail yang tidak ada, seperti pejalan kaki atau kendaraan rekaan. Satu ringkasan bahkan menyatakan bahwa “tidak ada tokoh atau kendaraan lain yang berinteraksi langsung dengan adegan tersebut”.
Kesalahannya berubah dari satu percobaan ke percobaan berikutnya: mobil berbelok ke kanan dalam satu ringkasan, ke kiri dalam ringkasan lain.

Langkah 2: apakah itu mengubah apa yang diingat orang?

328 peserta di Amerika Serikat menonton salah satu video. Satu hingga dua hari kemudian, mereka membaca ringkasan 21 kalimat yang ditulis ChatGPT. Ringkasan itu menyebut rambu lalu lintas yang benar atau yang salah. Sebagian diberi tahu bahwa ringkasan itu ditulis AI, sebagian lain bahwa itu ditulis transkriptor manusia profesional — teksnya identik. Lalu dilakukan tes ingatan.

Dengan ringkasan yang benar, 83,6% mengingat rambu yang benar.
Dengan ringkasan yang menyesatkan, hanya 44,8%.
Tidak ada bedanya apakah orang mengira ringkasan berasal dari AI (46,3% benar) atau manusia (43,4%).
Baik kepercayaan pada AI maupun seberapa sering orang menggunakannya tidak membuat perbedaan yang signifikan.

Grafik akurasi ingatan untuk ringkasan yang konsisten dan menyesatkan, dengan label AI dan manusia.

Proporsi peserta yang mengingat rambu lalu lintas yang benar: sekitar 80% setelah ringkasan yang benar, di bawah 50% setelah ringkasan yang menyesatkan — baik dilabeli AI maupun manusia. — Gambar 1, Sim, Eiger & Kohno (2026), arXiv:2609.28820.

Para peserta tetap mengingat videonya sendiri: 96,6% ingat dengan benar bahwa kecelakaan terjadi pada siang hari, detail yang tidak ada dalam ringkasan. Anehnya, ringkasan “manusia” dinilai lebih jelas, padahal kata demi katanya sama persis.

Manusia dalam alur kerja tidak cukup

Para penulis menyimpulkan bahwa orang yang seharusnya mengoreksi AI justru bisa ingatannya berubah oleh kesalahan AI — tanpa niat jahat dari siapa pun. Dalam konteks seperti kepolisian, tempat ingatan saksi mata sudah lama menjadi perhatian, mereka mempertanyakan apakah AI layak digunakan sama sekali. Versi ringkas karya ini diterbitkan dalam prosiding AAAI/ACM Conference on AI, Ethics, and Society (Oktober 2026).

Keterbatasan

Dua video animasi sederhana, satu prompt, dan 20 ringkasan; hanya satu jenis detail menyesatkan yang diuji secara daring. Ringkasan yang ditunjukkan kepada peserta dipilih dari beberapa percobaan dan sedikit disunting agar lebih akurat.