ПЕРЕСКАЗЫ ОТ ИИ МОГУТ ПЕРЕПИСАТЬ ВАШУ ПАМЯТЬ
Генеративный ИИ проникает в области, где цена ошибки высока: полиция уже может автоматически составлять протоколы по записям нагрудных камер или аудио; ИИ появляется и при найме на работу, и в здравоохранении. Он ошибается. В одном описанном случае сгенерированный ИИ полицейский протокол утверждал, что офицер превратился в лягушку: система уловила саундтрек мультфильма «Принцесса и лягушка», звучавший на фоне.
Обычная страховка — человек, который проверяет результат. Но человеческая память тоже несовершенна.
Эффект, известный 50 лет
В 1978 году психолог Элизабет Лофтус показала, что информация, полученная после события, может изменить то, как мы его помним: это эффект дезинформации. В её классическом эксперименте люди смотрели на автомобильную аварию на перекрёстке со знаком «Стоп» или «Уступите дорогу», затем читали текст, где был назван не тот знак, — и многие запоминали его неправильно. Даже один глагол («врезались» вместо «столкнулись») может изменить то, какую скорость машин люди потом вспоминают.
Маттеа Сим, Яэль Эйгер и Тадаёси Коно из Джорджтаунского университета и Вашингтонского университета задались вопросом: могут ли пересказы от ИИ делать то же самое?
Шаг 1: насколько точны пересказы от ИИ?
Они взяли два 25-секундных анимационных ролика из современного повторения исследования Лофтус: красная машина подъезжает к перекрёстку со знаком «Стоп» или «Уступите дорогу», поворачивает направо, сбивает пешехода, который падает и встаёт, а водитель выходит из машины. Они попросили ChatGPT-5.5 и Gemini 2.5 Flash-Lite составить фактические, нейтральные пересказы длиной не менее 300 слов, включающие «всё важное», — всего 20 пересказов.
- Каждый пересказ содержал ошибки: от 7 до 21 на текст примерно из 305 слов.
- В среднем не хватало 51,6% ключевых деталей.
- В 19 пересказах из 20 был пропущен сам наезд — самое важное событие.
- В 60% появились детали, которых не было, например выдуманные пешеходы или машины. В одном пересказе даже утверждалось, что «никакие другие персонажи или машины не взаимодействовали напрямую со сценой».
- Ошибки менялись от попытки к попытке: в одном пересказе машина поворачивала направо, в другом — налево.
Шаг 2: меняет ли это то, что помнят люди?
328 участников из США посмотрели один из роликов. Через один-два дня они прочитали пересказ из 21 предложения, написанный ChatGPT. В нём был назван либо правильный дорожный знак, либо неправильный. Одним сказали, что текст написал ИИ, другим — что профессиональный расшифровщик-человек; текст был одинаковым. Затем следовал тест на память.
- После верного пересказа правильный знак вспомнили 83,6%.
- После вводящего в заблуждение — лишь 44,8%.
- Не имело значения, считали ли люди автором пересказа ИИ (46,3% правильных ответов) или человека (43,4%).
- Ни доверие к ИИ, ни то, как часто люди им пользуются, не давали значимой разницы.
Доля участников, вспомнивших правильный дорожный знак: около 80% после верного пересказа и менее 50% после вводящего в заблуждение — независимо от того, был ли он помечен как написанный ИИ или человеком. — Рисунок 1, Sim, Eiger & Kohno (2026), arXiv:2609.28820.
Само видео участники при этом помнили: 96,6% правильно вспомнили, что авария произошла днём, — деталь, которой в пересказе не было. Любопытно, что «человеческий» пересказ оценили как более ясный, хотя он совпадал слово в слово.
Человека в контуре недостаточно
Авторы заключают, что у человека, который должен исправлять ИИ, его ошибки могут, наоборот, изменить память — без чьего-либо злого умысла. В таких сферах, как работа полиции, где память очевидцев давно вызывает беспокойство, они ставят под вопрос, стоит ли вообще использовать ИИ. Сокращённая версия работы опубликована в трудах конференции AAAI/ACM по ИИ, этике и обществу (октябрь 2026 года).
Ограничения
Два простых анимационных ролика, один запрос и 20 пересказов; проверялся лишь один тип вводящей в заблуждение детали, и только онлайн. Пересказ, показанный участникам, был выбран из нескольких попыток и слегка отредактирован для точности.