Неточный пересказ события, созданный искусственным интеллектом, способен повлиять на то, как человек вспоминает увиденное. В эксперименте с участием 331 добровольца точность ответов на вопросы о просмотренном видео упала с 83,6% после чтения достоверного описания до 44,8% после знакомства с искаженным текстом. Исследователи из Джорджтаунского университета и Вашингтонского университета представят результаты на конференции AAAI/ACM по искусственному интеллекту, этике и обществу.

Работа обращает внимание на риск, который возникает, когда люди используют ИИ-сводки как замену собственным наблюдениям. Ошибки в таких текстах могут не просто дезинформировать читателя, но и затруднить ему восстановление событий в том виде, в каком он их действительно видел.

Как неточный пересказ меняет воспоминания

В эксперименте добровольцам показывали анимированный ролик с дорожно-транспортным происшествием: красный автомобиль сбивал пешехода на переходе. На следующий день участникам предлагали прочитать краткое описание случившегося, подготовленное языковыми моделями ChatGPT и Gemini.

Сводки намеренно содержали ошибки или опускали важные детали. Например, в 95% случаев ИИ не упоминал сам факт столкновения автомобиля с человеком. В среднем модели пропускали более половины существенной информации о происшествии.

Затем исследователи проверяли, насколько хорошо участники помнят увиденное. Результаты показали заметную разницу в зависимости от того, какой текст они читали: после достоверного описания правильные ответы давали 83,6% участников, а после искаженного — только 44,8%.

Таким образом, знакомство с неточной сводкой сопровождалось существенным снижением точности воспоминаний. Однако эксперимент не означает, что любая ошибка ИИ автоматически меняет память человека: исследователи изучали конкретный сценарий с определенным событием и специально подготовленными текстами.

Почему важно, кто подготовил текст

Участникам сообщали, кем составлено описание происшествия, — человеком или искусственным интеллектом. При этом они читали неточные сводки независимо от того, кому приписывалось их авторство.

Это позволяет предположить, что риск связан не только с доверием к нейросетям. Само знакомство с уверенно изложенной, но ошибочной версией события может повлиять на последующее воспоминание о нем.

Когда человек пытается восстановить детали прошлого, он опирается не исключительно на первоначальное восприятие, но и на информацию, полученную позднее. Если новый источник опускает важные обстоятельства или описывает их неверно, отделить собственные воспоминания от усвоенного пересказа становится сложнее.

Доцент Института больших данных Маттеа Сим предупреждает, что ИИ может стать инструментом распространения дезинформации, способным формировать ложные воспоминания. Впрочем, для оценки масштабов эффекта нужны дополнительные исследования: один эксперимент не позволяет определить, насколько часто подобное происходит в повседневной жизни.

Чем это грозит полиции и судам

Особое значение результаты имеют для ситуаций, в которых точность воспоминаний влияет на серьезные решения. К таким сферам относятся медицина, расследования преступлений и судебные разбирательства.

Полицейские подразделения США уже внедряют алгоритмы для подготовки отчетов по видеозаписям. Такие инструменты могут ускорять обработку материалов, но если автоматически созданная сводка пропускает ключевое обстоятельство, она способна повлиять на то, как сотрудник впоследствии воспринимает инцидент.

Например, если в описании происшествия не упоминается столкновение автомобиля с пешеходом, читатель может уделить этому факту меньше внимания или с трудом вспомнить его при последующем опросе. В судебном контексте подобные ошибки потенциально способны осложнить восстановление последовательности событий и оценку свидетельских показаний.

Авторы исследования планируют продолжить работу и проверить, как ИИ-сводки влияют на память полицейских при просмотре записей с нагрудных камер. Такой эксперимент поможет выяснить, проявляется ли обнаруженный эффект в более реалистичных условиях.

Почему ИИ-отчеты нельзя считать заменой первоисточнику

Главный практический вывод исследования — автоматически созданные описания не следует воспринимать как безошибочную замену оригинальным материалам, особенно если речь идет о событиях, от которых зависят юридические или медицинские решения.

ИИ может экономить время при анализе больших объемов видео, однако пропуски и неточности в кратком пересказе способны иметь последствия, выходящие за пределы самого текста. Поэтому важные детали необходимо проверять по исходной записи, а автоматические отчеты — сопоставлять с первоисточником.

Эксперимент не доказывает, что языковые модели способны произвольно переписывать память человека или контролировать его воспоминания. Он показывает более конкретную проблему: неточная информация, полученная после события, может заметно ухудшить способность человека правильно его вспомнить. По мере распространения ИИ-сводок в повседневной работе и государственных учреждениях надежность таких описаний становится вопросом не только качества программного обеспечения, но и человеческой памяти.