Чат-боты искажают память свидетелей преступлений Это исследование MIT

Современные технологии ИИ, в частности чат-боты, по последним данным исследования ученых из MIT и Калифорнийского университета в Ирвайне, могут влиять на формирование ложных воспоминаний у людей — это открытие имеет особенно серьезные последствия для правовой сферы, в частности для допросов свидетелей преступлений.

В ходе эксперимента, в котором участвовали 200 человек, было выявлено, что взаимодействие с чат-ботами значительно увеличивает риск возникновения ложных воспоминаний. После просмотра видеозаписи ограбления, участники были разделены на четыре группы, где они отвечали на вопросы под различным влиянием: без вмешательства, с вводящими вопросами, через стандартный чат-бот и через чат-бота на базе GPT-4 с функцией подкрепления ответов.

Результаты показали, что участники, взаимодействующие с чат-ботом, особенно с GPT-4, значительно чаще формировали и сохраняли ложные воспоминания. Если в контрольной группе через неделю ложные воспоминания сохранились у 12% участников, то среди тех, кто взаимодействовал с чат-ботом, этот показатель составил почти 37%.

Учитывая все большую интеграцию ИИ в повседневные аспекты нашей жизни, такие результаты должны вызвать серьезные обсуждения о роли ИИ в правосудии и других чувствительных к воспоминаниям областях. Опасения усиливаются тем, что ИИ может не только искажать воспоминания, но и закреплять ложные данные в памяти человека.

Что такое искусственный интеллект: