Исследователи Института когнитивных нейронаук НИУ ВШЭ выяснили, как мозг реагирует на аудиодипфейки — реалистичные поддельные записи речи, созданные с помощью ИИ. Выяснилось, что люди склонны доверять мнению авторитетного спикера даже в тех случаях, когда новые утверждения противоречат его прежней позиции. Это работает и в ситуациях, когда утверждение не согласуется с собственным мнением слушающего. Исследование опубликовано в журнале NeuroImage.
Современные дипфейки все сложнее отличить от реальных записей, и они все чаще используются для распространения ложной информации. В сфере здравоохранения последствия дезинформации особенно опасны, поскольку угрожают здоровью населения.
Исследователи Института когнитивных нейронаук (ИКН) НИУ ВШЭ провели эксперимент, чтобы выяснить, как люди воспринимают аудиодипфейки от лица знаменитостей, высказывающихся за или против вакцинации от COVID-19.
В исследовании принял участие 61 человек. Половина участников поддерживала вакцинацию, а половина выступала против. Испытуемые слушали ИИ-сгенерированные аудиозаписи известных лидеров мнений — врача, сторонника вакцинации, и популярной актрисы, известной своей антипрививочной позицией. Во время прослушивания активность мозга участников регистрировалась с помощью электроэнцефалографии (ЭЭГ).
В какой-то момент спикеры произносили фразы, противоречащие их реальной публичной позиции: врач неожиданно говорил, что прививки от коронавируса не нужны, а актриса, наоборот, подчеркивала необходимость вакцинации. В этом случае ЭЭГ регистрировала потенциал N400 — реакцию мозга на смысловое несоответствие, которая возникает примерно через 400 мс после того, как мы видим или слышим неожиданный стимул. Чем больше несоответствие, тем сильнее сигнал.
Анализ данных показал, что участники вне зависимости от собственных установок оценивали высказывание врача выше по всем факторам: считали его более убедительным, авторитетным, заслуживающим доверия, хотели поделиться этой информацией с друзьями и знакомыми. ЭЭГ регистрировала потенциал N400, когда врач высказывался против вакцинации от коронавируса, при этом он был значительно слабее или вовсе отсутствовал, когда противоречивые утверждения исходили от менее авторитетной в медицинских вопросах актрисы.
Изначально мы предполагали, что на восприятие аудиозаписи будут влиять личные убеждения участников. Именно поэтому мы заранее выяснили, поддерживают ли они вакцинацию или выступают против, и разделили их на две группы. Кроме того, мы провели специальные тесты, чтобы определить их уровень аналитического мышления, стремления к познанию и склонности к конформизму. Однако при прослушивании дипфейков оказалось, что все эти параметры почти не имеют значения. Решающим фактором выступает именно авторитет в медицинской области.
- Элиана Монахова, первый автор статьи, младший научный сотрудник Центра нейроэкономики и когнитивных исследований ИКН НИУ ВШЭ
Полученные результаты имеют важное значение для понимания механизмов распространения недостоверной информации. Они показывают, что сообщения, приписываемые авторитетным источникам, могут оказывать сильное воздействие на аудиторию, даже если содержат внутренние противоречия и расходятся с публичной позицией.
Насколько нам известно, это первое исследование, в котором нейрокогнитивные механизмы обработки семантических противоречий в дипфейках рассматриваются с точки зрения нашего доверия к сообщению. Понимание этих механизмов позволяет разрабатывать более эффективные стратегии противодействия цифровому мошенничеству и информационным манипуляциям.
- Элиана Монахова, первый автор статьи, младший научный сотрудник Центра нейроэкономики и когнитивных исследований ИКН НИУ ВШЭ
Исследование выполнено в рамках гранта Российского научного фонда № 24-18-00432 «Нейрофизиологические механизмы восприятия манипулятивной информации: факторы и стратегии устойчивости».
Источник: НИУ ВШЭ
