В эпоху, когда чат-боты становятся нашими собеседниками, финансовыми советниками и даже первыми линиями психологической поддержки, вопрос доверия к ним выходит на первый план. Мы полагаемся на их аналитические способности, но можем ли мы доверять их суждениям в ситуациях, где нет однозначно правильного ответа? Недавнее исследование ученых из Шанхайского университета Цзяотун (Китай) показало, что наше доверие к ИИ — это сложный механизм, зависящий не от одного, а от двух ключевых факторов: стиля общения бота и моральной позиции, которую он занимает.
Универсального рецепта не существует: контекст важнее дизайна
Главный вывод исследования заключается в том, что не существует единой «формулы доверия». Попытка сделать чат-бота просто «дружелюбным» или «профессиональным» не гарантирует, что пользователь поверит его моральным суждениям. Контекст ситуации оказался гораздо важнее, чем сам дизайн личности ИИ.
Ученые выяснили, что предпочтения людей меняются в зависимости от серьезности дилеммы и логики, которой следует искусственный интеллект:
- Теплый и дружелюбный тон (с эмодзи и поддерживающими фразами) вызывал доверие, когда ИИ следовал строгим моральным правилам (деонтологический подход) или когда ставки в дилемме были низкими.
- Профессиональный и компетентный тон (логичный, аналитический) становился решающим, когда ИИ принимал утилитарные решения (ориентированные на общее благо) или когда последствия выбора были критическими, например, угрожали жизни.
Эксперимент: от личного стресса до «проблемы вагонетки»
Чтобы прийти к этим выводам, исследователи провели масштабный эксперимент с участием 447 человек. Их разделили на восемь групп для проверки различных комбинаций. Эксперимент состоял из двух этапов:
- Знакомство: Участники шесть минут общались с ИИ на тему личного стресса. На этом этапе формировалось первое впечатление о личности бота — он был либо заботливым другом, либо хладнокровным аналитиком.
- Моральный выбор: Затем ИИ предлагалось решить классическую этическую задачу, похожую на «проблему вагонетки», где нужно было выбрать меньшее из двух зол. Искусственный интеллект принимал решение либо на основе строгого правила («не навреди»), либо исходя из пользы для большинства. Сценарии варьировались по степени тяжести: от легких травм до угрозы жизни.
Баланс личности и логики: ключ к доверию
Исследование доказало: люди больше доверяют ИИ, когда его личность находится в гармонии с его логикой принятия решений. Этот эффект многократно усиливается серьезностью ситуации. В вопросах жизни и смерти дружелюбие воспринимается как легкомыслие. Пользователь подсознательно ищет в боте опору, компетентность и демонстрацию того, что решение было принято после тщательного обдумывания всех рисков.
Таким образом, архитектура будущих систем ИИ должна быть гибкой. Разработчикам необходимо отказаться от универсальных профилей и научить чат-ботов адаптировать свой стиль общения под контекст диалога. В одном случае нужно быть эмпатичным собеседником, а в другом — беспристрастным и ответственным экспертом.
Итоги исследования опубликованы в журнале Computers in Human Behavior.
Изображение: ИИ / sciencex.com
