Искусственный интеллект всё глубже проникает в повседневную жизнь — от науки и образования до магазинов и медицинских сервисов. Но исследователи предполагают, что постоянное общение с такими системами может иметь довольно неожиданный эффект: люди сами начинают понемногу подстраиваться под машины.
Авторы новой теоретической работы считают, что при регулярном взаимодействии с искусственным интеллектом в службах поддержки человек может перенимать удобные для алгоритма модели общения. Мы начинаем формулировать мысли так, чтобы система легче нас понимала, становимся более предсказуемыми и постепенно избавляем речь от некоторых индивидуальных особенностей.
Получается своеобразный парадокс. Пока искусственный интеллект становится всё более похожим на человека, человек в общении с ним может начать приобретать некоторые черты машины.
Исследователи называют это двусторонним влиянием. Системы обслуживания специально создаются так, чтобы имитировать человеческую речь, жесты и эмоциональные сигналы. Это должно вызывать у пользователя естественную социальную реакцию. Однако человек тоже склонен невольно копировать собеседника.
В результате робот становится более «человечным», а пользователь может начать вести себя более «роботизированно».
Важно, что пока это лишь теория. Авторы не проводили длительных экспериментов, в которых отслеживалось бы изменение поведения людей после регулярного общения с искусственным интеллектом. Их гипотеза основана на предыдущих исследованиях взаимодействия людей и роботов.
По мнению учёных, особенно важным становится то, насколько хорошо современные системы научились поддерживать естественный разговор. Они могут запоминать предыдущие сообщения, адаптироваться под конкретного пользователя и создавать ощущение социального взаимодействия.
Граница между человеком и программой в таком разговоре становится менее очевидной.
Схема выглядит просто: человек что-то говорит, система отвечает, а при многократном повторении такого взаимодействия пользователь начинает усваивать его правила. Одновременно алгоритм адаптируется к человеку, поэтому обе стороны постепенно подстраиваются друг под друга.
Исследователи предполагают, что это может затронуть даже представление человека о самом себе.
В обычном общении окружающие реагируют непредсказуемо. Их ответы невозможно полностью контролировать, и именно такая обратная связь участвует в формировании нашего поведения и восприятия собственной личности.
Искусственный интеллект работает иначе. Его ответы основаны на алгоритмах, статистических закономерностях и стремлении дать пользователю подходящую реакцию. Со временем человек может заметить, какие способы общения система воспринимает лучше всего, и бессознательно начать использовать именно их.
В результате из речи и поведения могут постепенно исчезать некоторые особенности, странности и непредсказуемость, которые характерны для обычного человеческого общения.
Иными словами, искусственному интеллекту проще взаимодействовать с более понятной и предсказуемой версией человека. Авторы работы предполагают, что при постоянном использовании таких систем люди могут незаметно приближаться именно к этой версии себя, поскольку так проще получить нужный ответ и продолжить разговор.
Пока неизвестно, происходит ли это в реальности и насколько сильным может быть эффект. Для проверки гипотезы потребуются полноценные эксперименты.
Тем не менее авторы отмечают, что они не первые, кто предполагает, что регулярное общение с искусственным интеллектом способно влиять на человеческое мышление и способы самовыражения.
При этом человеческий мозг во многих отношениях остаётся принципиально отличным от искусственного интеллекта. Опасение исследователей заключается скорее в другом: если всё больше общения будет проходить через алгоритмические системы, диапазон способов, которыми люди выражают себя и воспринимают собственную личность, потенциально может сузиться.
Поэтому специалисты предлагают обращать внимание не только на то, насколько хорошо искусственный интеллект помогает человеку, но и на то, не начинает ли сама технология незаметно задавать правила разговора.
Авторы подчёркивают, что искусственный интеллект и роботы уже стали привычной частью обслуживания клиентов. Поэтому важно понимать не только их эффективность, но и то, как длительное взаимодействие с такими системами может влиять на людей.
Исследование опубликовано в журнале AI & Society.
