Мы привыкли к тому, что технологии — это наши помощники. Нейросети пишут скучные отчеты, чат-боты отвечают на запросы, а «умные» браслеты считают шаги. Но ученые предупреждают: мы стоим на пороге реальности, где технологии перестанут быть просто инструментом и начнут формировать наши мысли, чувства и даже личность. И к этому, кажется, никто не готов.
Речь идет о слиянии двух гигантов: искусственного интеллекта (ИИ), который мы уже знаем, и нейротехнологий — устройств, которые могут читать сигналы мозга и даже воздействовать на них. Если ИИ пока лишь анализирует наши действия в интернете, то нейроинтерфейсы (вспомните или погуглите проекты Neuralink) могут залезть в самое святая святых — в наше подсознание. И когда эти две силы объединяются, мы получаем не просто «умную» колонку, а технологию, способную, скажем, менять ваши политические взгляды во время рекламной паузы или подсовывать мысли о покупке ненужной вещи, не обращая внимание на ваши волевые интенции.
Коллектив исследователей из Совета Федерации РФ, Балтийского федерального университета, нижегородской АНО «Неймарк», Российского экономического университета им. Г.В. Плеханова и центра «Цифровые индустриальные технологии» проводит четкую грань.: ИИ — это «косвенное» влияние, он учится на наших цифровых следах. А нейротехнологии — это прямой доступ к «харду» человека.
«Большинство нейронных сигналов бессознательны, — пишут исследователи. Т.е., мы сами не понимаем, какой информацией делимся, когда «умные» девайсы. Это значит, что скоро у корпораций или государств может появиться возможность узнать о нас больше, чем мы знаем сами: наши истинные желания, скрытые страхи или импульсивные решения, которые мы еще не успели обдумать.
Особенно пикантна ситуация с датасетами, на которых обучают нейросети. Оказывается, 80% таких баз данных составлено на основе жителей западных стран, которые составляют всего 12% населения Земли. Что это значит? Что алгоритмы могут просто «не понимать» остальных 88% людей. Искусственный интеллект, созданный по лекалам одной культуры, рискует стать гигантским бюрократом, который будет дискриминировать «нестандартное» мышление или физиологию, просто потому что он на них не обучен. Т.е. врач-нейросеть будет ставить диагноз, основываясь на данных, которые вообще не учитывают вашу этническую или возрастную группу.
Ситуация осложняется тем, что законы в этой области отчаянно отстают. В большинстве стран до сих пор нет даже специального понятия «нейроданные». Их защищают теми же законами, что и пароль от почты, хотя мозговая активность — это куда более интимная и важная вещь. Евросоюз уже пытается навести порядок, разделяя системы ИИ на группы риска (некоторые, например, социальный рейтинг, просто запрещены). Китай требует маркировать контент, созданный нейросетями. А в России пока действует скорее этический кодекс, который, хотя и задает верное направление (прозрачность, уважение прав человека), пока не имеет жесткой юридической силы.
Самое интересное, что даже церковь, кажется, обеспокоена не меньше технарей. И Русская православная, и Католическая церкви в последнее время активно включились в дискуссию. Патриарх Кирилл предупреждает о «цифровом рабстве» и опасности «глубинного коллапса представлений о границах человеческого». Папа Франциск, в свою очередь, настаивает на том, что технологии должны служить общему благу, а не заменять собой человеческие отношения. Их позиция проста и сурова: если технология начинает вмешиваться в душу и свободу воли — это уже не прогресс, а угроза.
Вывод у авторов исследования звучит как призыв к оружию, но только интеллектуальному. Ученые предлагают взять за основу принцип in dubio pro homo — в случае сомнений действовать в пользу человека. Это значит, что робот не может увольнять вас без права обжалования, а данные вашего мозга не могут быть предметом купли-продажи. Главная рекомендация — не запрещать технологии (это бесполезно), а научиться договариваться о правилах игры на глобальном уровне, пока мы еще не создали себе такого «умного» поводыря, который решит, куда нам идти.
Так что, пока мы спорим, сможет ли ChatGPT написать роман лучше нас, настоящая битва разворачивается за куда более скромный, но важный приз — за наше право оставаться самими собой, даже когда вокруг нас кипит цифровая вселенная.
Исследование опубликовано в журнале «Известия высших учебных заведений. Прикладная нелинейная динамика»
