«Открыл дверь с ноги»: эксперты по безопасности обсудили перспективы искусственного интеллекта

В медиацентре МИА «Россия сегодня» прошёл круглый стол на актуальную тему: как ИИ влияет на социум, в чём преимущества и риски глубокой разработки нейросетей?

Круглый стол, правда, оказался вполне прямым президиумом, за которым разместились эксперты (в порядке выступлений):

• президент Национального института исследований глобальной безопасности, чрезвычайный и полномочный посланник в отставке Анатолий Смирнов;
• генеральный директор Центра стратегических оценок и прогнозов Сергей Гриняев;
• ведущий научный сотрудник Военно-инженерной корпорации Артем Артёмов;
• директор Института общественных наук РАНХиГС Павел Голосов;
• член-корреспондент Российской ассоциации космонавтики им. К.Э. Циолковского, член Совета по внешней и оборонной политике Андрей Ионин.

Интересный подбор участников. Он оказался ещё интереснее, когда с записанным на видео вступительным словом обратилась Мария Захарова, глава пресс-службы МИД России. Обращает на себя внимание, что дискуссию на сей раз вели не разработчики и маркетологи, а политики и дипломаты. Это – взгляд на ИИ извне, со стороны даже не пользователей, а полномочных представителей «старого» общества, встретившегося с совершенно новой реальностью.

В результате все эксперты говорили не о формировании образа будущего, а о связанных с ИИ рисках – и ведущей даже пришлось просить хоть кого-нибудь сказать о пользе этих технологий.

Разговор начался с презентации опубликованного под редакцией Марии Захаровой двухтомного учебника для вузов «Международная безопасность в эпоху искусственного интеллекта», и эта тема задала тон всему двухчасовому диалогу.

Наиболее интересными были два первых выступления.

Начавший разговор Анатолий Смирнов указал, что развитие искусственного интеллекта – это ещё недостаточно оценённый фазовый переход в истории человечества, соотносимый по значимости с изобретением печатного станка или внедрением электричества. Но на печатном станке можно размножать отнюдь не только хорошие и полезные книги, электричество тоже не всегда служит на благо человечества, что же говорить об искусственном интеллекте. Полное отсутствие регулирования в этой сфере – тревожный и даже опасный факт, считает президент Национального института исследований глобальной безопасности.

Сергей Гриняев согласился с Анатолием Ивановичем – по его образному выражению, ИИ «с ноги открыл дверь» в нашу жизнь (Павел Голосов потом добавит «разрушает всё вокруг себя, как бордюры в Москве»). Для рядового пользователя нейросети стали уникальным продуктом эпохи потребления – «чёрным ящиком», который на выходе даёт легко усвояемую информацию. Однако первый глобальный саммит по искусственному интеллекту, прошедший в ноябре 2023 года в Британии, был посвящён не голосовым помощникам и не весёлым дипфейкам, а безопасности. И это очень важный сигнал обществу.

На самом деле, по мысли Гриняева (человек с инженерным образованием, он говорил наиболее чётко и детально), ИИ как такового ещё нет. Сейчас мы имеем дело с первым поколением, с осторожными попытками заглянуть в эту область. Но в какой-то момент придёт нечто новое, второе поколение – и вот оно уже станет зарождением общества будущего.

Андрей Ионин сомневается в том, что это общество будущего станет счастливым. По его мнению, горизонт потери контроля над искусственным интеллектом очень невелик, 2–4 года, и решать проблемы нужно уже вчера. Эксперт процитировал Илона Маска, который даёт 10–20% шансов на то, что ИИ просто уничтожит человечество тем или иным способом. Недавно людям удалось обуздать другую опасную технологию, генную инженерию – сейчас она строго контролируется на государственном и международном уровне. Почему этого не происходит с ИИ, задаётся вопросом Ионин, и отвечает – потому что это невыгодно гегемону. Потому что Соединённые Штаты хотят использовать ИИ в своих интересах, но хватит ли у политиков компетентности удержать ситуацию под контролем – большой вопрос. Ведь столь быстрой революции в истории ещё не было. Появилась технология, которая замещает то, что сделало человека царём природы – замещает его интеллект.

В последующих прениях выделялся пессимизмом Анатолий Смирнов. Он подчёркивал, что люди создают убийц всё изощрённее и изощрённее, и вполне возможно, что ИИ – последний в этом ряду. Сейчас на этой ниве идёт война без правил, и победит тот, кто сможет навязать миру свои правила. Смирнов напомнил, что 45-го и 46-го президента США (Трампа и Байдена) выбрали, по сути, социальные сети, и предрёк, что 47-го выберет (назначит?) искусственный интеллект.

Вот таким диссонансом к всеобщему энтузиазму относительно нейросетей прозвучали выступления на встрече в МИА «Россия сегодня». Правы ли скептики, есть ли реальная угроза, мы узнаем совсем скоро – горизонт событий тут и правда невелик.

Но когда и если правоту экспертов осознает общество, будет уже поздно. Ограничивать распространение ИИ надо прямо сейчас.

Михаил Мельников