Что происходит, когда творение начинает превосходить творца? Это древний сюжет — от мифа о Галатее до Франкенштейна. Сегодня он обрел новое измерение. Искусственный интеллект перестал быть футуристической фантазией и вошел в нашу повседневность. И вместе с этим возник вопрос: кто кем управляет, человек машиной или машина человеком?
Владимир ИВАНОВ — член-корреспондент Российской Академии наук, доктор экономических наук, кандидат технических наук — в своей статье «Интеллектуальный крест: искусственный интеллект - слуга или господин?» формулирует этот вопрос предельно жестко: мы движемся от помощника к замене, а затем к уничтожению человека как разумного существа? Но это не апокалиптический сценарий голливудского блокбастера. Это холодный анализ того, как мы добровольно шаг за шагом отдаем ИИ свои когнитивные способности, а вместе с ними и право быть хозяином собственной судьбы. «Поиск» встретился с Владимиром Викторовичем, чтобы поговорить о границах технологий, «точке невозврата» и о том, что каждый из нас может сделать уже сегодня.
– Владимир Викторович, в последнее время тема искусственного интеллекта занимает первое место в информационном пространстве. Мы много слышим о той пользе, которую технологии ИИ принесут человечеству, но не всегда до конца понятно, с чем мы имеем дело и почему это будет полезно.
– Технологические системы с искусственным интеллектом содержат четыре компонента: высокопроизводительный компьютер, математические модели, устройства ввода-вывода, исполнительные механизмы. Здесь речь идет о технической системе, созданной человеком.
– В чем сила таких систем и почему все чаще приходится слышать, что ИИ-технологии заменят человека?
– Принципиальным отличием ИИ-технологий от интеллектуальной системы человека являются абсолютная память, все запоминается и ничего не забывается, высокая скорость обработки информации, неограниченность времени работы. При этом ИИ-системы не могут принимать нелогичных решений. Это напрямую вытекает из того, что одним из основных принципов работы ЭВМ, сформулированным еще Н.Винером, является двоичная система получения, обработки и представления информации. При этом ИИ может получить только ту информацию, которую ему предоставит человек, в том числе через информационное пространство.
При этом новые технологии формируют новую культуру и новую среду обитания человека. Так, например, городские жители бо́льшую часть жизни проводят не в природной среде, а в технологической. Ее неотъемлемой частью является информационная среда. Поэтому необходимо особое внимание уделять экологии технологий, оценивать возможные риски и угрозы на стадии их разработки.
– Что такое «экология технологий» и как это понятие применимо к искусственному интеллекту?
– Где тот предел, за которым мы теряем контроль?
– Как правило, для отработанных технических систем достаточно хорошего знания инструкций и следования им. Не зря же говорят, что «инструкции пишутся кровью». Что же касается ИИ-технологий, то здесь задача намного сложнее. Проблема в том, что они, кроме всего прочего, влияют на интеллект человека. Интеллект меняется не одномоментно, а на протяжении длительного времени.
Сейчас ИИ-технологии уже перешли из стадии «удовлетворения любопытства» (по академику Арцимовичу) в стадию практического применения, в том числе и не всегда для блага человека. И главная задача сегодня — оценить риски и последствия их негативного влияния, определить границы допустимого использования без ущерба для человека.
– То есть сценарий «Терминатора» уже не кажется фантастикой?
– Конечно, нет. Технологии искусственного интеллекта были хорошо описаны у Станислава Лема, у Айзека Азимова. Очень полезно вспомнить три закона робототехники. Один из них гласит, что робот не может нанести вред человеку или допустить такой вред своим бездействием. В советское время был замечательный фильм «Его звали Роберт» (1960), где О.Стриженов играл человекоподобного робота. Там тоже поднимались многие проблемы, с которыми мы сталкиваемся теперь. От фантастических произведений мы перешли к практическим задачам.
Подробности – в интервью Татьяны Черновой «От помощника до Терминатора» — один шаг?» в очередном номере газеты «Поиск».
