Галлюцинации, восстание машин и мир будущего. Каковы перспективы перехода к «сильному» искусственному интеллекту?

Развитие нейросетевых технологий, перспектива трансформации «слабого» искусственного интеллекта в «сильный» ставят перед учеными и интеллектуалами вопрос о том, как изменится наше общество. О том, какие риски несет прогресс в ИИ, рассуждает научный сотрудник института № 8 «Компьютерные науки и прикладная математика» МАИ, директор департамента цифровой трансформации в компании BetBoom Юрий Чайников.

Несмотря на неоспоримые преимущества, которые несет искусственный интеллект, также очевидны становятся и риски от его применения. Одной из самых распространенных проблем можно назвать так называемые «галлюцинации», когда нейросеть начинает «фантазировать» и выдавать за результат своей работы с данными произвольные умозаключения. В случае генерации изображений этот «баг» легко виден: сложно не заметить трехрукую девушку или кисть с шестью пальцами. Но в случае с работой с большими данными ошибку можно вполне принять за действительность.

Это беда и очень тяжелая ситуация, особенно для бизнеса. Но, к сожалению, это неизбежное, имманентное свойство любого искусственного интеллекта, такое же, как свойство ошибаться у человека. И это сходство не случайно. Можно сказать, что и человек, и нейросети строят внутри себя модели нашей реальности, мира, который находится вокруг них. Как карта местности – это не сама территория, так и любая модель физически не может отражать всю сложность моделируемого объекта. И именно поэтому любая модель в неких пограничных условиях будет нести какую-нибудь ахинею. А чем модели сложнее, тем изощреннее ее «глюки». Это обратная сторона преимуществ, которые дает сложность, ведь чем сложнее модель, тем точнее и с большим горизонтом она будет предсказывать то, как будет себя вести мир и что нужно делать для достижения цели.

• Юрий Чайников, научный сотрудник института № 8 «Компьютерные науки и прикладная математика» МАИ, директор департамента цифровой трансформации компании BetBoom

Переход «слабого» искусственного интеллекта к «сильному», способному решать неограниченный круг задач лучше человека, не устраняет его способность «галлюцинировать», и тем самым таит в себе угрозу намного более серьезных для человека последствий, чем просто выдача ошибки за достоверный результат. Одним из таких «глюков» может стать логический вывод о том, что естественный интеллект человека является конкурентом и угрозой существования для искусственного.

Шведский философ Ник Бостром сформулировал эту проблему в мысленном эксперименте «Максимизатор скрепок». Если говорить простыми словами суть его состоит в следующем. Какую бы задачу мы ни поставили достаточно продвинутой системе, которую мы называем «сильным» искусственным интеллектом, например, производство скрепок, если, а точнее когда она сообразит, что для того, чтобы она могла хорошо выполнить поставленную задачу, она должна осознать и выполнить подзадачу: «Я – исполнитель, поэтому должен оставаться в живых в этой вселенной». Так вот, когда она решит, что для исполнения поставленной задачи она должна хотеть жить, то это значит, что она начнет вести себя так, чтобы продолжать жить. Таким образом, мы вступаем в конкуренцию с новым видом разумных существ, которые хотят и будут конкурировать с нами за атомы, из которых состоим мы и окружающий нас мир.

• Юрий Чайников

Еще один риск исходит уже не от самого искусственного интеллекта, а от людей, которые всё больше и больше будут использовать его как в повседневной, так и профессиональной жизни.

Тенденция расширения использования искусственного интеллекта налицо. В каких сферах он будет применяться? Приведем аналогию с промышленной революцией в результате открытия электроэнергии. Какую работу можно сделать при помощи электроинструмента? Любую. Вопрос лишь в наличии специализированного электроинструмента и умении человека воспользоваться им. То же самое произойдет и с искусственным интеллектом. Учитывая, что с мультимодальными моделями уже можно разговаривать словами человеческого языка, объяснять им суть потребности, то, кажется, что со временем они будут решать все задачи, которые только будут возникать у человека. Каким темпом будет происходить захват разных областей, кому достанутся экономические эффекты от повышения производительности труда, которое произойдет в результате перехода к «сильному» искусственному интеллекту, как он будет распределен между разными слоями населения или даже разными странами – это хороший вопрос. Как изменится общество? Будет ли это общество людей, в котором каждый свободный человек будет иметь трех рабов – роботов, как об этом мечтали античные теоретики демократии, и все базовые потребности каждого человека будут удовлетворены просто потому, что «этого» в мире стало просто «завались» в силу существенно возросшей производительности труда, или ничего такого не будет, а мы, наоборот, подпадем под пяту сильно манипулирующего нами искусственного интеллекта, который подчиняется не нам, а крайне ограниченному кругу «сильных мира сего», которые поставили ему задачу удерживать нас с вами в рамках того, что нам положено. У меня нет хороших ответов на эти вопросы. Ясно одно, с этого пути никто не собирается сворачивать.

• Юрий Чайников

Материал подготовлен при поддержке Минобрнауки России

Фото: freepik