Думай, как я. Искусственному интеллекту требуется воспитатель - Поиск - новости науки и техники
Поиск - новости науки и техники

Думай, как я. Искусственному интеллекту требуется воспитатель

В глаза его так никто и не видел, но говорят и спорят об искусственном интеллекте (ИИ) давно. Мнения разные. Одни восхищаются его быстродействием и колоссальной памятью, другие рассуждают спокойно: да, мол, хорошо бы человеку иметь такой полезный, облегчающий нашу жизнь инструмент. Но звучат и предостережения: того гляди, он «заткнет нас за пояс» и по мере совершенствования преподнесет кучу неприятных сюрпризов.

Помочь разобраться в непростом вопросе «Поиск» попросил известного специалиста в области машинного обучения и ИИ, директора Научно-координационного совета Центра науки и технологий искусственного интеллекта МФТИ, руководителя лаборатории когнитивных архитектур университета кандидата физико-математических наук Сергея ШУМСКОГО.

– Что такое, по вашему мнению, искусственный интеллект?
– В какой-то момент физик-теоретик по образованию я стал искать объяснение двум очень важным понятиям: откуда начинается жизнь и что такое разум. Со временем поиск ответов привел меня к изучению искусственного интеллекта. Ему посвящалась моя кандидатская диссертация. ИИ – это способность компьютера обучаться, принимать решения и, как человек, выполнять определенные действия. Это машина, обладающая свободой воли и искусственной психикой. А как далеко она может продвинуться, зависит от умения решать те или иные задачи.

– Помогите разобраться. Машина-шахматист, обыгравшая Гарри Каспарова, и машина, распознающая лица, – это примеры действия мощного творческого ИИ или победа компьютера, снабженного гигантским объемом данных?
– Действительно, сегодня машины, подтверждая эффективность ИИ, побеждают человека практически во всех играх. Однако ученые относят их к «слабому» ИИ. А «сильный» – это искусственная личность. Человек взял на себя роль творца, «вдохнул» в машину разум и пытается запрограммировать в ней творческий процесс. Но эта задача до сих пор не решена. Да, есть машины, обладающие отдельными способностями и расширяющие возможности человека, но не объединенные в единую систему под названием «искусственная личность». Они могут наделить его, скажем, искусственным зрением. (Мой телефон снимет блокировку, лишь когда распознает мое лицо. Возникни у него сомнения в этом, пользоваться им я не смогу.) Есть прекрасно работающие машины-переводчики.

– Объясните. Понятно, что ИИ выполняет программу, заложенную в алгоритмы, но в какой-то момент их возможности заканчиваются, и вы «включаете» искусственные нейронные сети. Что они собой представляют?
– Есть задачи, которые мы не в состоянии решить с помощью обычных алгоритмов. Например, распознавание лица или голоса. И мы обращаемся к другой стратегии – разрабатываем математическую конструкцию, объединяющую множество связанных друг с другом искусственных нейронов. Их масса, и каждый по-своему пытается решить свою часть задачи, связанной, скажем, с распознаванием лиц. В результате миллиарды параметров выстраиваются в единую систему, которая сама себя начинает контролировать. Так достаточно простыми средствами можно научить нейронную сеть решать практически любые задачи.

– Вы хотите сказать, что сеть учится на собственных ошибках?
– Именно так. Триллионы мини-операций, миллиарды параметров постепенно встраиваются в сеть, способную решать поставленные человеком задачи, а он обращает ее внимание, когда она ошибается. Так в миниатюре действует машинная эволюция.

– Но как машина распознает голос? Или как машина-переводчик справляется с текстами на множестве языков?
– А машине все равно, какие сигналы обрабатывать. Она кодирует и картинку, и звук, и текст в виде строчек-символов. Образы разные, а алгоритм один и тот же. Главное, что у вас есть сигнал на входе и сигнал на выходе и вы знаете, когда машина выдает правильный ответ, а когда нет. Этого достаточно. Создан очень мощный класс алгоритмов обучения – фактически это пример искусственного творчества. И оно творит чудеса. Чем сложнее нейросеть, чем больше в ней различных параметров (а их число может достигать триллионов), тем более сложные задачи, в том числе творческие, она может решать. Это тот случай, когда количество переходит в качество.

– Почему ученые (и очень крупные, отметим) опасаются ИИ? Будто он может выйти из-под контроля и нанести вред человеку.
– Все потому, что мы не знаем, какой алгоритм ИИ выберет для себя. Да, нам известен алгоритм, по которому он учится, но к какому придет – это проконтролировать человек не в состоянии. ИИ учится справляться с предложенными нами задачами, но если мы поставим некие ограничения, то может просто их не учесть. Он не понимает контекст, в котором происходит решение задачи, и в итоге может предложить опасное для человека заключение. Поэтому опасения сомневающихся ученых вполне оправданы. Как быть, говорят они, если ИИ станет делать выводы не в наших интересах?

– Наивный вопрос. А нравственности ИИ научить можно?
– Это действительно важный вопрос. (С разных сторон я обсуждаю его в своих книгах «Машинный интеллект» и «Воспитание машин».) Обучение машин – лишь первый шаг в развитии ИИ. Следующий – их воспитание. Точно так же, как мы учим ребенка, что хорошо, а что плохо. Нужно, чтобы ИИ понимал, чего мы от него ждем, умел осознавать наши ценности, не только «щелкал» задачи, но и оценивал результат, как это делаем мы. Правда, отметим, в природе нет понятия объективных ценностей, зато есть понимание этого в обществе – его и надо передать машинам.

– Наверное, непросто добиться, чтобы машина брала пример с человека?
– Беда в том, что люди пока не договорились, что такое хорошо, а что нет. Провозглашаются самые разные системы ценностей, так чему могут научиться машины? На мой взгляд, нам действительно есть чего бояться.

– Чем занимается ваша лаборатория в МФТИ?
– Лаборатория молодая – мы работаем всего несколько лет. Создали программу и назвали ее «Адам». С ее помощью рассчитываем со временем построить искусственный мозг. А пока отлаживаем ее на простейших задачах. Одна из наших целей – разработка символьного мышления. Современные нейросети – аналоговые, они действуют, получая сигналы. Мы же хотим создать систему мышления, работающую с дискретными сигналами. Чтобы машина могла выработать иерархию понятий, поднимаясь от самых простых к самым сложным. Одна из задач – научить машину понимать тексты и говорить. Мы загружаем в нее текст, и она «видит», какие символы следуют за какими, выделяет, как дети, понятные ей слоги («ма», «па») и складывает их в слова: «мама», «папа». Изучает контекст, в котором эти слова встречаются, и старается вникнуть в их смысл. Учится составлять фразы и строить из них сложные конструкции.
На мой взгляд, сегодня мы наблюдаем возникновение новой научной революции. Рождается, в частности, наука моделирования процессов мышления. И, судя по темпам ее развития, понятно, какую важную роль будет играть ИИ в экономике, какую выгоду принесет его освоение при создании всевозможных прорывных технологий. Думаю, лет через 10-20 мы получим мощный ИИ, и именно с ним будут связаны наиважнейшие события в истории человечества. Наша цивилизация превращается в человеко-машинную, бóльшую часть решений в которой возьмет на себя искусственный интеллект.

Юрий ДРИЗЕ

Нет комментариев

Загрузка...
Новости СМИ2