Не позволяйте ИИ своевольничать! Решая фундаментальные и прикладные задачи, ученые не забывают об этике

В Институте проблем искусственного интеллекта (ИПИИ) Донецка создали новую систему дикторонезависимого распознавания слитной русской речи с помощью технологий глубокого обучения искусственных нейронных сетей. То есть здесь, в Донецке, получены актуальные результаты в области исследования компьютерной лингвистики, морфологического, синтаксического и семантического анализа текстов. Наличие подобных программ позволяет компьютеру, работая с естественным языком, справляться с задачами, доступными пока только человеку.
Разработан также программный модуль, позволяющий автоматически сокращать текст путем удаления фрагментов, без которых общее содержание написанного не пострадает.
Это может пригодиться при автоматическом анализе и обработке материалов для задач аннотирования, реферирования, поисковой оптимизации.
Многолетние исследования ученых института в области нейросетей позволили создать интеллектуальную роботизированную систему слежения. Ей можно спокойно «поручить» мониторить самые различные объекты, наблюдать за характерными для данной среды предметами, а также их сочетаниями и слияниями.
Проблема распознавания ИИ зрительных образов — вещь сложная и далеко еще не решенная. В Донецке сделали важный шаг в этом направлении. В итоге тот же робот, условно говоря, не будет путать в тексте носки с галстуками, не станет он и «тормозить», подобно человеку, подверженному деменции.
Трудно себе представить, как в условиях многолетних обстрелов и террора со стороны украинских войск думают не только о том, как выжить и отогнать врага, но и развивают науку. Вопреки обстоятельствам создают алгоритмы и технологии искусственного интеллекта, обладающие не только фундаментальной новизной, но и важным прикладным значением.
Тем не менее институт откликается и на нужды населения, которое с 2014 года живет в состоянии непрерывного стресса, испытывая огромные нервные нагрузки из-за боевых действий. Именно для людей с травмированной психикой разрабатывают компьютерные средства психофизиологического диагностирования и коррекции нервных состояний без применения лекарств, путем библиотерапии.
Результатом работы стали компьютерные тесты для всесторонней оценки состояния человеческого организма.
Конечно, живя в прифронтовой зоне, нельзя было не откликнуться на запросы тех, кто защищает Донбасс. Здесь огромное значение придают подготовке бойцов, которые оттачивают мастерство стрельбы на полигонах и стрельбищах. Последние заметно изменились: на смену неподвижным мишеням приходят движущиеся мишенные установки, причем используемые на пересеченной местности и управляемые по автономному радиоканалу. Для них в институте разрабатывают интеллектуальные системы дистанционного управления и передачи данных, благодаря которым происходят формирование правильных навыков и рост профессионализма курсантов.
В истории донецкого ИППИ еще помнят мирное время, когда ежегодно могли демонстрировать результаты своих исследований и разработок на Международной выставке компьютерных технологий и телекоммуникаций в Германии.
Совместно с НИИ многопроцессорных вычислительных систем ЮФУ (Таганрог) и Белорусским госуниверситетом (Минск) донбассцы и сами 13 раз проводили международные научно-технические конференции «Искусственный интеллект. Многопроцессорные системы». Устраивали их в Крыму и Геленджике, собирая представителей России, Украины, Польши, Белоруссии, Азербайджана, Испании.
Немало лет в ИПИИ организовывали научную молодежную школу «Системы и средства искусственного интеллекта». Обнадеживает, что состоявшееся в мае этого года в формате видеоконференции, организованное ИПИИ заседание Донецкого международного круглого стола «Искусственный интеллект: теоретические аспекты и практическое применение» тоже было представительным.
В дискуссиях приняли участие с полсотни работников науки и образования, студентов, промышленности Донецкой и Луганской Народных Республик, других регионов России, а также Франции и Китая.
«Сегодня наши связи с институтом искусственного интеллекта начинают возрождаться на новом уровне, — говорит академик РАН, научный руководитель направления Южного федерального университета Игорь Каляев. — Основными направлениями сотрудничества служат проблемы интеллектуальной робототехники, обработки изображений и речи, применения технологий ИИ для повышения эффективности и безопасности угледобычи. Хорошей базой для восстановления и развития этих связей являются научные мероприятия, проводимые Южным научным центром РАН и Южным федеральным университетом.
В частности, в сентябре 2023 года мы провели мультиконференцию по проблемам управления. В ноябре на площадке Национального центра физики и математики в Сарове будет проходить молодежная школа по проблематике ИИ. Рассчитываем, что представители донецких вузов и научных организаций примут в них активное участие».
Донецкий ИПИИ развернул сотрудничество и с ФГБУ науки «Санкт-Петербургский Федеральный исследовательский центр Российской академии наук». Соответствующее соглашение было заключено в мае. В Донецке стороны договорились и дальше развивать совместные научные исследования в области интеллектуальных робототехнических систем, распознавания речевых и зрительных образов, системного анализа и интеллектуальных интерфейсов, онтологического представления данных и анализа естественно-языковых текстов. Свою подпись под этим соглашением поставила директор ИПИИ математик Светлана Борисовна Иванова.
Коллеги ее считают, что благодаря мужеству, выдержке и мудрости Сетланы Ивановой здесь все эти трудные годы удается находить выход из самых сложных ситуаций. Правда, сейчас в ИПИИ из прежних 109 сотрудников осталась лишь половина.
После выхода Донецкой области из подчинения Киеву и развязанной Украиной войны против русскоязычного региона многие сотрудники уехали кто куда, не выдержав навалившихся лишений.
Вспоминая те годы, Иванова говорит: «В 2014 году институт остался без финансирования и киевских органов управления. Еще не было новой страны — ДНР, финансирования, руководства. Собрала оставшихся сотрудников, спрашиваю: «Что делать будем, расходимся?» Знала: у коллег в карманах пусто, на работу пешком ходили — платить за транспорт нечем. А они — вопросом на мой вопрос: «А вы?» Отвечаю: «Я остаюсь, нельзя бросать научное имущество, буду сидеть до последнего». «Ну, раз вы так, то и мы остаемся». И остались, причем работали поначалу бесплатно.
А потом мы начали добывать деньги где только можно. Коллектив у нас очень сплоченный, заряженный на результат. Да и коллеги отовсюду чем могли помогали. Жили тогда, как на острове. Знаете, гораздо хуже артналетов было то, что нам как организациям науки были закрыты все выходы в мир, нас не было ни в каких официальных реестрах. Вот вы наверняка не задумываетесь, когда забиваете в Интернете код своей страны, а мы этого сделать не могли. Нас словно не было на Земле».
И все-таки перебороли ситуацию, совершив важнейшие заделы именно тогда. В 2014-м институт заново открыл свой журнал «Проблемы искусственного интеллекта». Здесь начали принимать на работу людей, оказавшихся без работы после закрытия ряда донецких институтов и предприятий, в частности, опытных конструкторов. С надеждой на то, что, «когда придет время, понадобятся». И оно настало довольно скоро. Чтобы выживать, пришлось не только фундаментальной наукой заниматься, но и зарабатывать на изготовлении реальных устройств. А с мая 2015 года сотрудники института начали получать зарплату и размышлять о будущем их науки.
Куда же движется человечество при создании ИИ, что оно в него закладывает, каким ИИ в итоге будет? Сравняется ли по мощности и способностям с человеческим мозгом, а может, получится нечто более совершенное?
Отвечая на эти вопросы журналиста, Светлана Борисовна посоветовала не торопить события. По ее словам, пока что ИИ — это, скорее, некий суперкомпьютер, нежели самостоятельно мыслящая единица. По сути, что в него заложишь, какую задачу перед ним поставишь, то в итоге и получишь. Да, конечно, технологии развиваются стремительно. Огромен объем знаний, совершенствуются алгоритмы управления и обработки информации. И в создании ИИ участвуют не только программисты, но и алгоритмисты в союзе с предметниками — физиологами, генетиками, биологами, биофизиками и другими учеными.
«Чем больше мы узнаем и делаем, тем больше понимаем, что недостаточно знаний для того, чтобы создать искусственный интеллект, подобный человеческому. На данном этапе речь может идти только об элементах или системах ИИ, способных выполнять прикладные задачи, которые четко очерчены, ясны и понятны. Речи о способности к творчеству, которой природа наделила человека, не идет. Научить этому электронный мозг пока не удается. А значит, ИИ на данный момент уж точно не интеллект в полном значении этого слова. Скорее, это некий суперкомпьютер с огромными возможностями, на ресурсы которого выйти можно сейчас, по сути, из любого дома.
Стало модно говорить, что нейросеть вам и статью напишет, и картину на заданную тему нарисует. Но это — явное преувеличение, качество таких работ весьма примитивно и вторично. Нейросеть — это не искусственный интеллект, это инструмент, который, конечно, можно совершенствовать, развивать, наполнять большими объемами информации, обучать.
Но пока процесс творчества, самостоятельное осознанное рождение нового ей недоступны. Так что рановато давать ИИ волю и поощрять его способность самостоятельно управлять материальными вещами — механизмами, предприятиями, инфраструктурными и оборонными объектами. Такой надмировой интеллект — вспомните систему SkyNet из фильма «Терминатор» — может и дров наломать во вселенских масштабах».
Запомнились ее слова: «Сейчас робототехника развивается отдельно от систем ИИ. Но в конечном итоге они неизбежно сольются воедино. Однако надо сделать так, чтобы при любом развитии событий робот, управляемый ИИ, не своевольничал и не совершал фатальных ошибок. Условно говоря, выключатель от него всегда должен оставаться у человека. Пока у человека… А впереди, конечно, биороботы и множество сложных задач, в том числе этических».

Геннадий Белоцерковский

Нет комментариев