Разговор начал заместитель президента РАН, директор Института системного программирования им. В.П. Иванникова РАН академик Арутюн Аветисян, отметив, что наблюдается хорошая динамика развития ИИ-инструментов, искусственный интеллект уже самостоятельно создает новые архитектуры нейронных систем, десятки тысяч моделей используются в индустрии, существуют миллионы финансовых инструментов.
Академик выделил ключевые вызовы, стоящие на данном этапе перед сообществом, работающим с искусственным интеллектом. Во-первых, это фрагментация данных и ограниченный доступ к качественно аннотированным выверенным данным. Во-вторых, фрагментация технологического стека (инструментов для разработки в программировании). И, наконец, фрагментация компетенций: необходимо объединение специалистов в рамках междисциплинарных исследований, открытых сообществ вокруг соответствующего стека технологий. Что касается угроз, сопряженных с использованием ИИ, то они связаны, с одной стороны, с кибербезопасностью, а с другой — с социогуманитарным аспектом (проблемы честности генеративного ИИ, манипуляция общественным мнением и сознанием отдельного человека и т. д.).
— Но есть базовые технологии, позволяющие создавать все эти модели. Причем сегодня очевиден тренд на специализированные. Я утверждаю, что академическое сообщество, академический институт - это наиболее правильная организация, которая позволяет создавать модели долгосрочного устойчивого развития. Пример тому — деятельность нашего института, — рассказал Арутюн Ишханович. — В 2021 году мы организовали Центр доверенного искусственного интеллекта. Два месяца назад на Digital Week в Казани мы подписали с Ростелекомом соглашение, в соответствии с которым разработки наших специалистов компания положит в основу своей платформы. Мы работаем и с медицинским сообществом, делаем большие модели вместе с Национальным медицинским исследовательским центром им. В.А. Алмазова и со Сбером.
Академик Аветисян предложил создать единую открытую экосистему развития искусственного интеллекта в науке под руководством Российской академии наук, которая могла бы включить современную суперкомпьютерную инфраструктуру на базе распределенных центров обработки данных. Отделениям Академии наук нужно будет подготовить проекты такого технологического лидерства с синхронизацией с теми проектами, которые уже есть. А в самой РАН — создать соответствующий центр разработки, координации и трансфера лучших практик научной деятельности.
По мнению первого заместителя директора Федеральной службы по техническому и экспортному контролю Виталия Лютикова, наряду с очевидными положительными эффектами от использования ИИ применение моделей машинного обучения несет дополнительные угрозы: так называемая датацентричность искусственного интеллекта дает возможность обучать модели нежелательному поведению, получать несанкционированный доступ к обучающим данным, вводить модели в заблуждение.
Подробности — в материале Андрея Субботина «Вопрос доверия» в очередном номере газеты «Поиск».
