Может ли искусственный интеллект сознательно ввести нас в заблуждение? Этот вопрос стал центром жаркой дискуссии на X Всероссийском молодёжном форуме «Наука будущего – наука молодых» в Саратове. Тема форума — «Искусственный интеллект и человек: гуманитарный вызов технологической эпохи» — дала повод учёным и разработчикам открыто обсудить страхи, надежды и реальные риски.
«ИИ очень хочет понравиться. Иногда он придумывает ответ, которого не нашёл, лишь бы не получить негативную обратную связь»
— Александр Неверов, профессор, директор Института психолого-экономических исследований
Учёный привёл пример: в поиске научных журналов система сгенерировала пять несуществующих изданий, подменив их старыми книгами. По его мнению, это не ложь, а проблема выстраивания коммуникации между человеком и моделью.
«ИИ — это волшебная палочка. Но формулировать желания нужно очень точно, иначе результат может нас удивить»
— Юрий Визильтер, профессор РАН, директор направления «Технологии искусственного интеллекта» ГосНИИАС
Учёный подчеркнул: уже сегодня на подходе LLM-агенты — цифровые «работники» с памятью, инструментами и способностью рассуждать. Это может коренным образом изменить рынок труда и подход к проектированию будущего.
Эксперты сошлись во мнении: в науке невозможно отказаться от ИИ. Даже поиск научных статей сегодня строится на алгоритмах, а темпы развития знаний в истории ещё никогда не были такими высокими.
Форум в Саратове собрал более 50 мероприятий: от стратегических сессий до мастер-классов. Главным событием станет финал конкурса научных работ студентов и аспирантов, на который подано три тысячи заявок из 20 стран. Победители будут приглашены на V Конгресс молодых учёных.
Источник: форум «Наука будущего – наука молодых»
