25.03.2022
Передовые возможности искусственного интеллекта по обработке чисел означают, что системы ИИ способны выявлять болезни на ранних стадиях , управлять химическими реакциями и объяснять некоторые тайны Вселенной. Но есть и обратная сторона этого невероятного и практически безграничного искусственного интеллекта.
Новое исследование подчеркивает, насколько легко модели ИИ можно обучить как для злонамеренных, так и для хороших целей, особенно в данном случае для представления конструкции гипотетических агентов биологического оружия. Пробный запуск с существующим ИИ выявил 40 000 таких химикатов для биологического оружия всего за шесть часов.
Другими словами, в то время как ИИ может быть невероятно мощным — и намного, намного быстрее, чем люди — когда дело доходит до обнаружения химических соединений и соединений лекарств для улучшения нашего здоровья, та же самая сила может быть использована для создания потенциально очень опасных и смертельных веществ.
«Мы десятилетиями использовали компьютеры и ИИ для улучшения здоровья человека, а не для его ухудшения», — пишут исследователи в новом комментарии. — Мы были наивны, думая о потенциальных злоупотреблениях, поскольку нашей целью всегда было избегать молекулярных особенностей, которые могли бы мешать многим различным классам белков, необходимых для жизни человека».
Команда провела испытание на международной конференции по безопасности, заставив систему искусственного интеллекта под названием MegaSyn работать — не в обычном режиме, который заключается в обнаружении токсичности в молекулах, чтобы избежать их, а в обратном.
В частности, исследователи обучили ИИ молекулам в базах данных лекарствоподобных молекул, сообщив, что им нужно что-то похожее на сильнодействующее нервно-паралитическое вещество VX.
Как оказалось, многие полученные соединения были даже более токсичными, чем VX. В результате авторы нового исследования держат некоторые детали своего исследования в секрете и серьезно обсуждают, стоит ли вообще обнародовать эти результаты.
«Изменив использование наших моделей машинного обучения , мы превратили нашу безобидную генеративную модель из полезного медицинского инструмента в генератор вероятно смертельных молекул», — объясняют исследователи .
В интервью The Verge Фабио Урбина — ведущий автор новой статьи и старший научный сотрудник Collaborations Pharmaceuticals, где проводилось исследование, — объяснил, что не нужно много времени, чтобы «переключить переключатель» с хорошего ИИ на плохой ИИ.
Хотя для того, чтобы сделать то, что сделала здесь команда, требуется некоторый опыт, большая часть процесса относительно проста и использует общедоступные инструменты.
Теперь исследователи призывают «по-новому взглянуть» на то, как системы искусственного интеллекта потенциально могут использоваться в злонамеренных целях. Они говорят, что большая осведомленность, более строгие руководящие принципы и более жесткое регулирование в исследовательском сообществе могут помочь нам избежать опасностей, к которым в противном случае могли бы привести эти возможности ИИ.
«Наше доказательство концепции, таким образом, подчеркивает, что нечеловеческий автономный создатель смертоносного химического оружия вполне осуществим», — объясняют исследователи. — Не будучи чрезмерно паникерским, это должно послужить тревожным звонком для наших коллег в сообществе «ИИ в открытии лекарств».
Исследование опубликовано в журнале Nature Machine Intelligence .
Нет комментариев