В современном мире развитие искусственного интеллекта (ИИ) порождает новые угрозы, связанные с его применением в кибербезопасности.
Сегодняшние мощные языковые модели (Large Language Models, LLMs), лежащие в основе инструментов искусственного интеллекта, могут быть использованы для создания саморазвивающегося вредоносного программного обеспечения, способного обходить правила YARA. Такое использование ИИ позволяет значительно снизить обнаружение вредоносных программ за счет модификации их исходного кода.
«Искусственный интеллект может быть использован для обхода строковых правил YARA, эффективно модифицируя исходный код малых вариантов вредоносного ПО и таким образом снижая частоту их обнаружения.»
- Recorded Future
Эти выводы были получены в ходе учений красных команд, целью которых было выявить злонамеренное использование технологий ИИ, уже находящихся на этапе экспериментов у злоумышленников для создания фрагментов кода вредоносного ПО, генерации фишинговых писем и проведения разведки потенциальных целей.
Кроме того, такие инструменты ИИ могут использоваться для создания подделок, имитирующих высших руководителей, и проведения операций влияния, которые масштабно имитируют легитимные веб-сайты. Особенно опасным является ускорение способности злоумышленников проводить разведку объектов критической инфраструктуры и получать информацию, которая может быть стратегически использована в последующих атаках.
«Используя мультимодальные модели, общедоступные изображения и видео промышленного и производственного оборудования, а также аэрофотоснимки, можно обрабатывать и обогащать для поиска дополнительной метаинформации, такой как геолокация, производители оборудования, модели и версии программного обеспечения,» отмечает компания.
Развитие событий демонстрирует, что организациям необходимо тщательно анализировать общедоступные изображения и видео, изображающие чувствительное оборудование, и при необходимости очищать их, чтобы снизить риски, связанные с подобными угрозами.
Нет комментариев