Исследователи из СПб ФИЦ РАН разработали новый метод обнаружения кибератак и аномалий в работе критически важных объектов — таких как системы водоочистки или промышленные предприятия. Их подход сочетает в себе мощь искусственного интеллекта и стремление сделать его решения понятными для человека, что крайне важно для быстрого реагирования на угрозы.
Суть прорыва заключается в нестандартном преобразовании данных. Поток показаний с датчиков и актуаторов технологического процесса предлагается превращать в своеобразные «изображения» — матрицы. Это позволяет применять для анализа сверточные нейронные сети — архитектуру, показавшую выдающиеся результаты в компьютерном зрении. Такой ИИ успешно научился находить аномалии, продемонстрировав на тестовых данных точность до 99%.
Однако главная цель — не просто найти сбой, а понять его причину. Здесь ученые столкнулись с серьезным вызовом. Они протестировали три современных метода, которые должны были объяснять, на основании чего ИИ принимал то или иное решение: SHAP, Grad-CAM и Guided Grad-CAM. К удивлению исследователей, ни один из них не показал удовлетворительной точности в локализации конкретного датчика-виновника.
Эксперименты на известном наборе данных SWaT, имитирующем атаки на систему очистки воды, показали, что объяснения были точными лишь в 0,2–60% случаев в лучших сценариях, а в худших — менее чем в 0,01%. Это делает их непригодными для практического использования, где инженеру нужно точно знать, какой элемент системы атакован.
Ученые видят причину в самой природе промышленных данных — это многомерные временные ряды, где показания взаимосвязаны не только в пространстве, но и во времени. Испытанные же методы объяснений не учитывают эти временные зависимости.
Таким образом, работа не только предлагает эффективный детектор аномалий, но и четко обозначает новый рубеж в области искусственного интеллекта: острую необходимость в создании новых методов, способных понятно объяснять решения ИИ именно во временных рядах. Дальнейшие исследования команда планирует направить в сторону графовых нейронных сетей и разработки принципиально новых методов объяснимости, учитывающих временную динамику. Это ключ к созданию по-настоящему надежных и понятных систем кибербезопасности для умных заводов и критической инфраструктуры.
Исследование опубликовано в журнале «Вопросы кибербезопасности».
Создано при поддержке Минобрнауки РФ в рамках Десятилетия науки и технологий (ДНТ), объявленного Указом Президента Российской Федерации от 25 апреля 2022 г. № 231.
