Обнаружение дипфейков. Новые методы от учёных СПб ФИЦ РАН

Сотрудники Санкт-Петербургского Федерального исследовательского центра Российской академии наук (СПб ФИЦ РАН) разработали инновационные методы для автоматического распознавания дипфейков — изображений, изменённых с помощью искусственного интеллекта. Этот проект получил поддержку Фонда содействия инновациям.

Дипфейки представляют собой синтезированные изображения и видео, которые могут быть настолько реалистичными, что их сложно отличить от настоящих. Эти технологии, помимо создания качественного контента, используются для мошенничества и компрометации. Киберпреступники применяют дипфейки для шантажа, подделки документов и фотографий, что несёт потенциальную угрозу как моральному, так и экономическому состоянию пострадавших.

Одним из ключевых методов обнаружения дипфейков, разработанных в СПб ФИЦ РАН, является выявление признаков апскейлинга. Этот метод улучшает качество изображения путём увеличения его разрешения с добавлением дополнительных пикселей, что часто используется для повышения реалистичности сгенерированных изображений. Метод был создан младшим научным сотрудником Лаборатории проблем компьютерной безопасности СПб ФИЦ РАН Дмитрием Весниным.

«Один из наших алгоритмов научился выявлять апскейлинг, то есть искусственное улучшение качества изображения за счёт повышения его разрешения»,

• Дмитрий Левшун, ведущий эксперт Международного центра цифровой криминалистики СПб ФИЦ РАН

Исследователи классифицировали дипфейки на три категории: полностью сгенерированные нейросетью изображения, фотографии с добавленными элементами (например, замена лиц) и модифицированные фотографии (например, изменение цвета кожи или выражения лица). Создаётся база данных изображений всех этих типов, на основе которой будет обучена нейросетевая модель для распознавания признаков изменения лица и определения использованного программного инструмента.

Руководитель проекта, Андрей Чечулин, отметил, что глобальной целью является создание приложения, которое сможет быстро и точно идентифицировать фейковые изображения и видео. Учёные также разрабатывают открытую библиотеку интеллектуальных методов для обнаружения подделок и их классификации. Эта библиотека будет работать в реальном времени, используя современные технологии искусственного интеллекта и авторские нейросетевые модели.