Ученые Центра искусственного интеллекта МГУ имени М.В. Ломоносова представили метод анализа уязвимостей моделей оценки качества видео. Работа посвящена исследованию уязвимостей систем автоматической оценки качества видео. Результаты исследования опубликованы в журнале Big Data and Cognitive Computing.
Модели оценки качества изображений и видео широко применяются в системах обработки медиа — от стриминговых сервисов до платформ распространения контента. Они используются для контроля качества, оптимизации сжатия и автоматического анализа визуальных данных. При этом устойчивость таких моделей к искажениям и намеренным воздействиям остаётся важной задачей.
Авторы рассмотрели сценарий, в котором злоумышленник не имеет доступа к внутреннему устройству модели оценки видео. В этом случае атака строится с использованием более простых и доступных моделей оценки изображений. Предполагается, что между ними существует сходство во внутреннем представлении данных, что позволяет переносить воздействие с одной модели на другую.
В работе предложен метод, который формирует небольшие изменения в изображениях и видеокадрах таким образом, чтобы искусственно повысить оценку качества видео, оставаясь при этом практически незаметными для человека. Подход учитывает структуру видеоданных, включая согласованность между кадрами, что позволяет сохранять естественный вид изображения.
В основе метода лежит сравнение внутренних представлений моделей и их согласование на уровне отдельных слоёв. Дополнительно используются ограничения, которые предотвращают появление визуальных артефактов и обеспечивают реалистичность видео.
В вычислительных экспериментах предложенный подход показал более высокую эффективность по сравнению с существующими методами: успешность атак увеличилась до 7,9%, а время их выполнения сократилось примерно в 8 раз.
«Мы показали, что даже сложные модели оценки качества видео могут быть уязвимы для атак, построенных с использованием более простых моделей изображений. Это важно учитывать при разработке систем, от которых зависит автоматическая оценка качества контента», — отметил старший научный сотрудник Центра искусственного интеллекта и факультета ВМК МГУ, руководитель лаборатории «Интеллектуальный анализ видео» Института искусственного интеллекта МГУ Дмитрий Ватолин.
По словам авторов, полученные результаты могут использоваться для оценки устойчивости систем обработки видео и разработки более надёжных методов анализа качества.
Источник: МГУ
Изображение: фрипик
