Психоанализ по аватарке. Защитить персональные аккаунты помогут нейросети

Исследователи Санкт-Петербургского федерального исследовательского центра РАН (СПб ФИЦ РАН) совместно с исследователями РАНХиГС обучили нейросеть находить соответствия между выраженными у человека механизмами психологической защиты и его аватаркой в социальных сетях.
В перспективе разработка может использоваться при создании методов оценки защищенности персональных аккаунтов пользователей от атак злоумышленников, а также для систем поддержки принятия решений HR-специалистов, изучающих активность потенциального кандидата на трудоустройство в соцсетях. Результаты исследования опубликованы в материалах конференции Artificial Intelligence in Models, Methods and Applications (Springer).
Социальными сетями пользуются сотни миллионов людей по всему миру, это полезный и эффективный инструмент для общения, знакомств, создания социальных отношений, поиска работы, размещения рекламы, торговли, бизнеса и для многого другого.
И в то же время это место высокой активности киберпреступников. Их деятельность направлена на самые разные цели, ключевые из которых связаны с нанесением экономического и репутационного ущерба людям и компаниям.
Поэтому крайне актуальна сегодня разработка эффективных методов и сервисов для повышения безопасности пользователей соцсетей.
— Киберпреступники часто используют действенные психологические приемы, чтобы обмануть пользователей и войти к ним в доверие. Для этого они анализируют, что пишут пользователи, какие фото и видео выкладывают.
Наша задача — раньше злоумышленников находить уязвимости, оценивать степень их опасности и предлагать меры защиты. Однако анализ страницы каждого конкретного пользователя вручную требует очень много ресурсов. Один из способов повышения эффективности этой работы — автоматизация, например, с помощью нейросетей.
В нашем исследовании мы показали, что существуют взаимосвязи между механизмами психологической защиты человека и определенными особенностями изображения его аватара, которые нейросети могут находить.
Как раз эти паттерны часто используют злоумышленники, — поясняет младший научный сотрудник лаборатории теоретических и междисциплинарных проблем информатики (ЛТиМПИ) СПб ФИЦ РАН Федор Бушмелев.
Первый этап исследования заключался в сборе информации для базы данных. Для этого ученые провели исследование с использованием психологического теста «Индекс жизненного стиля» для выявления уровней выраженности механизмов психологической защиты среди респондентов. В исследовании ученых СПб ФИЦ РАН приняли участие более 300 человек.
В качестве основы системы использовалась нейронная сеть, которая была обучена распознавать эмоции людей (радость, грусть, тревогу и проч.) по фотографиям. Именно эмоции (по мнению Р.Плутчика, Г.Келлерман и Х.Р.Конта — авторов одной из концепций психологической защиты) лежат в основе защитных проявлений личности.
Ученые дообучили нейросеть таким образом, чтобы она могла установить соответствия между наиболее ярко выраженными механизмами психологической защиты и особенностями фотографий, которые они использовали в качестве аватарки.
Затем ученые провели обратный эксперимент: загрузили в нейросеть аватары пользователей и изучали, насколько корректный защитный психологический профиль она составит.
— Для подобного рода междисциплинарных исследований на стыке психологии и IT мы получили весьма неплохую точность прогноза. И — самое главное — мы смогли показать, что таким образом можно определять некоторые особенности человека, которому принадлежит конкретная аватарка.
Сейчас мы будем работать над повышением точности нашей нейросети, это потребует существенного увеличения количества информации в базе данных. В перспективе подобные системы могут использоваться для повышения безопасности страниц пользователей соцсетей. Например, мы будем их применять в методиках оценки уязвимости аккаунтов, которые разрабатывает наша лаборатория, — рассказывает Федор Бушмелев.
Пока нейросеть распознает лишь отдельные признаки на фотографии пользователя: положение головы, глаз, выражение лица и некоторые другие. Однако в будущем ученые хотят добавить новые, например, положение тела в кадре, позу, окружающие предметы…
Это исследование не единственный проект сотрудников лаборатории ЛТиМПИ СПб ФИЦ РАН в сфере изучения различных видов информационных атак. Ранее ими была разработана компьютерная игра для повышения уровня личной и корпоративной грамотности сотрудников компаний.

Пресс-служба СПб ФИЦ РАН