Исследователи Северного Кавказа помогут предотвратить «восстание машин»

18.01.2022

В Северо-Кавказском федеральном университете предложили новый подход к обеспечению информационной безопасности. Учёные разработали точный метод выявления в роевых робототехнических системах роботов-злоумышленников. Он позволяет участникам роя эффективно достигнуть консенсуса, даже при наличии вредоносных роботов.

Как пояснил ректор СКФУ Дмитрий Беспалов, роевые робототехнические системы считаются одной из перспективных технологий. Они могут использоваться для
оперативного решения задач в зонах с неблагоприятными и опасными для жизни человека условиями, в том числе, применяться для поиска и спасения людей в зонах стихийных бедствий.

«Системы активно взаимодействуют между собой и окружающей средой с помощью процесса коллективного принятия решений. Для эффективной работы им постоянно нужно согласовывать друг с другом действия. В ряде случаев этот механизм дает сбой, что может вывести всю систему из строя. Эта проблема волнует ученых по всему миру. Перед научным сообществом стоит задача обеспечить роевую систему надежной защитой, чтобы даже при наличии вредоносных роботов она могла принимать правильное решение. И наши ученые предложили оригинальный и эффективный способ достижения этой цели», — рассказал Дмитрий Беспалов.

Так, ученые СКФУ провели широкое исследование и установили закономерности в возможных стратегиях поведения вредоносных роботов. Обычно для выявления
последних используются физические параметры устройств, например, скорость снижения уровня заряда батареи или скорость достижения роевой системой поставленной задачи.

Однако на практике такие показатели могут иметь недостатки: они зависят от аппаратной реализации и не учитывают влияние особенностей среды. Часть роботов может находиться в других условиях, например, на поверхности с иным покрытием. Возникающие при этом отличия в скорости снижения уровня заряда батареи будут ошибочно расцениваться, как отклонение от штатного поведения. Ученые брали в расчет только сведения, характеризующие протекание процесса коллективного принятия решений.

В качестве главного критерия для обнаружения вредоносного робота ученые СКФУ предложили «степень уверенности» роботов в выборе альтернативы при
достижении консенсуса. У обычных роботов и вредоносных она существенно отличается. Последние по разным причинам игнорируют параметры внешней среды и голосуют за случайные или определенные альтернативы.

 

Управление по информации и связям с общественностью СКФУ

Нет комментариев