Комплекс программ для обнаружения подмены данных в системах компьютерного зрения разработали студенты ставропольского вуза

Прототип анализатора нейросетей на подверженность состязательным атакам разработали студенты Северо-Кавказского федерального университета. Данный программный комплекс умеет распознавать фальшивые файлы в нейронных сетях.

В вузе отметили, что такая технология поможет проверить, насколько хорошо защищена нейронная сеть и предложит методы улучшения её устойчивости к состязательным атакам мошенников.

«Нейросети имеют большой потенциал в анализе вредоносных программ. Они позволяют буквально сканировать файлы на наличие искаженных компонентов. Разработки наших ученых направлены на повышение безопасности и устойчивость к кибератакам в самых разных сферах деятельности. Это особенно важно, учитывая постоянно увеличивающееся число киберугроз, направленных против информационных систем нашей страны», — прокомментировал ректор СКФУ Дмитрий Беспалов.

Разработанный студентами университеа анализатор работает следующим образом: если нейросети дали неправильные данные, то при тесте на правильных она будет совершать ошибки. Чем больше ошибок на конкретном элементе, тем выше вероятность искажения этого элемента. Для работы студенты СКФУ Глеб Дюдюн и Денис Котляров использовали нейросеть и её параметры. На его основе авторы разработки создавали копии нейросети с такими же параметрами, но обучали ее на правильных ответах.

«Анализатор поможет повысить уровень безопасности и надежности нейронных сетей в различных прикладных областях. Применяться разработка может в интеллектуальных системах видеонаблюдения, которые сейчас активно использует ГИБДД или диспетчерские службы, способные по изображению опознать злоумышленника. Если кибермошенник получит доступ к данной системе и изменит алгоритм своего распознавания, на котором обучается нейросеть, то он всегда будет уходить незамеченным и даже в повседневной жизни не будет обнаружен», — рассказал автор разработки, студент Института цифрового развития СКФУ Глеб Дюдюн.

Под руководством доцента кафедры информационной безопасности СКФУ Марии Лапиной студенты представили работающий прототип. Он успешно показал себя на простых вариантах атаки, поэтому уже сейчас планируется его масштабирование. Конечная цель разработки — создание программного обеспечения.

Научные исследования ребят прошли апробацию на Коллоквиуме молодых исследователей по программной инженерии в мае 2023 в Перми. Исследования студентов опубликованы в журнале ВАК «Труды Института системного программирования РАН», рассказали в пресс-службе СКФУ.