Kaspersky Neuromorphic AI
Conference 2023

Новой темой в программе 2023 года стала безопасность ИИ!

Для современного ИИ, основанного на нейронных сетях и методах глубокого машинного обучения, характерен целый ряд уязвимостей — как на уровне алгоритмов, так и на уровне данных и аппаратного обеспечения.

На конференции обсуждались связанные с этим вызовы и риски, а также эффективные практики защиты систем ИИ, в том числе на основе нейроморфного подхода.

Доклады по тематике безопасности ИИ представили эксперты «Лаборатории Касперского» и Института системного программирования им. В.П. Иванникова РАН (ИСП РАН).

Руководитель отдела развития технологий «Лаборатории Касперского» Андрей Лаврентьев в докладе о платформе нейроморфного машинного обучения Kaspersky Neuromorphic Platform (KNP) подчеркнул актуальность и перспективность исследований, направленных на повышение безопасности систем ИИ за счет применения новых подходов к машинному обучению. В частности, одним из таких подходов является нейроморфный ИИ, основанный на биоинспирированных импульсных (спайковых) нейронных сетях (ИмНС) и нейроморфных процессорах. KNP предоставляет гибкий инструментарий для проведения исследований и создания коммерческих продуктов в этой области.

Тема применения нейроморфных технологий для задач безопасности ИИ получила развитие в докладе представителей «Лаборатории Касперского» - архитектора решений Олега Выголова и математика Артёма Воронцова. В докладе были представлены текущие результаты исследований одного из аспектов безопасности нейроморфного ИИ – устойчивости ИмНС к состязательным атакам. Это исследование было выполнено Лабораторией Касперского совместно с ИСП РАН и компанией Мотив-НТ – производителем российского нейроморфного чипа «Алтай». В качестве практического примера была выбрана задача создания нейроморфного (на основе ИмНС) детектора на чипах «Алтай» для обнаружения состязательной атаки на систему биометрической идентификации по изображению лица. В результате экспериментов было показано, что нейроморфный детектор качественно более устойчив к комплексной состязательной атаке, при которой атакуется одновременно классификатор лиц и детектор атаки, по сравнению с аналогичным детектором на основе обычной нейросети.

Аспектам безопасности генеративного ИИ был посвящен доклад руководителя группы исследований технологий машинного обучения «Лаборатории Касперского» Владислава Тушканова. Владислав рассказал о новых векторах атак и уязвимостях больших языковых моделей.

Руководитель Исследовательского центра доверенного искусственного интеллекта ИСП РАН Денис Турдаков и младший научный сотрудник ИСП РАН Константин Архипенко в своем докладе представили подробный обзор методов и алгоритмов состязательных атак на системы компьютерного зрения, а также лучших практик защиты от этого вида атак.