Цель и направления работ
Kaspersky AIST
Безопасный ИИ для пользователей
и разработчиков
Защита систем ИИ требует реализации дополнительных мер
информационной
безопасности,
учитывающих
особенности
и уязвимости ключевых компонентов ИИ – данных, моделей, вычислительных
платформ
Направления работ
Нашим партнером является одна из ведущих в России научно-исследовательских организаций в области обеспечения безопасности ИИ – Исследовательский центр доверенного искусственного интеллекта на базе Института системного программирования им. В.П. Иванникова Российской академии наук (ИСП РАН).
Ландшафт угроз ИИ
Данные
Манипулирование данными в системах ИИ: угрозы нарушения целостности и конфиденциальности данных
Подробнее
Модели
Вредоносный функционал в весах/слоях модели, извлечение знаний (кража) модели
Подробнее
Вычислительные
системы
Атаки на энергопотребление/быстродействие, разрушение модели на аппаратном уровне
Подробнее
ИИ в индустрии:
применение и риски
Критическая инфраструктура
Использование ИИ на объектах энергетики и жизнеобеспечения, в системах безопасности и контроля, транспорта и логистики
Подробнее
Агрокомплекс
Эффективное и экологичное производство, оптимизация и прогнозирование затрат, мониторинг и контроль процессов производства продукции
Подробнее
Транспорт
Автономная навигация, предотвращение столкновений, предиктивное техническое обслуживание, оптимизация маршрутов, обеспечение транспортной безопасности
Подробнее
Мониторинг и контроль
Распознавание объектов и людей, мониторинг производственных процессов на предприятиях с использованием данных телеметрии, задачи неразрушающего контроля
Подробнее
Образование
Адаптивное обучение и улучшение качества образовательных процессов, автоматизация проверки и оценивания заданий, образовательные тренажеры
Подробнее
Производство
Предиктивная диагностика, цифровые двойники, метрологическое обеспечение, управление технологическими процессами
Подробнее
Медицина
Прогнозирование, диагностика и профилактика заболеваний, системы поддержки принятия врачебных решений и поддержания жизнедеятельности
Подробнее
Интернет, банкинг
Речевые технологии и голосовые помощники, чат-боты, генерация медиаконтента и текстов, поиск информации
Подробнее
Автотранспорт
Автоматизированное управление движением, системы планирования маршрута, системы диагностики и мониторинга
Подробнее
Регулирование
Услуги в области безопасности ИИ
Kaspersky AIST
Наши услуги направлены на обеспечение надежной защиты систем ИИ, предотвращение потенциальных угроз для данных, бизнес-процессов, ИИ инфраструктуры
Анализ ландшафта угроз
Всесторонний анализ возможных векторов атак на ИИ решение клиента, исходя из специфики и потенциальных рисков в предметной области. Предоставляется подробный отчет о возможных угрозах для ИИ решения, даются конкретные рекомендации по устранению таких угроз и общему повышению защищенности решения
Анализ входных данных и данных
обучения ИИ моделей
Проводится оценка степени уязвимости модели к состязательным и другим видам атак на входные данные, проверяется обучающий набор данных модели на соответствие требованиям безопасности*. Предоставляется подробный отчет о степени уязвимости модели к различным атакам на входные данные и данные обучения, даются рекомендации по устранению таких угроз
* В некоторых случаях (например, для больших языковых моделей, LLMs) такие работы могут включать в себя проведение отдельного научно-исследовательского проекта
Анализ ИИ моделей
Обнаружение вредоносного функционала внутри ИИ моделей, обнаружение троянов и других вредоносных модулей, встроенных в глубокие нейронные сети*. Предоставляется отчет о наличии/отсутствии вредоносного ПО внутри ИИ модели, производится локализация и удаление такого ПО при условии сохранения моделью всех функциональных характеристик
* При наличии исходного кода модели
Мониторинг безопасности
ИИ решений
Проверка безопасности ИИ решений и моделей в стадии их использования с целью выявления незадекларированного функционала. Обнаружение вредоносной активности возможно по определенным косвенным признакам, если ИИ модель не может быть проанализирована другими методами. Предоставляется отчет о проведенных тестах и наличии/отсутствии незадекларированного функционала в ИИ модели
Разработка защищенных
ИИ моделей
Разработка и обучение моделей ИИ, обладающих повышенной устойчивостью к атакам. Использование состязательного обучения, доверенных ИИ моделей, специализированного (нейроморфного) аппаратного обеспечения и других методик проактивной защиты ИИ. Использование и дистрибьюция доверенных сред разработки ИИ моделей
Экспертно-аналитическая поддержка
в области регулирования ИИ
Разработка стратегий внедрения ИИ с учетом правовых и регуляторных российских и мировых практик. Аудит ИИ решений на соответствие регуляторным требованиям и стандартам. Экспертиза требований регуляторов, участие в разработке отраслевых стандартов в части ИИ
Консалтинговые услуги и исследования
по теме безопасности ИИ
В тех случаях, когда область безопасности ИИ для вас новая, наша команда проведет первичное консультирование по интересующим вас вопросам. Также возможно детальное исследование безопасности интересующего вас ИИ решения или подхода в рамках научно-исследовательской работы