искусственного
интеллекта

Безопасное создание и использование технологий
искусственного интеллекта (ИИ) в современных
информационных и промышленных средах.

Цель и направления работ

Kaspersky AIST

Безопасный ИИ для пользователей
и разработчиков

Защита систем ИИ требует реализации дополнительных мер информационной безопасности, учитывающих особенности
и уязвимости ключевых компонентов ИИ – данных, моделей, вычислительных платформ

аист летит

Направления работ

Иконка партнёрства

Нашим партнером является одна из ведущих в России научно-исследовательских организаций в области обеспечения безопасности ИИ – Исследовательский центр доверенного искусственного интеллекта на базе Института системного программирования им. В.П. Иванникова Российской академии наук (ИСП РАН).

Ландшафт угроз ИИ

ИИ в индустрии:
применение и риски

Критическая инфраструктура

Использование ИИ на объектах энергетики и жизнеобеспечения, в системах безопасности и контроля, транспорта и логистики

Агрокомплекс

Эффективное и экологичное производство, оптимизация и прогнозирование затрат, мониторинг и контроль процессов производства продукции

Транспорт

Автономная навигация, предотвращение столкновений, предиктивное техническое обслуживание, оптимизация маршрутов, обеспечение транспортной безопасности

Мониторинг и контроль

Распознавание объектов и людей, мониторинг производственных процессов на предприятиях с использованием данных телеметрии, задачи неразрушающего контроля

Образование

Адаптивное обучение и улучшение качества образовательных процессов, автоматизация проверки и оценивания заданий, образовательные тренажеры

Производство

Предиктивная диагностика, цифровые двойники, метрологическое обеспечение, управление технологическими процессами

Медицина

Прогнозирование, диагностика и профилактика заболеваний, системы поддержки принятия врачебных решений и поддержания жизнедеятельности

Интернет, банкинг

Речевые технологии и голосовые помощники, чат-боты, генерация медиаконтента и текстов, поиск информации

Автотранспорт

Автоматизированное управление движением, системы планирования маршрута, системы диагностики и мониторинга

Регулирование

Услуги в области безопасности ИИ

Kaspersky AIST

Наши услуги направлены на обеспечение надежной защиты систем ИИ, предотвращение потенциальных угроз для данных, бизнес-процессов, ИИ-инфраструктуры.

Анализ ландшафта угроз ИИ

Всесторонний анализ возможных векторов атак на ИИ-решение, исходя из специфики и потенциальных рисков в соответствующей области применения. Предоставляется подробный отчет о возможных угрозах для ИИ-решения, даются конкретные рекомендации по устранению этих угроз и общему повышению защищенности ИИ-решения.

Анализ данных ИИ

Анализ входных данных и данных обучения моделей ИИ

Проводится оценка уязвимости модели к состязательным и другим видам атак на входные данные. Проверяется обучающий набор данных модели на соответствие требованиям безопасности*. Предоставляется подробный отчет с оценкой уязвимости модели к атакам на данные. При наличии уязвимостей даются конкретные рекомендации по их устранению.

* В некоторых случаях (например, для больших языковых моделей, LLMs) такие работы могут включать в себя проведение отдельного научно-исследовательского проекта

Анализ моделей ИИ

Обнаружение вредоносной функциональности внутри моделей ИИ, обнаружение троянов и других вредоносных модулей, встроенных в глубокие нейронные сети*. Предоставляется отчет о наличии/отсутствии вредоносного ПО внутри модели ИИ, производится локализация и удаление такого ПО при условии сохранения моделью всех функциональных характеристик.

* При наличии исходного кода модели

Мониторинг безопасности
ИИ-решений

Проверка безопасности ИИ-решений на стадии их использования с целью выявления незадекларированной функциональности. Обнаружение вредоносной активности возможно по определенным косвенным признакам, если модель ИИ не может быть проанализирована другими методами. Предоставляется отчет о проведенных тестах и наличии/отсутствии незадекларированной функциональности в модели ИИ.

Разработка защищенных
моделей ИИ

Разработка и обучение моделей ИИ, обладающих повышенной устойчивостью к атакам. Использование состязательного обучения, доверенных сред разработки моделей ИИ, специализированного (нейроморфного) аппаратного обеспечения и других методик проактивной защиты ИИ.

Экспертно-аналитическая поддержка
в области регулирования ИИ

Разработка стратегий внедрения ИИ с учетом российских и мировых регуляторных практик. Проверка ИИ на соответствие техническим регламентам и стандартам. Экспертиза требований регуляторов, участие в разработке отраслевых стандартов ИИ.

Консалтинговые услуги и исследования
по теме безопасности ИИ

Если область безопасности ИИ для вас новая, наша команда проведет первичное консультирование по интересующим вас вопросам. Также возможно детальное исследование безопасности интересующего вас ИИ-решения или подхода в рамках отдельного прикладного научно-исследовательского проекта.