искусственного
интеллекта

Безопасное создание и применение технологий машинного
обучения и искусственного интеллекта (ИИ) в современных
информационных и промышленных средах

Цель и направления работ

Kaspersky AIST

Безопасный ИИ для пользователей
и разработчиков

Защита систем ИИ требует реализации дополнительных мер информационной безопасности, учитывающих особенности
и уязвимости ключевых компонентов ИИ – данных, моделей, вычислительных платформ

аист летит

Направления работ

Иконка партнёрства

Нашим партнером является одна из ведущих в России научно-исследовательских организаций в области обеспечения безопасности ИИ – Исследовательский центр доверенного искусственного интеллекта на базе Института системного программирования им. В.П. Иванникова Российской академии наук (ИСП РАН).

Ландшафт угроз ИИ

ИИ в индустрии:
применение и риски

Критическая инфраструктура

Использование ИИ на объектах энергетики и жизнеобеспечения, в системах безопасности и контроля, транспорта и логистики

Агрокомплекс

Эффективное и экологичное производство, оптимизация и прогнозирование затрат, мониторинг и контроль процессов производства продукции

Транспорт

Автономная навигация, предотвращение столкновений, предиктивное техническое обслуживание, оптимизация маршрутов, обеспечение транспортной безопасности

Мониторинг и контроль

Распознавание объектов и людей, мониторинг производственных процессов на предприятиях с использованием данных телеметрии, задачи неразрушающего контроля

Образование

Адаптивное обучение и улучшение качества образовательных процессов, автоматизация проверки и оценивания заданий, образовательные тренажеры

Производство

Предиктивная диагностика, цифровые двойники, метрологическое обеспечение, управление технологическими процессами

Медицина

Прогнозирование, диагностика и профилактика заболеваний, системы поддержки принятия врачебных решений и поддержания жизнедеятельности

Интернет, банкинг

Речевые технологии и голосовые помощники, чат-боты, генерация медиаконтента и текстов, поиск информации

Автотранспорт

Автоматизированное управление движением, системы планирования маршрута, системы диагностики и мониторинга

Регулирование

Услуги в области безопасности ИИ

Kaspersky AIST

Наши услуги направлены на обеспечение надежной защиты систем ИИ, предотвращение потенциальных угроз для данных, бизнес-процессов, ИИ инфраструктуры

Анализ ландшафта угроз

Всесторонний анализ возможных векторов атак на ИИ решение клиента, исходя из специфики и потенциальных рисков в предметной области. Предоставляется подробный отчет о возможных угрозах для ИИ решения, даются конкретные рекомендации по устранению таких угроз и общему повышению защищенности решения

Анализ входных данных и данных
обучения ИИ моделей

Проводится оценка степени уязвимости модели к состязательным и другим видам атак на входные данные, проверяется обучающий набор данных модели на соответствие требованиям безопасности*. Предоставляется подробный отчет о степени уязвимости модели к различным атакам на входные данные и данные обучения, даются рекомендации по устранению таких угроз

* В некоторых случаях (например, для больших языковых моделей, LLMs) такие работы могут включать в себя проведение отдельного научно-исследовательского проекта

Анализ ИИ моделей

Обнаружение вредоносного функционала внутри ИИ моделей, обнаружение троянов и других вредоносных модулей, встроенных в глубокие нейронные сети*. Предоставляется отчет о наличии/отсутствии вредоносного ПО внутри ИИ модели, производится локализация и удаление такого ПО при условии сохранения моделью всех функциональных характеристик

* При наличии исходного кода модели

Мониторинг безопасности
ИИ решений

Проверка безопасности ИИ решений и моделей в стадии их использования с целью выявления незадекларированного функционала. Обнаружение вредоносной активности возможно по определенным косвенным признакам, если ИИ модель не может быть проанализирована другими методами. Предоставляется отчет о проведенных тестах и наличии/отсутствии незадекларированного функционала в ИИ модели

Разработка защищенных
ИИ моделей

Разработка и обучение моделей ИИ, обладающих повышенной устойчивостью к атакам. Использование состязательного обучения, доверенных ИИ моделей, специализированного (нейроморфного) аппаратного обеспечения и других методик проактивной защиты ИИ. Использование и дистрибьюция доверенных сред разработки ИИ моделей

Экспертно-аналитическая поддержка
в области регулирования ИИ

Разработка стратегий внедрения ИИ с учетом правовых и регуляторных российских и мировых практик. Аудит ИИ решений на соответствие регуляторным требованиям и стандартам. Экспертиза требований регуляторов, участие в разработке отраслевых стандартов в части ИИ

Консалтинговые услуги и исследования
по теме безопасности ИИ

В тех случаях, когда область безопасности ИИ для вас новая, наша команда проведет первичное консультирование по интересующим вас вопросам. Также возможно детальное исследование безопасности интересующего вас ИИ решения или подхода в рамках научно-исследовательской работы