16 июня 2024 г.
4 мин чтения

Агрокомплекс

Инновации в сельском хозяйстве

Интенсивный рост производства сельскохозяйственной продукции и повышение эффективности растениеводства, животноводства, переработки этой продукции явилось следствием внедрения новых передовых технологий во многих смежных отраслях, таких как:

  • машиностроение и автоматика;
  • селекция и генетика;
  • производство кормов и удобрений.

Высокая конкуренция и требование увеличения производительности труда формируют запрос на цифровизацию сельскохозяйственного производства как в сравнительно небольших фермерских хозяйствах, так и в крупных агропромышленных комплексах. Использование передовых технологий ИИ позволяет сделать производство еще более эффективным, экологичным, оптимизировать и прогнозировать затраты, обеспечить мониторинг и контроль процессов производства продукции.

ИИ в сельском хозяйстве

Апробированные системы ИИ в сельском хозяйстве

Полная автоматизация посевной и уборочной техники в отрасли сельского хозяйства

Беспилотный мониторинг посевных площадей и мест выгула крупного рогатого скота

Автоматизация менеджмента предприятия предиктивной аналитикой затрат и прибыли

Иконка информации

В регулирующее ИИ законодательство уже введен один стандарт для ИИ систем [1], а ряд документов находится в стадии разработки и принятия [2-4].

Угрозы ИИ в сельском хозяйстве

Использование ИИ несет в себе не только плюсы, но и определенные риски, в том числе и в таких отраслях, как сельское хозяйство. Если за безопасность ИИ систем в сельскохозяйственной технике и на производстве, как правило, отвечают разработчики таких систем, то безопасность ИИ систем менеджмента и контроля предприятия – это прерогатива самих фермерских хозяйств и комплексов. Такое положение дел, в первую очередь, связано с тем, что данные для последних ИИ систем генерируются непосредственно на предприятии, они уникальны, специфичны и не могут быть заимствованы где-либо на стороне. Здесь и кроются ключевые уязвимости для таких ИИ систем:

  • качество и безопасность используемых данных;
  • Защищенность ИИ моделей, полученных на их основе.

Последовательно рассмотрим эти риски и приведем краткие рекомендации по их снижению.

Данные

Данные — это база знаний, порой затрагивающая все циклы жизнедеятельности предприятия, отражающая специфичные условия и методы хозяйствования в нем, наработки и недостатки. Поэтому данные – очень чувствительный и, как правило, конфиденциальный актив. Основной угрозой для данных является их утечка, в том числе и через недостоверные ИИ системы. Существует несколько традиционных типов кражи данных, осуществляемых непосредственно через ИИ модели:

  • специально выполненные бекдоры (вредоносные блоки) в модели,
  • запись данных непосредственно в веса модели.
Иконка безопасность

Защитой от таких уязвимостей может быть использование моделей только от проверенных производителей ИИ систем. Скачивание модели «из интернета» несет в себе большие риски!

Пример атаки на модель ИИ: неправильная классификация объекта
ИИ модель

Данные также являются и основой для систем ИИ. От их корректности, полноты, несмещенности и ряда других параметров [5, 6, 7] зависит качество и надежность построенной ИИ модели. Процесс так называемого обучения ИИ модели состоит в ассимиляции моделью данных обучения с целью последующего воспроизводства выученного поведения. И тут кроется вторая опасность – нелигитимное копирование (реплицирование) модели, а значит и той экспертизы, которую она представляет. Причем такое копирование может быть произведено и без непосредственного доступа к самой модели, лишь путем манипулирования ее входами и выходами.

Защита модели

Эффективность методов копирования модели зависит от многих факторов (понимания внутренней структуры модели, степени доступа к ней и т.п.), а методы защиты включают целый комплекс мер, направленный на шифрование входной и выходной информации, ведение в ИИ систему модулей для отслеживания попыток копирования модели и другие [8, 9].

Итог

Однако спектр применяемых ИИ технологий неуклонно растет и не исключено появление других специфичных уязвимостей, о которых можно узнать в других разделах этого сайта, посвященных смежным с сельским хозяйством отраслям.

В этом разделе мы кратко рассмотрели специфику угроз ИИ в сельском хозяйстве. Если у вас возникли вопросы, пишите нам, пожалуйста, на электронный адрес aist@kaspersky.com

Список литературы

Развернуть список литературы