В рамках секции «Практические вопросы обеспечения доверия к технологиям ИИ» с докладом «Рой без интеллекта: реальные киберугрозы для мультиагентных систем» выступит Лидия Виткова — начальник Аналитического центра кибербезопасности компании «Газинформсервис», кандидат технических наук, руководитель рабочей группы Консорциума ИБ ИИ.
«Сегодня под видом "роевого ИИ" на практике работают именно роевые алгоритмы — оптимизационные эвристики на множестве устройств: от дронов до IoT-датчиков. Никакого эмерджентного самообучения в инженерных системах пока нет. Реальные киберугрозы направлены не на "разум роя", а на отдельные устройства. Подмена телеметрии, глушение связи, вывод из строя одного агента могут разрушить сходимость всего алгоритма. Результат — ложные оптимумы, хаотичное движение или остановка задачи. Без всякого "восстания машин". Наш главный вывод: фокус защиты — на отказоустойчивости устройств, каналов связи и целостности данных, а не на борьбе с мифическим коллективным сверхинтеллектом», — отметила Лидия Виткова.
Ключевые тезисы выступления:
- роевой алгоритм и роевой интеллект — не одно и то же. Первое — это вычислительная эвристика, второе требует самообучения, которого в существующих системах нет.
- угрозы реальные и приземлённые: атаки на отдельные агенты, подмена телеметрии, глушение каналов.
- защищаться надо от сбоя алгоритма, а не от «злого роя».
Форум станет площадкой для совместной работы специалистов, заинтересованных в развитии доверенного ИИ в России. В программе — дискуссии с участием представителей ФСТЭК, Минцифры, Совета Федерации, Сбера, Росатома, ИСП РАН и других ключевых игроков.
