О чём рассказывается в презентации:
Презентация посвящена соревновательным атакам, которые представляют собой серьезную угрозу для доверия к алгоритмам искусственного интеллекта. В ней рассматриваются механизмы этих атак, включая незаметные изменения входных данных, которые могут привести к неверным выводам моделей. Также обсуждаются методы защиты, такие как состязательное обучение, и необходимость разработки универсальных подходов для повышения устойчивости систем ИИ к подобным угрозам.
Оглавление
Соревновательные атаки: Угроза доверию к ИИ
Состязательные атаки фундаментально меняют доверие к алгоритмам ИИ
Уязвимость алгоритмов начинается с малых незаметных изменений
Типология угроз охватывает стадии обучения и эксплуатации ИИ
Цели злоумышленников выходят за рамки простого искажения ответа
Метод FGSM эксплуатирует градиентную структуру нейронных сетей
Атаки PGD представляют угрозу как итеративное уточнение возмущения
Специфические методы позволяют атаковать аудио- и визуальные системы
Математическая природа атак основана на изменении норм возмущения
Состязательное обучение как базовый метод повышения устойчивости
Ограничения состязательного обучения требуют новых подходов
Универсальные защитные методы эффективно противостоят сложным атакам
Сравнение подходов к обеспечению безопасности моделей ИИ
Применение знаний о состязательных атаках снижает риски внедрения
Ключевые выводы
Спасибо за внимание!
