ISSN 1991-2927
Языки: ru · en

Статья: МЕТОДЫ ЗАЩИТЫ МОДЕЛЕЙ НЕЙРОННЫХ СЕТЕЙ ОТ СОСТЯЗАТЕЛЬНЫХ АТАК УКЛОНЕНИЯ И ОТРАВЛЕНИЯ (2024)

Читать онлайн

В статье представлены угрозы нарушения корректного функционирования систем, разработанных на основе глубоких нейронных сетей, посредством реализации против них состязательных атак уклонения и отравления данных. Состязательные атаки реализуются посредством подачи на вход системы специально подготовленных (состязательных) данных (adversarial samples), на основе которых она принимает неправильные решения. Последствия реализации состязательных атак могут быть очень серьезными, особенно в областях, критически важных для безопасности. Описаны основные виды и способы реализации атак. Рассмотрены математические модели, используемые для раз- работки состязательных атак. Представлен анализ методов защиты моделей глубоких нейронных сетей от угроз, связанных с состязательными атаками. Определено, что наиболее эффективным подходом к созданию средств.

Ключевые фразы: глубокие нейронные сети, ГРАДИЕНТНЫЙ СПУСК, состязательные атаки, состязательная тренировка, ФУНКЦИЯ ПОТЕРЬ
Автор (ы): Баев Алексей Владимирович, Самонов Александр Валерьянович, Сафонов Вадим Максимович, Краснов Сергей Васильевич, Малышев Сергей Романович
Журнал: АВТОМАТИЗАЦИЯ ПРОЦЕССОВ УПРАВЛЕНИЯ

Идентификаторы и классификаторы

УДК
004.85. Обучение
Для цитирования:
БАЕВ А. В., САМОНОВ А. В., САФОНОВ В. М., КРАСНОВ С. В., МАЛЫШЕВ С. Р. МЕТОДЫ ЗАЩИТЫ МОДЕЛЕЙ НЕЙРОННЫХ СЕТЕЙ ОТ СОСТЯЗАТЕЛЬНЫХ АТАК УКЛОНЕНИЯ И ОТРАВЛЕНИЯ // АВТОМАТИЗАЦИЯ ПРОЦЕССОВ УПРАВЛЕНИЯ . 2024. № 4 (78)
Текстовый фрагмент статьи