АНАЛИЗ УЯЗВИМОСТЕЙ НЕЙРОСЕТЕВЫХ ТЕХНОЛОГИЙ РАСПОЗНАВАНИЯ ОБРАЗОВ (2023)
Выпуск:
№ 4 (2023)
В статье рассмотрена актуальная проблема уязвимости технологий искусственного интеллекта на основе нейронных сетей в задаче распознавания образов. Показано, что применение нейронных сетей порождает множество уязвимостей. Приведены конкретные примеры таких уязвимостей: некорректная классификация изображений, содержащих вредоносный шум или заплатки, отказ распознающих систем при наличии на изображении особых узоров, в том числе нанесенных на объекты реального мира, отравление обучающей выборки и др. На основе проведенного анализа показана необходимость улучшения безопасности технологий искусственного интеллекта и даны предложения, способствующие этому улучшению