Обеспечение безопасности глубоких моделей классификации в условиях OOD и атак уклонения

Обложка

Цитировать

Полный текст

Открытый доступ Открытый доступ
Доступ закрыт Доступ предоставлен
Доступ закрыт Только для подписчиков

Аннотация

Об авторах

Кирилл Сергеевич Лукьянов

Институт системного программирования им. В. П. Иванникова Российской академии наук; Московский физико-технический институт (национальный исследовательский университет); Исследовательский центр доверенного искусственного интеллекта ИСП РАН

Email: lukianov@ispras.ru

Павел Андреевич Яськов

Математический институт им. В. А. Стеклова Российской академии наук; Национальный исследовательский технологический университет "МИСиС"

Email: yaskov@mi-ras.ru
Scopus Author ID: 36635347000
ResearcherId: S-2745-2016
кандидат физико-математических наук, без звания

Список литературы

  1. Shiyu Liang, Yixuan Li, R. Srikant, Enhancing the reliability of out-of-distribution image detection in neural networks, 2020 (v1 – 2017), 15 pp.
  2. Zhilin Zhao, Longbing Cao, Kun-Yu Lin, IEEE Trans. Neural Netw. Learn. Syst., 35:10 (2024), 13777–13788
  3. Jiefeng Chen, Yixuan Li, Xi Wu, Yingyu Liang, Somesh Jha, Machine learning and knowledge discovery in databases. Research track (ECML PKDD 2021) (Bilbao, 2021), Lecture Notes in Comput. Sci., 12977, Springer, Cham, 2021, 430–445
  4. Sangwoong Yoon, Jinwon Choi, Yonghyeon Lee, Yung-Kyun Noh, Frank Chongwoo Park, Evaluating out-of-distribution detectors through adversarial generation of outliers, 2022, 17 pp.
  5. WonJun Moon, Junho Park, Hyun Seok Seong, Cheol-Ho Cho, Jae-Pil Heo, Computer vision – ECCV 2022 (Tel Aviv, 2022), Lecture Notes in Comput. Sci., 13685, Springer, Cham, 2022, 365–381
  6. A. Madry, A. Makelov, L. Schmidt, D. Tsipras, A. Vladu, Towards deep learning models resistant to adversarial attacks, 2019 (v1 – 2017), 28 pp.
  7. C. Finlay, A. M. Oberman, Mach. Learn. Appl., 3 (2021), 100017, 8 pp.
  8. A. Sinha, Zhao Chen, V. Badrinarayanan, A. Rabinovich, Gradient adversarial training of neural networks, 2018, 13 pp.
  9. D. Jakubovitz, R. Giryes, Computer vision – ECCV 2018 (Munich, 2018), Lecture Notes in Comput. Sci., 11216, Springer, Cham, 2018, 525–541
  10. Zhihui Zhu, Tianyu Ding, Jinxin Zhou, Xiao Li, Chong You, J. Sulam, Qing Qu, NIPS' 21: Proceedings of the 35th international conference on neural information processing systems, Adv. Neural Inf. Process. Syst., 34, Curran Associates Inc., Red Hook, NY, 2021, 29820–29834
  11. V. Papyan, X. Y. Han, D. L. Donoho, Proc. Natl. Acad. Sci. USA, 117:40 (2020), 24652–24663

Дополнительные файлы

Доп. файлы
Действие
1. JATS XML
Скачать

© Лукьянов К.С., Яськов П.А., 2025

Согласие на обработку персональных данных с помощью сервиса «Яндекс.Метрика»

1. Я (далее – «Пользователь» или «Субъект персональных данных»), осуществляя использование сайта https://journals.rcsi.science/ (далее – «Сайт»), подтверждая свою полную дееспособность даю согласие на обработку персональных данных с использованием средств автоматизации Оператору - федеральному государственному бюджетному учреждению «Российский центр научной информации» (РЦНИ), далее – «Оператор», расположенному по адресу: 119991, г. Москва, Ленинский просп., д.32А, со следующими условиями.

2. Категории обрабатываемых данных: файлы «cookies» (куки-файлы). Файлы «cookie» – это небольшой текстовый файл, который веб-сервер может хранить в браузере Пользователя. Данные файлы веб-сервер загружает на устройство Пользователя при посещении им Сайта. При каждом следующем посещении Пользователем Сайта «cookie» файлы отправляются на Сайт Оператора. Данные файлы позволяют Сайту распознавать устройство Пользователя. Содержимое такого файла может как относиться, так и не относиться к персональным данным, в зависимости от того, содержит ли такой файл персональные данные или содержит обезличенные технические данные.

3. Цель обработки персональных данных: анализ пользовательской активности с помощью сервиса «Яндекс.Метрика».

4. Категории субъектов персональных данных: все Пользователи Сайта, которые дали согласие на обработку файлов «cookie».

5. Способы обработки: сбор, запись, систематизация, накопление, хранение, уточнение (обновление, изменение), извлечение, использование, передача (доступ, предоставление), блокирование, удаление, уничтожение персональных данных.

6. Срок обработки и хранения: до получения от Субъекта персональных данных требования о прекращении обработки/отзыва согласия.

7. Способ отзыва: заявление об отзыве в письменном виде путём его направления на адрес электронной почты Оператора: info@rcsi.science или путем письменного обращения по юридическому адресу: 119991, г. Москва, Ленинский просп., д.32А

8. Субъект персональных данных вправе запретить своему оборудованию прием этих данных или ограничить прием этих данных. При отказе от получения таких данных или при ограничении приема данных некоторые функции Сайта могут работать некорректно. Субъект персональных данных обязуется сам настроить свое оборудование таким способом, чтобы оно обеспечивало адекватный его желаниям режим работы и уровень защиты данных файлов «cookie», Оператор не предоставляет технологических и правовых консультаций на темы подобного характера.

9. Порядок уничтожения персональных данных при достижении цели их обработки или при наступлении иных законных оснований определяется Оператором в соответствии с законодательством Российской Федерации.

10. Я согласен/согласна квалифицировать в качестве своей простой электронной подписи под настоящим Согласием и под Политикой обработки персональных данных выполнение мною следующего действия на сайте: https://journals.rcsi.science/ нажатие мною на интерфейсе с текстом: «Сайт использует сервис «Яндекс.Метрика» (который использует файлы «cookie») на элемент с текстом «Принять и продолжить».