The concept of deepfake in Russian law, classification of deepfake and issues of their legal regulation

Cover Page

Cite item

Full Text

Abstract

The article deals with the issues of legal regulation of deepfake in the Russian Federation. Legal regulation of deepfake does not keep up with the pace of development of artificial intelligence technologies. The authors emphasize that there is no definition of deepfake in the current legislation, and the existing formulations in scientific works are extremely contradictory in nature. Taking into account the pace of development of artificial intelligence technologies, it is necessary to legislate the definition of deepfake. The authors note that the classification of deepfakes is fundamentally important for the legal regulation of these technologies. According to the results of the analysis of modern neural networks the species classification of deepfakes is offered. Taking into account the authors' proposed definition of the concept of "deepfake" and taking into account the lack of legal mechanisms to regulate social relations in the sphere of use and distribution of deepfake, which cause the development of digital transformation, it is important to form mechanisms to adapt the legal system to the challenges associated with the development of deepfake technologies.

References

  1. Бодров Н. Ф., Лебедева А. К. Перспективы судебно-экспертного исследования синтезированной звучащей речи / Н. Ф. Бодров, А. К. Лебедева // Законы России: опыт, анализ, практика. 2021. № 3. С. 9-13.
  2. Бодров Н. Ф. Судебно-экспертное исследование синтезированной звучащей речи / Н. Ф. Бодров, А. К. Лебедева // Социально-экономическое развитие и качество правовой среды : Сборник докладов VIII Московского юридического форума (XIX Международная научно-практическая конференция): в 5 ч., Москва, 08–10 апреля 2021 года. Том Ч. 4. Москва: Московский государственный юридический университет имени О.Е. Кутафина (МГЮА), 2021. С. 263-266.
  3. Даниленко Ю. А. Проблемы расследования отдельных видов киберпреступлений, совершенных с использованием искусственного интеллекта / Ю.А. Даниленко // проблемы получения и использования доказательственной и криминалистически значимой информации. 2019. С. 37-39.
  4. Игнатенков Г. К. Технология дипфейк как угроза информационной безопасности / Г. К. Игнатенков // Наука. Исследования. Практика : Сборник избранных статей по материалам Международной научной конференции, Санкт-Петербург, 25 июня 2022 года. Санкт-Петербург: Частное научно-образовательное учреждение дополнительного профессионального образования Гуманитарный национальный исследовательский институт «НАЦРАЗВИТИЕ», 2022. С. 74-77.
  5. Лебедева А. К. Технологии голосового синтеза и судебная фоноскопическая экспертиза / А. К. Лебедева // Вестник криминалистики. 2020. № 3(75). С. 55-60.
  6. Лужинская Е. Л. Особенности исследования изображений внешнего облика человека, измененного при помощи программных средств / Е. Л. Лужинская, В. А. Чванкин // Вопросы криминологии, криминалистики и судебной экспертизы. 2022. № 2(52). С. 116-121.
  7. Овчинников А.В. Распространение Дипфейков В Интернет-Пространстве: Проблемные аспекты правового регулирования / А.В. Овчинников. 2022. Распространение дипфейков в интернет-пространстве. С. 245-255.
  8. Рыбаков О.Ю. Человек, право, цифровые технологии: современные направления исследований (обзор Всероссийской научно-практической онлайн-конференции) / Рыбаков О.Ю. // Мониторинг правоприменения. – 2020. – Человек, право, цифровые технологии. № 2 (35). С. 83-87.
  9. Сетевое издание «Коммерсантъ» [Электронный ресурс]. URL: https://www.kommersant.ru/doc/4081979 (дата обращения 30.10.2023).
  10. Смирнов А. А. «Глубокие фейки». Сущность и оценка потенциального влияния на национальную безопасность / А.А. Смирнов // Свободная мысль. 2019. № 5 (1677). С. 63-84.
  11. Удаленная идентификация | Банк России [Электронный ресурс]. URL: https://www.cbr.ru/fintech/digital_biometric_id/ (дата обращения: 01.10.2023).
  12. Яворский М. А. Deepfake: legal problems and their solution / М.А. Яворский, Т.В. Мавринская // Актуальные проблемы развития правовой системы в цифровую эпоху. 2019. С. 134-138.
  13. Apnews [Электронный ресурс]. URL: https://apnews.com/article/germany-church-protestants-chatgpt-ai-sermon-651f21c24cfb47e3122e987a7263d348 (дата обращения 10.10.2023).
  14. Attention is All you Need / A. Vaswani [и др.] // Advances in Neural Information Processing Systems / ред.I. Guyon [и др.]. Curran Associates, Inc., 2017. Т. 30.
  15. OpenAI. (2023). ChatGPT (версия от 25 сентября) [большая языковая модель]. https://chat.openai.com.
  16. Chengyi Wang, Sanyuan Chen, Yu Wu, Ziqiang Zhang Long, Zhou Shujie Liu,Zhuo Chen Yanqing Liu, Huaming Wang, Jinyu Li Lei He Sheng, Zhao Furu Wei (Microsoft). Neural Codec Language Models are Zero-Shot Text to Speech Synthesizers. [Электронный ресурс]. URL: https://lifeiteng.github.io/valle/index.html (дата обращения 30.10.2023).
  17. ElevenLabs [Электронный ресурс]. URL: https://beta.elevenlabs.io/speech-synthesis (дата обращения 28.10.2023).
  18. Extracting Training Data from Large Language Models / N. Carlini [и др.] // USENIX Security Symposium. 2020.
  19. Fakeyou. [Электронный ресурс]. – URL: https://fakeyou.com/clone (дата обращения 30.10.2023).
  20. Mehdi Y. Reinventing search with a new AI-powered Microsoft Bing and Edge, your copilot for the web [Электронный ресурс]. URL: https://blogs.microsoft.com/blog/2023/02/07/reinventing-search-with-a-new-ai-powered-microsoft-bing-and-edge-your-copilot-for-the-web/ (дата обращения: 01.10.2023).
  21. Midjourney.su [Электронный ресурс]. URL: https://midjourney.su/article/usloviya-servisa/?ysclid=libsesc661284902146 (дата обращения: 30.10.2023).
  22. SpiritMe [Электронный ресурс]. URL: https://spiritme.tech (дата обращения 30.10.2023).
  23. Synthesia [Электронный ресурс]. URL: https://www.synthesia.io/ (дата обращения 30.09.2023).
  24. TCS Bank Is First Among Russian Banks to Introduce Voice‑Authentication System for Its Call Centre — Tinkoff news [Электронный ресурс]. URL: https://www.tinkoff.ru/about/news/21102014-tcs-introduce-voice-authentication-system/ (дата обращения: 14.10.2023).
  25. Tencent Cloud [Электронный ресурс]. URL: https://www.tencentcloud.com/ (дата обращения: 01.10.2023).
  26. The Wall Street Journal [Электронный ресурс]. URL: https://www.wsj.com/articles/i-cloned-myself-with-ai-she-fooled-my-bank-and-my-family-356bd1a3 (дата обращения 30.10.2023).
  27. Zalán Borsos, Matt Sharifi, Damien Vincent, Eugene Kharitonov, Neil Zeghidour, Marco Tagliasacchi. SoundStorm: Efficient Parallel Audio Generation. [Электронный ресурс]. URL: https://google-research.github.io/seanet/soundstorm/examples/ (дата обращения 30.10.2023).

Supplementary files

Supplementary Files
Action
1. JATS XML
Download

Согласие на обработку персональных данных

 

Используя сайт https://journals.rcsi.science, я (далее – «Пользователь» или «Субъект персональных данных») даю согласие на обработку персональных данных на этом сайте (текст Согласия) и на обработку персональных данных с помощью сервиса «Яндекс.Метрика» (текст Согласия).