Практическая сетевая топология в исследовании процесса онлайн-радикализации молодежи: возможности и ограничения

Обложка

Цитировать

Полный текст

Аннотация

В настоящей статье представлены ключевые подходы к пониманию и исследованию радикализации, а также возможности и ограничения применения некоторых исследовательских методов для моделирования сетевой топологии и оценки контентного сходства онлайн-сообществ. Сегодня в исследованиях социальных сетей и участия в них молодежи часто применяются методы и технологии Web Mining и AI. Однако до сих пор остается открытым вопрос о том, как эти подходы могут быть эффективно использованы в целях изучения онлайн-радикализации. Ответ на него должен повысить объяснительную и прогностическую способность вычислительных моделей для обнаружения и прогнозирования радикализации в онлайн-пространстве. В значительной части российских исследований онлайн-радикализации распространен подход, при котором задача выявления взаимосвязей отдельных онлайн-сообществ или их кластеров сводится к оценке степени их сходства по подписчикам, либо по лингвистическим маркерам. Такой подход ограничен в прогнозировании новых связей между сообществами и обосновании путей радикализации, но в то же время актуален в моделировании информационной диффузии. В данной работе авторы стремятся продемонстрировать возможности и ограничения применения методов tf-idf, doc2vec для оценки контентного сходства онлайн-сообществ без признаков радикализации и онлайн-сообществ с признаками радикализации. Такой подход позволил выявить сообщества со значительной тенденцией к объединению (установлению прямых связей). В статье представлены результаты сравнительного исследования в виде социальных графов, сформированных по принципам общности подписчиков, сходства значимых слов, контекстного сходства на базе doc2vec модели. Социальный граф на основе doc2vec метода показал лучшие результаты с точки зрения кластеризации онлайн-сообществ, а также интерпретируемости результатов. Это является критически значимым для обнаружения и прогнозирования радикализации в Интернете, поскольку открывает перспективы для изучения природы ассортативности в наблюдаемой сети.

Об авторах

Юлия Альбертовна Зубок

ФНИСЦ РАН

Email: uzubok@mail.ru
ORCID iD: 0000-0002-3108-2614
SPIN-код: 2160-6341
ResearcherId: H-7357-2016
Доктор социологических наук, профессор, заместитель директора по научной работе, Институт социологии ФНИСЦ РАН, Москва, Россия; руководитель центра социологии молодежи, Институт социально-политических исследований ФНИСЦ РАН, Москва, Россия Москва, Россия

Анна Юрьевна Карпова

Национальный исследовательский Томский политехнический университет

Email: belts@tpu.ru
ORCID iD: 0000-0001-7854-1438
Доктор социологических наук, профессор Школы общественных наук Томск, Россия

Алексей Олегович Савельев

Национальный исследовательский Томский политехнический университет

Email: sava@tpu.ru
ORCID iD: 0000-0002-7466-6142
Кандидат технических наук, доцент Инженерной школы информационных технологий и робототехники Томск, Россия

Список литературы

  1. Ахременко А. С., Стукал Д. К., Петров А. П. Сеть или текст? Факторы распространения протеста в социальных медиа: теория и анализ данных // Полис. Политические исследования. 2020. № 2. С. 73–91. doi: 10.17976/jpps/2020.02.06; EDN: APZWMB.
  2. Карпова А. Ю., Кузнецов С. А. и др. Метод поиска изображений с признаками ультраправой радикализации в социальных медиа на основе нейросетевой классификации // Системы управления и информационные технологии. 2023. № 1(91). С. 59–64. doi: 10.36622/VSTU.2023.91.1.012; EDN: KGWMLC.
  3. Карпова А. Ю., Савельев А. О. Возможности и границы применения технологий Big Data для изучения онлайн-радикализации // Третьи декабрьские социально-политические чтения «Как живешь, Россия?». Вызовы пандемии, парламентские выборы и стратегическая повестка дня для общества и государства: Матер. науч.-практич. конф. М.: ФНИСЦ РАН, 2022. С. 67–78. EDN: ZXFWGV.
  4. Карпова А. Ю., Савельев А. О. и др. Ультраправая радикализация: методика автоматизированного выявления угроз методами web mining // Вестник РФФИ. Гуманитарные и общественные науки. 2020. № 5(102). С. 30–43. doi: 10.22204/2587-8956-2020-102-05-30-43; EDN: BEZTTC.
  5. Карпова А. Ю., Савельев А. О. и др. Изучение процесса онлайн-радикализации молодежи в социальных медиа (междисциплинарный подход) // Мониторинг общественного мнения: экономические и социальные перемены. 2020. № 3(157). С. 159–181. doi: 10.14515/monitoring.2020.3.1585; EDN: CXJJUW.
  6. Карпова А. Ю., Савельев А. О., Кузнецов С. А. Трансформация социальных практик ответственного отцовства в девиантные формы социальной активности // Векторы благополучия: экономика и социум. 2021. № 4(43). С. 107–118. doi: 10.18799/26584956/2021/4(43)/1130; EDN: DDROPU.
  7. Карпова А. Ю., Ширыкалов А. М. Разработка метода оценки схожести коллекций текстов с использованием их векторных представлений, полученных методом doc2vec // Молодежь и современные информационные технологии: Сб. тр. XVIII Междунар. науч.-практ. конф. Томск: ТПУ, 2021. С. 75–76. EDN SWSZVQ.
  8. Кузнецов С. А., Карпова А. Ю., Савельев А. О. Методы и технологии интеллектуализации поиска деструктивного и радикального контента в социальных медиа: анализ современного состояния // Вестник компьютерных и информационных технологий. 2023. Т. 20. № 4(226). С. 39–48. doi: 10.14489/vkit.2023.04.pp.039-048; EDN: EVCQQC.
  9. Савельев А. О., Карпова А. Ю., Кузнецов С. А. Подход к оценке взаимосвязей сообществ социальных медиа на базе тематического сходства текстового контента (на примере сообществ социально активных отцов и сообществ с признаками радикализации) // Казанский экономический вестник. 2022. № 1(57). С. 96–103. EDN: DNZYVS.
  10. Соколова Т. В., Чеповский А. М. Задача анализа профилей пользователей социальных сетей // Ситуационные центры и информационно-аналитические системы класса 4i для задач мониторинга и безопасности (SCVRT2017): Тр. Междунар. науч. конф. Москва–Протвино: ИФТИ, 2017. С. 198–201. EDN: YSHYDJ.
  11. Стукал Д. К., Ахременко А. С., Петров А. П. Аффективная политическая поляризация и язык ненависти: созданы друг для друга? // Вестник РУДН. Сер.: Политология. 2022. Т. 24. № 3. C. 480–498. doi: 10.22363/2313-1438-2022-24-3-480-498; EDN: VLTQRN.
  12. Чупров В. И., Зубок Ю. А. Молодежный экстремизм: сущность, формы проявления, тенденции. М.: Academia, 2009. 320 с. EDN: SUFKBZ.
  13. Akram M., Nasar A. Systematic Review of Radicalization through Social Media // Ege Academic Review. 2023. Vol. 23(2). P. 279–296. doi: 10.21121/eab.1166627; EDN: JFWLSR.
  14. Alvari H., Sarkar S., Shakarian P. Detection of Violent Extremists in Social Media // 2nd International Conference on Data Intelligence and Security (ICDIS). South Padre Island, TX, USA, 2019. P. 43–47. doi: 10.1109/ICDIS.2019.00014.
  15. Araque O., Iglesias C. A. An Approach for Radicalization Detection Based on Emotion Signals and Semantic Similarity // IEEE Access. 2020. Vol. 8. P. 17877–17891. doi: 10.1109/access.2020.2967219.
  16. Binder J. F., Kenyon J. Terrorism and the internet: How dangerous is online radicalization? // Frontiers in Psychology. 2022. Vol. 13. doi: 10.3389/fpsyg.2022.997390; EDN: RGSMYY.
  17. Borum R. Radicalization into Violent Extremism I: A Review of Social Science Theories // Journal of Strategic Security. 2012. Vol. 4(4). P. 7–36. doi: 10.5038/1944-0472.4.4.1.
  18. Borum R. Radicalization into Violent Extremism II: A Review of Conceptual Models and Empirical Research // Journal of Strategic Security. 2012. Vol. 4(4). P. 37–62. doi: 10.5038/1944-0472.4.4.
  19. Borum R. Rethinking radicalization // Journal of Strategic Security. 2012. Vol. 4(4). P. 1–6. URL: https://digitalcommons.usf.edu/jss/vol4/iss4/1 (дата обращения: 15.12.2023).
  20. Borum R. Understanding the terrorist mind-set // FBI Law Enforcement Bulletin. 2003. Vol. 72(7). P. 7–10.
  21. Clancy T., Addison B., Pavlov O., Saeed Kh. Contingencies of Violent Radicalization: The Terror Contagion Simulation // Systems. 2021. Vol. 9(4). Article 90. doi: 10.3390/systems9040090.
  22. Das S., Biswas A. The Ties that matter: From the perspective of Similarity Measure in Online Social Networks // ArXiv. 2022. doi: 10.48550/arXiv.2212.10960.
  23. de la Roche R. S. Why is collective violence collective? // Sociological Theory. 2001. Vol. 19(2). P. 126–144. doi: 10.1111/0735-2751.00133.
  24. Deem A. The Digital Traces of #whitegenocide and Alt-Right Affective Economies of Transgression // International Journal of Communication. 2019. Vol. 13. P. 3183–3202.
  25. Derbas N., Dusserre E. et al. Eventfully Safapp: hybrid approach to event detection for social media mining // Journal of Ambient Intelligence and Humanized Computing. 2020. Vol. 11(1). P. 87–95. doi: 10.1007/s12652-018-1078-7; EDN: VCUFZA.
  26. Ducol B. A Radical sociability: in defense of an online/offline multidimensional approach to radicalization // Social Networks, Terrorism and Counter-Terrorism: Radical and Connected / Ed by M. Bouchard. N. Y.: Routledge, 2015. P. 82–104.
  27. Expressions of Radicalization: Global Politics, Processes and Practices / Ed. by K. Steiner, A. Onnerfors. Cambridge: Palgrave Macmillan, 2018. 526 p. doi: 10.1007/978-3-319-65566-6.
  28. Ferrara E. Contagion dynamics of extremist propaganda in social networks // Information Sciences. 2017. Vol. 418–419. P. 1–12. doi: 10.1016/j.ins.2017.07.030.
  29. Floridi L. Hyperhistory and the philosophies of information policies // The Onlife Manifesto / Ed. by L. Floridi. L.: Springer, 2015. P. 51–63. doi: 10.1007/978-3-319-04093-6_12.
  30. Francisco M., Castro J. L. A fuzzy model to enhance user profiles in microblogging sites using deep relations // Fuzzy Sets and Systems. 2020. Vol. 401. P. 133–149. doi: 10.1016/j.fss.2020.05.006.
  31. Garcet S. Understanding the psychological aspects of the radicalization process: a sociocognitive approach // Forensic Sciences Research. 2021. Vol. 6(2). P. 115–123. doi: 10.1080/20961790.2020.1869883.
  32. Gezha V. N., Kozitsin I. V. The Effects of Individuals’ Opinion and Non-Opinion Characteristics on the Organization of Influence Networks in the Online Domain // Computers. 2023. Vol. 12(6). Article 116. doi: 10.3390/computers12060116.
  33. Greenberg K. J. Counter-radicalization via the internet // The Annals of the American Academy of Political and Social Science. 2016. Vol. 668(1). P. 165–179. doi: 10.1177/0002716216672635.
  34. Grover T., Mark G. Detecting Potential Warning Behaviors of Ideological Radicalization in an Alt-Right Subreddit // Proceedings of the International AAAI Conference on Web and Social Media. 2019. Vol. 13. P. 193–204. doi: 10.1609/icwsm.v13i01.3221.
  35. Hall M., Logan M. et al. Do Machines Replicate Humans? Toward a Unified Understanding of Radicalizing Content on the Open Social Web // Policy & Internet. 2020. Vol. 12. P. 109–138. doi: 10.1002/poi3.223.
  36. Hamm M., Spaaj R. Lone Wolf Terrorism in America: Using Knowledge of Radicalization Pathways to Forge Prevention Strategies. Washington DC: US Department of Justice, 2015. URL: https://www.ojp.gov/pdffiles1/nij/grants/248691.pdf (дата обращения: 15.12.2023).
  37. Horgan J. From Profiles to Pathways and Roots to Routes: Perspectives from Psychology on Radicalization into Terrorism // The Annals of the American Academy of Political and Social Science. 2008. Vol. 618(1). P. 80–94. doi: 10.1177/0002716208317539; EDN: JLEUBT.
  38. Ishfaq U., Khan H. U., Iqbal S. Identifying the influential nodes in complex social networks using centrality-based approach // Journal of King Saud University. Computer and Information Sciences. 2022. Vol. 34(10). P. 9376–9392. doi: 10.1016/j.jksuci.2022.09.016; EDN: DKHGZY.
  39. Karpova A. Yu., Kuznetsov S. A. et al. An online scan of extreme-right radicalization in social networks (the case of the Russian social network VKontakte) // Journal of Siberian Federal University. Humanities and Social Sciences. 2022. Vol. 15. № 12. P. 1738–1750. doi: 10.17516/1997-1370-0948; EDN: IGVUQA.
  40. Karpova A., Savelev A. et al. Method for detecting far-right extremist communities on social media // Social Sciences. 2022. Vol. 11. № 5. Article 200. doi: 10.3390/socsci11050200; EDN: EFNFLP.
  41. Kozitsin I. V. A general framework to link theory and empirics in opinion formation models // Scientific Reports. 2022. Vol. 12(1). Article 5543. doi: 10.1038/s41598-022-09468-3; EDN: VVQEUT.
  42. Kozitsin I. V. Opinion dynamics of online social network users: a micro-level analysis // The Journal of Mathematical Sociology. 2023. Vol. 47(1). P. 1–41. doi: 10.1080/0022250X.2021.1956917; EDN: BHVFFM.
  43. LaFree G. Lone-Offender Terrorists // Criminology and Public Policy. 2013. Vol. 12(1). P. 59–62. doi: 10.1111/1745-9133.12018.
  44. Lara-Cabrera R., Pardo A. G. et al. Measuring the Radicalisation Risk in Social Networks // IEEE Access. 2017. Vol. 5. P. 10892–10900. doi: 10.1109/access.2017.2706018; EDN: GFVFJT.
  45. Lee D.-H., Kim Y.-R. et al. Fake News Detection Using Deep Learning // Journal of Information Processing Systems. 2019. Vol. 15(5). P. 1119–1130. doi: 10.3745/JIPS.04.0142.
  46. McCauley C., Moskalenko S. Mechanisms of Political Radicalization: Pathways Toward Terrorism // Terrorism and Political Violence. 2008. Vol. 20(3). P. 415–433. doi: 10.1080/09546550802073367.
  47. Moghaddam F. M. The staircase to terrorism: A psychological exploration // American Psychologist. 2005. Vol. 60(2). P. 161–169. doi: 10.1037/0003-066X.60.2.161.
  48. Mussiraliyeva S., Bolatbek M. et al. On detecting online radicalization and extremism using natural language processing // 21st International Arab Conference on Information Technology. Giza, 2020. P. 9300086. doi: 10.1109/ACIT50332.2020.9300086; EDN JNULVZ.
  49. Neumann P. R. The trouble with radicalization // International Affairs. 2013. Vol. 89(4). P. 873–893. doi: 10.1111/1468-2346.12049.
  50. Petrov A. Countering Fake News with Contagious Inoculation and Debunking: A Mathematical Model // 2022 15th International Conference Management of large-scale system development (MLSD). Moscow, 2022. P. 1–4. doi: 10.1109/MLSD55143.2022.9933991.
  51. Petrov A., Akhremenko A., Zheglov S. Dual Identity in Repressive Contexts: An Agent-Based Model of Protest Dynamics // Social Science Computer Review. 2023. Vol. 41(6). P. 2249–2273. doi: 10.1177/08944393231159953; EDN: LPVEKT.
  52. Petrov A., Proncheva O. Modeling propaganda battle: Decision-making, homophily, and echo chambers // Communications in Computer and Information Science. 2018. Vol. 930. P. 197–209. doi: 10.1007/978-3-030-01204-5_19; EDN: WTYCBE.
  53. Radicalization and Variations of Violence. New Theoretical Approaches and Original Case Studies / Ed. by D. Beck, J. Renner-Mugono. Springer, 2023. 212 p. doi: 10.1007/978-3-031-27011-6.
  54. Renström E. A., Bäck H., Knapton H. M. Exploring a pathway to radicalization: The effects of social exclusion and rejection sensitivity // Group Processes & Intergroup Relations. 2020. Vol. 23(8). P. 1204–1229. doi: 10.1177/1368430220917215.
  55. Rowe M., Saif H. Mining Pro-ISIS Radicalisation Signals from Social Media Users // Proceedings of the Tenth International AAAI Conference on Web and Social Media (ICWSM 2016). 2016. Vol. 10(1). P. 329–338. doi: 10.1609/icwsm.v10i1.14716.
  56. Sharif W., Mumtaz S. et al. An empirical approach for extreme behavior identification through tweets using machine learning // Applied Sciences. 2019. Vol. 9(18). Article 3723. doi: 10.3390/app9183723; EDN: VKLQVT.
  57. Siebl T. Digital transformation: survive and thrive in an era of mass extinction. N. Y.: Rosetta Books, 2019. 256 p.
  58. Smith L. G., Wakeford L. et al. Detecting psychological change through mobilizing interactions and changes in extremist linguistic style // Computers in Human Behavior. 2020. Vol. 108. Article 106298. doi: 10.1016/j.chb.2020.106298.
  59. Tang L., Liu H. Community Detection and Mining in Social Media. Morgan & Claypool Publishers, 2010. 138 p. doi: 10.1007/978-3-031-01900-5.
  60. Tausch N., Bode S., Halperin E. Emotions in Violent Extremism // Handbook of the Psychology of Violent Extremism / Ed by M. Obaidi, J. Kunst. Cambridge University Press, 2024.
  61. The Routledge handbook of terrorism research / Ed. by A. Schmid. L.: Routledge, 2011. 736 p.
  62. Thompson R. Radicalization and the Use of Social Media // Journal of Strategic Security. 2011. Vol. 4. P. 167–190. doi: 10.5038/1944-0472.4.4.8.
  63. Tsapatsoulis N., Djouvas C. Opinion Mining From Social Media Short Texts: Does Collective Intelligence Beat Deep Learning? // Frontiers in Robotics and AI. 2019. Vol. 5. P. 138. doi: 10.3389/frobt.2018.00138.
  64. Valentini D., Lorusso A. M., Stephan A. Onlife Extremism: Dynamic Integration of Digital and Physical Spaces in Radicalization // Frontiers in Psychology. 2020. Vol. 11. P. 524. doi: 10.3389/fpsyg.2020.00524.
  65. Wadhwa P., Bhatia M. P. S. An approach for dynamic identification of online radicalization in social networks // Cybernetics and Systems. 2015. Vol. 46(8). P. 641–665. doi: 10.1080/01969722.2015.1058665.
  66. Whittaker J. Rethinking Online Radicalization // Perspectives on Terrorism. 2022. Vol. 16(4). P. 27–40. URL: https://www.jstor.org/stable/27158150 (дата обращения: 15.12.2023).
  67. Winter Ch., Neumann P. et al. Online extremism: research trends in internet activism, radicalization, and counter-strategies // International Journal of Conflict and Violence. 2020. Vol. 14. P. 1–20. doi: 10.4119/ijcv-3809.
  68. Wojcieszak M. Carrying online participation offline: mobilization by radical online groups and politically dissimilar offline ties // Journal of Communication. 2009. Vol. 59(3). P. 564–586. doi: 10.1111/j.1460-2466.2009.01436.x.
  69. Xu G., Meng Y. et al. Sentiment Analysis of Comment Texts Based on BiLSTM // IEEE Access. 2019. Vol. 7. P. 51522–51532. doi: 10.1109/ACCESS.2019.2909919.
  70. Zafarani R., Abbasi M. A., Liu H. Social Media Mining: An Introduction. Cambridge University Press, 2014. 332 p. doi: 10.1017/CBO9781139088510.
  71. Zareie A., Sheikhahmadi A. et al. Finding influential nodes in social networks based on neighborhood correlation coefficient // Knowledge-Based Systems. 2020. Vol. 194. Article 105580. doi: 10.1016/j.knosys.2020.105580.

Дополнительные файлы

Доп. файлы
Действие
1. JATS XML
Скачать


Creative Commons License
Эта статья доступна по лицензии Creative Commons Attribution 4.0 International License.

Согласие на обработку персональных данных с помощью сервиса «Яндекс.Метрика»

1. Я (далее – «Пользователь» или «Субъект персональных данных»), осуществляя использование сайта https://journals.rcsi.science/ (далее – «Сайт»), подтверждая свою полную дееспособность даю согласие на обработку персональных данных с использованием средств автоматизации Оператору - федеральному государственному бюджетному учреждению «Российский центр научной информации» (РЦНИ), далее – «Оператор», расположенному по адресу: 119991, г. Москва, Ленинский просп., д.32А, со следующими условиями.

2. Категории обрабатываемых данных: файлы «cookies» (куки-файлы). Файлы «cookie» – это небольшой текстовый файл, который веб-сервер может хранить в браузере Пользователя. Данные файлы веб-сервер загружает на устройство Пользователя при посещении им Сайта. При каждом следующем посещении Пользователем Сайта «cookie» файлы отправляются на Сайт Оператора. Данные файлы позволяют Сайту распознавать устройство Пользователя. Содержимое такого файла может как относиться, так и не относиться к персональным данным, в зависимости от того, содержит ли такой файл персональные данные или содержит обезличенные технические данные.

3. Цель обработки персональных данных: анализ пользовательской активности с помощью сервиса «Яндекс.Метрика».

4. Категории субъектов персональных данных: все Пользователи Сайта, которые дали согласие на обработку файлов «cookie».

5. Способы обработки: сбор, запись, систематизация, накопление, хранение, уточнение (обновление, изменение), извлечение, использование, передача (доступ, предоставление), блокирование, удаление, уничтожение персональных данных.

6. Срок обработки и хранения: до получения от Субъекта персональных данных требования о прекращении обработки/отзыва согласия.

7. Способ отзыва: заявление об отзыве в письменном виде путём его направления на адрес электронной почты Оператора: info@rcsi.science или путем письменного обращения по юридическому адресу: 119991, г. Москва, Ленинский просп., д.32А

8. Субъект персональных данных вправе запретить своему оборудованию прием этих данных или ограничить прием этих данных. При отказе от получения таких данных или при ограничении приема данных некоторые функции Сайта могут работать некорректно. Субъект персональных данных обязуется сам настроить свое оборудование таким способом, чтобы оно обеспечивало адекватный его желаниям режим работы и уровень защиты данных файлов «cookie», Оператор не предоставляет технологических и правовых консультаций на темы подобного характера.

9. Порядок уничтожения персональных данных при достижении цели их обработки или при наступлении иных законных оснований определяется Оператором в соответствии с законодательством Российской Федерации.

10. Я согласен/согласна квалифицировать в качестве своей простой электронной подписи под настоящим Согласием и под Политикой обработки персональных данных выполнение мною следующего действия на сайте: https://journals.rcsi.science/ нажатие мною на интерфейсе с текстом: «Сайт использует сервис «Яндекс.Метрика» (который использует файлы «cookie») на элемент с текстом «Принять и продолжить».