Рекуррентные нейронные сети с непрерывным обучением в задачах многофункциональной обработки новостных потоков

Обложка

Цитировать

Полный текст

Аннотация

Главной задачей использования нейронных сетей является оперативное и точное решение различных творческих задач, таких как анализ и синтез новостных потоков при сохранении непрерывности обучения. Результатом такой обработки могут быть дайджесты, новостные потоки, прошедшие фильтрацию, а также прогнозы событий, позволяющих обеспечивать проактивность в управленческих решениях Известные методы обработки новостей нейронными сетями и реализующие их технические решения не в полной мере обеспечивают решение возникающих в этой области задач. Необходимо расширить их функциональные возможности, совершенствовать пространственно-временное связывание сигналов в рекуррентных нейронных сетях. При обработке новостных потоков одновременно с непрерывным обучением рекуррентных нейронных сетей следует осуществлять селекцию, распознавание, восстановление, прогнозирование и синтез новостей. Для снижения остроты проблемы предлагается перспективный метод многофункциональной обработки новостных потоков с применением рекуррентных нейронных сетей с логической организацией слоев и непрерывным обучением. Метод основан на развитии ассоциативной обработки текстовой информации в потоковых рекуррентных нейронных сетях с управляемыми элементами. Ключевыми особенностями этого метода являются многофункциональная обработка информационных потоков с изменяющимися законами появления новостей. Метод предусматривает оперативный отбор, распознавание, восстановление, прогнозирование и синтез новостей на основе глубокой ассоциативной непрерывной обработки связей между текстовыми элементами. Реализующая предлагаемый метод нейросетевая система отличается от известных решений новыми элементами, связями между ними, а также выполняемыми функциями. По результатам экспериментов подтверждена расширенная функциональность метода. Выявлены новые особенности обработки новостных текстов потоковыми РНС. Предлагаемые решения могут найти применение при создании интеллектуальных систем нового поколения не только для обработки текстов, но и других видов информации.

Об авторах

В. Ю Осипов

Санкт-Петербургский Федеральный исследовательский центр Российской академии наук (СПб ФИЦ РАН)

Email: osipov_vasiliy@mail.ru
14-я линия В.О. 39

С. В Кулешов

Санкт-Петербургский Федеральный исследовательский центр Российской академии наук (СПб ФИЦ РАН)

Email: kuleshov@iias.spb.su
14 линия В.О. 39

Д. И Милосердов

центр системного анализа и моделирования АО НТЦ РЭБ

Email: dmmil94@yandex.ru
14-я линия В.О. 39

А. А Зайцева

Санкт-Петербургский Федеральный исследовательский центр Российской академии наук (СПб ФИЦ РАН)

Email: cher@iias.spb.su
14-я линия В.О. 39

А. Ю Аксенов

Санкт-Петербургский Федеральный исследовательский центр Российской академии наук (СПб ФИЦ РАН)

Email: a_aksenov@iias.spb.su
14-я линия В.О. 39

Список литературы

  1. Wu. Y. Language independent web news extraction system based on text detection framework. Information Sciences. 2016. vol. 342. pp.132-149.
  2. Kaur G., Bajaj K. News Classification and Its Techniques: A Review. IOSR Journal of Computer Engineering. 2016. vol. 18. no. 1. pp. 22-26.
  3. Zhang H., Boons F., Riza B.-N. Whose story is it anyway? Automatic extraction of accounts from news articles. Information Processing & Management. 2019. vol. 56 . no. 5. pp. 1837-1848.
  4. Papagiannopoulou E., Tsoumakas G. Local word vectors guiding keyphrase extraction. Information Processing & Management. 2018. vol. 54. no. 6. pp. 888-902.
  5. Osipov V., Kuleshov S., Zaytseva A., Levonevskiy D., Miloserdov D. Neural network forecasting of news feeds. Expert systems with applications. 2021. vol. 169. p. 114521.
  6. Ji Z., Chen K., Wang H. Step-Wise Hierarchical Alignment Network for Image-Text Matching. Proceedings of the Thirtieth International Joint Conference on Artoficial Intelligence (IJCAAI-2021). pp. 765- 771.
  7. Rivera-Trigueros I. Machine translation systems and quality assessment: a systematic review. Language Resources & Evaluation 10 April, 2021.
  8. Chaudhary and Bali. EASTER: Simplifying Text Recognition using only 1D Convolutions. The 34th Canadian Conference on Artificial Intelligence, Vancouver, 2021.
  9. Grosman J., Furtado P., Rodrigues A., Schardong G., Barbosa S., Lopes H. Eras: Improving the quality control in the annotation process for natural language processing tasks. Information Systems. 2020. vol. 93. p. 101553.
  10. Ashari A., Riasetiawan M. Document summarization using TextRank and semantic network. International journal intelligent systems and applications. 2017. vol. 1. pp. 26-33.
  11. Mele I., Bahrainian S., Crestani F. Event mining and timeliness analysis from heterogeneous news streams. Information Processing and Management. 2019. vol. 56. pp. 969–993.
  12. Curiskis S., Drake B., Osborn T., Kennedy P. An evaluation of document clustering and topic modelling in two online social networks: Twitter and Reddit. Information Processing & Management. 2019. p. 102034.
  13. Rezaeinia S., Rahmani R., Ghodsi A., Veisi H. Sentiment Analysis Based on Improved Pre-Trained Word Embeddings. Expert Systems with Applications. 2019. vol. 117, pp. 139-147.
  14. Hemmatian F., Sohrabi M. A survey on classification techniques for opinion mining and sentiment analysis. Artificial Intelligence Review. 2019. vol. 52. pp. 1495–1545.
  15. Li J., Chen W., Gu B., Fang J., Li Z., Zhao L. Measuring semantic relatedness with knowledge association network. Lecture Notes in Computer Science (including subseries Lecture Notes in Artificial Intelligence and Lecture Notes in Bioinformatics). 2019. vol. LNCS 11446. pp. 676-691.
  16. Ardia D., Bluteau K., Boudt K. Questioning the news about economic growth: Sparse forecasting using thousands of newsbased sentiment values. International Journal of Forecasting. 2019. vol. 35 (4). pp. 1370 – 1386.
  17. Sutskever I., Martens J., Hinton G. Generating Text with Recurrent Neural Networks. Proceedings of the 28th International Conference on Machine Learning, ICML 2011, Bellevue, Washington, USA, 2011. pp. 1017-1024.
  18. Widodo A., Naomi N., Purnomo F. Prediction of Research Topics Using Combination of Machine Learning and Logistic Curve. Journal of Theoretical and Applied Information Technology. 2013. vol. 49 (3). pp. 725 – 732.
  19. Cabana A., Mizraji E., Valle-Lisboa J. A neural model that implements probabilistic topics. Neurocomputing. 2016. vol. 171. pp. 1099-1107.
  20. Wang R., Zhou D., He Y. ATM: Adversarial-neural Topic Model. Information Processing & Management. 2019. vol. 56(6). p. 102098.
  21. Wei Wei, Guo C. A text semantic topic discovery method based on the conditional co-occurrence degree. Neurocomputing. 2019. vol. 368. pp. 11 – 24.
  22. Mukhina K., Visheratin A., Nasonov D. Urban events prediction via convolutional neural networks and Instagram data. Procedia Computer Science. 2019. vol. 156. pp. 176-184.
  23. Recurrent Neural Network Tutorial (2015), Part 4 – Implementing a GRU/LSTM RNN with Python and Theano – WildML. https://dennybritz.com/posts/wildml/recurrent-neural-networks-tutorial-part-4/.
  24. Osipov V., Osipova M. Space-time signal binding in recurrent neural networks with controlled elements. Neurocomputing. 2018. vol. 308. pp. 194–204.
  25. Osipov V., Nikiforov V., Zhukova N., Miloserdov D. Urban traffic flows forecasting by recurrent neural networks with spiral structures of layers. Neural Computing and Applications. 2020. vol. 32. pp. 14885-14897.
  26. Осипов В.Ю. Ассоциативная интеллектуальная машина. Информационные технологии и вычислительные системы. 2010. № 2. С. 59 – 67.
  27. Osipov V., Zhukova N., Subbotin A., Glebovskiy P., Evnevich E. Intelligent escalator passenger safety management. Scientific reports. 2022. vol. 12. pp. 5506.
  28. Zhang J. El-Gohary N.M. Semantic NLP-based information extraction from construction regulatory documents for automated compliance checking. Journal of Computing in Civil Engineering. 2016. vol. 30(2). pp. 1–14. doi: 10.1061/(ASCE)CP.1943-5487.0000346.
  29. Kuleshov S., Zaytseva A., Aksenov A. Natural Language Search and Associative-Ontology Matching Algorithms Based on Graph Representation of Texts. In: Silhavy, R., Silhavy, P., Prokopova, Z. (eds) Intelligent Systems Applications in Software Engineering. Advances in Intelligent Systems and Computing. Springer, Cham, 2019. vol 1046. pp. 285–294. doi: 10.1007/978-3-030-30329-7_26.

Дополнительные файлы

Доп. файлы
Действие
1. JATS XML

Согласие на обработку персональных данных

 

Используя сайт https://journals.rcsi.science, я (далее – «Пользователь» или «Субъект персональных данных») даю согласие на обработку персональных данных на этом сайте (текст Согласия) и на обработку персональных данных с помощью сервиса «Яндекс.Метрика» (текст Согласия).