A Combined Term Extraction Method for the Problem of Monitoring Thematic Discussions in Social Media

Мұқаба

Дәйексөз келтіру

Толық мәтін

Аннотация

Term extraction is an important stage in the automated construction of knowledge systems based on natural language texts, since it provides the formation of a basic concept system, which is then used in applied problems of intellectual information processing. The article discusses the problem of automated extraction of terms from natural language texts for their further use in the construction of formalized knowledge systems (ontologies, thesauruses, knowledge graphs) within the problem of monitoring thematic discussions in social media. This problem is characterized by the need to include in the formed knowledge system both concepts from several different domains, and some general concepts used by the audience of social media within thematic discussions. In addition, the generated knowledge system is dynamic both in terms of the composition of the domains it covers and the composition of relevant concepts to be included in the system. The use of existing classical methods for term extraction in this case is difficult, since they are focused on extracting terms within one domain. Based on this, to solve the problem under consideration, a combined method is proposed, combining approaches based on dictionaries, NER tools and rules. The results of the experiments demonstrate the effectiveness of the proposed combination of approaches to term extraction, which makes it possible to extract terms for the problem of monitoring and analyzing thematic discussions in social media. The developed method significantly exceeds the precision of the considered term extraction tools. As a further direction of research, the possibility of developing a method for solving the problem of identifying nested terms or entities is considered.

Авторлар туралы

V. Pimeshkov

IIMM KSC RAS

Email: pimeshkov@iimm.ru
Fersman St. 24А

M. Nikonorova

IIMM KSC RAS

Email: nikonorova@iimm.ru
Fersman St. 24А

M. Shishaev

IIMM KSC RAS

Email: shishaev@iimm.ru
Fersman St. 24А

Әдебиет тізімі

  1. Матусевич А.А. Общение в социальных сетях: прагматический, коммуникативный, лингвостилистический аспекты характеристики: дис. ... канд. филол. наук: 10.02.01. Киров. 2016. 190 с.
  2. Mykowiecka A., Marciniak M., Kupsc A. Rule-based information extraction from patients’ clinical data // Journal of Biomedical Informatics. 2009. vol. 42. no 5. pp. 923–936.
  3. Golik W., Bossy R., Ratkovic Z., Nedellec C. Improving term extraction with linguistic analysis in the biomedical domain // RCS. 2013. vol. 70. no. 1. pp. 157–172.
  4. Zhou X., Zhang X., Hu X. MaxMatcher: Biological Concept Extraction Using Approximate Dictionary Lookup // PRICAI 2006: Trends in Artificial Intelligence Lecture Notes in Computer Science. 2006. pp. 1145–1149.
  5. Yehia E., Boshnak H., AbdelGaber S., Abdo A., Elzanfaly. D.S. Ontology-based clinical information extraction from physician’s free-text notes // Journal of Biomedical Informatics. 2019. vol. 98. no. 103276.
  6. Lomov P., Malozemova M., Shishaev M. Training and application of neural-network language model for ontology population // Software engineering perspectives in intelligent systems: Proceedings of 4th Computational Methods in Systems and Software. 2020. vol. 1295. pp. 919–926.
  7. Пимешков В.К., Диковицкий В.В., Шишаев М.Г. Формирование тренировочных наборов данных для нейросетевого классификатора в задаче извлечения понятий и отношений из естественно-языковых текстов // Сборник Региональной научно-практической конференции-студенческой научной школы филиала МАГУ в г. Апатиты. 2021. С. 158–170.
  8. Pazienza M.T., Pennacchiotti M., Zanzotto F.M. Terminology Extraction: An Analysis of Linguistic and Statistical Approaches // Knowledge Mining. Studies in Fuzziness and Soft Computing. 2005. pp. 255–279.
  9. Heid U. Extracting terminologically relevant collocations from German technical texts // Terminology and Knowledge Engineering Proceedings. 1999. vol. 99. pp. 242–255.
  10. Zhang S., Elhadad N. Unsupervised biomedical named entity recognition: Experiments with clinical and biological texts // Journal of Biomedical Informatics. 2013. vol. 46. no 6. pp. 1088–1098.
  11. Lopez P., Romary L. HUMB: Automatic Key Term Extraction from Scientific Articles in GROBID // Proceedings of the 5th International Workshop on Semantic Evaluation. 2010. pp. 248–251.
  12. GROBID. URL: https://github.com/kermitt2/grobid (дата обращения: 13.11.2023).
  13. Lopez P., Romary L. GRISP: A Massive Multilingual Terminological Database for Scientific and Technical Domains // Proceedings of the Seventh International Conference on Language Resources and Evaluation (LREC'10). 2010. pp. 2269–2276.
  14. RuWordNet. URL: https://ruwordnet.ru/ru/ (дата обращения: 13.11.2023).
  15. RuThes. URL: http://www.labinform.ru/pub/ruthes/ (дата обращения: 13.11.2023).
  16. AGROVOC. URL: https://www.fao.org/agrovoc/ (дата обращения: 13.11.2023).
  17. DBpedia. URL: https://www.dbpedia.org/ (дата обращения: 13.11.2023).
  18. SpaCy. URL: https://spacy.io/ (дата обращения: 07.12.2023).
  19. Natasha. URL: https://github.com/natasha/natasha (дата обращения: 24.10.2023).
  20. DeepPavlov. URL: https://docs.deeppavlov.ai/en/master/ (дата обращения: 07.12.2023).
  21. Томита-парсер. URL: https://yandex.ru/dev/tomita/ (дата обращения: 13.11.2023).
  22. Yargy parser. URL: https://github.com/natasha/yargy (дата обращения: 24.10.2023).
  23. Korobov M. Morphological Analyzer and Generator for Russian and Ukrainian Languages // Analysis of Images, Social Networks and Texts. Communications in Computer and Information Science. 2015. pp. 320–332.
  24. OpenCorpora. URL: https://opencorpora.org/ (дата обращения: 13.11.2023).
  25. BERT NER-models. URL: https://docs.deeppavlov.ai/en/master/features/models/NER.html#6.-Models-list (дата обращения: 24.10.2023).
  26. Bird S., Klein E., Loper E. Natural Language Processing with Python // O’Reilly Media Inc. 2009. 482 p.
  27. Lu K. kevinlu1248/pyate: Python Automated Term Extraction (Version v0.5.3). Zenodo. 2021. doi: 10.5281/zenodo.5039289.
  28. Rutermextract. URL: https://pypi.org/project/rutermextract/ (дата обращения: 07.12.2023).
  29. Astrakhantsev N. ATR4S: toolkit with state-of-the-art automatic terms recognition methods in Scala // Language Resources and Evaluation. 2018. vol. 52. no. 3. pp. 853–872.
  30. Hatty A., Schlechtweg D., Dorna M., im Walde S.S. Predicting Degrees of Technicality in Automatic Terminology Extraction // Proceedings of the 58th Annual Meeting of the Association for Computational Linguistics. 2020. pp. 2883–2889.
  31. Zhang X., Panizzon R., Musacchio M., Ahmad K. Terminology Extraction for and from Communications in Multi-disciplinary Domains // Proceedings of the LREC 2016 Workshop “EMOT: Emotions, Metaphors, Ontology and Terminology during Disasters”. 2016. pp. 34–39.
  32. Abrahams A.S., Jiao J., Fan W., Wang G.A., Zhang Z. What’s buzzing in the blizzard of buzz? Automotive component isolation in social media postings // Decision Support Systems. 2013. vol. 55. no. 4. pp. 871–882.
  33. Yates A., Goharian N., Frieder O. Extracting Adverse Drug Reactions from Social Media // Proceedings of the AAAI Conference on Artificial Intelligence. 2015. vol. 29. no. 1. doi: 10.1609/aaai.v29i1.9527.
  34. Liu K., Chen L. Medical Social Media Text Classification Integrating Consumer Health Terminology // IEEE Access. 2019. vol. 7. pp. 78185–78193.

Қосымша файлдар

Қосымша файлдар
Әрекет
1. JATS XML
Жүктеу

Согласие на обработку персональных данных с помощью сервиса «Яндекс.Метрика»

1. Я (далее – «Пользователь» или «Субъект персональных данных»), осуществляя использование сайта https://journals.rcsi.science/ (далее – «Сайт»), подтверждая свою полную дееспособность даю согласие на обработку персональных данных с использованием средств автоматизации Оператору - федеральному государственному бюджетному учреждению «Российский центр научной информации» (РЦНИ), далее – «Оператор», расположенному по адресу: 119991, г. Москва, Ленинский просп., д.32А, со следующими условиями.

2. Категории обрабатываемых данных: файлы «cookies» (куки-файлы). Файлы «cookie» – это небольшой текстовый файл, который веб-сервер может хранить в браузере Пользователя. Данные файлы веб-сервер загружает на устройство Пользователя при посещении им Сайта. При каждом следующем посещении Пользователем Сайта «cookie» файлы отправляются на Сайт Оператора. Данные файлы позволяют Сайту распознавать устройство Пользователя. Содержимое такого файла может как относиться, так и не относиться к персональным данным, в зависимости от того, содержит ли такой файл персональные данные или содержит обезличенные технические данные.

3. Цель обработки персональных данных: анализ пользовательской активности с помощью сервиса «Яндекс.Метрика».

4. Категории субъектов персональных данных: все Пользователи Сайта, которые дали согласие на обработку файлов «cookie».

5. Способы обработки: сбор, запись, систематизация, накопление, хранение, уточнение (обновление, изменение), извлечение, использование, передача (доступ, предоставление), блокирование, удаление, уничтожение персональных данных.

6. Срок обработки и хранения: до получения от Субъекта персональных данных требования о прекращении обработки/отзыва согласия.

7. Способ отзыва: заявление об отзыве в письменном виде путём его направления на адрес электронной почты Оператора: info@rcsi.science или путем письменного обращения по юридическому адресу: 119991, г. Москва, Ленинский просп., д.32А

8. Субъект персональных данных вправе запретить своему оборудованию прием этих данных или ограничить прием этих данных. При отказе от получения таких данных или при ограничении приема данных некоторые функции Сайта могут работать некорректно. Субъект персональных данных обязуется сам настроить свое оборудование таким способом, чтобы оно обеспечивало адекватный его желаниям режим работы и уровень защиты данных файлов «cookie», Оператор не предоставляет технологических и правовых консультаций на темы подобного характера.

9. Порядок уничтожения персональных данных при достижении цели их обработки или при наступлении иных законных оснований определяется Оператором в соответствии с законодательством Российской Федерации.

10. Я согласен/согласна квалифицировать в качестве своей простой электронной подписи под настоящим Согласием и под Политикой обработки персональных данных выполнение мною следующего действия на сайте: https://journals.rcsi.science/ нажатие мною на интерфейсе с текстом: «Сайт использует сервис «Яндекс.Метрика» (который использует файлы «cookie») на элемент с текстом «Принять и продолжить».