InterPARES Trust AI: вопросы безопасности применения искусственного интеллекта в работе с документами
- Авторы: Белов И.И.1,2
-
Учреждения:
- Российский государственный гуманитарный университет
- Всероссийский научно-исследовательский институт документоведения и архивного дела
- Выпуск: № 6 (2024)
- Страницы: 111-117
- Раздел: Зарубежный опыт
- URL: https://ogarev-online.ru/2619-1601/article/view/364142
- ID: 364142
Цитировать
Аннотация
Представлен обзор публикаций участников проекта InterPARES Trust AI по вопросам применения технологий искусственного интеллекта в работе с документированной информацией. Рассматриваются инструменты технологии искусственного интеллекта, такие как компьютерное зрение (computer vision), обработка естественного языка (natural language processing, NLP), технологии повышения конфиденциальности данных (privacy enhancing technologies, PETs), уязвимости больших языковых моделей (large language models, LLMs), применительно к проблеме обеспечения безопасности систем искусственного интеллекта при работе с документами. Делается вывод о необходимости формирования подходов к обеспечению безопасности применяемых систем искусственного интеллекта.
Ключевые слова
Об авторах
И. И. Белов
Российский государственный гуманитарный университет; Всероссийский научно-исследовательский институт документоведения и архивного дела
Email: belov@vniidad.ru
SPIN-код: 3080-1811
ResearcherId: 1041018
Ассистент кафедры автоматизированных систем документационного обеспечения управления Российского государственного гуманитарного университета (РГГУ); научный сотрудник отдела документоведения Всероссийского научно-исследовательского института документоведения и архивного дела (ВНИИДАД), Москва, Российская Федерация. Москва
Список литературы
- InterPARES Trust AI (2021–2026): official website [Официальный сайт проекта InterPARES Trust AI (2021–2026)]. URL: https://interparestrustai.org/ (дата обращения: 20.11.2024).
- Artificial Intelligence and Documentary Heritage. Newsletter 2024 Special Issue 2024 InterPARES Trust AI is a cooperating institution of the Memory of the World Sub on Education and Research (SCEaR) [Искусственный интеллект и документальное наследие. Специальный выпуск 2024 InterPARES Trust AI Подразделения по образованию и исследованиям «Память мира» (SCEaR)]. Edited by Luciana Duranti and Corinne Rogers. SCEaR, IAC, UNESCO Memory of the World Programme. 2024. 99 р. URL: https://interparestrustai.org/assets/public/dissemination/SCEaRNewsletterSpecialIssue2024ArtificialIntelligence.pdf (дата обращения: 20.11.2024).
- Lemieux V.L., Werner J. Protecting Privacy in Digital Records: The Potential of Privacy-Enhancing Technologies [Защита конфиденциальной информации, содержащейся в электронных документах: потенциал технологий, повышающих уровень конфиденциальности данных]. ACM Journal on Computing and Cultural Heritage. 2024;83:1–18. URL: https://dl.acm.org/doi/10.1145/3633477 (дата обращения: 20.11.2024).
- Bhatia G., Nagoudi M.B., Cavusoglu H., Abdul-Mageed M. FinTral: A Family of GPT-4 Level multimodal financial large language models [FinTral: Семейство многофункциональных финансовых больших языковых моделей уровня GPT-4]. URL: https://aclanthology.org/2024.findings-acl.774.pdf (дата обращения: 20.11.2024).
- Alcoba A., Hohmann P., Suderman J. Datafying Archives for Privacy Protection [Сбор данных в архивах для защиты информации]. Artificial Intelligence and Documentary Heritage. 2024. р. 34–38. URL: https://interparestrustai.org/assets/public/dissemination/SCEaRNewsletterSpecialIssue2024ArtificialIntelligence.pdf (дата обращения: 20.11.2024).
- Lemieux V.L. Balancing act: navigating the nexus of AI, privacy, and accessibility in archives [Балансирование: навигация по сгенерированным искусственным интеллектом связям, конфиденциальность и доступность архивной информации]. Artificial Intelligence and Documentary Heritage. 2024. р. 39–42. URL: https://interparestrustai.org/assets/public/dissemination/SCEaRNewsletterSpecialIssue2024ArtificialIntelligence.pdf (дата обращения: 20.11.2024).
- Franks P.C. The crucial role of paradata in AI governance [Критическая роль параданных в управлении искусственным интеллектом]. Artificial Intelligence and Documentary Heritage. 2024. р. 54–60. URL: https://interparestrustai.org/assets/public/dissemination/SCEaRNewsletterSpecialIssue2024ArtificialIntelligence.pdf (дата обращения: 20.11.2024).
Дополнительные файлы
