Возможности и ограничения искусственного интеллекта в социальном анализе и прогнозировании будущего

Полный текст

Специалистов, работающих с информацией и знаниями, называют по-разному. Наиболее широкий термин — «работники умственного труда», т. е. лица, обладающие необходимой для создания и применения знаний квалификацией. «Информационные работники» занимаются обработкой и распространением информации, в основном с помощью технологий. Более узкими специалистами выступают информационные аналитики, в задачи которых входит анализ и интерпретация данных для поддержки принятия решений в различных секторах. Близкими профессиями являются аналитики данных, финансовые и рыночные аналитики.

К профессиям, чей характер быстро меняется благодаря цифровой трансформации, можно отнести работников сфер здравоохранения и транспорта. Профессий, которые не предполагают активной работы с информацией (работники физического труда, сферы услуг, квалифицированные ремесленники, фермеры, сотрудники служб охраны), становится все меньше. Мир стоит на пороге третьей цифровой революции: на смену персональным компьютерам и интернету приходит эпоха ИИ. Современные вычислительные системы эффективно анализируют большие массивы данных, извлекают важную информацию и сообщают пользователям о проблемах, выявленных в рамках заданных параметров. Развитие ИИ в первую очередь затрагивает специалистов, интенсивно взаимодействующих с информацией, таких как информационные аналитики. Но, возможно, они используют ИИ иначе, чем большинство обычных работников умственного труда?

В сфере занятости возникает разрыв, связанный с использованием ИИ. Работники, умеющие эффективно применять инструменты ChatGPT, уже занимают совсем иное положение, чем те, кто пока лишь осваивает основы этих технологий, и в ближайшие годы последняя группа рискует оказаться гораздо менее востребованной. Цифровой барьер, или цифровое неравенство, напоминает ситуацию периода распространения первых ПК. Обучение работников формулированию запросов к ИИ (промпт-инжинирингу) и смежным навыкам может стать решающим фактором предотвращения постепенного исчезновения целых профессий. В этом контексте речь часто заходит о юристах, поскольку ChatGPT эффективно находит и цитирует юридические тексты, однако развитие этой технологии затрагивает всех, кто работает с информацией. Проблемы, с которыми сталкиваются артисты и художники, не ограничиваются простым замещением ИИ, но затрагивают и такие аспекты, как идентичность и достоинство. По мере развития машинного обучения возникла и продолжает усиливаться ностальгия по контенту, созданному человеком.

Новые технологии ИИ несут с собой и другие вызовы. Обострилась проблема «мусор на входе — мусор на выходе»¹. Организации удовлетворяют свои потребности в информации прежде всего путем обработки больших данных и все чаще отказываются от источников человеческого происхождения и сбора информации c передней линии продаж. Лица, принимающие решения, склонны больше доверять сведениям, предоставляемым ИИ и крупными поставщиками данных, таким, как Gartner и Bombora. Однако это снижает контроль над качеством данных и повышает риск зависимости от потенциально маловажной, если не фактически неточной, информации. Более того, покупка одних и тех же данных всеми участниками рынка в конечном счете приводит их к одинаковым выводам.

Государственные разведывательные службы также адаптируются к новым условиям, приближая наступление оруэлловской антиутопии тотального информационного общества — повсеместной слежки и сбора всех доступных сведений о гражданах как в собственной, так и в других странах. Чтобы противодействовать этой тенденции и защитить частную жизнь людей, правозащитные группы добиваются принятия строгого регулирования надзора за гражданами. Однако те из-за экономических проблем и роста преступности зачастую предпочитают интересы безопасности праву на конфиденциальность.

В задачи настоящей статьи входит анализ современного состояния исследований и разработок (ИиР) в области ИИ, выявление пробелов и оценка эффективности данной технологии как альтернативы работникам умственного труда — информационным аналитикам и специалистам по обработке данных. Реализация пилотных когнитивных проектов и разработка стратегий масштабирования предполагают сотрудничество технических специалистов с кураторами бизнес-процессов (Davenport, Ronanki, 2018). Со временем ИИ сможет заменить даже промпт-инженеров, самостоятельно формулируя четкие запросы и ставя конкретные задачи. Для создания новой компании в перспективе станет достаточно попросить систему оценить рыночные возможности и разработать соответствующие стратегии: ИИ спланирует работу всех подразделений организации для достижения заданных целей, а производством и распространением продукции займутся роботы. Сегодня такая картина уже не выглядит утопической.

Методология

В статье реализован описательный подход, на базе которого представлен обзор развития ИИ за последний год. Проанализированы 20 исследований 2023 г. (т. е. после запуска ChatGPT), посвященных промпт-инжинирингу, которые были случайно выбраны при помощи Google Scholar из более чем 40 работ по различным дисциплинам и направлениям. Информация о барьерах и вызовах, с которыми сталкиваются специалисты в данной области, была получена с помощью плагина AskYourPDF. Собранные данные были первоначально проанализированы ChatGPT в лабораторных условиях и затем сопоставлены с результатами тестирования ИИ на способность анализировать информацию и прогнозировать развитие события.

Наряду с ChatGPT, в исследовании были задействованы и другие платформы и сервисы ИИ, в частности Microsoft Bing, Google Bard (с февраля 2024 г. — Gemini) и различные плагины. Тем самым статья фактически подготовлена в соавторстве с ИИ, что становится рутинной академической практикой, но поднимает этическую проблему авторства и порождает риск ненадежности данных. Для решения этой проблемы весь созданный ИИ контент был проверен и отредактирован, а сгенерированные ИИ тексты снабжены соответствующими ссылками.

Обзор литературы

Большинство посвященных промпт-инжинирингу академических публикаций (преимущественно в области науки о данных) оценивают технологию ИИ оптимистически, будучи сосредоточенными главным образом на технических аспектах, реже — на прикладных, например применении в сфере образования. Часть потенциально релевантных статей могли оказаться за пределами выборки, если не включали термина «промпт-инжиниринг» в списке ключевых слов.

В работе (Wang et al., 2023a) описаны оптимистические сценарии применения промпт-инжиниринга в области компьютерного зрения. Авторы прогнозируют дальнейшее развитие существующих моделей и появление новых приложений и выступают за продолжение ИиР по таким направлениям, как тонкая подстройка запросов и дистилляция знаний для оптимизации систем визуального распознавания. По мнению авторов работы (Heston, Khun, 2023), промпт-инжиниринг выступает ключевым условием продуктивности генеративных языковых моделей (generative language models, GLM) — ИИ, с помощью машинного обучения, генерирующего тексты, похожие на созданные людьми. Авторы подчеркивают, что для получения желаемых результатов необходимы четко сформулированные запросы — важный элемент персонализированного обучения и интерактивного взаимодействия. Промпт-инжиниринг позволяет эффективно использовать большие языковые модели (large language models, LLM), такие как ChatGPT, и играет важную роль в составлении и редактировании текстов (Meyer et al., 2023), но при этом требует опыта и является отнюдь не тривиальной задачей. Рассмотренные статьи относятся к периоду первых попыток популяризации промпт-инжиниринга в формате курсов в YouTube для всех желающих.

Авторы обзорной статьи (Liu et al., 2023) также подчеркивают важность промпт-инжиниринга и отмечают значение релевантных вводимых данных и адекватных возможностей для представления результатов (ответов). В статье введены два новых ключевых аспекта: инжиниринг шаблонов запросов и инжиниринг ответов на запросы. В первом случае речь идет о формулировании и уточнении исходных запросов к ИИ, включая разработку шаблона, его последующее нюансирование для большей ясности и эффективности, введение переменных для динамического внесения пользовательских данных, постоянное тестирование и повторение для повышения производительности. Под инжинирингом ответов на запросы понимаются обработка и адаптация ответов, сгенерированных ИИ, к потребностям пользователя, в том числе удаление лишнего контента, форматирование ответов для удобства восприятия, поэтапная постобработка, включая перевод или обобщение, а также контроль качества и надежности.

В работе (Yeadon, Hardy, 2023) поднимается ряд критически важных вопросов о роли промпт-инжиниринга при внедрении инструментов ИИ в процесс обучения физике: отсутствие защиты от автозаполнения, трудности распознавания сгенерированных текстов, стремительное развитие ИИ и иные этические вызовы. Отмеченные аспекты требуют от преподавателей понимания бурно развивающегося потенциала ИИ для адаптации методов обучения к ним. Так, многие преподаватели осознали целесообразность возвращения от письменных форм контроля к устным экзаменам, чтобы предотвратить искусственное завышение учащимися своих оценок машинными методами.

Значение качественного промпт-инжиниринга для эффективного использования ресурсов ИИ в период его быстрого развития подчеркивается в статьях (Beganovic et al., 2023) на примере ChatGPT и в (Alkaissi, McFarlane, 2023) — на примере Bard. В исследовании (Henderson et al., 2023) на материале речевых сервисов ИИ также отмечаются проблемы с подготовкой качественных рекомендаций и созданием каталога шаблонов. Акцентируется роль адекватных сигналов для привлечения соответствующих специалистов, упрощения и ускорения процесса разработки. Формулирование релевантных запросов требует существенных затрат времени и труда; повысить производительность ChatGPT позволят каталоги моделей (шаблонов). Подстройка запросов по правилам (prompt tuning with rules, PTR) представляет собой метод тонкой нюансировки обращения к ИИ на базе строгого алгоритма или ограничений для повышения производительности моделей и релевантности сгенерированных ответов.

Под каталогом шаблонов для ИИ понимается набор моделей и лучших примеров преодоления распространенных дефектов этой технологии. Опора на подобный каталог обеспечивает структурированный подход к разработке и внедрению различных решений. Его содержание может быть крайне широким — от шаблонов и методов предварительной обработки данных до выбора алгоритмов, стратегий реализации, этических аспектов и способов обеспечения безопасности. Под разработкой сигналов ИИ понимается формулирование сообщений, с помощью которых инструменты ИИ общаются с человеком. Эффективные сигналы — визуальные, звуковые, тактильные, интерактивные или текстовые — делают работу с ИИ более удобной и повышают доверие пользователей, позволяя создавать интуитивно понятные и привлекательные приложения.

В исследовании (Lou et al., 2023) рассмотрены два конкретных недостатка промпт-инжиниринга: неудобство в использовании и программные ограничения. Очевиден запрос на более простые методы промпт-инжиниринга и альтернативные типы инструкций на естественном языке. В статье (Liu et al., 2023) описаны аспекты, которые следует учитывать в первую очередь при решении этих задач, в частности выбор шаблонов запросов и вербализаторов, влияние этого выбора на эффективность рекомендаций, ограничения данных и проблемы, связанные с передачей и применением знаний. Исследование (Wang et al., 2023b) посвящено оценке эффективности различных шаблонов при генерации логических запросов и анализу преимуществ и ограничений конкретных шаблонов. В работе (Fiannaca et al., 2023) проанализированы вызовы, связанные с программированием запросов, и отмечена необходимость разработки инструментария для их эффективной формулировки и редактирования. Анализ возможных проблем в сфере безопасности промпт-инжиниринга, представленный в публикации (Watson et al., 2023), показывает, что качество запросов имеет не меньшее значение, чем уровень инжиниринга в целом.

Что касается нетехнических аспектов, в работе (Bondielli et al., 2023) обсуждаются трудности выявления фальшивых мультимодальных новостей и потребность в моделях, способных понять взаимодействие текста с изображением при генерации дезинформации. Констатируются неоднозначное отношение к ИИ в сфере связей с общественностью и целесообразность смещения акцента в обучении профильных специалистов в пользу более содержательной практики и критического мышления (Seidenglanz, Baier 2023). В работе (Budhwar et al., 2023) описаны потенциальные риски и вызовы развития ИИ, включая сокращение рабочих мест и необходимость приобретения новых навыков. Исследование (Mahmood et al., 2023) посвящено проблеме повторяемости контента в ходе голосового взаимодействия с ИИ. Авторы предлагают активизировать ИиР в области промпт-инжиниринга для совершенствования голосовых помощников. В статье (Chang et al., 2023) обсуждаются этические аспекты промпт-инжиниринга, связанные с переходом ответственности от модели к инженеру, способные привести к искаженным (предвзятым) или некорректным результатам и проблемам типа «мусор на входе — мусор на выходе».

В работе (Srivastava et al., 2023) также рассмотрены проблемы искажения, безопасности и корректности взаимодействия с чат-ботами, связанные с промпт-инжинирингом, его ограничения и необходимость автоматизации (Bahrami et al., 2023). В исследовании (Zhang et al., 2023) описаны ключевые вызовы, с которыми сопряжено применение инструментов ИИ в проектировании, включая корректировку параметров, понимание специальной терминологии, генерацию реалистичных изображений, баланс между задачами разработчика и точностью ИИ, интерпретацию архитектурных стилей, обеспечение вариативности результатов и интеграцию ИИ в практику дизайна. Авторы работы (Thoring et al., 2023) отмечают трудоемкость промпт-инжиниринга в проектировании с помощью ИИ. По их мнению, значение соответствующих навыков дизайнеров будет расти, но формулирование запросов, релевантных контексту и задачам проекта, останется сложной задачей.

Подобные первые реакции на ИИ, возникшие за несколько месяцев с момента запуска нескольких наиболее продвинутых инструментов в данной области, являются ожидаемыми и соответствуют мнениям экспертов, высказанным в различных интервью в медиа. По итогам обзора литературы мы выбрали 20 наиболее актуальных статей для контент-анализа (табл. 1). Его результаты, представленные в табл. 2, свидетельствуют о многочисленных вызовах, возможностях и этическом измерении промпт-инжиниринга, в частности о необходимости учитывать такие его аспекты, как выявление фальшивых новостей, автоматизация, удобство пользования, баланс между художественными и техническими навыками при формулировании эффективных запросов. Будущее промпт-инжиниринга выглядит многообещающим, но его достижение потребует серьезных усилий по устранению ограничений, решению этических проблем и изучению перспектив применения в различных областях, например в компьютерном зрении.

Таблица 1. Краткие аннотации статей, выбранных по итогам обзора литературы, по направлениям

Примечание: эта и последующие таблицы составлены автором на основе данных, сгенерированных сервисом ChatGPT компании OpenAI. Данные получены за период 10 июля — 9 сентября 2023 г. с помощью сайта https://www.chatgpt.com.

Таблица 2. Анализ статей, выявленных в ходе обзора литературы

Помимо рассмотренных проблем и вопросов, в научной литературе по ИИ и промпт-инжинирингу высказываются критические комментарии, а также остаются исследовательские лакуны (табл. 3).

Таблица 3. Вопросы, не освещенные в литературе по ИИ и промпт-инжинирингу

Указанные аспекты не поднимались в публикациях, найденных по термину «промпт-инжиниринг». Расширение перечня ключевых слов, вероятно, позволит выявить больше статей и сократить число исследовательских лакун. Анализ указанных проблем критически важен для более целостного понимания и ответственного применения ИИ и промпт-инжиниринга. Возможные подходы к такому анализу будут рассмотрены далее.

Как оценить эффективность ИИ в качестве активного информационного работника? Для ответа на этот вопрос был выполнен лабораторный социальный анализ с помощью различных приложений и плагинов ИИ.

Мы применяем термин «бизнес-разведка» (business intelligence, БР) к практике использования программного обеспечения (ПО) для сбора сведений в целях конкурентной и рыночной борьбы (competitive and market intelligence). В последние годы термин «разведка» чаще заменяют на «уточнение сути» (insights) и «данные о намерениях» (intent data), что не меняет сути: речь идет о поиске информации, важной для принятия решений.

Как ИИ влияет на характер БР? Новые подходы к анализу данных, возникшие благодаря появлению ИИ, впервые описаны в работе (Kumar, 2017). При принятии решений на основе такого анализа важно понимать фундаментальные различия между бизнес-разведкой и ИИ: в ходе БР большие массивы разнообразных данных преобразуются в последовательный нарратив и четко визуализируются, но практических идей или конкретных управленческих решений при этом обычно не предлагается. Цель БР состоит в повышении эффективности сбора, анализа и представления данных. Специализирующиеся на подобной деятельности организации в настоящее время активно внедряют ИИ в свое ПО. Согласно отраслевой статистике, за последние три года внедрение БР-решений выросло на 50%. Такие компании, как SAP, Microsoft, Oracle и Tableau, разработали инструменты БР, призванные революционизировать ряд традиционных бизнес-функций, в частности управление персоналом, продажи и маркетинг.

Важной тенденцией в сфере БР стало развитие аналитики самообслуживания (self-service analytics), которая позволяет пользователям получать и исследовать данные без необходимости прибегать к внешней поддержке, с помощью удобных инструментов и упрощенных моделей. Ранее неспециалисты были вынуждены заказывать анализ данных специализированным организациям, что создавало задержку в получении требуемых сведений. Сегодня профессионалы бизнеса имеют оперативный доступ к важной информации, иногда в режиме реального времени, что обеспечивает принятие более обоснованных и своевременных решений. Ключом к изменениям послужил ИИ, а одним из следствий стал переход от облачных технологий к граничным вычислениям (edge computing), когда приложения применяются в непосредственной близости к месту генерации данных.

Оценим прогностические возможности ИИ в отношении Форсайта (качественного и количественного) и прогнозирования (преимущественно количественного) на примере простых запросов, выполненных в лабораторных условиях (табл. 4).

Таблица 4. Применение ИИ для социального анализа

Хотя, согласно одному из пунктов пользовательского соглашения ChatGPT, указанные прогнозы носят гипотетический характер и основаны на текущих тенденциях и событиях, их качество соответствует или даже превосходит точность прогнозов большинства специалистов (информационных аналитиков, футурологов или исследователей) на базе тех же данных. Прогнозы ChatGPT чувствительны ко времени и формулировке запроса при неизменном качестве анализа. К тому же при спецификации запроса ИИ дает подробные разъяснения, качество которых еще выше и превосходит уровень начинающих аналитиков с университетским дипломом. Тест был выполнен для всех 10 прогнозов и затем расширен до 20, что не сказалось на качестве ответов. К сожалению, выяснить их источники текущая версия ChatGPT (4.0) не позволяет, в отличие от альтернативных ИИ-сервисов.

Сравнение ChatGPT с Bing и ChatSonic

Bing может эксплицировать использованные им источники, но чаще всего ими оказываются гороскопы и другие подобные веб-ресурсы, т. е. полученные прогнозы не только ненадежны, но прямо ложны и радикально расходятся в предсказаниях.

Для сравнения был протестирован третий чат с ИИ — ChatSonic, чьи прогнозы хотя и менее убедительны и содержательны в сравнении с ChatGPT, но имеют преимущество в виде более качественных ссылок, например данных Pew Research. В ответ на запрос дополнительных сведений о трех использованных источниках ИИ дал расплывчатый ответ: «Это всем известно». Даже после требования предоставить более подробную информацию с упоминанием трех уже приведенных источников система просто пояснила, что значительная часть содержащихся в них сведений является общеизвестной.

Другая проблема со всеми протестированными сервисами ИИ — склонность дезавуировать ранее представленные утверждения лишь для того, чтобы позднее их повторить. Хотя в будущих версиях подобный дефект, вероятно, будет устранен, обоснованность такого циклического подхода к общению с пользователем вызывает сомнения. Мы называем эту проблему «загадкой хрустального шара» — ситуацией, когда ответы даются без четкого указания источников, происхождение информации остается неясным, а ответы меняются, если не удовлетворяют спрашивающего (промпт-инженера). Такой паттерн, характерный для любого ИИ, разработанного в коммерческих целях, походит на поведение гадалки, заинтересованной в том, чтобы клиент возвращался снова и снова. Для жестко контролируемого ИИ, созданного в закрытой политической системе (например, в условиях диктатуры), «загадка хрустального шара» принимает иные формы. Авторы работы (Kumar et al., 2017) назвали эту ситуацию проблемой черного ящика, который, хотя и дает ответы с помощью новых наводящих вопросов, не обеспечивает никакого доступа к механизму их генерации. Предполагается, что в новых версиях ИИ пользователи смогут узнать, откуда была получена и как сгенерирована предоставленная информация.

Особенность ИИ позволяет обращать его собственные недостатки против него самого. Так, ChatGPT признаёт свое сходство с хрустальным шаром, но справедливо отмечает и различия: «У хрустального шара нет доступа к источникам данных и возможностей обрабатывать их, и он не делает прогнозов на этой основе». Кроме того, делает выводы из каждого разговора ИИ и совершенствуется в последующих версиях.

ИИ способен делать вероятностные прогнозы. Например, ответы на вопрос о том, какая страна будет крупнейшей экономической сверхдержавой в 2026 и 2035 гг., с целью проверить различия в оценках на разных временных горизонтах совпадают с теми, которые дал бы грамотный аналитик. Сценарии на 2035 г. демонстрируют реалистичные отличия от прогнозов на 2026 г. и носят столь же квалифицированный характер. Весьма квалифицированными оказались и ответы на конкретные вопросы о соперничестве США и ЕС (табл. 5). ChatGPT объясняет, как именно он делает расчеты (табл. 6): отводит 5–10% на корректировку в сторону увеличения или уменьшения по сравнению с базовыми показателями в зависимости от значимости каждого фактора или переменной. Такая методология соответствует применяемой профессионалами, например в работе (Tetlock, Gardner, 2016). Кроме того, ИИ способен оценивать потенциал своего развития и возможностей (табл. 7).

Таблица 5. Вероятностные оценки соотношения экономических сверхдержав, сделанные ИИ

Таблица 6. Самоописание механизма расчетов ChatGPT

Таблица 7. Самооценка ИИ своего будущего потенциала

По-видимому, ИИ может анализировать социальное развитие не хуже или даже лучше, чем многие информационные аналитики или исследователи рынков. При этом он способен оценивать собственные недостатки, к чему люди менее склонны. ИИ может описывать также свои мыслительные процессы и постоянно совершенствовать их. Другим существенным его преимуществом выступает способность предлагать разным заинтересованным сторонам различные решения конкретной проблемы, сравнивать принятые меры с решениями конкурентов, политиков, активистов и т. д. (табл. 8). Это облегчает, например, проведение военных игр, в которых компьютер прогнозирует действия противника в ответ на решения игрока.

Таблица 8. Варианты решений конкретной проблемы, предложенные ChatGPT разным заинтересованным сторонам

Анализ и выводы

Информационных аналитиков можно разделить на специалистов начального, среднего, старшего и высшего уровней. Лабораторное тестирование, выполненное в ходе настоящего исследования, показало, что ИИ способен работать на уровне старшего аналитика или выше. В некоторых случаях он продемонстрировал потенциал стратегического мышления и лидерства. При этом сам ИИ оценивает свою эффективность ниже уровня старшего аналитика, т. е. проявляет определенную скромность. Он также способен учитывать геополитический контекст, предвидеть поведение людей и принимать этические решения, во многих случаях поднимаясь до высшего аналитического уровня.

В наступающем «дивном новом мире» кардинально изменится роль принимающих решения лиц. Генеральные директора и другие высшие руководители лишатся ореола носителей непостижимой мудрости, не обязанных мотивировать свои поступки и на этом основании провозглашающих себя бизнес-гуру. Они будут выбирать варианты из заранее подготовленного меню верифицируемой информации, а их решения можно будет оценивать. Кроме того, система будет рассчитывать вероятность последствий выбора тех или иных альтернатив. Все это отразится на оплате труда топ-менеджеров, которая может приблизиться к зарплатам других сотрудников, занимающих ответственные должности.

Сбор информации всегда был направлен на принятие более эффективных решений. Системы ИИ обеспечат полную интеграцию этих функций. Менеджмент с опорой на ИИ состоит в том, что сотрудники выбирают решение из меню вариантов, знают источники информации, легшей в его основу, и понимают, как она была проанализирована. Такая практика уже стала реальной. Вместе с тем, в версии GPT-4 вызывают беспокойство «галлюцинации» и другие виды ошибок, которые ИИ выдает в ответ на запросы. Вся полученная информация требует проверки, как исходя из человеческого здравого смысла, так и на базе перекрестных алгоритмов. Для этого организациям требуются профильные специалисты: менеджеры или сотрудники по контролю качества информации (ККИ).

Специалисты по ККИ сродни менеджерам по качеству, которые контролируют соответствие продукции компании единым стандартам. На менеджера по ККИ возлагается важнейшая задача тщательной проверки данных на предмет неточностей, прежде чем подготовленная на их основе информация будет передана лицам, принимающим решения. Принципиально важно отделить эту задачу от функции работника, формулирующего запросы к ИИ, т.е. промпт-инженера. В работе (Liu et al., 2023) предложено близкое, но несколько иное разграничение ролей — между подготовкой «шаблонов запросов» и «шаблонов ответов». В первом случае формулируются исходные запросы, во втором ответы ИИ обрабатываются в соответствии со стандартами качества и надежности для ответственных лиц. Менеджер по ККИ должен иметь доступ к другим источникам информации помимо ИИ, в частности отчетам и данным наблюдений, в том числе нецифровым.

Возможная схема рабочего процесса информационного аналитика представлена на рис. 1.

Рис. 1. Схема работы информационного аналитика

Примечание: в процессе участвуют аналитики (1), ИИ (2), менеджер по ККИ (3), лицо, принимающее решения (4), и специалисты, которые применяют и анализируют существующие и создают новые запросы (5).

Источник: составлено автором.

Из соображений экономии отдельный менеджер по ККИ назначается не всегда, а его функции выполняют другие специалисты, например научные сотрудники или библиотекари. Однако во многих случаях это необходимо, в частности в сферах, где точность информации критически важна, — финансовый, информационный анализ, обработка данных и т. п. Чтобы не потерять квалификацию, аналитикам и научным сотрудникам следует участвовать в онлайн-курсах, изучать тонкости промпт-инжиниринга, осваивать программирование на Python и новейшие плагины для ChatGPT. Все эти инструменты постоянно совершенствуются и требуют переобучения пользователей.

В настоящее время приоритет отдается не только точности информации, но и скорости ее получения, интеграции различного ПО и динамике совместной работы. Сегодня любые данные можно легко преобразовать в структурированные таблицы, подробные диаграммы и яркую графику. Информационный анализ стремительно интегрируется в процесс принятия решений.

Прогнозные исследования

ChatGPT может предлагать направления дальнейших исследований и даже гипотезы, заслуживающие проверки (табл. 9). Инициативы в данной сфере нацелены на более глубокое понимание последствий быстрого развития ИИ, в том числе для общества, рынка труда и прав человека. Однако большинство генерируемых ИИ предложений оказываются скорее интуитивными или банальными, что отчасти обусловлено недостатками запросов. Их корректировка в настоящем исследовании позволила достичь более релевантных результатов (табл. 10). Уточнения потребовали, в частности, набор приложений или инструментов, которые понадобятся ИИ для реализации этих проектов, а также потенциальные ограничения для участия людей в них. Для выполнения исследовательских проектов необходимы различные комбинации применяемых программных средств и методологий. Ниже представлены варианты, предложенные ChatGPT (табл. 11).

Таблица 9. Проекты прогнозных исследований, предложенные ChatGPT

Таблица 10. Проекты количественных исследований, предложенные ChatGPT

Таблица 11. Инструменты и приложения, предложенные ChatGPT для количественных исследований

ИИ уже почти способен самостоятельно осуществлять исследовательские проекты, что поднимает вопрос о том, как и в каком объеме такие исследования ведутся. Роль автора настоящей статьи уже во многом свелась к простой формулировке запросов, и подобная тенденция сохранится. Проблематичным в этой связи становится сам статус автора, поскольку речь начинает идти о совместной работе. Более того, ИИ все чаще будет выступать «читателем» или «адресатом». Мы движемся к ситуации, когда информация создается и потребляется ИИ, а люди играют роль информационных администраторов и посредников. Крайне важно поэтому различать человеческий и машинный вклад в подготовку информации, а в дальнейших исследованиях в целом следует сосредоточиться на вопросах этики и ответственности при использовании ИИ для принятия решений.

Заключение

В статье рассматриваются две самостоятельные функции обращения к ИИ — промпт-инжиниринг, т. е. разработка стандартных запросов, и менеджмент ККИ, который состоит в верификации данных. Надежность информации требует их разграничения. Решение о реализации функции ККИ зависит от того, насколько информация критична для деятельности организации; чаще всего речь идет о финансовом и информационном анализе и обработке данных. В исследовании представлена модель применения ИИ для обработки информации и продемонстрирована вероятность падения зарплат менеджеров в будущем.

Спустя год после релиза крупнейших инструментов ИИ образовался существенный квалификационный разрыв между работниками, овладевшими навыками промпт-инжиниринга (самостоятельно или через онлайн-платформы), и теми, кто по-прежнему не умеет пользоваться сервисами ИИ. В недавней статье в журнале Nature (Conroy, 2023) утверждается, что первоначально ИИ служил в основном для проверки грамматики, кодирования и обобщения. Проведенное нами исследование свидетельствует о более широком применении ИИ учеными, что ставит под вопрос характер независимых исследований. Мы входим в реальность, в которой ИИ не только генерирует ценный контент, но и анализирует его, а люди все чаще выполняют контрольные функции. Примерно 80% этой статьи было написано с помощью ИИ, и она с большей вероятностью будет внимательно «прочитана» не людьми, а ИИ.

С момента своего появления интернет стал благоприятной средой для экономического мошенничества. Сходным образом ИИ сегодня в значительной мере способствует мошенничеству интеллектуальному в силу отсутствия требования соответствующей маркировки, простоты удаления признаков происхождения данных и возможности манипулирования сервисами ИИ для предоставления ложных гарантий аутентичности контента. Актуальная литература по промпт-инжинирингу посвящена в первую очередь механике формирования запросов и автоматизации создания шаблонов для них. Этические вопросы если и затрагиваются, то очень поверхностно; то же можно сказать о проблемах безопасности, корректности, ответственности, подотчетности, прозрачности и социального эффекта. Обсуждается также будущее рынка труда и развития профессиональных навыков, в том числе потенциальная автоматизация рабочих мест и необходимость переквалификации.

Представленный в статье обзор литературы выявил ряд пробелов в исследованиях промпт-инжиниринга, в частности отсутствие глубокого анализа этических дилемм, искажения результатов, обеспечение прозрачности в принятии ИИ решений и углеродный след масштабного внедрения этой технологии. Для промпт-инженеров крайне важно, чтобы процессы принятия ИИ решений были более понятными и достоверными. Хотя в публикациях по теме упоминаются усталость пользователей и повторяемость контента, большого интереса исследователей вопросы пользовательского опыта и инклюзивности не вызывают, а роль промпт-инжиниринга в укреплении общественного доверия к системам ИИ затрагивается лишь вскользь.

Масштабы инвестиций в ИИ дают основания ожидать ускорения ИиР в данной сфере, включая потенциальную интеграцию программных решений в робототехнике, которая позволит компаниям работать через промпты: управлять с их помощью автоматизированным производством и распределением продукции. В настоящее время ИИ находится в восходящей, но нестабильной фазе, которая напоминает о начальном периоде развития любых инноваций — автомобилестроения или освоения космоса. Для этого этапа характерен риск не физического вреда, а интеллектуальных манипуляций. Одновременно мы проходим стадию интенсивного обучения и, вероятно, в ближайшие несколько лет увидим на рынке труда значительные перемены, в том числе в области заработной платы.

Выполненное в рамках исследования лабораторное тестирование показало, что некоторые профессии, особенно начального и среднего уровней, могут столкнуться риском исчезновения, что может переориентировать больше людей на востребованный квалифицированный труд. По мере приближения производства к полной автоматизации актуализируются дискуссии о базовом безусловном доходе, особенно в богатых странах. В ходе настоящего исследования показано, что даже в области социального анализа и прогнозирования будущего ИИ при условии грамотно сформулированных запросов не уступает или даже превосходит опытных информационных аналитиков.

По мере дальнейшего технологического развития человечество будет все больше полагаться как на свой биологический, так и на искусственный интеллект, и постоянно проверять информацию. При этом возможна негативная общественная реакция на распространение ИИ: некоторые люди могут искать утешения в природе, вдали от мира технологий, что станет экономически возможным при повышении производительности.

¹ Англ. garbage in, garbage out (GIGO) — концепция в информатике, согласно которой некорректные, искаженные или некачественные («мусорные») данные ведут к неверным результатам, даже если сам применяемый при их обработке алгоритм правилен.

Об авторах

Клаус Сольберг Сойлен

Автор, ответственный за переписку.
Email: klasol@hh.se

профессор

Список литературы

Дополнительные файлы

Доп. файлы

Действие

1. JATS XML

Скачать

2. Рис. 1. Схема работы информационного аналитика

Скачать (108KB)

Метаданные