Intelligent systems for recognizing images and meaning in the crime prevention system

Full Text

Мы все чаще встречаем примеры использования систем искусственного интеллекта (ИИ) в различных областях экономики и общественных отношений. В Указе Президента РФ от 10 октября 2019 г. № 490 «О развитии искусственного интеллекта в Российской Федерации» определена одна из целей развития искусственного интеллекта в нашей стране — это «обеспечение национальной безопасности и правопорядка» (п. 23) [1].

Под искусственным интеллектом понимают «моделируемую (искусственно-воспроизводимую) интеллектуальную деятельность мышления человека» [2]. К интеллектуальным системам (ИС) относят программно-аппаратные решения, созданные на основе различных алгоритмов ИИ [3]. Так, ИС, основанные на генетических алгоритмах, «конструируют роботов, которые могут быть изготовлены на автоматизированных заводах без участия человека» [3].

Термин «алгоритм» связывают с именем математика, философа, историка Аль-Хорезми, который сформулировал правила вычислений. В дальнейшем этот термин стал определять понятие «алгоритм». Под алгоритмом понимают «инструкцию, точное описание способа действия с использованием простых, общепонятных элементов (например, операций). В математике понятие алгоритма сужается до последовательности переходов от одного состояния вычисления к другому» [4].

Например, такие алгоритмы ИИ, как глубокое обучение, предиктивная аналитика больших данных, распознавание смысла и образов, и другие могут выявлять точки социальной напряженности в процессе анализа текста, видео и фотоматериалов.

Возможности алгоритмов ИИ могли бы выявлять точки напряженности в Сети, а объединение алгоритмов ИИ и уполномоченных органов в области обеспечения общественной безопасности как комбинация взаимодействия позволило бы не только получить смысловой анализ таких признаков преступного деяния, как противоправность, общественная опасность содержащаяся в размещенной информации [5], оценить реальность намерений человека совершить противоправные действия, но и вовремя отреагировать уполномоченным органам в области обеспечения общественной безопасности и тем самым предотвратить преступные действия.

Статистика непредотвращенных преступлений, информация о намерении совершения которых была размещена в интернете за некоторое время до реализации преступного умысла, позволяет предположить, что интеллектуальные системы распознавания образов и смысла информации в Сети малоэффективны в системе предупреждения преступлений. Для подтверждения или опровержения данной гипотезы в статье дан ответ на вопрос о том, могут ли алгоритмы ИИ прогнозировать преступление, анализируя признаки преступного деяния, а также оценивать вероятность перехода стадий преступлений.

Прогнозирование положения дел в области охраны общественного порядка и обеспечения общественной безопасности

Большая часть уголовно-правовых отношений возникает в связи с совершением преступлений, т.е. тогда, когда правоохраняемым ценностям уже нанесен определенный вред, хотя обществу «выгоднее» предотвратить преступления, чем потом их расследовать и наказывать преступников. В связи с этим большое значение приобретает вторая задача уголовного преследования — предупреждение преступлений [6, 7]. В решении этой задачи мог бы помочь ИИ как «комплекс технологических решений, позволяющий имитировать когнитивные функции человека (включая самообучение и поиск решений без заранее заданного алгоритма) и получать при выполнении конкретных задач результаты, сопоставимые как минимум с результатами интеллектуальной деятельности человека». В комплекс технологических решений входят информационно-коммуникационная инфраструктура, программное обеспечение (в том числе то, в котором используются методы машинного обучения), процессы и сервисы по обработке больших данных и поиску решений (п. 5 подп. «а») [1].

Таким образом, используя разные алгоритмы ИИ, комбинируя их, можно создавать ИС. Алгоритмы ИИ с высокой точностью могут определить смысл текста или изображений, размещенных в Сети, построить причинно-следственные связи развития событий. Например, такая область ИИ, как NLP, отвечает за аналитику контента, понимание и обработку естественного языка, извлечение из него ключевых идей или тем.

Таким образом, ИИ мог бы стать эффективным инструментом в руках уполномоченных органов в области обеспечения общественной безопасности для реализации одной из их основных задач — предотвращение противоправных действий.

В зарубежной научной литературе обсуждается возможность использования алгоритмов ИИ для прогнозирования преступлений [1, 8]. В российском научном пространстве исследований, посвященных этой тематике, меньше [9, 10, 11]. Кроме того, в основном в зарубежных отчетах публикуются результаты применения ИИ в целях проведения предиктивной аналитики преступности и предотвращения преступлений на основе полученного анализа. В отечественных отчетах и литературе в большинстве случаев речь идет об интеллектуальных технологиях, применяемых на этапе расследования преступления [12], таких, например, как программа «Конструктор места происшествия», системы моделирования различных следственных действий [13] и др. [14]. Но эти отечественные системы не решают проблему прогнозирования преступлений, хотя еще в 2008 г. предлагалось использовать методы предиктивной аналитики в целях принятия обоснованных управленческих решений [15].

Актуальность данной проблемы подтверждает поставленная в Ведомственной программе цифровой трансформации МВД России на 2022–2024 гг. [16] задача ликвидации имеющегося отставания по вопросам применения технологий искусственного интеллекта.

Однако, несмотря на имеющиеся зарубежные отчеты о прогнозировании преступлений, закономерен вопрос: можно ли прогнозировать совершение преступлений, иными словами — имеются ли у преступления те параметры или признаки, которые подлежат вероятностной оценке?

Преступление или не преступление?

К полномочиям МВД России отнесено в том числе «формирование основных направлений государственной политики в сфере внутренних дел на основе анализа и прогнозирования: состояния преступности; положения дел в области охраны общественного порядка и собственности, обеспечения общественной безопасности; миграционных процессов» (п. 11) [17].

Необходимо подчеркнуть, что в данном случае речь идет о прогнозировании преступности, но не о прогнозировании преступления. Преступление является конкретным юридическим фактом, обладающим определенными признаками, а преступность — явлением социальным, обобщенным и статистически измеряемым.

Прогнозирование таких социальных явлений, как «преступность, личность преступника, факторы (причины и условия) преступности, последствия преступности, меры борьбы с преступностью» [16], отнесено к задачам криминологического прогнозирования. Причем преступность рассматривается на трех уровнях интерпретации: свойства преступности как массового явления, свойства преступника, признаки преступного деяния.

Прогнозирование преступности как социального явления связано с предвидением, вычислением вероятностных изменений, тенденций и закономерностей преступности в будущем и является одной из задач криминологического прогнозирования.

Однако если подходить к оценке преступления как преступного деяния, то построение системы установленных причинно-следственных связей и закономерностей, сопровождающих преступные деяния, позволит дать оценку состояния и его вероятного направления развития. Но для прогнозирования вероятности совершения преступления как уголовно-наказуемого деяния необходимо оценить его признаки.

Т.Н. Долгих считает, что в теории уголовного права, несмотря на сформулированное понятие преступления, вопрос о перечне признаков преступления является дискуссионным, поскольку УК РФ не определяет понятие и виды признаков преступления [18]. С учетом анализа определения, сформулированного в ч. 1 ст. 14 УК РФ, выделяются следующие признаки преступления как деяния: общественная опасность, противоправность, виновность, наказуемость. Однако эти признаки присущи уже совершенному деянию, у которого в связи с реальностью его существования можно оценить такие признаки.

Отмечу, что среди обозначенных признаков преступления алгоритмами ИИ, например алгоритмом глубокого обучения, может быть дана оценка только двум признакам — общественной опасности и противоправности, а два других признака — наказуемость и виновность — должны быть оценены только человеком. Оценка интеллектуальной системой двух других признаков преступления — виновности и наказуемости — должна носить рекомендательный характер, окончательное решение необходимо принимать уполномоченному лицу.

Например, для получения ответа на вопросы, является ли смысловая конструкция в интернете общественно опасной и содержит ли она признаки противоправности, интеллектуальной системе необходимо оценить не только смысл текста, но и все связанные с размещением этого текста события — например, провести анализ всей информации, которая размещена на странице социальной сети предполагаемого преступника, его социальных связей. Одна и та же информация может носить различную окраску в зависимости от контекста — например, словосочетание «я тебя убью» может быть как фигурой речи, так и угрозой убийства. Для оценки реальности угрозы интеллектуальные системы должны проанализировать множество данных, оставленных человеком, который разместил текст, — его цифровые следы и цифровые тени [19]. В этом случае результат работы интеллектуальной системы будет отвечать требованию смыслового толкования обстоятельств криминальной ситуации в неразрывной связи со всеми сведениями по делу [20].

Хотя объективности ради необходимо отметить, что не существует абсолютно точных технологий и возможны ошибки в оценке данных. Но ошибки могут быть минимизированы в случае, если интеллектуальные системы не будут принимать решение за уполномоченные органы охраны общественной безопасности, а будут служить лишь инструментом анализа большого объема данных, передавая результат своей работы — вероятностную оценку опасности, противоправности и реальности намерений человека, полученную на основе совокупности цифровых данных, — уполномоченным органам в области охраны безопасности.

Таким образом, оценка ИИ признаков преступления возможна в случае существующего события. Фактически данная оценка признаков деяния позволит понять, можно ли отнести это деяние к преступлению.

Оценка ИИ стадий преступления

Возможным этапом оценки преступных деяний является оценка стадий совершения преступлений. С.В. Расторопов считает, что «преступные действия достаточно предсказуемы и прогнозируемы, необходимо лишь правоохранительным органам найти в больших объемах данных эти закономерности» [21].

Действительно, анализ больших данных может позволить оценить преступные действия на предмет их соответствия стадиям преступления — приготовление, покушение и оконченное действие. В этом случае ИИ должен оценить вероятность перерастания одной стадии преступления в другую, выявить сопровождающие преступные действия события и явления, распознать их, сравнить полученные данные с другими данными, построить причинно-следственную связь и предотвратить переход преступления в последующие стадии [22].

Однако оценка стадий возможна не для любых преступлений. Специалисты в области уголовного права считают, что выделение стадий преступления возможно только в отношении умышленных преступлений [23]. В таком случае закономерен вопрос: могут ли алгоритмы ИИ выявить преступный умысел в размещенной информации? Иными словами: может ли ИИ построить вероятностную модель перерастания преступного умысла в совершение преступных действий определенным человеком? Преступный умысел как отражение преступных намерений может быть выражен посредством телодвижения, слов, символов, фото- или видеоматериалов. Современные возможности ИИ позволяют оценить всю связанную с человеком информацию и выявить, например, в Сети предварительную преступную деятельность.

Необходимо оговориться, что, хотя большинство российских специалистов по уголовному праву не относят формирование преступного умысла к стадиям преступления [24], есть и те, кто считают это нулевой стадией подготовки преступления [25, 26].

В зарубежной научной литературе ученые представляют результаты своих работ, связанные с выявлением преступных намерений, умысла по результатам проведенного ИИ анализа пользовательского контента на платформах социальных сетей [27]. В проведенном эксперименте использование алгоритмов машинного обучения позволило понять и проанализировать настроения пользователей социальной сети, связанные с возможными преступными действиями. ИИ достаточно точно определил преступные намерения, отраженные в пользовательском контенте, что позволило правоохранительным органам усилить свои упреждающие меры [27].

Кроме того, существуют технологические решения, направленные на прогнозирование вероятности совершения преступления конкретным человеком по результатам оценки его криминогенных качеств [28, 29]. В этом случае алгоритм ИИ анализирует существующие отношения, действия, совершаемые человеком, например, в Сети. Результаты работы таких математических моделей уже представлены на обсуждение общественности [30, 31].

Обсуждая возможность предотвращения преступлений, мы должны исходить из того, что распознание ИИ преступного умысла, выраженного в размещенной в Сети информации, позволит оценить вероятность перерастания умысла в реальные преступные действия и заблаговременно отправить эту информацию уполномоченным органам в области обеспечения безопасности. Тем самым риск развития преступных действий будет минимизирован, а правоохранительные органы примут соответствующие профилактические меры [32].

Заключение

Поскольку в российских открытых источниках отсутствует информация о российских ИС в области предиктивной аналитики преступлений, было сделано предположение, что алгоритмы ИИ неэффективны для предупреждения преступности и преступлений. Однако анализ опубликованных за рубежом научных отчетов, российских и зарубежных научных работ, посвященных разработанным ИС в правоохранительной сфере, позволили сделать вывод, что ИС позволяют достичь результата — прогнозирования возможных преступлений.

Применение ИС уполномоченными органами охраны правопорядка, как показывают аналитические материалы, позволяет не только выявить противоправный и общественно-опасный контент, но и оценить вероятность совершения преступления конкретным человеком. Такие ИС разрабатываются на основе алгоритмов ИИ, например глубокого обучения, предиктивной аналитики, анализа больших данных и других, которые могут распознать преступление еще на стадии формирования преступного умысла, выраженного в размещенной информации, и тем самым минимизировать возможность перерастания умысла в реальные преступные действия.

About the authors

Anna K. Zharova

Russian Academy of Sciences, Institute of State and Law

Author for correspondence.
Email: anna_jarova@mail.ru
ORCID iD: 0000-0002-2981-3369

leading researcher, Doctor of Law, Associate Professor, Associate Fellow of the UNESCO Chair on Copyright, Neighboring, Cultural and Information Rights

Russian Federation, Moscow

References

Supplementary files