A new technological order and socio-humanitarian challenges
- Авторлар: Savenkov A.N.1
-
Мекемелер:
- Institute of State and Law of the Russian Academy of Sciences
- Шығарылым: № 1 (2025)
- Беттер: 14-36
- Бөлім: Articles
- URL: https://ogarev-online.ru/1026-9452/article/view/285522
- DOI: https://doi.org/10.31857/S1026945225010017
- ID: 285522
Дәйексөз келтіру
Толық мәтін
Аннотация
The article analyzes the influence of economic factors and conditions, the role of industrial and scientific-technological structures, their essential elements in the field of fundamental processes of legal regulation and state building. The importance of improving interdisciplinary approaches and research in the context of the interaction of law and economics, which focus on the study of key aspects of the development of modern political, legal and economic thought, is emphasized. The presence of significant gaps in understanding the deeper and more intense connections and forms of interaction between law and economics is considered as one of the conditions that can be eliminated to ensure a qualitatively new and much more effective development of both legal research and the expansion of the cognitive horizons of economic work, especially focusing on issues of interaction with politics and law. A successful disciplinary form for the development of scientific ideas about the relationship between law and economics, taking into account the diverse challenges and threats in the modern world, can be considered government studies, but meaningful on a different modern conceptual basis.
Толық мәтін
В условиях трансформации современных общественных процессов и объективных изменений глобальной архитектуры мироустройства развитие промышленности и технологий существенно влияет на социально-политическую карту мира, формирует перспективы новых экономических моделей и парадигмы пользования ресурсами и результатами труда. История теоретически зрелых и оформленных учений о влиянии экономики на другие сферы начинается с марксизма, который как социально-экономическая теория не только не утрачивает популярности, но, напротив, в виде различных дополнений и неомарксистских прочтений (зачастую избирательно-субъективных) сохраняет актуальность и востребованность. В общественных науках, в том числе юридических, также нарастают тенденции экономического анализа права.
Исследовательский интерес к вопросу о связи права и экономики в отечественной юридической литературе фиксируется давно. Однако в подобных исследованиях в русле междисциплинарного анализа пока не уделяют достаточного внимания изучению характера и направлений развития экономической мысли, по крайней мере в той части, в которой ведущими экономистами обсуждается проблематика влияния экономических факторов и условий – в целом научно-технологических укладов – на совершенствование и трансформацию представлений о способах регулирующего воздействия на соответствующие процессы, о моделях эффективного политического управления, повышения качества правосудия, государственного строительства. Экономическая мысль динамично и непрерывно менялась, предлагая различные представления о возможных моделях экономического прогресса. Например, проблемы экономического анализа релевантных для права проблем могут обсуждаться в рамках такого течения в экономической мысли, как кейнсианство. «Общая теория занятости, процента и денег» 1 Дж. Кейнса, опубликованная в феврале 1936 г., вызвала глубокий сдвиг, получивший название «Кейнсианская революция», поскольку центральное место в экономической теории в работе отводилось макроэкономике.
Экономическое мышление, вдохновленное Кейнсом, возникло на обломках Великой депрессии и было, как тогда казалось, основным путем восстановления мировой экономики после кризиса и еще больших разрушений от войны. Основу этого мышления составляли два ключевых положения: 1) экономическая система не имеет естественной тенденции к полному использованию ресурсов; 2) необходимо государственное вмешательство, которое может быть использовано для достижения социально оптимального результата. В противовес сложившимся подходам формулировался аргумент о том, что уровень занятости определяется не ценой труда, как в классической экономике, а уровнем совокупного спроса: если общий спрос на товары при полной занятости меньше общего объема производства, то экономика должна сокращаться до тех пор, пока не будет достигнуто равенство. Таким образом, Кейнс отрицал, что полная занятость была естественным результатом конкурентных рынков в равновесии. Ему принадлежат понятия функции потребления, принципа эффективного спроса и предпочтения ликвидности, он также придал новое значение мультипликатору и предельной эффективности капитала.
Формализация общей теории Кейнса была осуществлена Дж. Хиксом в 1937 г. 2, что позволило кейнсианскому подходу прочно утвердиться в академическом мире и породить огромное количество литературы, в том числе в послевоенный период. Популярность идеи о целесообразности вмешательства государства в сферу экономики была настолько огромной, что привело к привлечению ученых-экономистов в качестве консультантов в правительства разных государств для разработки конкретных мер государственной политики.
В СССР игнорировали «Общую теорию занятости, процента и денег», поскольку одна из ключевых проблем, находящихся в фокусе внимания кейнсианства – массовая безработица, – не имела, по мнению советских экономистов, значения для централизованно планируемой экономики. Впервые изложение теории Кейнса и ее критику представил советский экономист, проф. И. Г. Блюмин 3.
В 1960-х годах кейнсианская теория подвергается критике со стороны небольшой, но быстро растущей школы американских экономистов-монетаристов, возглавляемой М. Фридманом. Они утверждали, что влияние фискальной политики ненадежно, если одновременно не регулировать количество денег. Основываясь на старой количественной теории денег, они протестировали новую версию на множестве данных по разным странам и периодам времени и пришли к выводу, что количество денег действительно имеет значение. В «Монетарной истории Соединенных Штатов, 1867–1960» 4, ставшей эталонной работой, подвергалась сомнению эффективность кейнсианских фискальных мер наряду со всеми другими попытками тонкой настройки экономики. Монетаризм с его акцентом на денежную массу являлся весьма влиятельной теорией в 1970-х годах, но к 1990-м годам ее влияние перестало быть столь заметным.
Таким же разнообразием отличались теоретические модели, объяснявшие значение внутренних и внешних факторов экономического роста. В 1990-х годах появляется новая парадигма, получившая название «теория эндогенного роста», которая предпринимала попытки объяснить технологические изменения в государствах как результат расходов частных фирм на исследования и разработки (НИОКР), мотивированных прибылью. Первая известная эндогенная модель была предложена П. Ромером (1990) 5, получившим в 2018 г. Нобелевскую премию. В то же время первым экономистом, который ввел в научный оборот понятия «нововведение» и «инновация» и связал их с темпами экономического развития, был Дж. Шумпетер 6.
Концептуальное отличие новой модели состояло в том, что в отличие от подхода Р. Домара (предыдущая модель), который рассматривал рост как экзогенный, или исходящий из внешних переменных, эндогенная теория делала упор на рост изнутри системы. Теория эндогенного роста объясняет долгосрочный экономический рост как результат деятельности, которая создает новые технологические знания. Эндогенный рост – это долгосрочный рост, темпы которого определяются внутренними факторами экономической системы, в частности такими, которые определяют возможности и стимулы для создания технологических знаний.
Основные положения противоположной, экзогенной теории были сформулированы будущим лауреатом Нобелевской премии (1987), членом Национальной академии наук США (1972) и Американского философского общества, почетным членом Британской академии наук Р. Солоу. Он отмечал, что экономический рост выступает результатом наличия рабочей силы и наращивания инвестиций в производственный (основной) капитал 7. Теория роста Р. Солоу и Т. Свона 8 предполагала, что темпы технического прогресса определяются научным процессом, который отделен от экономических сил и независим от них. Таким образом, она подразумевает, что экономисты могут воспринимать долгосрочные темпы роста как экзогенные данные, полученные извне экономической системы.
Теория эндогенного роста бросила вызов этому взгляду, предлагая каналы, с помощью которых экономические факторы могут влиять на темпы технического прогресса и, следовательно, на долгосрочные темпы экономического роста. Ее положения исходили из того, что технический прогресс происходит благодаря инновациям в виде новых продуктов, процессов и рынков, многие из которых являются результатом экономической деятельности. Поскольку многие инновации есть результат затрат на НИОКР, осуществляемых стремящимися к прибыли фирмами, экономическая политика в области торговли, конкуренции, образования, налогов и интеллектуальной собственности может влиять на темпы внедрения инноваций, оказывая воздействие на частные затраты и выгоды от проведения НИОКР.
Иногда размышления об экономике выглядят чрезвычайно гротескно. Пример подобного гротеска, по нашему мнению, – эволюционная экономика как часть экономического мейнстрима, рассматривающая явления с позиций эволюционной биологии, использующая эволюционную же методологию и руководствующаяся принципом эволюционной психологии.
Границы рациональности экономических агентов исследует поведенческая экономика, предпринимая попытки оценить влияние социальных, когнитивных и эмоциональных факторов на поведение в сфере экономики, принятие экономических решений отдельными лицами и учреждениями и последствия такого влияния на рыночные переменные (цены, прибыль, распределение ресурсов).
Исследователь в области философии случайности, роли неопределенности и влияния случайных и непредсказуемых событий на мировую экономику и биржевую торговлю Н. Талеб называет себя «эмпирическим скептиком» и генерирует новый понятийный аппарат, используя биологическую терминологию.
Несмотря на обилие экономических идеологем, современная наука становится неспособной сформировать непротиворечивые объяснительные модели и представить надежные перспективы развития событий. Слоубализация и сингулярность, казуализм и метамодерн, конвергенция и точки бифуркации – только слова, но не теории. В массовом интеллектуальном сознании сегодняшний уровень философского мышления и футурологических прогнозов свидетельствует о том, что мы живем в хаотично пополняемом паноптикуме политико-правовых фетишей, состоящем из животно-орнитологических жупелов «черных лебедей», «серых носорогов» и т. п.
В дореволюционной и советской юридической науке проблематика осмысления роли и значения хозяйственных факторов и условий, промышленного и научно-технологического укладов, научно-технического прогресса получила основательную теоретико-методологическую основу. Отечественные ученые-правоведы нередко обращались к анализу отдельных правовых сторон экономического оборота, отмечая при этом необходимость разработки собственных моделей его правового регулирования, а не простого заимствования. Без учета достижений досоветской науки не сформировались бы основные направления правового анализа социалистической экономики советского периода, который не ограничивался вопросами исторического и диалектического материализма, хотя именно советскими правоведами, в частности директором Института советского строительства и права Коммунистической академии Е. Б. Пашуканисом, была разработана первая в марксистской – не только отечественной, но и мировой – литературе правовая теория принципиально экономического профиля, получившая название меновой, основанная на аналогии с марксистской формулой о роли обмена товарами, в соответствии с которой правовая форма достигает своего кульминационного пункта в буржуазно-капиталистическом обществе.
В русле советского правоведения сформировалась теория хозяйственного права акад. В. В. Лаптева 9, значительный вклад в освоение связей права и экономики в советской литературе внесли исследования советского экономиста В. П. Шкредова 10, изучением влияния права на развитие социалистической экономики занимались А. Ф. Шебанов 11, известный советский правовед С. Н. Братусь 12 и многие другие. М. М. Богуславским разрабатывалась правовая база экономического сотрудничества в социалистической системе, предлагались формы и методы сотрудничества, выявлялись правовые проблемы социалистической интеграции и предлагались конкретные правовые формы хозяйственных связей в социалистическом содружестве. В разное время в секторе гражданского права, гражданского и арбитражного процесса Института права АН СССР (позже – Институт государства и права АН СССР, ныне – Институт государства и права РАН) работала целая плеяда выдающихся ученых-правоведов: М. А. Гурвич, Р. О. Халфина, Н. С. Малеин, В. С. Тадевосян, В. П. Мозолин, А. А. Рубанов, А. М. Нечаева 13. В начале 1990-х годов в Институте создается Центр цивилистических исследований, в состав которого входили: сектор гражданского права, гражданского и арбитражного процесса, сектор аграрного и земельного права, сектор трудового права. С середины 1990-х годов Центром руководила выдающийся ученый, заслуженный деятель науки, д-р юрид. наук, проф. Т. Е. Абова. Работы ученых Института оказали существенное влияние на прояснение фундаментальных закономерностей взаимовлияния права и экономики. Особо можно выделить «Манифест о цивилизме» акад. РАН В. С. Нерсесянца 14, посвященный фундаментальным вопросам собственности и национального благосостояния в условиях постсоциалистического общества.
Заложенные традиции развивались д-ром юрид. наук С. С. Занковским. В настоящее время их сохраняют и продолжают акад. РАН А. Г. Лисицын-Светланов, члены-корр. РАН М. И. Клеандров, А. В. Габов, д-р юрид. наук В. А. Лаптев.
Роль научно-технологических факторов в правовом поле возрастает стремительно. Вместе с тем в современной юридической науке проблематика влияния изменений в экономике, роли и значения промышленного и научно-технологического укладов изучается фрагментарно, новые модели, сопоставимые по масштабу с советскими, в правоведении просто отсутствуют. Юриспруденция в основном пытается поспеть за быстро меняющимися экономическими условиями и связанными с этим социально-экономическими вызовами. В юридической науке не сформировалась полноценная и развернутая система теоретических взглядов на характер современной экономики и влияния происходящих в ее сфере изменений и темпов развития на право в целом и правовое регулирование в частности.
Фундаментальное решение вопросов о связи права и экономики, надлежащее осмысление влияния нового промышленного уклада, темпов развития национальных экономик, характера и направлений этих процессов является необходимым не только для понимания самого права и его функций в современном обществе, но также для ответа на один из самых главных вопросов – о роли государства в регулировании экономики. Представляется, что этому может эффективно содействовать переосмысление философии государства с позиций юридической науки.
В юридической науке схема анализа права и экономики, как правило, сводится к таким ракурсам, как конституционная экономика и экономический анализ права. Такая модель исследования импортирована из американской литературы и ее явно недостаточно для разъяснения всех связей права и экономики 15. В то время как спектр требующих разрешения вопросов значительно шире. Зачастую упускается из виду, что государства начинают играть все более важную роль в обеспечении управляемости вызываемых технологическими изменениями процессов. Например, каким образом должно обеспечиваться расследование преступлений в киберпространстве с использованием новых технологий, в том числе искусственного интеллекта? Это только один, но чрезвычайно важный вопрос, на который должна ответить современная юридическая наука, выясняя и разъясняя принципиальные характеристики взаимовлияния права и экономики. Если же наука в данном случае опаздывает, то последствия становятся губительными для безопасности общества и стабильности гражданского оборота.
М. Вебер, говоря о существенных переменах в условиях современного ему индустриального уклада, допускал возможность саморегулирования, обособленного существования хозяйственного и правового порядков, однако при этом прямо подчеркивал, что роль правовых регуляторов, в том числе государственного принуждения, по мере развития социально-экономического уклада индустриального общества будет непрерывно возрастать 16.
Действительно, стремительный темп изменений, связанных с новыми технологиями, становится главным фактором доминирования непредсказуемости, а значит, опасности случайного выбора траектории развития. Современные достижения науки предоставляют фантастические возможности и меняют картину реальности. Так, квантовое зондирование может привести к созданию совершенно новой экосистемы, в которой можно наблюдать ненаблюдаемое, тем самым предоставляя уникальную новую информацию и наборы данных во многих секторах экономики 17. Интеллектуальные средства дешифрования делают открытыми любые средства коммуникаций. Потеря контроля над спутниками и электромагнитным спектром существенно влияет на возможности их специального применения. Летальные автономные системы оружия бросают вызов давним этическим и правовым нормам. Разработка метода редактирования генома CRISPR-Cas9 была отмечена Нобелевской премией по химии за 2020 год, присужденной Эммануэль Шарпантье и Дженнифер Дудна 18, но еще на этапе разработки в 2015 г. он попал в список угроз национальной безопасности 19.
Настораживает то, что в технократическом сознании отражается не просто вытеснение нравственности, а вообще ее исключение как категории общественных отношений. В таких условиях актуальность разработки проблем этики и морали, осуществленных в работах акад. РАН А. А. Гусейнова и касающихся пользования знаниями и технологиями, только нарастает. Пренебрежение данными проблемами в условиях несбалансированного развития промышленно-технологических условий и социогуманитарных регуляторов поведения создает опасности злоупотребления достижениями научно-технологического прогресса, неправомерного распределения и перераспределения ресурсов, конфликтности и прочих вызовов 20.
Уже существуют автономные системы, способные определять, оценивать и нацеливать оружие на предполагаемые угрозы и таким образом способные начать собственную войну. Как только граница в этой сфере будет пересечена и высокие технологии станут стандартным оружием, а компьютеры – главными исполнителями стратегии, мир окажется в состоянии, для которого пока нет устоявшейся концепции. Как лидеры государств могут осуществлять контроль, когда компьютеры предписывают стратегические инструкции и таким образом ограничивают и угрожают человеческому участию в этом процессе?
Еще столетие назад акад. В. И. Вернадский улавливал подобные тенденции, пророчески отмечая: «Нигде не видим мы какого-нибудь ослабления научного движения среди войн, истребления, гибели людей от убийств и болезней. Все эти потери быстро возмещаются мощным подъемом реально осуществляемых достижений науки и ею охваченной организованности государственной власти и техники. Кажется даже, что в этом круговороте людского несчастья она еще больше растет и заключает в себе самой средства для прекращения попыток укрепить варварство» 21.
Другая важная тенденция состоит в том, что современный промышленный уклад стремится к милитаризации, подпитывает военное производство, при этом новых правовых инструментов защиты не предлагается, а старые игнорируются. Так уже в истории было. Не далее как 80 лет назад только недостаточный запас атомных бомб и длительный период их производства удержал президента США Трумэна от ударов по СССР, на чем настаивал в своем плане «Немыслимое» (Operation Unthinkable, 1945 г.) У. Черчилль.
Последние несколько лет первой четверти XXI столетия неопровержимо свидетельствуют о нарастании военной угрозы во всем мире, вызванной действиями одной из великих ядерных держав – США, которые активно поддерживаются членами НАТО. Сегодня промышленность ЕС и США перестраивается под запросы Североатлантического альянса, мы являемся очевидцами локализации оборонного промышленного потенциала ФРГ на территории Украины 22. При этом военными аналитиками и экономистами тщательно анализируется опыт СВО, где расход боеприпасов изучается так же, как и боевые потери и тактика использования беспилотных летательных аппаратов.
Серьезный вызов сделан международному праву и правопорядку. Это в первую очередь абсолютное снижение порога casus belli – формального повода для объявления войны; расширенное толкование правовых институтов «комбатанты» и «законные цели»; военные союзы и коалиции без юридического оформления и многое другое. Все это требует незамедлительного осмысления и правового регулирования или, если последнее сразу недостижимо, выработки правовой позиции ООН.
Оставлена в прошлом международная дискуссия о недопустимости применения против человека любого автономного летального вооружения (Lethal Autonomous Weapons, LAWS), обозначающего боевую самодвижущуюся систему, которая, будучи активированной, принимает решение об атаке боеприпасом на поражение без прямого контроля со стороны человека. В мире разрабатываются ракеты с искусственным интеллектом, беспилотные надводные и подводные вооружения и уже применялись беспилотные транспортные средства, атаки роем боевых смертоносных беспилотников, управляемых искусственным интеллектом, и военные роботы.
Предпринимаемые государствами попытки в этом направлении чрезвычайно робки. В частности, первый глобальный саммит по ответственному использованию искусственного интеллекта в военной сфере (REAIM), состоявшийся 15–16 февраля 2023 г., собрал представителей более чем 60 стран, включая США и Китай, в Гааге, чтобы обсудить то, как ответственно использовать искусственный интеллект в вооруженных силах 23. Второй саммит прошел в Сеуле 9–10 сентября 2024 г. с участием представителей правительств более чем 90 государств. Юридически обязывающих решений в этих собраниях не принималось.
Генеральный секретарь ООН А. Гутерриш выражал обеспокоенность по этому вопросу в совместном письме с президентом Международного Комитета Красного Креста (МККК) М. Сполярич в октябре 2023 г.
Необходимость применения норм международного права, включая Устав ООН и гуманитарные законы и законы о правах человека, к автономным системам вооружений была провозглашена в резолюции Генеральной Ассамблеи ООН 78/241, принятой 22 декабря 2023 г. 24 152 голосами «за», четырьмя голосами «против» и 11 голосами воздержавшихся. В ней признаются потенциальные преимущества новых технологий, а также выражается обеспокоенность по поводу связанных с ними гуманитарных, правовых, технологических и этических проблем относительно безопасности. В резолюции выражена важность поиска различных точек зрения на смертоносные автономные системы вооружений со стороны государств-членов, наблюдателей, международных организаций, гражданского общества и промышленности.
История и практика свидетельствуют, что только судебный процесс Международного военного трибунала в Нюрнберге смог дать ответ на подобные вызовы. Сейчас весь мир задается одним вопросом: как еще раз после Нюрнберга запретить войну на будущее, если ее не удалось предотвратить именно правовым путем? Российская Федерация на протяжении 15 лет предлагала подписать юридически обязывающие международные акты, но этого не случилось. Вновь политика победила право. Человечество продолжает получать опыт, что такое соотношение политики и права ведет по меньшей мере к эскалации риторики о ядерном апокалипсисе, а возможно, и гибели.
Лидеры КНР и США Си Цзиньпин и Джо Байден 16 ноября 2024 г. в ходе встречи на полях саммита Азиатско-Тихоокеанского экономического сотрудничества (АТЭС) в Лиме вновь устно договорились о том, что решения о применении теперь уже ядерного оружия должны оставаться за человеком, а не искусственным интеллектом. Милитаристский тренд в политике не должен лишать человечество радости жизни и надежды на благоприятное будущее.
Следующей важной тенденцией является неравномерность технологического развития государств, принимающая порой характер «технологического апартеида», правового ответа на который также не выработано. Так, центры научных и технических компетенций расположены в развитых государствах, в них же расположены финансовые цент-ры и центры, через которые происходит управление иными мировыми процессами. Эксперты НИУ ВШЭ подсчитали, что в 2024 г. в мире было 1658 «единорогов» – это компании, достигшие оценки 1 млрд долл. не более чем за 10 лет с момента основания, не выходившие на IPO и как минимум на 25% сохраняющие собственников-основателей. Такие компании присутствуют в 36 странах, большинство из которых (97%) созданы всего в 15 из них: традиционно рейтинг возглавляют США (781 дорогостоящий стартап), Китай (350), государства ЕС (135), Индия (91), Великобритания (69), Канада (28), Израиль и Сингапур (по 27). Традиционно топ локаций для «единорогов» возглавляют Сан-Франциско (326), Нью-Йорк (147), Пекин (126), Шанхай (71) и Лос-Анджелес (55). В России нет ни одного. В Узбекистане статус «единорога» получила цифровая экосистема Uzum, оцененная инвесторами более чем в 1.1 млрд долл. Одновременно в мире становится больше супердорогих компаний, т. н. гектокорнов стоимостью свыше 100 млрд долл., сейчас их четыре: Reliance Retail из Индии, Ant Group и ByteDance из Китая и SpaceX из США 25.
По данным 17-го издания ведущего глобального инновационного индекса (Global Innovation Index (GII) 26), учитывающего инновационные показатели 133 стран, а также 100 ведущих научно-технических кластеров мира, в 2023 г. расходы на НИОКР снизились 27; количество научных публикаций сократилось на 5% в 2023 г. после роста более чем на 8% в год в 2020 и 2021 гг. и замедления в 2022 г.; а венчурные инвестиции вернулись к уровню, существовавшему до пандемии, в том числе в Африке и Латинской Америке. Отражая ухудшение ситуации с финансированием рисков, стоимость венчурных инвестиций снижается с исключительно высокого уровня 2021 г.: в 2022 г. она упала на 36%, а в 2023 г. еще на 39%. Общий объем инвестиций в венчурный капитал существенно сократился: с 595 млрд долл. в 2021 г. до 379 млрд долл. в 2022 г., а затем снизился до 228 млрд долл. в 2023 г. Это снижение напоминает финансовый кризис 2009 г. Количество сделок с венчурным капиталом также сократилось на 9.5% в 2023 г.
Рынок венчурных инвестиций в Российской Федерации с 2022 г. сократился почти в 40 раз. Ни одной венчурной сделки между иностранным инвестором и российским стартапом в 2024 г. не зафиксировано. Количество международных патентных заявок, которое оставалось на стабильном уровне с 2021 г., в 2023 г. сократилось на 1.8%, что стало первым подобным снижением с 2009 г. Если ужесточение финансовых условий сохранится, это будет препятствовать необходимым инвестициям в инновации в ближайшей перспективе.
Обращает на себя внимание тенденция к значительному прогрессу в странах с формирующейся рыночной экономикой: Индонезия, Маврикий, Саудовская Аравия, Катар и Бразилия достигли наибольших результатов в GII за последние пять лет, а Китай, Индия, Иран, Марокко, Филиппины и Турция – самых высоких показателей за последние 10 лет. Еще 19 стран, главным образом страны Африки к югу от Сахары и Юго-Восточной Азии, опережают своих соседей по уровню развития в области инноваций.
При этом Швейцария, Швеция, США, Сингапур и Великобритания, как и на протяжении последнего десятилетия, лидируют в GII-2024. Все пять крупнейших в мире научно-технических кластеров расположены в Восточной Азии; Токио–Иокогама – крупнейший научно-технический кластер в мире, Кембридж – самый интенсивный научно-технический кластер в мире. Лидирует Токио–Иокогама (Япония), за которым следуют Шэньчжэнь–Гонконг–Гуанчжоу (Китай и Гонконг, Китай), Пекин (Китай), Сеул (Южная Корея) и Шанхай–Сучжоу (Китай). Китай второй год подряд лидирует в топ-100 по количеству кластеров (26). За ним следуют Соединенные Штаты с 20 кластерами, затем Германия с восьмью.
На рынке промышленных роботов доминировали пять стран: Китай, Япония, США, Южная Корея и Германия. В совокупности на эти пять стран приходилось 74% оперативного парка роботов в 2022 г. 28 В 2022 г. расходы американских компаний на НИОКР превысили 500 млрд евро 29. Второе место занимал Китай с 679 компаниями в рейтинге: объем инвестиций китайских компаний в НИОКР в 2022 г. составил 222 млрд евро. Лидируют в Китае такие крупные компании, как Huawei (20.9 млрд евро), Tencent (8.2 млрд евро) и Alibaba (7.6 млрд евро) 30.
Для многих бывших стран «третьего мира» это означает, что они никогда и ни при каких обстоятельствах не попадут, будучи в своих границах и традиционных условиях жизни, в новый мир «потребительского счастья», правопорядка и спокойствия. В настоящее время почти 2 млрд человек существуют менее чем на 3.65 долл. в день, а более 3.5 млрд человек (около половины населения мира) живут за порогом в 6.85 долл. 31 У этих государств нет ни идей для прорыва, ни сил и ресурсов, их население деморализовано к позитивным действиям на фоне диссонанса между своими условиями выживания и достижениями в науке, культуре развитых государств, которые они наблюдают.
Последствиями глобализации стало развитие регионального агломерирования, увеличение значения региональных и локальных экономик, рост региональных кластеров и сетей, усиление региональной специализации. В глобализированном мире все виды экономической активности географически локализованы. Ситуация усугубляется еще и тем, что «сегодня ни один регион мира даже близко не является самодостаточным. Все крупные регионы мира импортируют более 25% хотя бы одного вида важных ресурсов или промышленных товаров. Во многих случаях эта цифра намного выше. Латинская Америка, Африка южнее Сахары, Восточная Европа и Центральная Азия импортируют более 50% необходимой им электроники. Евросоюз – более 50% потребляемых энергоресурсов. Азиатско-Тихоокеанский регион импортирует более 25% энергоресурсов.
В Демократической Республике Конго добывается 69% мирового кобальта, на долю Индонезии приходится 32% мирового производства никеля, а Чили производит 28% мировой меди. На долю полупроводников приходится менее 10% общих объемов торговли, но на долю продукции, которая прямо или косвенно зависит от полупроводников, согласно оценкам, – 65% всего объема товарного экспорта.
На этом фоне только Российская Федерация обладает непревзойденными запасами минерально-сырьевой базы и, что не менее важно, воды. Россия – самое большое по площади государство мира, у нас серьезные территориальные и географические преимущества как «страны, где всегда светит солнце». Например, в российском законодательстве Северный морской путь определен как «исторически сложившаяся национальная единая транспортная коммуникация России в Арктике» 32. Расстояние от Санкт-Петербурга до Владивостока по нему составляет свыше 14 тыс. км. Альтернатива Северному морскому пути – транспортные артерии, проходящие через Суэцкий или Панамский каналы. Если расстояние, проходимое судами из порта Мурманска в порт Иокогамы (Япония) через Суэцкий канал, составляет 12 840 морских миль, то Северным морским путем – более чем в два раза меньше. При этом Россия обладает самым мощным флотом для ледовой проводки: в составе национальной группировки сейчас 41 ледокол, в том числе 34 дизель-электрических и семь атомных. Самыми мощными в мире на сегодняшний день являются суда проекта 22220 нового поколения – атомные ледоколы «Арктика», «Урал» и «Сибирь» – 60 МВт каждый. Под техническим наблюдением Российского морского регистра судоходства на российских верфях находятся восемь ледоколов в разной стадии постройки. Среди них заложенный в 2021 г. будущий мировой чемпион – головной сверхмощный атомный ледокол проекта 10510 «Лидер» мощностью 120 МВт. В январе 2024 г. Президент РФ В. В. Путин дал старт строительству универсального атомного ледокола «Ленинград», который станет шестым по счету атомным ледоколом проекта 22220. Растущие мощности ледокольного флота России позволят планомерно увеличивать транзитный грузопоток по Северному морскому пути (в 2023 г. – 36.254 млн т) 33.
Столь же непревзойденна сеть железных дорог Российской Федерации. Транссиб – крупнейшая в мире железнодорожная магистраль, фактическая протяженность которой от Москвы до Владивостока составляет 9288 км, что делает его самым большим инфраструктурным объектом на планете.
Почему это важно помнить? Экономика всегда провоцировала политику к войне. Приведем примеры из истории. Дж. Киган и Э. Уиткрофт в книге «Зоны конфликтов: Атлас будущих войн» 34 отметили, что стратегические интересы в Антарктике исходят от двух причин: экономических и стратегических. Она имеет большую экономическую ценность с точки зрения минеральных и нефтяных ресурсов. Стратегические причины проявились во времена холодной войны в виде обеспокоенности о сохранении маршрута через мыс Горн, поскольку американские авианосцы не могли проходить через Панамский канал. Фолклендские острова доминируют в проливе Дрейка, в «участке бурной воды, отделяющего Южную Америку от Антарктики». Противостояние Аргентины и Великобритании за владение островами было малоизвестным фактором Фолклендской войны. С распадом Советского Союза и растущей конкуренции за добычу ископаемого топлива экономическая, а не стратегическая причина станет фактором возникновения войны в XXI в.
Исторически Россия является одной из мировых научных и промышленных держав: отечественные научная и инженерная школы эффективно решали задачи социально-экономического развития и обеспечения безопасности страны, внесли существенный вклад в накопление человечеством научных знаний и создание передовых технологий.
В настоящее время наша страна испытывает беспрецедентное давление со стороны т. н. коллективного Запада. Очевидна деградация многих прежних моделей и инструментов развития, растет число безответственных макроэкономических решений, колоссален объем противоправных односторонних ограничительных мер и недобросовестной конкуренции. В 2024 г. наблюдался существенный рост «вторичных санкций» 35: более 400 компаний были им подвергнуты за один только год и 744 – за весь период специальной военной операции. 21 ноября 2024 г. США ввели санкции против более 50 российских банков с международными связями, более 40 российских регистраторов ценных бумаг и депозитариев, а также против 15 физических лиц 36. В числе попавших под санкции Газпромбанк, через который с весны 2022 г. велись рублевые расчеты за газ с недружественными странами.
Несмотря на незаконное давление со стороны западных стран, у Российской Федерации огромный запас прочности для сохранения и увеличения экономического роста. 4 декабря 2024 г. на инвестиционном форуме «Россия зовет» Президент РФ В. В. Путин заявил, что валовый внутренний продукт России за 10 месяцев текущего года по сравнению с аналогичным периодом 2023 г. вырос на 4.1%: «Россия объединяет усилия государства, общества и бизнеса в укреплении экономического суверенитета, в достижении технологического лидерства нашей страны, в развитии устойчивой национально ориентированной банковской системы и сильного финансового, фондового рынка». По итогам 2023 г. ВВП России составлял 3.6% 37. В июне 2024 г. Президент РФ констатировал, что Россия, согласно оценке Всемирного банка, стала четвертой экономикой в мире по паритету покупательной способности, обогнав Японию. Глава государства подчеркнул, что темпы роста российской экономики превышают среднемировые 38.
Ответом на возникающие вызовы становятся не только экономические, но и правовые меры. Указами Президента РФ от 28 февраля 2024 г. № 145 «О Стратегии научно-технологического развития Российской Федерации» 39; от 7 мая 2024 г. № 309 «О национальных целях развития Российской Федерации на период до 2030 года и на перспективу до 2036 года» 40 и от 18 июня 2024 г. № 529 «Об утверждении приоритетных направлений научно-технологического развития и перечня важнейших наукоемких технологий» 41 определены: вектор развития страны в русле технологического суверенитета с задачей получения конкретных результатов и технологий; национальная цель – «технологическое лидерство, включающее в себя “обеспечение технологической независимости и формирование новых рынков по таким направлениям, как биоэкономика, сбережение здоровья граждан, продовольственная безопасность, беспилотные авиационные системы, средства производства и автоматизации, новые энергетические технологии, новые материалы и химия, транспортная мобильность, перспективные космические технологии и сервисы”»; установлены семь приоритетных направлений научно-технологического развития и 28 важнейших наукоемких технологий (критических и сквозных).
Несмотря на прочность российской экономики, перед ней возникают новые большие вызовы, реагировать на которые должны не только экономисты, но также философы, социологи и, конечно, юристы. К таким острым проблемам можно отнести: а) зависимость страны от иностранных поставок высокотехнологичных ресурсов, что препятствует ведению инновационных разработок; б) неблагоприятный инвестиционный климат, препятствующий привлечению средств венчурными производственными проектами. Как следствие, авторы перспективных разработок активно вытесняются за рубеж, в результате чего эти разработки коммерциализируются в других странах и поступают в Россию уже в виде иностранных продуктов; в) малое количество качественных рабочих мест с высокой оплатой труда, которые порождали бы потребность в систематической автоматизации и роботизации; г) отсутствие программы разработки отечественных электромобилей и необходимой для них инфраструктуры. Проекты в области технологий хранения электроэнергии поддерживаются слабо, а инвестиции в разработку и производство природных ресурсов, в частности лития и водорода, почти не осуществляются; д) высокая себестоимость продукта, обусловленная в том числе высокими требованиями к сертификации рабочих мест; и др.
Первые две из указанных проблем во многом лежат в правовом поле и области менталитета. В стране явно несовершенно законодательство, касающееся регулирования авторских прав, что отчасти обусловлено консервативно-негативным отношением общества к инновациям и коммерциализации результатов интеллектуальной деятельности.
Примеры известны всем нам со школьной скамьи. Например, отцом радио был А. С. Попов 42, а лавры лауреата Нобелевской премии по физике за 1909 год совместно с Карлом Фердинандом Брауном в знак признания их вклада в развитие беспроволочной телеграфии достались апологету итальянского фашизма Гульельмо Маркони. Попов считал себя ученым, а вовсе не изобретателем, создающим коммерческий проект. Он не озаботился тем, чтобы вовремя получить патент на свое изобретение.
В 1920-е годы советские биологи заложили основы школы генетики, а сами они могли стать основателями молекулярной биологии – области знаний, которая изменила биологическую науку и биотехнологии во всем мире. Одна из важнейших научных работ «О некоторых моментах эволюционного процесса с точки зрения современной генетики», указывающая на способ объединения 43, была написана основоположником современной эволюционной генетики русским ученым С. С. Четвериковым в 1926 г. В 1927 г. биолог Г. Д. Карпеченко впервые в мире вывел гибриды растений, относящихся к разным родам. Концепцию генофонда впервые сформулировал член-корр. АН СССР А. С. Серебровский. Д. Д. Ромашов самостоятельно вывел концепцию генетического сдвига 44. Уроженец Орловской области Ю. А. Филипченко ввел в употребление термины «микроэволюция» и «макроэволюция», а также блестяще объединил законы Менделя и теорию эволюции, обеспечив, таким образом, развитие теории современного эволюционного синтеза. Но советским генетикам не удалось сохранить свои новаторские школы. Сегодня мы находимся на пути восстановления утраченного лидерства в области научного сельского хозяйства и биотехнологий.
Даже иностранные исследователи отмечали нашу уникальную способность к изобретательству и столь же удивительное пренебрежение к их внедрению в производство. Так, ведущий зарубежный ученый по истории российской и советской науки Лорен Р. Грэхэм задается вопросом: «Как можно объяснить “российскую” модель, когда впечатляющие технологические изобретения раз за разом наталкиваются на неспособность развить их в качестве инноваций? Мы наблюдали это в военной промышленности..; в железнодорожной промышленности..; в энергетике, когда в 1870-е годы Лондон и Париж были ослеплены “русскими лампами”.., в авиации, где русские еще до Первой мировой войны создали комфортабельный пассажирский самолет; во время индустриализации, когда были построены крупнейшие в мире металлургические предприятия и гидроэлектростанции; в биологии, где в 1920-х – начале 1930-х годов русские были лидерами..; в компьютерных технологиях, ведь Россия в числе первых создала одну из самых быстродействующих в мире ЭВМ; в лазерных технологиях, когда русские… получили за них Нобелевские премии; в космической отрасли… Ни в одной другой стране мира подобная модель интеллектуального, творческого превосходства и вместе с тем технологической слабости не проявляется в такой мере, как в России. Это явление мирового значения, которое требует объяснения. Эта модель определяет судьбу России как государства» 45.
И сам же дает ответ на заданный вопрос: «самый большой недостаток» заключается в том, что предпринимаются попытки «совершенствовать технологию, не меняя при этом общество, в котором технологии должны развиваться. <…> Россия до сих пор не выбралась из своей вековой ловушки повторяющихся циклов модернизации, за которыми следует моральное устаревание» 46. В качестве вывода он приводит позицию профессора Калифорнийского университета Дэниела Трейсмана: «Для экономического роста важнее всего не то, где впервые появляются новые идеи, а то, где они развиваются. И это зависит не столько от интеллектуальных способностей ученых или объема государственного финансирования научных исследований, сколько от качества бизнес-среды. Отсюда следует простой вывод: даже если у российских ученых есть блестящие идеи, если в стране не будут проведены серьезные реформы экономики.., эти блестящие идеи будут использованы где-то в другом месте» 47.
Добавим к предложенному западными авторами выводу: понимание данной проблемы в нашей стране имеется, однако предпринимаемые меры, в том числе организационно-правового характера, либо несистемны, либо недостаточны. В приближенной ретроспективе были ликвидированы с передачей компетенций Высший Арбитражный Суд, Федеральная миграционная служба, Федеральная служба кадастра объектов недвижимости, Федеральное агентство по управлению особыми экономическими зонами, которые важны для институциональной защиты инвесторов, ученых и предпринимателей. Реализованные меры по созданию Федеральной службы государственной регистрации, кадастра и картографии (Росреестра) и Суда по интеллектуальным правам также важны и находятся в стадии развития.
Не учитывается опыт законодательной работы времен СССР, когда требовалось экономико-правовое обоснование и «пакетное» внесение законопроекта. В практике Федерального Собрания РФ судьбу законопроекта зачастую решает резолюция «Денег нет». Вместе с тем ежегодный прирост количества новых законодательных и нормативных правовых актов исчисляется тысячами, что никак не способствует стабильности законов. Все это приводит к противоречиям правовых требований, а вслед за ними и контрольно-надзорной деятельности во всех сферах. Острой остается проблема зарегулированности процесса организации государственных и муниципальных закупок, которая в принципе не отвечает современным реалиям экономической жизни нашей страны.
Ученые-правоведы основной упор делают на исследования фрагментарных аспектов проявлений нового промышленного уклада: влиянии искусственного интеллекта на экономические и правовые процессы, внедрении новых технологий в промышленности и производстве, в сфере социальной и межличностной коммуникации, в политической практике. Серьезной угрозой национальной безопасности становятся не получившие комплексного криминологического осмысления криминальные проявления смены технологической формации.
За 2023 год объем операций, совершенных без согласия граждан, составил 15.3 млрд руб. За девять месяцев 2024 г. аналогичный показатель уже достиг 17.8 млрд руб. При этом доля средств, возмещенных банками клиентам, пострадавшим от мошенничества, в третьем квартале составила лишь 11.9%, хотя это примерно вдвое выше уровня второго квартала (6.1%) и среднего значения за 2023 г. (9.7%). Объем предотвращенных мошеннических операций увеличился более чем в два раза, до 4.9 трлн руб. Больше половины мошеннических хищений (54.4%) в третьем квартале 2024 г. были реализованы с карт граждан – всего 189.3 тыс. случаев с ущербом на 2.2 млрд руб. Резко выросло (на 85.6% в количественном выражении, а в денежном – почти в четыре раза) число краж по каналу дистанционного банковского обслуживания или посредством переводов. Более чем на треть (+36.9%) увеличились хищения денег с использованием функционала Системы быстрых платежей (СБП), т. е. переводов по номеру телефона – с 44.7 тыс. во втором квартале до 61.1 тыс. в третьем. Объем таких сомнительных операций подскочил почти вдвое – до 2.8 млрд руб. 48
В 2024 г. Роскомнадзор зафиксировал 135 случаев распространения в Интернете баз данных, содержащих более 710 млн записей. В декабре глава ведомства А. Липов сообщил, что в 2024 г. совместная работа Роскомнадзора с операторами связи позволила сократить в шесть раз количество абонентов, имеющих более тысячи симок, и напомнил, что с 2025 г. россияне смогут оформить не более 20 сим-карт, иностранцы – не более 10. Он также отметил, что принятые в России новые меры ответственности будут побуждать компании серьезнее относиться к защите персональных данных 49.
Статистические данные свидетельствуют, что 22% крупных компаний хотя бы раз сталкивались с киберугрозами, которые привели к утечке данных. Чаще всего компании подвергались заражениям вредоносным ПО (76%), несанкционированному доступу к информации (73%), DDoS-атакам (62%), фишингу (42%). Среди других киберугроз – компрометация учетных записей (37%), шифровальщики (37%), эксплуатация уязвимостей (25%), подбор паролей (32%), действия инсайдеров (16%) и подмена интерфейсов (дефейс) (7%). 54% инцидентов, связанных с кибербезопасностью, происходило по вине внешних нарушителей, 30% – по внутренним причинам, еще 15% – по неустановленным. При этом лишь у 40% крупных компаний есть собственный отдел информационной безопасности, а 83% видят решением проблемы переход на SOC (Security Operation Center, Центр мониторинга кибербезопасности) 50.
Другой важной проблемой является происходящая деформация рынка труда, чутко реагирующего на структурные изменения в экономике: о кадровом голоде говорит практически каждая пятая технологичная компания в стране, при этом ощущается как общая нехватка рабочих рук, инженерных, медицинских, педагогических и научных кадров, так и раздутие сферы услуг, перетекание в нее молодых и физически здоровых мужчин на фоне сокращения рождаемости и миграционного притока.
Государство предпринимало нормативные действия по изменению указанных проблем: 2024 год был отмечен борьбой за рождаемость, запретом пропаганды чайлдфри, введением штрафов за склонение к абортам. Пока нереализованными остались предложения по соотнесению пенсии с количеством детей, а также утверждению выплат студенческим семьям.
Эффективность указанных мер еще только предстоит оценить, однако в 2024 г. число смертей на 5% больше, чем в 2023 г. В абсолютном выражении это 1 840 000–1 850 000 человек. Для сравнения: в 2023 г. умерло порядка 1 764 618 человек, т. е. число выросло на 80–85 тыс. Согласно статистическим данным, в 2023 г. число трудовых мигрантов на российском рынке составило около 3.5 млн человек, а из всех стран мира, в первую очередь из Узбекистана, Таджикистана и Киргизии, в Россию прибыло и зарегистрировалось в паспортных столах 560 000 человек, выбыло 450 000. Для сравнения: в 2019 г., последнем доковидном году, в страну прибыла 701 000 человек, а уехало 416 000.
При этом в России самая высокая зарплата у мигрантов-курьеров: 150 тыс. руб. в месяц предлагают компании – поставщики услуг населению. К ноябрю 2024 г. они получали больше российских врачей (88.4 тыс. руб.), учителей (47 тыс. руб.), а также IТ-специалистов (114.2 тыс. руб.). Кроме того, по уровню оплаты труда доставщики превзошли менеджеров по логистике и ВЭД (79.5 тыс. руб.), дизайнеров (70 тыс. руб.), бухгалтеров (62.3 тыс. руб.) и журналистов (50.4 тыс. руб.).
Директор департамента развития внутренней торговли Минпромторга Н. В. Кузнецов заявил, что сервисы доставки оттягивают из важных секторов экономики не менее 1.5 млн здоровых и физически сильных людей, при этом сами ничего не производят и убыточны. По его словам, они отучили «значительную часть потребителей… от банального навыка просто ходить по магазинам. <…> То есть убыточные сервисы оттягивают из других, в том числе производительных, секторов экономики столь дефицитный ресурс, как трудовые силы» 51.
Это серьезный вызов. Культурные акценты переориентируются с производства на потребление, и эта переориентация, нарушение баланса между потреблением и производством накладывают глубокий отпечаток на многие стороны человеческого бытия. Потребление смещает труд и трудовую этику как основные факторы социализации, культурации и мотивации, а также функционирования социально-властной системы. Уклонение от труда порицалось, а тунеядство входило в сферу уголовно-правового регулирования. Сегодня личная идентичность теряет связь с трудом и ролью человека в национальном производстве. Потребительство – это социокультурная система, где социальная идентификация построена не в сфере труда и производства, а вне работы – прежде всего в развлечениях, и в первую очередь в показных, демонстративных развлечениях. Теперь классификационным первенством обладает стиль жизни, на который указывают тело, одежда, машина, место отдыха и т. д.
Вице-премьер Т. А. Голикова оценивала совокупный дефицит кадров в России к 2030 г. в 2 млн человек 52. Министр труда и социальной защиты А. О. Котяков утверждал, что этот показатель составит не менее 2.4 млн человек 53. Вице-премьер А. В. Новак заявил, что дефицит высококвалифицированных кадров в России составляет около 1.5 млн человек 54. По словам главы Центробанка Э. С. Набиуллиной, нехватка рабочей силы служит главной проблемой экономики России. В ней практически не осталось рабочих рук, о чем свидетельствуют низкие показатели безработицы 55 – 2.3%, или 1 млн 753 тыс. человек в абсолютных цифрах, что стало самым низким показателем за всю историю наблюдения 56. К числу отраслей, где ситуация наиболее острая, глава Банка России относила машиностроение и химическую промышленность 57.
В феврале 2023 г. Н. П. Патрушев, выступая на совещании по подготовке специалистов авиационной промышленности в Рыбинске, подчеркнул, что только авиационной промышленности не хватает более 14 тыс. инженеров и конструкторов 58.
Глава сервиса по подбору сотрудников SuperJob А. Захаров считает, что «рынок труда у нас разбалансирован в результате сомнительного государственного регулирования в первую очередь. <…> Нам необходимо перераспределить людей по секторам экономики. <…> Нужно будет поменять налоговое законодательство, полностью закрыть тему самозанятости. Сейчас налоговые выгоды в сфере услуг при найме самозанятых – примерно 3 трлн руб. в год.., сфера услуг имеет такие налоговые преференции, которые IT-отрасли и не снились… Но нужно понимать, что ни за год, ни за два, ни за пять мы не сможем “перераспределить” 10 млн человек. Система, которая строилась 15 лет, за год не перестроится» 59.
Усугубляет ситуацию увеличение числа лиц, занятых в неформальном секторе. По данным Росстата, в третьем квартале 2024 г. их число достигло 15.837 млн человек, или 21.3% от уровня всей занятости. Это максимум среди всех кварталов с 2016 г. как по абсолютной численности, так и по доле в общей занятости (в третьем квартале 2016 г. показатели были выше –16.3 млн и 22.3%) 60. На рынке присутствует практика серого «аутстаффинга» – наем работников через посредников (в том числе через платформы), без зачисления в штат. Небывалый рост численности занятых в неформальном секторе экономики позволяет признать, что существует реальная угроза экономической безопасности 61. На наш взгляд, необходимо законодательно определить понятия теневой и платформенной занятости, а также создать и вести общедоступный реестр работодателей, у которых были обнаружены факты нелегальной занятости.
Не содействует экономическому росту и научно-технологическому развитию текущая кредитно-денежная политика. В октябре 2024 г. Банк России повысил ключевую ставку до 21%, это рекордный уровень в истории современной России. Физические и юридические лица понесли деньги в банки. К 1 октября 2024 г. юридические лица хранили на банковских счетах и депозитах 57.207 трлн руб., физические – 52.007 трлн руб. 62 Процентные платежи по этим средствам приближаются к 20 трлн руб., что больше, чем общая капитализация трех крупнейших публичных компаний в России – Сбербанка, «Роснефти» и ЛУКОЙЛ (14.8 трлн руб. на все три компании). Такими процентными доходами можно существенно увеличить капитализацию фондового рынка, но граждане предпочитают этого не делать. Жизнь рантье становится реальностью.
Основная доля активов населения (58.8%) размещена в банках в России и за рубежом на депозитах, еще 13.5%, или 14.39 трлн руб., приходится на вложения в акции и паи, в том числе иностранных фондов. 8.3% «портфеля» домохозяйств – наличная иностранная валюта (8.78 трлн руб.), а 4% (4.22 трлн руб.) вложено в облигации. Доля розничных инвесторов в IPO 2023 г. составила 73%, 2024 г. – 55%. Таким образом, в промышленность вкладывается ничтожно мало.
Вышеизложенные проблемы представлены в настоящем исследовании контурно, однако целью подобного анализа является демонстрация того, что проблемы аксиологического характера при всех изменениях научно-технологического уклада должны находиться и находятся в центре внимания государства и общества и должны быть принципиальным ориентиром в целевых индикаторах текущего и перспективного развития, о чем свидетельствуют внесенные в 2020 г. поправки в Конституцию РФ. В этой связи Председатель Совета Федерации В. И. Матвиенко и сенатор А. А. Клишас справедливо обращают внимание на то, что эффективный ответ на технологические вызовы может быть дан прежде всего в конституционно-правовом поле.
Для сферы общественных наук представляется перспективным и значимым эксплицитное включение вопросов промышленно-технологических и прочих научно-технологических изменений в предметное поле критических исследований. Необходимо реалистически, в том числе в философском ключе, смотреть на происходящие изменения не как на нечто само собой разумеющееся, а как на процесс, который оценивается и рассматривается не как результат, а как средство и условие для культурно-цивилизационного развития общества, реальное средство для обеспечения высоких и гарантированных стандартов благосостояния и социального благополучия. Председатель Конституционного Суда РФ В. Д. Зорькин подчеркивает, что опасность исходит не от технологий, а от человека, который управляет технологиями.
В юридических науках результаты научно-технического прогресса в целом, сопряженные с этим технологические угрозы и социо-гуманитарные вызовы, осмысливаются пока фрагментарно, как набор частных проблем отдельных отраслевых наук, которые, судя по всему, стремятся адаптироваться к темпам изменений и предложить общее включение в обсуждение вопросов. В регулировании искусственного интеллекта на примере опыта стран Западной Европы и США наблюдаются в основном рамочные решения, которые скорее декларируют готовность отвечать на имеющиеся вызовы, но сами решения пока вырабатываются явно с трудом.
Г. А. Киссинджер, бывший генеральный директор Google Э. Шмидт и главный специалист по исследованиям и стратегическому планированию в компании Microsoft К. Манди в статье «Искусственный интеллект может спасти человечество – или покончить с ним. Эпоха Homo technicus может привести к глубокому интеллектуальному прогрессу и решению наших самых серьезных проблем. Но сначала мы должны убедиться, что он нас не убьет» 63 считают, «что если человечество хочет использовать потенциал искусственного интеллекта и при этом управлять сопутствующими рисками, то в этом случае оно обязано действовать уже сейчас. При появлении новых модификаций ИИ, которые станут работать с фантастической скоростью, традиционные меры регулирования окажутся бесполезными. <…> В каждую ИИ-систему необходимо будет внедрить механизм обеспечения безопасности. Кроме того, отдельные страны и международные организации должны сформировать новые политические структуры для мониторинга ИИ-систем и наложения на них ограничений. С этой целью необходимо гарантировать, что действия ИИ не противоречат человеческим ценностям.
Однако более действенными, нежели любые ограничительные правила, невыполнение которых влечет за собой наказание, являются фундаментальные, подсознательные и универсальные человеческие представления. Для обозначения этих основ французский социолог Пьер Бурдьё (Pierre Bourdieu) ввел понятие “докса” (от греческого “doxa” – “общепринятые убеждения”); докса – это набор норм, институтов, стимулов, а также механизмов поощрения и наказания, которые в значительной степени пересекаются и, если их воспринимать в совокупности, в неявном виде учат отличать добро от зла, правильное от неправильного 64. Докса представляет собой кодекс человеческой истины, сформированный посредством наблюдений, которые осуществлялись на протяжении всей жизни. Несмотря на тот факт, что некоторые из этих истин характерны для определенных обществ или культур, совпадение фундаментальных принципов человеческой морали и поведения все равно значительное.
Однако кодекс на основе доксы не может быть сформулирован человеком, а тем более переведен в формат, который могли бы понять компьютеры. Компьютер должен быть обучен так, чтобы он выполнял эту работу самостоятельно – машина должна научиться действовать, вырабатывая собственное понимание человеческого поведения и соответствующим образом модифицировать принципы своего функционирования.
Конечно, машинное обучение не должно основываться исключительно на доксе. Скорее даже искусственному интеллекту следовало бы перейти к усвоению целой иерархии правил, начиная от международных соглашений и вплоть до национального законодательства, местных законов, общественных норм и так далее. В любой конкретной ситуации ИИ будет консультироваться с каждым слоем этой иерархии, переходя от абстрактных предписаний, определенных людьми, к фиксированному, хотя и нечеткому, восприятию информации о мире, которую он смог усвоить. И только в том случае, когда ИИ исчерпает всю эту программу и не сможет найти ни одного закона, который бы содержал разрешений или запретов в отношении тех или иных ситуаций, ему следует обратиться к тем выводам, которые он сделал в прошлом на основе своего собственного анализа поддающихся наблюдению человеческих действий. Таким образом, он будет функционировать, опираясь на человеческие ценности, даже в тех случаях, когда какие-либо писаные законы и нормы вообще отсутствуют» 65.
Основная трудность как раз состоит в том, что нет общего понимания категории «человеческие ценности». Если же не будет достигнуто единодушия в вопросе, что такое человек, то в этом случае мы поручим решение этой фундаментальной задачи (т. е. определения наших ценностей и тем самым оправдания нашего, человеческого, существования) искусственному интеллекту, а это рискованно. Достижение согласия по вопросу о понимании того, какой смысл вкладывается в понятие ценностей, а также в вопросе о том, как именно ими следует оперировать на практике, – это философская, дипломатическая и юридическая задача нынешнего века.
Пока человечество делает первые шаги в решении этой новой проблемы современного технологического уклада. В частности, Европейский парламент принял Закон об искусственном интеллекте 66 – первую в мире всеобъемлющую правовую базу в области ИИ, – масштабный пакет мер, направленный на защиту потребителей от потенциально опасных применений искусственного интеллекта. Правительственные чиновники предприняли этот шаг на фоне опасений, что недавние достижения в области технологий могут быть использованы в неблаговидных целях, что приведет к слежке, дискриминации, управляемой алгоритмами, и распространению дезинформации. С одной стороны, декларируется содействие внедрению искусственного интеллекта, ориентированного на человека и заслуживающего доверия, и обеспечение высокого уровня защиты здоровья, безопасности, основных прав, демократии и верховенства права, а также окружающей среды от вредного воздействия систем искусственного интеллекта при одновременном поощрении инноваций и улучшении функционирования единого рынка. С другой стороны, этот Закон используется в идеологических целях, поскольку отдельным странам ЕС рекомендуется не принимать самостоятельных актов, что могло бы привести к фрагментации единого рынка и подорвать правовую определенность участников, разрабатывающих или использующих системы ИИ. При этом в США по-прежнему только обсуждается возможность такого закона.
Резолюция Генеральной Ассамблеи ООН от 11 марта 2024 г. A /78/Л.49 «Использование возможностей безопасных, защищенных и заслуживающих доверия систем искусственного интеллекта для устойчивого развития» призывает «разрабатывать и поддерживать нормативно-правовые и организационно-управленческие подходы и рамки, относящиеся к системам искусственного интеллекта и создающие благоприятную экосистему на всех уровнях». Эта резолюция призвана содействовать разработке, внедрению и раскрытию механизмов мониторинга рисков и управления ими, механизмов защиты данных, включая защиту персональных данных и политику конфиденциальности, а также в соответствующих случаях оценки воздействия на протяжении всего жизненного цикла систем искусственного интеллекта. Предложение о ее принятии было инициировано Соединенными Штатами Америки и получило поддержку Китая и 121 государства. Инициатива объединяет ряд усилий правительств всего мира по влиянию на траекторию развития ИИ после запуска ChatGPT и GPT-4.
Новое соглашение ООН, возможно, – первое «глобальное» соглашение в смысле участия каждой страны ООН, однако не первый межгосударственный акт в данной сфере. Так, на протяжении десятилетия были подписаны важные документы в рамках БРИКС. 23 августа 2023 г. Председатель КНР Си Цзиньпин призвал БРИКС сформировать общую структуру управления ИИ в рамках БРИКС. В настоящий момент нет официальных подробностей по структуре и функциям новой рабочей группы БРИКС, тем не менее работа по институционализации сотрудничества стран БРИКС продолжается уже больше восьми лет. В 2021 г. по поручению Президента РФ велась работа по разработке декларации сотрудничества стран БРИКС в сфере ИИ для вынесения данного вопроса в повестку дня саммита БРИКС в 2021–2022 гг.
Разработка этических документов по правилам применения ИИ является ключевым трендом их регулирования. Одним из первых таких документов стал акт, разработанный А. В. Незнамовым и В. Б. Наумовым (сотрудниками Института государства и права РАН), – «Модельная конвенция о робототехнике и искусственном интеллекте. Правила создания и использования роботов и искусственного интеллекта. Версия 1.0».
На саммите будущего, который проходил в Нью-Йорке 22–23 сентября 2024 г., как одно из приложений к Пакту будущего 67 государства – члены ООН приняли Глобальный цифровой договор (ГЦД) 68, который уравнивает роль государств, гражданского общества и бизнеса, а также акцентирует правочеловеческий и гендерный нарратив в западной трактовке 69, прежде всего усиливает глобальный Север, который лидирует в указанных областях. В поддержку ГЦД проголосовало 143 государства. В настоящее время техническое управление инфраструктурой Интернета осуществляет зарегистрированная в США дочерняя структура ICANN Public Technical Identifiers (PTI), что дает Вашингтону возможность влиять на значимые политические и экономические решения, связанные с управлением Интернетом, прежде всего управлением системой доменных имен и распределением блоков IP-адресов. Россия последовательно исходит из необходимости адаптировать ООН к современным реалиям многополярного мира, в том числе в цифровом пространстве. Для глобального Юга приоритетным представляется акцент на цифровом суверенитете и преодолении цифрового разрыва, борьбе с цифровым неоколониализмом и неоколониализмом данных, что позволит сделать цифровое пространство подлинно инклюзивным. Россия не поддержала ГЦД.
ГЦД затрагивает вопросы управления Интернетом, преодоления цифрового разрыва, выработки международных правил для платформ социальных сетей и регулирования искусственного интеллекта и ряд других смежных вопросов. Цифровое сотрудничество должно быть закреплено в правах человека и в международном праве. Правительства, технологические гиганты и соцсети должны сделать онлайн-пространство безопасным для всех, в том числе для детей, женщин и социально незащищенных групп. Именно в этом Российская Федерация видит ключевую роль данного документа.
Как уже указывалось, социальные сети стали местом притяжения негатива, лжи, дезинформации. Такие понятия, как патриотизм, сотрудничество, развитие страны, духовно-нравственные ценности задвигаются в информационной повестке, высмеиваются. Сознание людей деформируется информационными технологиями. У людей возникают сложности с выбором правильных ориентиров, соотносящихся с морально-нравственными нормами общества и ценностными установками самой личности. Новым полем битвы становится когнитивная сфера, а новым конфликтом станет более масштабная борьба за власть; соревнование за когнитивное превосходство. Когнитивная война теперь рассматривается в НАТО как самостоятельный театр военных действий.
Современные технологии информационно-коммуникационного воздействия, сама глобальная информационно-коммуникационная инфраструктура, управляемая англосаксонскими бенефициарами, позволяют не просто осуществлять традиционное воздействие на массовое сознание, но, агрессивно проникая через границы национальных информационных пространств, активно осуществлять сбор пользовательских данных, выступающих сегодня новым ресурсом цифрового надзорного капитализма для адаптации информационно-коммуникационной деятельности к особенностям отдельных групп населения государств и индивидов. Такого рода адаптивный потенциал позволяет эффективно воздействовать на традиционное миропонимание и мировоззренческие системы, трансформируя и разрушая казавшиеся незыблемыми ценности, смыслы, символы, представления в интересах глобальных геополитических акторов. При этом переход к цифровому точечному таргетированию информационно-коммуникационного воздействия позволяет ослаблять геополитических соперников, внося в их общественные системы дополнительное разнообразие на мировоззренческом уровне, что в соответствии с законом У. Р. Эшби 70 существенным образом снижает способность «сопротивляющихся» государств осуществлять эффективное управление на национальном уровне, поддерживать внутри собственной системы порядок, стабильность, согласие и консолидацию на основе общих ценностей, смыслов, символов, представлений. Применение технологий Big Data уже сегодня позволяет формировать индивидуальные мировоззренческие модели, порождая тем самым ценностно-смысловой конфликт на основе фрагментации мировоззрения среди различных групп населения стран-мишеней по принципу «разделяй и властвуй».
В подобных условиях особую актуальность приобретает национальный информационный и технологический суверенитет государств, способных противостоять реализации подобного сценария. Эффективная защита и сохранение собственных систем мировоззрения становятся для современных независимых государств критическим вызовом 71.
Юридическая наука, как и общественные науки в целом, должны быть готовы к коренному перелому хозяйственной системы, к необходимости базисных трансформаций.
В настоящее время как раз одной из насущных задач в обеспечении политико-правового развития общества, с учетом объективно формирующейся архитектуры многополярного мира, является создание нового качества политико-правовых знаний, опирающихся на лучшие достижения предшественников, но способных все же фиксировать и разъяснять те проблемы, которые возникают на данном этапе. А таких проблем существует немало, и они зачастую не могут быть надлежащим образом проанализированы без учета их сложного и комплексного характера, современной динамики правового развития.
Отечественными учеными были сделаны важнейшие шаги на пути разработки ключевых проблем понимания сущности и назначения государства, его структурных и функциональных характеристик, но сегодня нужна полноценная и комплексная разработка вопросов реального функционирования государства, его принципиальной роли в условиях новой научно-технологической архитектуры национальной и мировой хозяйственно-экономической систем. Это одна из профильных познавательных и практических задач современной концепции государствоведения и государственного права.
Вопросы государствоведения на современном этапе научно-технологического и промышленного развития имеют совершенно определенную специфику, без учета которой невозможно преодоление тех трудностей и проблем, которые сдерживают государственное строительство, обеспечение конституционных целей развития. В этой связи необходимо отметить несколько важных моментов:
государствоведение как область юридических знаний давно оказалось в положении отстаивания права на свою самостоятельность, так как схожей проблематикой занимаются и некоторые другие общественно-политические дисциплины. Предметная и методологическая специфика далеко не всегда отчетливо просматривается, а междисциплинарные границы размываются в стремлениях нарастить определенные объемы количественно новых знаний. В результате дисциплинарный лексикон, например, юриспруденции и политологии часто перекликается, но сопровождается какими-то оттеночными пояснениями. Недостатки и уязвимости в юридической теории государства, которая имеет глубочайшие традиции, усиливаются при некритическом замещении их политологическими знаниями, которые могут использоваться лишь как вспомогательный ресурс. В итоге возникает новая проблема;
проблематика государствоведения поглощается конституционализмом, который даже по своей терминологической форме скорее напоминает область политической социологии.
В Германии, России, во Франции еще в XIX в. сформировались прочные основы государственного права. Были разные трактовки и интерпретации, типологические разъяснения, попытки сформировать адекватный именно государственному праву понятийный аппарат 72. В дальнейшем государственно-правовое направление стало, особенно в западной литературе, активно разбавляться идеями и объяснительными приемами политической социологии, трансформировавшейся в политологию. Однако при всей важности социолого-политологического ракурса проблемы государства как фундаментальной структуры организации и управления общественными процессами никуда не исчезли. Теория государства – это нормативно-критическая наука, в основе которой лежит прежде всего юридический компонент;
в настоящее время нужна другая концепция понимания государственного права, которая отчасти воспроизводит и обобщает наработки предшествующих подходов к нему. Государственное право не стремится к тому, чтобы заменить конституционное право с его комплексом предметных и методологических характеристик. Оно лишь фиксирует и комплексно разрабатывает проблематику роли и назначения государства, стремится сформировать уточненный и современный понятийный словарь государственно-правового профиля, не копирующий частноправовые понятия, политологические характеристики. В правовой жизни регулярно появляются новые элементы и задачи, которые требуют специального внимания со стороны государственного права. В решении задач эффективного регулирования экономического развития возрастающее значение приобретают доктринальные акты – Стратегии, Концепции, которые нередко становятся значительно более важным регулятором, чем традиционные правовые предписания и нормы. При этом сложившиеся представления об источниках права, отраслевой структуре правовой системы не позволяют исчерпывающим образом объяснить и учесть природу и характер соответствующих регуляторов. Для этого используются часто заменители в виде таких конструктов, как доктринальные акты, «мягкое право». Но это лишь симптоматичные ответы, которые вовсе не дотягивают до уровня концептуального анализа;
правовое развитие требует стабильности и определенности, особенно в условиях современного научно-технологического уклада, в связи с темпами и задачами экономического развития, но в этой области существуют пробелы системного характера. Одним из таких чувствительных вопросов может быть совершенствование природы и назначение федеральных конституционных законов. Они принимаются крайне редко, несмотря на то что призваны служить непосредственным системным регулятором в решении фундаментальных конституционных вопросов 73. В советское время был накоплен значительный опыт использования такой конституирующей общезначимые системные вопросы правового регулирования конструкции, как Основы законодательства Союза ССР и союзных республик. Этот опыт в значительной мере в созвучии с ролью федеральных конституционных законов может быть переосмыслен, и лучшие его элементы, возможно, станут серьезным подспорьем в разработке принципов и инструментов системного регулирования различных сфер жизни общества. Иначе в не поддающемся часто никакому разумному прогнозированию потоке законодательных решений, изменений и дополнений теряется одно из важнейших качеств правового регулирования – его стабильность и определенность. Это проблемы эффективности государственно-правового регулирования, прежде всего в свете создания государством наиболее действенных инструментов, а не только реагирования на юридически значимые ситуации по типу пожарной команды, вызываемой для разрешения критических ситуаций. Поэтому нужна концептуальная формула современного государственного права, которое принципиально ставит себе задачу активного и рационально осмысленного участия государства в правовой жизни общества, а не просто обеспечивает некое стабильное правовое пространство. Существующая в настоящее время концепция носит на себе печать цивилистического мышления, которое совершенно не отвечает в полной мере роли и назначению государства в современном мире.
В современных реалиях необходимо возобновление дискуссии о государственном праве для кристаллизации роли государства в условиях новой геополитической реальности с целью обеспечения национальной безопасности, сохранения российской государственности и реализации стратегии прорывного технологического, экономического и социального развития страны.
Все это подпитывается такими тенденциями мирового развития, как:
усложнение общественных отношений, что диктует потребность в таких инструментах, как государственное регулирование;
глобализация ряда проблем, требующих в своем разрешении усиления роли государственного воздействия;
рост социальных и национальных конфликтов, преодолеть которые возможно лишь адекватным и влиятельным государственно-правовым инструментарием;
противоборство социально-экономических систем в мировых масштабах в силу ограниченности земного пространства, израсходования ресурсов, близости народов и необходимости нахождения общих решений.
Как отметил В. Д. Зорькин, «в настоящее время при всем обилии программных документов и стратегий развития различных сфер экономической и общественной жизни нам явно не хватает ясного, целостного, стратегического в подлинном смысле этого слова образа будущего, который мог бы объединить различные слои общества и стать основой общественного согласия» 74.
Необходимость переосмысления основ конституционного устройства страны всегда контекстно связана с существующей политико-правовой реальностью. Это влечет изменение структуры и механизмов функционирования политических, экономических и социальных институтов.
* * *
В мире уже ни у кого нет сомнений, что государство – активный участник социальных и экономических процессов, протекающих в обществе. В условиях современного «глобального шторма» как никогда становятся актуальными проблемы формирования сбалансированного корпуса норм и институтов, отражающих, закрепляющих и развивающих общественный и государственный строй общества, систему общественных и государственных учреждений, принципы их взаимоотношений, объем их обязанностей и прав, методы их деятельности, а также изучение различного рода публично-правовых институтов, определяющих права и обязанности граждан в их отношениях как к обществу и государству, так и друг к другу.
Требуется четкая регламентация механизма функционирования конституционной конструкции государственной власти, что может быть реализовано в рамках самостоятельной науки «государственного права». Важность данной проблемы вытекает из анализа текста Конституции РФ, которая значительное внимание уделяет проблеме власти, государства и государственных органов. В частности, термин «власть» упоминается свыше 100 раз в тексте; вопросы полномочий федерации, ее субъектов, а также отдельных министерств и ведомств затрагиваются более 70 раз.
В текущих условиях в сферу государственного права должны войти вопросы стратегического планирования в процессе целеполагания, прогнозирования, планирования и программирования социально-экономического развития Российской Федерации, субъектов Российской Федерации и муниципальных образований, отраслей экономики и сфер государственного и муниципального управления, обеспечения национальной безопасности Российской Федерации, а также мониторинга и контроля реализации документов стратегического планирования.
Такой подход позволяет лучше и эффективнее реализовать конституционную программу дальнейшего развития государства и общества в условиях современного научно-технологического развития и социогуманитарных вызовов, с которыми мы столкнулись.
1 Keynes J. M. General Theory of Employment, Interest and Money. London, 1936.
2 См.: Hicks J. R. Mr. Keynes and the “Classics”; A Suggested Interpretation // Econometrica. 1937. Vol. 5. No. 2. Pp. 147–159.
3 См.: Блюмин И. Г. Кейнсианство как типичное выражение современной буржуазной политической экономии // Критика современной английской и американской политической экономии: в 3 т. М., 1962. Т. 2. С. 72–81.
4 Friedman M., Schwartz A. J. A monetary history of the United States, 1867–1960. Princeton, 1963.
5 См.: Romer P. M. Endogenous Technological Change // The Journal of Political Economy. 1990. Vol. 98. No. 5. Part 2. Pp. S71–S102.
6 См.: Смородинская Н. В., Катуков Д. Д., Малыгин В. Е. Шумпетерианская теория роста в контексте перехода экономических систем к инновационному развитию // Journal of Institutional Studies. 2019. No. 11(2). Pp. 060–078.
Шумпетерианское направление в теориях роста охватывает разработанные в начале 1990-х годов модели Агийона – Хоуитта (1992) и Гроссмана – Хэлпмана (1991), а также весь последующий цикл улучшенных версий этих моделей (см.: Aghion P., Howitt P. Endogenous growth theory. Cambridge, 1998) вплоть до самых современных (см.: Akcigit U., Kerr W. R. Growth Through Heterogeneous Innovations // Journal of Political Economy. 2018. Vol. 126. Iss. 4. Pp. 1374–1443; Acemoglu D., Akcigit U., Alp H. et al. Innovation, Reallocation, and Growth // American Economic Review. 2018. Vol. 108. No. 11. Рp. 3450–3491). Эти модели объединены в литературе в интегрированное понятие шумпетерианской теории роста (Schumpeterian growth theory), поскольку увязывают устойчивый рост экономики на базе применения инноваций с успешной работой рынков по эффективной реаллокации ресурсов (капиталов, рабочей силы, технологий и др.) – их постоянному перемещению от менее производительных экономических агентов и менее продуктивных видов деятельности к более производительным и продуктивным (см.: Decker R. A., Haltiwanger J., Jarmin R. S., Miranda J. Declining Dynamism, Allocative Efficiency, and the Productivity Slowdown // Finance and Economics Discussion Series. 2017).
7 См.: Solow R. M. A Contribution to the Theory of Economic Growth // The Quarterly Journal of Economics. 1956. Vol. 70. No. 1. Pp. 65–94.
8 См.: Swan T. W. Economic growth and capital accumulation // The Economic Record. 1956. Vol. 32. No. 2. Pp. 334–361.
9 См.: Лаптев В. В. Экономика и право. Теория и практика правового регулирования хозяйственных отношений. М., 1981.
10 См.: Шкредов В. П. Экономика и право. О принципах исследования производственных отношений в связи с юридической формой их выражения. М., 1967.
11 См.: Шебанов А. Ф. Нормы советского права и их роль в создании и развитии социалистической экономики СССР: автореф. дис. … канд. юрид. наук. М., 1951.
12 См.: Братусь С. Н. Роль права в развитии советской экономики. М., 1971.
13 См.: Мозолин В. П., Нечаева А. М., Рубанов А. А., Скрипко В. Р. Гражданское право и экономика. М., 1985.
14 См.: Нерсесянц В. С. Национальная идея России во всемирно-историческом прогрессе равенства, свободы и справедливости. Манифест о цивилизме. М., 2001.
15 См.: Гаджиев Г. А. Право и экономика (методология): учеб. для магистрантов. М., 2016.
16 См. подр.: Вебер М. Хозяйство и общество: очерки понимающей социологии: в 4 т. М., 2018.
17 См.: Soller H., Mohr N., Heide A., Gschwendtner M. Quantum sensing is viable and could touch many parts of businesses. Here’s what leaders across industries should know. 2024. URL: https://www.mckinsey.com.br/capabilities/mckinsey-digital/our-insights/quantum-sensings-untapped-potential-insights-for-leaders (дата обращения: 30.11.2024); Fan A., Liang R. 2024 Yearender: China’s space sector soars to new heights, setting new goals. URL: https://www.globaltimes.cn/page/202412/1325567.shtml (дата обращения: 30.11.2024).
18 См.: “Nobel Prize in Chemistry Awarded to 2 Scientists for Work on Genome Editing – Emmanuelle Charpentier and Jennifer A. Doudna developed the Crispr tool, which can alter the DNA of animals, plants and microorganisms with high precision”. The New York Times. URL: https://www.nytimes.com/2020/10/07/science/nobel-prize-chemistry-crispr.html (дата обращения: 30.11.2024).
19 См.: Goenka H. Bioterrorism and Gene Editing: Can CRISPR Tool be Used as Biological Weapon in War? 2016. URL: https://www.ibtimes.com/bioterrorism-gene-editing-can-crispr-tool-be-used-biological-weapon-war-2460102 (дата обращения: 30.11.2024).
20 См.: Livingston S., Risse M. The Future Impact of Artificial Intelligence on Humans and Human Rights. Ethics & International Affairs, 2019. Vol. 33. Iss. 2. Pp. 141–158; Moor J. Four Kinds of Ethical Robots // Philosophy Now. 2009. Vol. 72. Pp. 12–14.
21 Вернадский В. И. Научная мысль как планетное явление. М., 1991. С. 43.
22 На Украине заработал оборонный завод Rheinmetall, планируется строительство еще трех предприятий. Rheinmetall собирается построить на Украине пороховой завод и завод по изготовлению боеприпасов для танков. По словам главы концерна, компания стремится также наладить производство систем противовоздушной обороны.
23 См.: URL: https://www.government.nl/ministries/ministry-of-foreign-affairs/activiteiten/reaim (дата обращения: 30.11.2024).
24 См.: Resolution 78/241 “Lethal autonomous weapons systems” adopted by the United Nations General Assembly on 22 December 2023. URL: https://docs-library.unoda.org/General_Assembly_First_Committee_-Seventy-Ninth_session_(2024)/78-241-US-EN.pdf (дата обращения: 30.11.2024).
25 См.: Единороги в 2024 году: больше, дороже, умнее. URL: https://issek.hse.ru/news/951771910.html (дата обращения: 30.11.2024).
26 См.: Global Innovation Index 2024. URL: https://www.wipo.int/web-publications/global-innovation-index-2024/en/ (дата обращения: 30.11.2024).
Глобальный инновационный индекс оценивает человеческий капитал и научные исследования по трем направлениям: образование, высшее образование и НИОКР.
27 Во всем мире расходы на НИОКР корпораций с самыми высокими расходами на НИОКР выросли примерно на 6% в реальном выражении в 2023 г., что ниже долгосрочных темпов роста за последние шесть лет (около 8%), и значительно снизились с пиковых значений в 10–13% в период 2019–2021 гг.
28 См.: Global Innovation Index 2024. URL: https://www.wipo.int/web-publications/global-innovation-index-2024/en/ (дата обращения: 30.11.2024).
29 The CHIPS (“Creating Helpful Incentives to Produce Semiconductors”) and Science Act – это федеральный Закон США, принятый 117-м Конгрессом Соединенных Штатов и подписанный президентом Джо Байденом 09.08.2022 г. Закон предусматривает выделение примерно 280 млрд долл. нового финансирования для стимулирования внутренних исследований и производства полупроводников в Соединенных Штатах, а также 25%-ные инвестиционные налоговые льготы на затраты на производственное оборудование и 13 млрд долл. на исследования в области полупроводников и обучение персонала. Он также инвестирует 174 млрд долл. в общую экосистему исследований государственного сектора в области науки и техники, развития космических полетов человека, квантовых вычислений, материаловедения, биотехнологий, экспериментальной физики, безопасности исследований. По оценкам аналитиков, к марту 2024 г. Закон стимулировал от 25 до 50 отдельных потенциальных проектов с общим прогнозируемым объемом инвестиций в размере 160–200 млрд долл. и созданием 25 000– 45 000 новых рабочих мест.
30 См.: Бональя Д., Ривера Леон Л. (ВОИС), Ниндл Э. (Объединенный исследовательский центр Европейской комиссии). В 2022 г. расходы на научно-исследовательские и опытно-конструкторские работы (НИОКР) 2500 крупнейших компаний, инвестирующих в НИОКР, превысят 1.3 триллиона евро. 30 апреля 2024 г. URL: https://www.wipo.int/ru/web/global-innovation-index/w/blogs/2024/r-and-d-spenders (дата обращения: 30.11.2024).
31 См.: Global Innovation Index 2024.
32 См.: Федеральный закон от 31.07.1998 № 155-ФЗ «О внутренних морских водах, территориальном море и прилежащей зоне Российской Федерации» (ст. 14) // СЗ РФ. 1998. № 31, ст. 3833.
33 См.: Ледокольный флот России – самый мощный в мире. 20 февраля 2024. URL: https://mintrans.gov.ru/press-center/news/11115 (дата обращения: 30.11.2024).
34 Keegan J., Wheatcroft A. Zones of Conflict: An Atlas of Future Wars. New York, 1986.
35 Executive Order on Taking Additional Steps with Respect to the Russian Federation’s Harmful Activities. Section 1, subsection (а, b, f). December 22, 2023. URL: https://www.whitehouse.gov/briefing-room/presidential-actions/2023/12/22/executive-order-on-taking-additional-steps-with-respect-to-the-russian-federations-harmful-activities/ (дата обращения: 30.11.2024).
36 См.: Russia-related Designations and Updates; Issuance of Russia-related General Licenses and Frequently Asked Questions; Publication of Russia-related OFAC Alert. 21/11/2024. Treasury Sanctions Gazprombank and Takes Additional Steps to Curtail Russia’s Use of the International Financial System. URL: https://ofac.treasury.gov/recent-actions/20241121 (дата обращения: 30.11.2024).
37 См..: URL: http://www.kremlin.ru/events/president/news/75751 (дата обращения: 30.11.2024).
38 См.: URL: https://www.rbc.ru/economics/22/10/2024/6717ac329a79478792f175ec (дата обращения: 30.11.2024).
39 См.: URL: http://www.kremlin.ru/acts/bank/50358
40 См.: URL: http://www.kremlin.ru/acts/bank/50542
41 См.: URL: http://www.kremlin.ru/acts/bank/50755
42 См.: Изобретение радио А. С. Поповым: сб. документов и материалов / под ред. А. И. Берга. М.; Л., 1945. С. 15–18.
43 См.: Четвериков С. С. О некоторых моментах эволюционного процесса с точки зрения современной генетики // Журнал экспериментальной биологии. Сер. А. М.; Л., 1926. Т. 2. Вып. 1. С. 3–54.
44 См.: Ромашов Д. Д. Закон расщепления Менделя, как общебиологический закон. Статья. 1939. Открытый архив СО РАН. URL: http://odasib.ru/OpenArchive/Portrait.cshtml?id=Xu_pavl_634993802223476562_9960 (дата обращения: 30.11.2024).
45 Грэхэм Л. Р. Сможет ли Россия конкурировать? История инноваций в царской, советской и современной России. М., 2014.
46 Graham L. Why Does Russia Have So Much Trouble Modernizing? URL: https://eusp.org/sites/default/files/archive/centres/sts/Loran_Graham_text.pdf?ysclid=m59dvb20pi780540436 (дата обращения: 30.11.2024).
47 Treisman D. Russia’s Tom Sawyer Strategy // IWM post. Vol. 106 (January–March 2011). P. 14.
48 См.: Обзор отчетности об инцидентах информационной безопасности при переводе денежных средств. III квартал 2024 года. 9 декабря 2024 года. Центральный банк России. URL: https://cbr.ru/statistics/ib/review_3q_2024/ (дата обращения: 30.11.2024).
49 См.: Роскомнадзор зафиксировал более 710 миллионов утекших записей о россиянах [Электронный ресурс]. – Режим доступа: URL: https://ria.ru/20250116/roskomnadzor-1993941562.html
50 См.: URL: https://www.rbc.ru/technology_and_media/17/12/2024/6760f3739a794711492f0b03 (дата обращения: 30.11.2024).
51 URL: https://www.rbc.ru/society/06/12/2024/675258da9a79470b0302455 (дата обращения: 30.11.2024).
52 См.: Голикова заявила, что к 2030 году в России может не хватать 2 млн специалистов. URL: https://rg.ru/2023/11/28/golikova-zaiavila-chto-k-2030-godu-v-rossii-mozhet-ne-hvatat-2-mln-specialistov.html (дата обращения: 30.11.2024).
53 См.: Депутаты обсудили с Правительством роль системы среднего профессионального образования в кадровом обеспечении отраслей производства. URL: http://duma.gov.ru/news/60466/ (дата обращения: 30.11.2024).
54 См.: Дефицит квалифицированных кадров в России достиг 1,5 млн человек. URL: https://www.rbc.ru/economics/11/12/ 2024/67596ef49a79474844647e79 (дата обращения: 30.11.2024).
55 См.: Набиуллина назвала основную проблему экономики России. URL: https://www.rbc.ru/economics/09/11/2023/654c8ef89a7947166afec281 (дата обращения: 30.11.2024).
56 См.: Безработица в РФ в октябре обновила исторический минимум. Показатель опустился до 2.3%. URL: https://www.interfax.ru/russia/994772 (дата обращения: 30.11.2024).
57 См.: Макроэкономический опрос Банка России: декабрь 2024 года. URL: https://cbr.ru/statistics/ddkp/mo_br/ (дата обращения: 30.11.2024); В ЦБ не видят, откуда в экономике могут появиться новые рабочие руки. URL: https://www.interfax.ru/business/996293 (дата обращения: 11.12.2024).
58 См.: Секретарь Совбеза России заявил о нехватке тысяч инженеров и конструкторов в авиационной отрасли // Военное обозрение. 3 февраля 2023. URL: https://topwar.ru/210186-sekretar-sovbeza-rossii-zajavil-o-nehvatke-tysjach-inzhenerov-i-konstruktorov-v-aviacionnoj-otrasli.html (дата обращения: 30.11.2024).
59 «У нас дефицит в 500 тыс. учителей. Зато пицца приезжает за 15 минут». URL: https://www.kommersant.ru/doc/7380789 (дата обращения: 30.11.2024).
60 См.: URL: https://www.rbc.ru/newspaper/2024/12/05/674ef2b19a794766c71facdc?ysclid=m4d57bt2cd941364577 (дата обращения: 30.11.2024).
61 По регионам неформальная занятость в третьем квартале 2024 г. выросла больше всего по сравнению с тем же кварталом 2023 г. в Москве (+156%, или +678 тыс. человек), на Чукотке (+108%, или +0,8 тыс.), в Севастополе (+45%, или +23 тыс.), Санкт-Петербурге (+44%, или +104 тыс.), Забайкальском крае (+36%, или +30 тыс.), а сократилась она больше всего в Хакасии (−32%, или −24 тыс. человек), Пензенской области (−23%, или −41 тыс.), Хабаровском крае (−21%, или −25 тыс.).
Что касается секторов в экономике, где наиболее распространена неформальная занятость, то лидерами традиционно являются сферы торговли и авторемонта – более 3.9 млн неформально занятых в 2023 г. На втором месте – сельское, лесное хозяйство, охота, рыболовство и рыбоводство, там на конец 2023 г. трудились 2 млн неформально занятых. Также высокая неформальная занятость в сфере транспортировки и хранения (1.4 млн человек на конец 2023 г.), в строительстве и обрабатывающем производстве (по 1.3 млн человек на конец 2023 г.).
62 См.: О развитии банковского сектора Российской Федерации в сентябре 2024. Информационно-аналитический материал. Банк России. Октябрь 2024. С. 7, 8, 14 [Электронный ресурс]. – Режим доступа: URL: https://www.cbr.ru/Collection/Collection/File/50763/razv_bs_24_09.pdf
63 Kissinger H. A., Schmidt E., Mundie C. AI Can Save Humanity – Or End It. The age of Homo technicus could generate profound intellectual advances and solutions to our gravest problems. But first we need to ensure that it doesn’t kill us off. The Atlantic. November 12, 2024. URL: https://www.theatlantic.com/ideas/archive/2024/11/ai-genesis-excerpt-kissinger-schmidt-mundie/680619/ (дата обращения: 30.11.2024).
64 Основываясь на теориях Карла Маркса, Зигмунда Фрейда, Макса Вебера, Эмиля Дюркгейма, Клода Леви-Стросса, Эрвина Панофски, Марселя Мосса и др., а также подвергая их критике, в своих исследованиях он впервые использовал новые исследовательские рамки и методы и ввел такие влиятельные концепции, как культурные, социальные и символические формы капитала (в отличие от традиционных экономических форм капитала), культурное воспроизводство, габитус, поле деятельности или местоположение и символическое насилие. Еще одним заметным влиянием был Блез Паскаль, в честь которого он назвал свои «Паскалевские размышления».
Следуя пониманию Дюркгейма, Бурдьё считал, что социология культуры – это социология религии нашего времени. Раннее использование гуссерлевской концепции «докса» в его работах можно рассматривать как непосредственно связанное с этим подходом. Докса имеет ряд родственных значений и типов понимания в работах Бурдье, но в широком смысле это понятие относится к неправильному пониманию форм социального произвола, которое порождает неформализованное, недискурсивное, но усвоенное и практическое признание того же социального произвола. Это способствует его воспроизводству в социальных институтах, структурах и отношениях, а также в сознании и умах, ожиданиях и поведении.
В своих работах Пьер Бурдьё подчеркивал, что социальные классы, особенно правящие и интеллектуальные, сохраняют свои социальные привилегии на протяжении поколений, несмотря на миф о том, что современное постиндустриальное общество может похвастаться равенством возможностей и высокой социальной мобильностью, достигаемыми благодаря формальному образованию.
65 Kissinger H. A., Schmidt E., Mundie C. Op. cit.
66 См.: Document 32024R1689. Regulations (EU) 2024/1689 of the European Parliament and of the Council of 13 June 2024 laying down harmonised rules on artificial intelligence and amending Regulations (EC) No 300/2008, (EU) No 167/2013, (EU) No 168/2013, (EU) 2018/858, (EU) 2018/1139 and (EU) 2019/2144 and Directives 2014/90/EU, (EU) 2016/797 and (EU) 2020/1828 (Artificial Intelligence Act) (Text with EEA relevance). URL: http://data.europa.eu/eli/reg/2024/1689/oj
67 См.: Пакт во имя будущего. Резолюция, принятая Генеральной Ассамблеей 22.09.2024 г. A/RES/79/1.
68 См.: Глобальный цифровой договор. 22.09.2024. A/ RES/79/1. С. 48/74–68/74.
69 В тексте Пакта во имя будущего слово «гендер» встречается 35 раз, в то время как «суверенитет» – всего четыре раза, «вмешательство» – один раз.
70 См.: Ashby W. R. Introduction to Cybernetics. Chapman & Hall, 1956.
71 См.: Butler S. The Notebooks of Samuel Butler. Auckland, 2011. URL: https://archive.org/stream/cu31924013448299#page/n1/mode/2up(дата обращения: 30.11.2024); Chomsky N. Necessary Illusions, Thought Control International Democratic Societies. Boston, 1990. URL: http://vho.org/aaargh/fran/livres5/ILLUSNS.PDF (дата обращения: 30.11.2024); Lazarsfeld P., Merlon R. Mass Communication, popular taste and organized social action. In: Bryson (ed.) The Communication of Ideas. NY, 1948; Naughton J. The goal is to ʽautomate us’: welcome to the age of surveillance capitalism. URL: https://www.theguardian.com/technology/2019/jan/20/shoshana-zuboff-age-of-surveillance-capitalism-google-facebook (дата обращения: 30.11.2024); Naughton J. The Social Dilemma: a wake-up call for a world drunk on dopamine? URL: https://www.theguardian.com/commentisfree/2020/sep/19/the-social-dilemmaa-wake-up-call-for-a-world-drunk-on-dopamine (дата обращения: 30.11.2024).
72 Андреевский, 1866; Блюнчли, 1865; Градовский, 1883; Кистяковский, 1915; Коркунов, 1892–1893; Лазаревский, 1908; Лазаревский, 1910; Гессен, 1911; Ивановский, 1913; Кокошкин, 1908; Корф, 1915; Нольде, 1911; Шаллад, 1908.
73 Всего в России принято 174 федеральных конституционных закона, из них действующих – 153, утративших силу или отмененных – 21. Последний на данный момент Федеральный конституционный закон принят 23.03.2024 г.; первый – 21.07.1994 г. «О Конституционном Суде Российской Федерации». Сущность действующих федеральных конституционных законов: 1) внесение изменений в федеральный конституционный закон (127); 2) вопросы, указанные в Конституции РФ (26): судебная система, Конституционный Суд, Верховный Суд, Арбитражный Суд, суды общей юрисдикции, военные суды, Правительство, Уполномоченный по правам человека, референдум, флаг, гимн, герб, военное положение, чрезвычайное положение, срок полномочий Президента, полномочия Государственной Думы в отношении Правительства, порядок принятия новых субъектов Федерации, образование новых субъектов, принятие новых субъектов Российской Федерации.
74 Зорькин В. Д. Под знаком обновленной Конституции. URL: https://ksrf.ru/ru/News/Speech/Pages/ViewItem.aspx? ParamId=96 (дата обращения: 22.10.2024).
Авторлар туралы
Alexander Savenkov
Institute of State and Law of the Russian Academy of Sciences
Хат алмасуға жауапты Автор.
Email: an61s@yandex.ru
Corresponding Member of the Russian Academy of Sciences, Doctor of Law, Professor, Honored Lawyer of the Russian Federation, Director of the Institute of State and Law of the Russian Academy of Sciences, Editor-in-Chief of the Journal “State and Law” of the Russian Academy of Sciences
Ресей, 10 Znamenka str., 119019 MoscowӘдебиет тізімі
- Blyumin I. G. Keynesianism as a typical expression of modern bourgeois political economy // Criticism of modern English and American political economy: in 3 vols. M., 1962. Vol. 2. Pp. 72–81 (in Russ.).
- Bratus S. N. The role of law in the development of the Soviet economy. M., 1971 (in Russ.).
- Weber M. Economy and society: essays on Understanding sociology: in 4 vols. M., 2018 (in Russ.).
- Vernadsky V. I. Scientific thought as a planetary phenomenon. M., 1991. P. 43 (in Russ.).
- Gadzhiev G. A. Law and Economics (methodology): textbook for undergraduates. M., 2016 (in Russ.).
- Graham L. R. Will Russia be able to compete? The history of innovations in Tsarist, Soviet and modern Russia. M., 2014 (in Russ.).
- Zorkin V. D. Under the sign of the updated Constitution. URL: https://ksrf.ru/ru/News/Speech/Pages/ViewItem.aspx? ParamId=96 (accessed: 22.10.2024) (in Russ.).
- The invention of radio by A. S. Popov: collection of documents and materials / ed. by A. I. Berg. M.; L., 1945. Pp. 15–18 (in Russ.).
- Laptev V. V. Economics and law. Theory and practice of legal regulation of economic relations. M., 1981 (in Russ.).
- Mozolin V. P., Nechaeva A. M., Rubanov A. A., Skripko V. R. Civil Law and Economics. M., 1985 (in Russ.).
- Nersesyants V. S. The national idea of Russia in the world-historical progress of equality, freedom and justice. Manifesto of Civilization. M., 2001 (in Russ.).
- Romashov D. D. Mendel’s law of splitting as a general biological law. Article. 1939. Open Archive of the Siberian Branch of the Russian Academy of Sciences. URL: http://odasib.ru/OpenArchive/Portrait.cshtml?id=Xu_pavl_634993802223476562_9960 (accessed: 30.11.2024) (in Russ.).
- Smorodinskaya N. V., Katukov D. D., Malygin V. E. The Schumpeterian theory of growth in the context of the transition of economic systems to innovative development // Journal of Institutional Studies. 2019. No. 11(2). Pp. 060–078 (in Russ.).
- Chetverikov S. S. On some moments of the evolutionary process from the point of view of modern genetics // Journal of Experimental Biology. Ser. A. M.; L., 1926. Vol. 2. Iss. 1. Pp. 3–54 (in Russ.).
- Shebanov A. F. Norms of Soviet law and their role in the creation and development of the socialist economy of the USSR: abstract … PhD in Law. M., 1951 (in Russ.).
- Shkredov V. P. Economics and law. On the principles of industrial relations research in connection with the legal form of their expression. M., 1967 (in Russ.).
- Aghion P., Howitt P. Endogenous growth theory. Cambridge, 1998.
- Akcigit U., Kerr W. R. Growth Through Heterogeneous Innovations // Journal of Political Economy. 2018. Vol. 126. Iss. 4. Pp. 1374–1443.
- Acemoglu D., Akcigit U., Alp H. et al. Innovation, Reallocation, and Growth // American Economic Review. 2018. Vol. 108. No. 11. Рp. 3450–3491.
- Ashby W. R. Introduction to Cybernetics. Chapman & Hall, 1956.
- Butler S. The Notebooks of Samuel Butler. Auckland, 2011. URL: https://archive.org/stream/cu31924013448299#page/n1/mode/2up (accessed: 30.11.2024).
- Chomsky N. Necessary Illusions, Thought Control International Democratic Societies. Boston, 1990. URL: http://vho.org/aaargh/fran/livres5/ILLUSNS.PDF (accessed: 30.11.2024).
- Decker R. A., Haltiwanger J., Jarmin R. S., Miranda J. Declining Dynamism, Allocative Efficiency, and the Productivity Slowdown // Finance and Economics Discussion Series. 2017.
- Fan A., Liang R. 2024 Yearender: China’s space sector soars to new heights, setting new goals. URL: https://www.globaltimes.cn/page/202412/1325567.shtml (accessed: 30.11.2024).
- Friedman M., Schwartz A. J. A monetary history of the United States, 1867–1960. Princeton, 1963.
- Goenka H. Bioterrorism and Gene Editing: Can CRISPR Tool be Used as Biological Weapon in War? 2016. URL: https://www.ibtimes.com/bioterrorism-gene-editing-can-crispr-tool-be-used-biological-weapon-war-2460102 (accessed: 30.11.2024).
- Graham L. Why Does Russia Have So Much Trouble Modernizing? URL: https://eusp.org/sites/default/files/archive/ centres/sts/Loran_Graham_text.pdf?ysclid=m59dvb20pi780540436 (accessed: 30.11.2024).
- Hicks J. R. Mr. Keynes and the “Classics”; A Suggested Interpretation // Econometrica. 1937. Vol. 5. No. 2. Pp. 147–159.
- Keegan J., Wheatcroft A. Zones of Conflict: An Atlas of Future Wars. New York, 1986.
- Keynes J. M. General Theory of Employment, Interest and Money. London, 1936.
- Kissinger H. A., Schmidt E., Mundie C. AI Can Save Humanity – Or End It. The age of Homo technicus could generate profound intellectual advances and solutions to our gravest problems. But first we need to ensure that it doesn’t kill us off. The Atlantic. November 12, 2024. URL: https://www.theatlantic.com/ideas/archive/2024/11/ai-genesis-excerpt-kissinger-schmidt-mundie/680619/ (accessed: 30.11.2024).
- Lazarsfeld P., Merlon R. Mass Communication, popular taste and organized social action. In: Bryson (ed.) The Communication of Ideas. NY, 1948.
- Livingston S., Risse M. The Future Impact of Artificial Intelligence on Humans and Human Rights. Ethics & International Affairs, 2019. Vol. 33. Iss. 2. Pp. 141–158.
- Moor J. Four Kinds of Ethical Robots // Philosophy Now. 2009. Vol. 72. Pp. 12–14.
- Naughton J. The goal is to automate us’: welcome to the age of surveillance capitalism. URL: https://www.theguardian.com/technology/2019/jan/20/shoshana-zuboff-age-of-surveillance-capitalism-google-facebook (accessed: 30.11.2024).
- Naughton J. The Social Dilemma: a wake-up call for a world drunk on dopamine? URL: https://www.theguardian.com/commentisfree/2020/sep/19/the-social-dilemma-a-wake-up-call-for-a-world-drunk-on-dopamine (accessed: 30.11.2024).
- Romer P. M. Endogenous Technological Change // The Journal of Political Economy. 1990. Vol. 98. No. 5. Part 2. Pp. S71–S102.
- Soller H., Mohr N., Heide A., Gschwendtner M. Quantum sensing is viable and could touch many parts of businesses. Here’s what leaders across industries should know. 2024. URL: https://www.mckinsey.com.br/capabilities/mckinsey-digital/our-insights/quantum-sensings-untapped-potential-insights-for-leaders (accessed: 30.11.2024).
- Solow R. M. A Contribution to the Theory of Economic Growth // The Quarterly Journal of Economics. 1956. Vol. 70. No. 1. Pp. 65–94.
- Swan T. W. Economic growth and capital accumulation // The Economic Record. 1956. Vol. 32. No. 2. Pp.
- Treisman D. Russia’s Tom Sawyer Strategy // IWM post. Vol. 106 (January–March 2011). P. 14.
Қосымша файлдар

