Alternatives to Digitalization: Will Human Survive in the Civilization of the Future?

Full Text

 

В ноябре 2023 года в Институте философии РАН прошла международная конференция «Альтернативы цифровизации: сохранится ли человек в цивилизации будущего?» — XXIII Чтения памяти академика Ивана Тимофеевича Фролова (1929‒1999). В последние годы «незримый колледж» ежегодных Фроловских чтений разрабатывает вопросы жизни человечества в «новой реальности» (термин И.Т. Фролова). Центральная проблема, которая обсуждалась в ходе дискуссии на XXIII Фроловских чтениях: как цифровые технологии меняют человеческий мир, и каким человек должен стать, чтобы управлять этими технологиями, не вредя ни окружающей среде, ни своей собственной природе. Подобная тематика логически вытекает из философского дискурса текстов И.Т. Фролова, главным нервом которых была именно проблема «человек, общество и новые технологии».

Чтения открыл акад. А.А. Гусейнов. Он начал с того, что Фроловские чтения стали традицией Института философии РАН и в целом философского сообщества. В них год от года вовлекаются все новые исследователи, и это поле притяжения обусловлено возрастающей актуальностью исследовательских идей академика И.Т. Фролова. Роль И.Т. Фролова как организатора науки состояла в объединении лучших умов отечественной философии вокруг проблематики человека и гуманизма. Сегодня Фроловские чтения осуществляют связь между ярким периодом отечественной философии 1960‒1980-х годов и современным этапом ее развития.

Акад. В.А. Лекторский обозначил проблему для дискуссии так: цифровизация — антропологическая революция или антропологическая катастрофа? Цифровизация — это антропологический вызов, и никакой предопределенности в ответе на него нет: человечество может либо подняться на новую ступень своего развития, либо сорваться вниз, констатировал В.А. Лекторский. К числу новаций ИИ, амбивалентных по последствиям использования, можно отнести усиление цифрового социального контроля, феномены цифровой памяти и идентичности, «умный дом» и проч. Еще одна проблема — адекватность рациональности ИИ, основанной на анализе «больших данных»: в какой степени можно доверять прогнозам непознающего интеллекта? Способен ли такой интеллект прогнозировать поведение существа, обладающего свободой воли — то есть человека? Что такое Я, и можно ли сохранять его тождество вне присущей ему телесной оболочки? Как могут измениться этические ценности, если технологии позволят осуществить «цифровое бессмертие» либо «жизнь в новом теле»? Ведь многие человеческие ценности имеют своим источником фундаментальный факт смертности.

Чл.-корр. РАН П.М. Чумаков рассказал о влиянии цифровизации на биотехнологии. Современные биотехнологии позволяют человеку выступить в качестве творца собственной эволюции. Вопрос стоит так: сохранится ли человек в своем прежнем виде? Он связан с вопросом, имеющим этическое измерение: когда и как стоит применять соответствующие технологии, и надо ли вообще это делать? В отношении человека-«творца себя» перестает работать выравнивающая роль естественного отбора. Ближайшая задача применения генно-терапевтических технологий — постепенное избавление человечества от бремени генетически обусловленных заболеваний и даже от бремени предрасположенности к болезни. При генной терапии важно помнить, что болезнетворные признаки могут быть сцеплены с важными качествами человека. Опасен «разнобой» представлений о пределах допустимости вмешательства в генетику человека, который может быть закреплен в параллельных системах нормативного регулирования.

Чл.-корр. РАН О.В. Гаман-Голутвина остановилась на политических аспектах цифровизации. Цифровизация меняет способы осуществления политической коммуникации, что влияет на появление новых сетевых сообществ и на процессы формирования общественного сознания. Обостряется проблема контроля над коммуникационным пространством. Перспективным направлением развития форм политического участия является интернет-демократия, что снижает бюрократизацию общественной жизни. Но процесс развивается амбивалентно: например, при электронном голосовании наблюдатель на выборах превращается в условную фигуру. Перспективы цифровизации политической жизни связаны с решением проблем цифрового неравенства, цифровой репрезентативности и контроля над циркуляцией информации в цифровом пространстве.

Чл.-корр. РАН В.И. Данилов-Данильян поставил вопрос: способствует ли искусственный интеллект конвергенции? Применение кибернетики и АСУ в системе управления экономикой, развитие на этой основе теории оптимального управления экономикой, считает докладчик, стало фактором сближения западной и советской социальных систем.

Чл.-корр. РАН Р.С. Гринберг продолжил тему влияния цифровизации на глобальную экономику, отметив, что само возникновение глобальной экономики изменило требования к управляемости, привело к появлению соответствующих норм и институтов. Глобальное сотрудничество стран способствует выравниванию уровней их развития. Противоположный тренд — тренд изоляции, абсолютизирующий национальную исключительность и стимулирующий конфликты. Перспективу автор доклада видит в ренессансе «нового мышления» в мировой политике и экономике, в конвергенции «измов».

Д-р физ.-мат. наук Г.Г. Малинецкий вернулся к вопросу о перспективах искусственного интеллекта. Системы искусственного интеллекта несут с собой массу соблазнов, реализация которых может сделать человека «ненужным». Возникает опасность «расчеловечивания» человека. Другая опасность состоит в том, что ИИ будет определять и оценивать людей по заданным параметрам. Еще один соблазн ИИ, а именно передача роботам трудовых функций, чреват появлением глобального охлоса, требующего «хлеба и зрелищ». Наконец, к совершенно непредсказуемым последствиям может привести появление технологий, позволяющих определять морфологические параметры будущих детей по заказам родителей. По мнению Малинецкого, развертыванию искусственного интеллекта и решению возникающих проблем наиболее адекватна методология самоорганизации.

Канд. экон. наук С.В. Приданцев обратил внимание на значительное снижение темпов роста производительности труда и в целом экономического роста в мире начиная с 1960-х годов по сравнению с эпохой первой и второй промышленных революций. С конца 1980-х годов мир фактически развернулся в сторону эгоистического потребления в противовес предыдущей эпохе, отдававшей приоритет познанию, конкуренции знаний и технологий. Даже ИТ-отрасль, которая сейчас является одним из главных локомотивов развития экономики, расходует не менее 4/5 своего потенциала на «одноразовость» в целях максимизации прибыли. И РФ, и КНР, и США уделяют теме ИИ первостепенное внимание, хотя и делают акценты на разных аспектах. При этом, считает докладчик, США и их сателлиты хотят доминировать и контролировать направление развития и применения ИИ. По его мнению, наряду с разработкой ИИ ключевой задачей для сохранения нашей планеты является выработка механизмов контроля над ним. 19 июля 2023 года Президент РФ провел совещание с Правительством РФ по вопросам развития ИИ. Правительство РФ работает по теме ИИ, реализуя национальную стратегию до 2030 года. Разработан федеральный проект ИИ, он включает в себя три основных направления работы: развитие фундаментальной и прикладной науки; подготовка кадров; грантовая поддержка компаний-разработчиков ИИ. Докладчик подчеркнул необходимость в кратчайший срок разработать и принять соответствующие правовые акты, устанавливающие главенство законодательства Российской Федерации в области регулирования ИИ.

Д-р филос. наук Е.Н. Гнатик обозначила ряд острых проблем, связанных с применением ИИ. Она выразила обеспокоенность появлением поколения, которое полагается в решении повседневных задач на ИИ и потому характеризуется ослаблением функции анализа информации и принятия решений. К негативным последствиям ИИ она отнесла также нарушение конфиденциальности, цифровое мошенничество, распространение вредоносного контента. Но главная опасность — обесценивание интеллектуального труда и общее снижение когнитивных, аналитических способностей. Косвенным результатом становится культивирование потребительской жизненной позиции у молодежи. Докладчик выделила проблему отсутствия ответственности ИИ, когда при негативных последствиях его применения вследствие его несубъектности нельзя поставить вопрос «кто виноват?». Еще одна проблема — фактическая независимость компаний-разработчиков ИИ, которая стимулирует предложения по созданию нового надгосударственного порядка мирового управления.

Доклад д-ров филос. наук Б.И. Пружинина и Т.Г. Щедриной был посвящен трансформациям идентичности и интеллекта личности во времени на примерах жизненного пути Г.Г. Шпета, М.М. Пришвина. На материале новых архивных материалов было реконструировано бытование в русской культуре образа главного героя романа Ч.Р. Метьюрина «Мельмот Скиталец».

Д-р психол. наук Т.А. Нестик поделился новыми данными мониторинга психологического состояния населения и, в частности, изменениями в отношении к науке в российском обществе в условиях кризиса. На протяжении последних трех лет доверие к ученым в нашем обществе растет, повышается востребованность профессии ученого. Парадокс, однако, в том, что при этом научная грамотность респондентов далека от минимально приемлемых стандартов. Докладчик предложил свое объяснение парадокса: в условиях кризиса возрастает потребность в теориях, которые дают рациональное объяснение ситуации, а наука воспринимается как источник таких теорий.

Д-р техн. наук А.А. Грибков высказал свою точку зрения на возможности общей теории систем в связи с искусственным интеллектом. Человек способен решать творческие задачи в силу своей мультисистемной интеграции в различные уровни реальности, что помогает ему извлекать аналогии и паттерны из одних типов связей и применять их в других, не утрачивая при этом субъектности и ощущения целостности мира. Автор пришел к выводу, что ИИ по своей одномерной природе не сможет решать творческие задачи и не нуждается в обретении субъектности для решения тех задач, которые он в состоянии решать.

Д-р филос. наук З.Б. Агаева говорила о взаимосвязи виртуальной реальности, человеческого общения и современного индивидуализма. Виртуальная реальность многократно расширила среду и средства человеческого общения. Но подобное расширение сопровождается фрагментацией внутреннего мира личности. В мире ИИ обостряется проблема человеческого одиночества.

Канд. филос. наук В.П. Веряскина поставила вопрос о влиянии цифрового образа жизни на будущее человека. Цифровая жизнь для многих превращается в саму жизнь, т.к. осуществление всех основных социальных ролей в работе, дружбе, общественной активности опосредуется цифровыми симулякрами. Стирается грань между впечатлениями от цифровых миров и реальными впечатлениями. Растет роль поведенческой инженерии и цифрового контроля основных параметров функционирования человека. Докладчик сослалась на положения работ Ш. Зубофф «Надзорный капитализм» и А. Гринфилда «Радикальные технологии», указав на опасность модификации поведения в условиях развития технологий социального контроля.

В докладе д-ра биол. наук Л.Ф. Курило и канд. биол. наук С.Ш. Хаят шла речь о формах применения цифровизации в репродуктивной медицине. Среди них: робототехника в репродуктивной хирургии, выбор оптимального эмбриона для ЭКО, выбор оптимального сперматозоида для проведения ВРТ и др. В работе эмбриолога ИИ с анализом изображений может повысить эффективность распознавания жизнеспособных сперматозоидов, яйцеклеток или эмбрионов, снизить количество ошибочных решений. Цифровая робототехника позволяет минимизировать инвазивный доступ при проведении сложных операций. Широкие возможности открывает цифровизация при обработке массивов информации, необходимых для диагностики.

Д-р филос. наук М.В. Силантьева рассказала об опыте применения ИИ в сфере образования. Она привлекла внимание к новой разновидности антропологии — дата-антропологии — и поставила вопрос об агентности искусственного интеллекта, принимающего решения. Применение ИИ в учебной деятельности ведет к снижению уровня абстрактного мышления у одних студентов, но может выступить в качестве тренингового инструмента для тех, кто активно работает с нейросетью как с одним из инструментов интеллектуальной работы для выполнения своих собственных целей.

Д-р филос. наук И.А. Бирич продолжила тему образования и говорила о влиянии цифровизации на воспитательный процесс в ходе обучения. Она выразила обеспокоенность неоднозначными последствиями воздействия цифровизации на формирование мышления младших школьников.

В ряде докладов были затронуты проблемы соотношения цифровизации и гуманизма. Канд. филос. наук А.Д. Королев сравнил инструментальное использование искусственного интеллекта в качестве средства и работу прочих органов неорганического тела человека, все из которых в каком-либо измерении превышают возможности человеческой телесности. В некоторых отношениях ИИ, напротив, слабее человека вследствие человеческого несовершенства: человек способен забывать ненужную информацию, а ИИ перегружен информационным мусором.

Сходную идею развивала канд. филос. наук Е.И. Ярославцева, которая подчеркнула, что алармистские сетования о мире, захваченном искусственным интеллектом, мешают нам трезво поместить ИИ в ряд средств человеческой деятельности наряду с молотком и другими инструментами. Человек создает машину и через машину относится к самому себе. Никакое создание человека не будет в состоянии войти в опосредованное отношение со средой и самим собой, а именно это и составляет сущностную специфику человека в мире. Человек специально передает техническим устройствам те свои функции, при самостоятельном выполнении которых он подходит к пределу своих возможностей. Поэтому невыгодное для человека сравнение с машиной, вне зависимости от того физическую или интеллектуальную функцию она возмещает, заведомо лишено всякого смысла. Человек направлен вовне и расширяет себя посредством машин. Он несводим к какому-либо органу или функции.

Канд. филос. наук Л.Д. Рассказов провел в своем выступлении философский анализ актуальных и потенциальных аспектов развития современного общества, поставив вопрос: человек для цивилизации или цивилизация для человека? Темой доклада канд. филос. наук Л.Ю. Писарчика «Мир без Бога и человека» стал дискурс современной западной философии о сакральном и человеческом. Доклад Н.Р. Сабаниной был посвящен вопросу о том, что такое человек в контексте синергетического конструктивизма. А.О. Артамонов поделился своими соображениями о перспективах сохранения человеком идентичности в мире будущего. ИИ рассматривается сегодня как перспективное средство социального контроля, поскольку позволяет повысить предсказуемость, а следовательно, и управляемость поведения людей. Век ИИ окажет свое влияние на степень податливости манипулированию рыночного типа личности.

Блок докладов по биоэтической проблематике открыл канд. филос. наук А.В. Антипов, который поставил вопрос о возможности формализации этики, создания вычислительной этики, применимой к поведению искусственных моральных агентов — продуктов ИИ. Д-р филос. наук П.Д. Тищенко говорил в своем докладе о роли атласов человеческого тела, составляемых на основе изучения трупов, в развитии метода познания человеком самого себя. Д-р филос. наук О.В. Попова раскрыла причины популярности цифровой медицины, к которым она отнесла экономию времени, минимизацию контактов, получение консультации в случае редкого заболевания, возможность цифровых консилиумов, цифровой само-трекинг (отслеживание показателей своего здоровья). Формируется гибридная модель медицины: «врач — программа — пациент», ставится вопрос о «цифровом двойнике» врача. Доклад к.ф.н. Р.Р. Белялетдинова был посвящен вопросам информированного согласия. Автор квалифицировал информированное согласие как "трудную проблему" — подобно проблеме сознания: собственно говоря, информированное согласие есть также феномен сознания. Докладчик сопоставил бенефициарную и сетевую модели автономии в биобанках. В докладе канд. мед. наук М.А. Пронина и О.Н. Раева были рассмотрены проблемы виртуалистики в связи с цифровизацией. Продолжила тему канд. культурологии А.А. Королева, рассказавшая о применении виртуальных объектов в ходе реализации политики памяти о гражданской войне в Испании, применяемой наследниками обеих сторон конфликта.

В ходе XXIII Фроловских чтений прошла презентация двух книг. Первая из них — «Хрупкость жизни в условиях новой реальности» [Хрупкость, 2024] — издана по итогам ХХII Фроловских чтений и посвящена осмыслению понятия «хрупкость жизни», введенного академиком И.Т. Фроловым в пиковый период ядерной конфронтации 1980-х годов. Ученый понимал эту хрупкость многогранно, и одной из важнейших граней понимания было осознание глобальной непредсказуемости технологического вмешательства в природу жизни. В условиях «новой реальности», когда биотехнология заняла лидирующие позиции в сфере естествознания и технонауки, любые научно-производственные действия людей могут повлечь за собой угрозу существованию жизни на Земле. Человечество все более осознает хрупкость жизни, угрозы биосфере и обществу, исходящие от неподконтрольного развития технологий. Метафора «хрупкость жизни» как нельзя более актуальна в наши дни и стала в настоящей книге предметом обсуждения философов, биологов, социологов, психологов, математиков, экономистов…

Вторая книга — сборник работ И.Т. Фролова «Судьба России» [Фролов, 2023] — подготовлена Группой по изучению творческого наследия академика И.Т. Фролова Института философии РАН. В книге собраны последние статьи, интервью, выступления И.Т. Фролова, охватывающие период 1990-х годов. В них мыслитель-гуманист размышляет о судьбах и перспективах развития нашей Родины в глобальном мире после цивилизационного разлома 1991 года. Многие страницы книги посвящены духовной истории страны, особенно периода перестройки. Тексты автора пронизаны мыслью об исторической преемственности различных эпох развития России, о всемирно-историческом предназначении нашей страны в реализации общечеловеческих задач. В ряде помещенных в книге статей подняты вопросы будущего человека в условиях технологической революции, ставящей под вопрос само его существование. Сумеет ли человек справиться с созданными им самим новейшими технологиями? Это зависит от того, считал русский философ И.Т. Фролов, насколько сам человек останется человеком в высокотехнологичном обществе будущего. Концепция нового гуманизма академика И.Т. Фролова — ответ на глобальные вызовы современного мира. Книга рассчитана не только на специалистов, но и, что соответствует лучшим традициям русской философии, на широкий круг читателей, которых волнуют проблемы человеческого бытия в современном сложном и противоречивом мире.

Тематика последних Фроловских чтений попала в пульсирующий «нерв» общественной дискуссии о будущем человека и человечества в «цифровой реальности». По общему мнению участников, конференция наглядно показала научную важность и социальную значимость подходов философской антропологии. Цифровизацию обсуждают сегодня все, и в этих дискуссиях немало спекулятивно-ажиотажного. Встречается в них и мысль о том, что цифровые технологии никогда не заменят человеческого творчества, а стало быть, проблема и вовсе не стоит того, чтобы заниматься ей всерьез. На деле же цифровизация требует скрупулезного научно-философского анализа; именно его и продемонстрировали участники Чтений. Их вывод: необходим поиск разумных и гуманных путей использования цифровых технологических средств во благо человека и человечества.

About the authors

M. I. Frolova

Институт философии РАН

Author for correspondence.
Email: mariafrolova1@yandex.ru
ORCID iD: 0000-0002-5292-8359

научный сотрудник сектора гуманитарных экспертиз и биоэтики

Russian Federation, 109240 Москва, ул. Гончарная, д. 12, стр. 1

References