Путин заставляет россиян бояться будущего, чтобы удержать свою власть. Но почему этот страх завладел и Западом? Максим Трудолюбов — о двух разных причинах разочарования в прогрессе
Отказ российского руководства от идей прогресса и развития — способ удержания власти. После четверти века пребывания у власти, в ситуации проваленной политики развития и развязанной им же войны, президент заявляет, что его главная забота теперь — «само существование России». Разобрать эту манипуляцию не так сложно. Сложнее понять, почему идея прогресса находится под угрозой за пределами авторитарных государств. В богатом и развитом мире дискуссии о кризисе и даже о возможном крушении цивилизации звучат слишком часто, чтобы их игнорировать. Редактор рубрики «Идеи» Максим Трудолюбов подчеркивает принципиальную разницу: это не отказ от прогресса, не ресентимент по отношению к научному и технологическому развитию, а признак готовности взять на себя ответственность за изменение мира.
Западные медиа, книжный рынок и массовое искусство переполнены образами катастроф и сценами из постапокалиптического будущего. Журналисты и публичные интеллектуалы говорят о почти неминуемой климатической катастрофе, тотальном миграционном кризисе, о рукотворных вирусах, о выходе искусственного интеллекта из-под контроля — и, конечно, о неизбежности «большой войны».
Смена поколений не воспринимается как что-то позитивное: «миллениалы» уверены, что «бумеры» украли у них будущее и дальше будет только хуже. На фоне беспрецедентного благополучия к власти в развитом мире периодически приходят политики, обещающие предотвратить те или иные «национальные катастрофы».
Расписание всемирных катастроф
Вы, конечно, еще помните, как главным поводом для всеобщей тревоги были климатические изменения. В 2017 году журналист Дэвид Уоллес-Уэллс выпустил статью «Необитаемая Земля», позже расширенную до книги. В ней он скрупулезно перечислял катастрофические последствия, к которым приведет повышение среднегодовой температуры: уход под воду части густонаселенных регионов, экстремальные погодные явления, вымирание биологических видов, болезни, засухи, пожары и связанный со всем этим рост напряженности в отношениях между странами. Множество похожих текстов выходило до и после. Всемирную известность получили «школьные забастовки» Греты Тунберг.
Чуть позже, с развитием пандемии 2020–2021 годов, на первый план вышли опасения по поводу вирусов. «Нас погубят ученые… Давай я расскажу тебе, как закончится этот мир, честно, — говорит один из самых известных в США ведущих вечерних шоу Джон Стюарт. — Расизм, неравенство, авторитаризм, исчерпание природных ресурсов… Со всем этим мы справимся. Последними словами, произнесенными человеком где-то в лаборатории, будут: „Ой, смотри, получилось!“»
Стюарт говорил это на фоне развернувшейся тогда дискуссии о том, что коронавирус был, возможно, сконструирован в лаборатории.
В 2023 году, после выхода сразу нескольких больших проектов в сфере искусственного интеллекта, предметом тревог стала именно эта область. «Многие исследователи, разбирающиеся в этих вопросах, согласны со мной в том, что наиболее вероятным результатом создания сверхчеловечески умного искусственного интеллекта будет гибель буквально всех людей на Земле», — пишет в журнале Time Элиезер Юдковский, сооснователь Исследовательского института машинного обучения (MIRI), работающий в сфере искусственного интеллекта более 20 лет.
ИИ недолго будет оставаться в компьютере. Существующие сегодня технологии позволяют производить белки в соответствии с заданием. Это позволит ИИ создавать искусственные формы жизни по собственному проекту или перейти к постбиологическому молекулярному производству.
Письмо коллег, предлагавших заморозить работы по обучению больших языковых моделей уровнем выше GPT-4, Юдковский не подписал, полагая, что этого мало. Абсолютной необходимостью он считает немедленную остановку всех работ в этой области.
«Мы самонадеянно исходим из того, что наша цивилизация стабильна и ничто ей не угрожает. На протяжении истории такие ощущения были свойственны жителям империй, клонящихся к упадку», — говорит предприниматель Илон Маск в ответ на вопрос о том, на что он рассчитывает, инвестируя в создание поселения на Марсе.
Смена политических сил у власти тоже может восприниматься как катастрофа — это свойственно авторитарным системам. Российские политики во главе с Путиным создали целую мифологию политического «конца света» вокруг революций, якобы финансируемых США. Для китайских политических лидеров утрата коммунистической партией контроля над страной равносильна коллапсу всей системы. Стабильность режима главной политической ценностью признают политики большинства стран Центральной Азии и многих стран Ближнего Востока.
Но апокалиптические взгляды на политические изменения возможны и в демократических обществах — если эти общества сильно поляризованы. Например, в Польше воспринимают друг друга как источник нынешней (или будущей) катастрофы либеральная оппозиция и правящая консервативная партия «Право и справедливость». В начале июня в этой стране прошла крупнейшая за десятилетия, полумиллионная демонстрация против действующего правительства. Сложнее устроено, но воспринимается как не менее судьбоносное и противостояние основных политических сил в Турции.
В США каждая из двух партий считает противоположную непоправимой бедой для страны и ее будущего. Телеведущий Такер Карлсон, до недавнего времени работавший на канале Fox News, называет президентство Джо Байдена «бедствием», не имеющим параллелей. Влиятельный колумнист New York Times Том Фридман снова и снова повторяет, что возвращение Дональда Трампа в Белый дом разрушит политическую систему США.
«Невозможно преувеличить опасность сегодняшнего момента для нашей страны», — пишет Фридман в недавней колонке.
Логика бизнеса против логики гуманизма
Алармистское выступление Джефри Хинтона, ушедшего из Google «крестного отца» ИИ, как и процитированное выше письмо Элиезера Юдковского разошлись по мировым медиа. Но, вероятнее всего, их последствия будут не сильнее, чем у высказываний Альберта Эйнштейна и Андрея Сахарова по поводу их открытий в области ядерной физики. Высказанные ими опасения чрезвычайно широко обсуждались, но те, кто принимал решения, продолжили действовать в избранном направлении. Слишком велики были преимущества, которые новая технология давала ее обладателю (сначала это были только США), и слишком опасно было медлить с ее развитием, когда противник (Советский Союз) останавливаться не собирался.
Если в ХХ веке ключевыми действующими лицами в сфере разработки и использования новых прорывных технологий были государства, то в сегодняшнем мире это еще и огромные транснациональные корпорации. Остановить сейчас обучение больших языковых моделей — значит утратить конкурентное преимущество, и те, кто принимают решения, на паузу в исследованиях почти наверняка не пойдут. Менеджеры Google не остановят работы (хотя они и пытались себя сдерживать), понимая, что Microsoft стремится перехватить лидерство. Логика бизнеса, осваивающего новую, далекую прежде область, неподвластна гуманистическим размышлениям.
С некоторой осторожной надеждой можно говорить только о том, что со временем ключевые действующие лица новой технологической эпохи под воздействием общественной дискуссии договорятся об этическом кодексе, регулирующем развитие и применение искусственного интеллекта. Подобные договоренности — формальные и неформальные — существуют в других областях, например в области редактирования генома и медицины. Но и переоценивать значимость таких правил не стоит. Готовность признать ответственность, даже «вину» за результаты человеческой деятельности всегда будет отставать от деятельности по освоению очередного технологического фронтира.
В ожидании Страшного суда
Страхи — перед глобальными катаклизмами, перед перенаселением Земли и исчерпанием ресурсов — охватывали человечество и раньше. Но в минувшие десятилетия тревога за будущее стала доминировать в общественном сознании.
Многое здесь можно объяснить тем, как устроены медиа, новостные циклы и человеческое внимание. Но привычкой к сенсациям все не исчерпывается. То, что за два столетия промышленного развития угрозы жизни и цивилизации, созданные самим человеком, выросли многократно, — чистая правда. По расчетам оксфордского философа Тоби Орда, угроза жизни, созданная деятельностью человека (антропогенная), примерно в тысячу раз опаснее самого вероятного из природных рисков, включая вулканические и сейсмические катаклизмы, риски столкновения с небесными телами и смертельные пандемии.
Идея прогресса видела в передаче человеческого опыта и знаний от поколения к поколению только положительные стороны. Но теперь в этом процессе стали замечать не только движение к великой цели, но и расплату за прежние открытия и достижения.
Представления о времени как о неумолимой силе, способной только старить человека и водить его по кругу, начали меняться в XVIII веке. Линейная перспектива, придуманная архитекторами и художниками итальянского Возрождения, оказалась одной из основ для изменения прежнего взгляда на мир.
Благодаря ранним просветителям время превратилось из врага рода человеческого в друга и союзника. А благодаря поздним стало рассматриваться как помощник в деле общественно-политического прогресса. Одно из самых ранних определений прогресса отталкивалось от того, что люди, благодаря накоплению знаний и опыта, способны продвигаться вперед.
Человечество потенциально может стать единым целым, ведь у него — благодаря языку и письменности — есть общая сокровищница знаний, говорил в середине XVIII века Анн-Робер Жак Тюрго в речи «Последовательные успехи человеческого разума».
Во времена Французской революции Жан-Антуан Кондорсе в памфлете «Эскиз исторической картины прогресса человеческого разума» сформулировал, выражаясь современным языком, более политизированный взгляд на исторический прогресс:
Наши надежды на будущее состояние человеческого рода могут быть сведены к трем важным положениям: уничтожение неравенства между нациями, прогресс равенства между различными классами каждой, наконец, действительное совершенствование человека.
Список «грехов», за которые предстоит расплачиваться, может меняться в зависимости от того, люди каких убеждений его составляют. В нем наверняка будут такие пункты:
- массовая миграция, связанная с войнами (сейчас это прежде всего война России против Украины), хищническими колониальными практиками прошлого и слабой доступностью социальных услуг в странах глобального юга;
- загрязнение земли, воды и воздуха, вызванное ростом производства и энергопотребления;
- изменение климата, связанное с человеческой деятельностью;
- исчезновение множества биологических видов, вызванное быстрым сокращением территорий, свободных от воздействия человека;
- исчезновение рабочих мест, материальное и имущественное неравенство, вызванное технологическими прорывами;
- нехватка возможностей для карьерного роста, для повышения благосостояния и социальной мобильности молодых людей как оборотная сторона того, что старшие поколения дольше остаются активны;
- разочарование в том, как научные и технологические прорывы, в частности в области ядерной физики, генетики и создания искусственных нейросетей, используются в повседневной жизни.
Нетрудно заметить, что перед нами список достижений человека, результаты научных открытий и развития технологий. Просто сегодняшнее отношение к прогрессу сильно отличается от характерного для ХХ века технооптимизма.
Нынешнее отношение можно рассматривать как нерелигиозный (секуляризированный) вариант ожидания Страшного суда. За удовольствия потребления, за комфорт и высокое качество жизни придется заплатить — к этому сводятся представления о будущем, широко распространенные в западных культурах. Оптимисты могут сколько угодно напоминать читателям и слушателям о том, что уровень повседневной безопасности, продолжительность жизни, доступность и качество медицинских и образовательных услуг неуклонно растут по всему миру, что искусственный интеллект позволит найти лечение от неизлечимых болезней и прочитать не расшифрованные пока системы письма.
Со всем этим мало кто спорит. Но человеческое восприятие и современные медиа, прежде всего на Западе, не удовлетворяются благостной картиной прогресса. Вполне возможно, что свою роль играет здесь и то обстоятельство, что в основе западных культур, пусть и давно обмирщенных, лежит христианство с заложенными в него представлениями о моральной ответственности, покаянии, конце света и Судном дне. Не думая об этой связи, не используя религиозных терминов, деятели массовой культуры Запада тем не менее воображают расплату за «содеянное».
Особняком стоит угроза, связанная с действиями одной страны. Эта страна — Россия, угроза (высказанная почти прямо) — применение ядерного оружия. Проблема в том, что действиями российских властей, ведущих агрессивную войну против Украины, руководит логика принципиально отличная от той, в рамках которой идет общественная дискуссия на Западе.
Сторонники регулирования генной инженерии или искусственного интеллекта не отрицают собственной причастности к происходящему. Они, по сути, призывают к ответственности за принятые в прошлом решения. Российские власти, напротив, представляют себя жертвами сторонних действий. Они не признают, что должны отвечать за свои деяния, и учат подобной безответственности граждан. У них нет готовности осознать собственную субъектность в деле изменения мира, а есть стремление наказать мир за благополучие и развитие, шансов на которые они лишают собственную страну.
Что еще об этом почитать (мы все-таки советуем книги оптимистов)
Deaton A. The Great Escape: Health, Wealth, and the Origins of Inequality. Princeton: Princeton University Press, 2013.
Экономист и нобелевский лауреат Ангус Дитон раскрывает картину резкого рывка в развитии, совершенного западными обществами в течение минувших 250 лет. При этом повышение качества и продолжительности жизни, развитие медицины, образования и технологий на Западе обнажило высокое неравенство, малую доступность элементарных благ и социальное неравенство для значительной части населения Земли. Этот разрыв Дитон считает преодолимым и предлагает конкретные решения.
Ridley M. The Rational Optimist: How Prosperity Evolves. London: Harper, 2010
Книга британского журналиста и аристократа Мэтта Ридли — полемическое высказывание в споре с пессимистами, которые доминируют в публичной сфере. Сквозная идея книги в том, что жить становится лучше, благодаря способности человека получать выгоду от обмена товарами и знаниями; способности к специализации и способности совершенствовать технологии, комбинируя их.
Максим Трудолюбов