«Если люди начнут использовать ChatGPT для поиска истины, мы окажемся в беде» Философ Гаспар Кениг много лет исследовал искусственный интеллект, а теперь разочаровался в технологиях — и изучает дождевых червей. «Медуза» с ним поговорила
Летом 2023 года в издательстве Individuum вышла книга философа Гаспара Кенига «Конец индивидуума» в переводе на русский язык (оригинал опубликован в 2019 году). В своей работе философ изучает взаимоотношения человека и искусственного интеллекта (ИИ), опираясь на интервью с экспертами по всему миру, занимающимися этой технологией. Кенига заботит не только тема потенциальной безработицы из-за внедрения нейросетей, но и влияние технологий на творчество человека и его свободу воли. Осенью Individuum выпускает аудиокнигу «Конец индивидуума». «Медуза» поговорила с Кенигом о выводах, которые он сделал, пока изучал искусственный интеллект.
— Какое чувство вы испытываете, когда видите, что ваши невеселые предсказания, сделанные в 2019 году в книге «Конец индивидуума», сбылись? Например, о нарастающих манипуляциях пользователями — фейковых новостях, мошенниках, которые используют соцсети, чтобы обманывать людей, дипфейках и так далее?
— Знаете, после выхода «Конца индивидуума» технологии стали интересовать меня гораздо меньше. Конечно, я продолжаю следить за крупными событиями, но меня удручает, что все только об этом [искусственном интеллекте] и хотят говорить. Когда меня зовут выступить на какой-нибудь конференции, в половине случаев речь идет об ИИ. Наверное, моя книга задает определенную рамку для восприятия этой темы в целом, поэтому ее удобно применять даже к тем технологиям, которые не существовали на момент ее написания. Но меня все это скорее утомляет.
У меня только что вышел новый роман «Перегной» — он рассказывает о жизни дождевых червей. Это реальная история, и, чтобы ее написать, мне пришлось год изучать все, что связано с червями. И я понял, что такие вопросы сегодня меня волнуют гораздо больше, чем разговоры о влиянии технологий на нашу жизнь.
С интеллектуальной точки зрения ИИ, конечно, очень привлекателен, на эту тему можно легко фантазировать. Но все это звучит для меня поверхностно, слишком оторванно от реальных проблем. Над вопросами ИИ по всему миру работают сотни тысяч инженеров, исследователей, докторов наук, которые могут рассказать вам все про алгоритмы. А дождевых червей изучают 10 человек на планете.
— Вы пишете в «Конце индивидуума», что последние годы наука с новой силой оспаривает существование свободы воли человека, а технологические компании вообще никак ее не учитывают. Тем не менее в книге вы утверждаете, что свобода воли — это главное отличие человека от ИИ. Сейчас, спустя четыре года после ее выхода, свобода воли и мораль человека по-прежнему вам интересны?
— Да, это так, но это универсальные понятия, которые можно применять и в других областях. Я рад, что Европейская комиссия решила прямо упомянуть свободу воли в своем проекте закона об искусственном интеллекте. Не знаю, как он будет соблюдаться, но сам факт обсуждения в Европе таких вещей не может не радовать.
— Какую позицию вы сейчас занимаете по вопросу свободы воли?
— Недавно я перечитал «Этику» Спинозы и в очередной раз убедился в его глубокой правоте. Безусловно, нужно принять тот факт, что свобода человека как данность — это иллюзия. Согласно нейронаукам, реакции человека зависят о того, какая информация попадает в его мозг. Технически сегодня уже возможно предугадать решение человека еще до того, как он его сам осознает. Но все это не значит, что свободы воли не существует. Об этом писал и Спиноза: нет, мы не рождаемся со свободой воли, но мы являемся звеном в цепи причин и следствий. И мы можем обрести свободу, упражняя свои мысли, беря себя в руки, повелевая своими эмоциями и чувствами.
Если вы возьмете известных нейробиологов-детерминистов, например Станисласа Деана, которого я цитирую в своей книге, то они отвергают свободу воли как теологическую концепцию, которая будто бы волшебным образом присуща людям. Но в то же время Деас не отвергает того, что вы можете действовать самостоятельно. Важно то, как вы заставляете себя что-то сделать, как вы принимаете решения, взвешиваете за и против и пытаетесь представить последствия. Это то, что делает нас людьми.
— Могу я предложить вам небольшой мысленный эксперимент? Представьте, что технология, позволяющая людям телепортироваться из места А в место Б, существует. Она зависит исключительно от воссоздания всей системы атомов и молекул вашего тела в другом месте. Но вначале ваше тело стирается, как бы уничтожается. Как вы думаете, если вы, например, совершите телепортацию, то человек, который окажется в месте Б, будет по-прежнему вами или ваше сознание будет стерто и в вашем теле до конца жизни будет ходить кто-то другой?
— Это именно тот мысленный эксперимент, который [американский изобретатель и футуролог] Рэй Курцвейл предложил в одной из своих книг о сингулярности. Он говорит: если вы примете тот факт, что ваше тело ежесекундно теряет молекулы, а потом приобретает другие, что ваша личность постоянно меняется вместе с этими элементами, то вы должны, в принципе, согласиться «умереть» в такой телепортации. Я склоняюсь к тому, что практически никто этого не сделает.
В каком-то смысле это достаточно хорошо обосновывает, что у нас есть такая форма conatus, возвращаясь к Спинозе, которая заставляет вас упорствовать в своем бытии. Упорство в бытии делает нас активными по отношению к обстоятельствам. И если вы добровольно отказываетесь от этого конатуса — это, на мой взгляд, признак глубокой экзистенциальной слабости. Ведь это значит, что вы не очень хотите упорствовать в своем бытии.
— Вы считаете, что идеи Спинозы имеют под собой мистическую подоплеку? Ведь задачу про телепорт можно рассмотреть и как противостояние веры в науку и подозрения, что не все раскладывается на атомы.
— С точки зрения историографии явно нет, потому что Спиноза был отлучен от церкви. Современники считали его атеистом. Хотя определенная доля отношения к миру как к Deus in Natura — бог эквивалентен всему, что существует, — у него можно найти. Это то, что позднее [французский философ] Жиль Делез назвал «имманентностью» — все существование во всей своей полноте. Спиноза отчаянно сражался с представлением о конечных целях существования, с моральными понятиями, делящими вещи на хорошие и плохие. Удивительно, что спустя столько веков мы живем в плену еще большего морализма и увлечения конечными целями, пускай даже и не верим в бога.
— Возможности искусственного интеллекта часто рассматриваются в контексте того, что он может изменить целую вселенную до неузнаваемости. Как вы считаете, в этих разговорах проявляется тоска человечества по существованию всемогущего бога?
— В последней книге [американского антрополога и анархиста] Дэвида Грэбера и [британского археолога] Дэвида Венгроу «Рассвет всего» показано, насколько много в истории человечества было религий — наше стремление к осмыслению мира могло принимать очень разные формы. Мы и сейчас пытаемся осмыслить происходящее вокруг — люди чувствуют себя крайне неуютно, когда не находят в жизни смысла, особенно такого, который был бы гарантирован неким высшим и абсолютным авторитетом.
В прошлые века этот смысл давали в школе и церкви, но сегодня каждый вынужден искать его самостоятельно. Для меня таким смыслом стала забота об окружающем мире. Для других людей это, безусловно, вера в искусственный интеллект. Но дискуссии об ИИ мне представляются ретроградными. Во-первых, потому что, говоря об искусственном интеллекте, мы подразумеваем интеллект без тела — подобный дуализм уже сам по себе довольно ненадежная штука. Если мы ненадолго вернемся к Спинозе, то как раз он и показал, что разум и тело — это просто две грани одной и той же сущности. А значит, если нет тела, то и интеллектом называть предсказывающие что-либо на основе больших данных алгоритмы тоже неверно.
Во-вторых, одержимость сингулярностью отражает еще и настроения людей, которые хотят, чтобы существовала некая всеведущая сущность, которая бы зафиксировала их прожитый опыт. Чтобы все было где-то зарегистрировано. Собственно, этот порыв толкает людей отдавать все свои данные технологическим компаниям. Конечно, никакой вечностью тут и не пахнет — через 50 лет все эти данные испарятся, не останется и следа от многих дата-центров.
Не оставлять следов — это одна из великих перспектив экзистенциализма. Я не очень люблю Сартра, но он пишет крайне интересные вещи в книге «Бытие и ничто»: быть зрелым значит принять, что снегопад заметет следы от ваших лыж, как будто их и не было. Такое принятие и есть подлинный способ жить. В Библии сказано: знаете ли, все, что вы делаете, будет где-то записано. И это вызывает тревогу, потому что в конце тебя будут судить. Но в то же время это очень обнадеживает, потому есть надежда на то, что кто-то еще будет копаться в нашей жизни. Но намного честнее принять, что никто разбираться не будет. И что мы не оставляем следов на снегу. Эта мысль может пугать, но это шаг к лучшему пониманию человеческой природы.
— Как сейчас регулируют рынок данных во Франции? В книге вы подчеркиваете, что у Евросоюза нет шансов догнать Китай в вопросах ИИ и цифровизации. Что-то изменилось с момента ее публикации?
— Не особо. Эти проблемы не обсуждаются на национальном уровне. Во всяком случае не во Франции и не в Великобритании. И из-за этого, разумеется, общество втихую сдает свои позиции. Например, во Франции к Олимпийским играм [2024 года] установят камеры с технологией распознавания лиц, которые раньше были в стране запрещены. Они делают исключение для Олимпийских игр — и можно предположить, что потом эта практика распространится. Обсуждают это только редкие радикалы, в основном же люди принимают происходящее как само собой разумеющееся.
Однако на общеевропейском уровне дискуссия ведется. На этом уровне в конечном итоге такие вещи и будут решаться — Франция не в состоянии что-либо сделать с ChatGPT, а вот Европа может, как сделала, приняв GDPR — закон о защите персональных данных. Насколько я знаю, дискуссии в Европе идут в правильном направлении. Взять хотя бы уже упомянутое понятие свободы воли — вероятно, оно останется в тексте закона об ИИ, как и представление о том, что нужно ограничить манипулятивность новых технологий. Маргрет Вестагер, зампред Еврокомиссии по цифровым технологиям, хорошо работает и ясно представляет себе масштаб предстоящих проблем. Мы видим, что Евросоюз держится за основные европейские ценности, такие как уважение к человеку, к его частной жизни и прочему, — это вполне может стать предметом для гордости.
— Последнее время слышны выступления о том, что прогресс в области ИИ нужно замедлить и даже, может быть, закрыть этот ящик Пандоры вообще от греха подальше. Как вы к ним относитесь и возможно ли это?
— Я резко против нелепого моратория, предложенного Илоном Маском и учеными [которые придерживаются такой же позиции]. Очевидно, что так можно ограничить количество приложений и помешать здоровой конкуренции. Я твердо придерживаюсь позиции: росту экономики нужно уделить максимум внимания, связано это с технологиями или нет. Иначе мы, европейцы, проиграем по всем фронтам. Китайско-тайваньский футуролог Ли Кай-Фу рассматривает Европу как будущую площадку для игр, своеобразный парк развлечений и отдыха, который уже вышел из гонки соперничающих держав. Думаю, он во многом прав, но все же зачем рассматривать все как схватку? Почему у разных стран должны быть одинаковые ценности и пути? Разве обязательно все время соревноваться?
У Европы есть своя моральная идентичность и свои ценности. Я считаю, что самое важное для нас — это сохранить их, сохранить уважение к частной жизни человека. Мы можем называть это свободой воли или же правом праздношатания, если хотите. Может быть, китайское гражданское общество поймет, что в каком-то смысле у нас есть чему поучиться.
Похожая история была с GDPR, общеевропейским законом о защите персональных данных: когда его принимали, критики говорили, что Европа стреляет себе в ногу и что она колоссально отстанет от США в плане IT-инфраструктуры. А теперь GDPR копируют в Америке и даже отчасти в Китае, его больше никто не считает такой уж страшной помехой прогрессу. И я не вижу проблемы для Европы в том, чтобы проиграть эту гонку [развития ИИ], потому что я не вижу никакого приза за прибытие к финишу первым. Есть разные модели развития общества — и цифровой ГУЛАГ, который строится в Китае, далеко не самая привлекательная из них. Пусть он и обещает скорейший прорыв в области ИИ.
— Весной 2023 года широкий круг пользователей получил доступ к ChatGPT от OpenAI. Пишущие люди — в диапазоне от копирайтеров до писателей — сразу забеспокоились, что их стиль можно легко скопировать с помощью нейросетей и использовать в неподходящем контексте или же что новая технология и вовсе лишит их работы. Что вы думаете по этому поводу как автор?
— Во-первых, если вы боитесь, что творчество имитирует ваш стиль, значит, у вас он есть. И это отличная новость, потому что это означает, что вы полноценная личность. Французский мыслитель Жорж-Луи Леклерк де Бюффон говорил, что цель жизни любого человека — выработать уникальный и принадлежащий только вам стиль. Так что если вам подражают, то это замечательно, вы уже сделали себя.
Не думаю, что тут есть какая-то угроза. Алгоритмы заменят тех, кто уже ведет себя как машина. Мы живем в очень бюрократизированных обществах, и машины могут помочь снизить эту бессмысленную нагрузку на людей. Также важно помнить, что для полноценной работы алгоритмов нужны постоянные творческие усилия людей, создающих данные, которые затем «скармливают» нейросетям инженеры. Без этого сырья ни одна нейросеть не сможет развиваться.
Это действительно необходимо как-то регулировать, но я уверен, что решение не за горами. Куда больше я беспокоюсь о том, что эти инструменты попадут в руки миллиардов людей, которые станут использовать их не для творческих нужд, а для поиска истины. Вот тут начинаются настоящие проблемы. «Википедия» при всех своих недостатках создана людьми, которые отчаянно спорят о достоверности источников и в этих дебатах приходят к консенсусу, тщательно проверяя предпосылки каждого утверждения. Обращение к источнику — это основа западной концепции истины и знания. ChatGPT не может цитировать источник, он может только «предсказывать» нечто похожее на истину, он использует только «вероятные источники».
В этом свете понятие истины, которая является чем-то опровержимым и проверяемым, испаряется. На ее место приходит то, что [бывший госсекретарь США и Нобелевский лауреат] Генри Киссинджер — он написал очень хорошую статью об искусственном интеллекте — называет «накоплением двусмысленностей». Все вероятно, но не до конца верно, но мы об этом не знаем и находимся словно в тумане. И если люди действительно начнут широко использовать ChatGPT или подобные инструменты для повседневного исследования мироустройства и поиска истины, то, я думаю, мы окажемся в беде. Исчезнет само представление о том, что существуют какие-то объективные и общепринятые истины.
Идея постправдивого мира чрезвычайно опасна. Тут и должны вмешаться правительства. Действительно, если вы предоставляете потребителям неадекватный и в некотором роде мошеннический продукт, то, очевидно, вы ожидаете, что вмешаются агентства по защите прав потребителей — как если бы на рынке появились поддельные продукты питания, состоящие из черт-те чего и точно непригодные в пищу.
У меня есть своя история на этот счет. Как-то раз я писал текст о пересечении философии и сельского хозяйства. На этапе подготовки статьи я не смог найти ни одного философа, задававшегося вопросом о компосте, что меня поразило, потому что это прекрасный объект для размышлений, отражающий бесконечность циклов перерождения — то, как смерть сменяет жизнь и из нее снова возникает жизнь. И я ничего не смог найти в гугле и в глоссариях доступных мне книг. Тогда я решил спросить у ChatGPT, известны ли какие-то философы, которые упоминали компост в своих книгах.
Я получил очень аккуратно составленный ответ, который ссылался на Жан-Жака Руссо и Генри Торо, что в целом звучит весьма достоверно. Я запросил цитату из Руссо и ее источник и получил замечательную цитату из второго тома книги «Эмиль, или „О воспитании“», очень в стиле Руссо. Тут я даже простил ChatGPT за все прегрешения, в которых я обвинял его прежде. Но вот незадача: «Эмиль» стоит у меня дома на полке, поэтому я взял указанную книгу и обнаружил, что этого пассажа попросту не существует — он был целиком «предсказан» алгоритмом.
Созданная иллюзия правды, иллюзия научной работы впечатлила меня. 99% моих студентов сказали бы в ответ на эту цитату: «О, то, что нужно, спасибо большое», привели бы ее в своих работах — и тогда бы это было зарегистрировано как некоторое подтверждение ее существования и она стала бы распространяться дальше. Со временем уже будет очень трудно проверить, правда это или нет. А потом люди напечатают Руссо уже с этой цитатой во втором томе «Эмиля».
Поэтому я думаю, что на сайтах вроде ChatGPT и подобных должно стоять предупреждение: «Осторожно! Перед вами великое изобретение, но все, что оно производит, — это подделка. Вы можете использовать его для искусства, для вдохновения, но не для поиска знаний».
— Как вы считаете, кому принадлежит продукт, произведенный алгоритмом: текст, картинки или код? Создатели алгоритма? Тот, чей стиль копируется? Тот, кто ввел промпт в систему и отобрал наиболее удачный результат? Или никто?
— Предоставить права алгоритму или его создателю — это примерно то же самое, что предоставлять авторские права на текст производителю пишущей машинки или ее изобретателю. Если вы заплатили за инструмент, то вы имеете право делать с ним все что угодно.
Автором точно не может быть сам алгоритм — это возвращает нас к вопросу о том, могут ли роботы обладать моральной личностью. Это своего рода забавный анимизм нашего века — думать, что машины, чтобы иметь какие-то права, должны обладать личностью, пусть даже в юридическом смысле.
Так что мой ответ: права должны либо принадлежать тому, кто ввел промпт, но с оговоркой, что он должен разделить доход с платформой, если пользовался ею бесплатно. Либо никому.
Важно также ввести какую-то систему обозначений, чтобы тексты и изображения, произведенные ИИ, соответствующим образом отмечались. Как мы видим, люди готовы платить больше за вещи, произведенные вручную, даже если они не такие опрятные или правильные, как те, что сделаны фабричным способом. В этом есть некоторая форма дистанционного контакта с человеком, сделавшим этот предмет своими руками, и людям приятно думать об этой связи. Если вы пометите все тексты и произведения искусства, созданные искусственным интеллектом, то, я думаю, на них придется давать огромную скидку. И это справедливо. Контент, произведенный ИИ, будет использоваться в первую очередь для развлечения, для быстрого и эфемерного использования. А вот то, что делают люди, снова вырастет в цене.
— В финале «Конца индивидуума» вы предлагаете идею безусловного базового дохода, который бы опирался на налог на прибыль, связанную со сбором данных техногигантами. Вам не кажется, что идея безусловного базового дохода — это замаскированный неолиберальный трюк, который призван заменить социальную поддержку граждан государством некими «отступными»? И таким образом государства просто смогут стряхнуть с себя соответствующие статьи бюджета, передав ответственность за выплаты в руки частных предприятий?
— Я долго был сторонником концепции базового дохода, ездил наблюдать за экспериментами с ним в Бразилии, мы опубликовали много научных работ о том, как внедрить этот подход во Франции. Но вознаграждение за предоставление данных никак не связано с базовым доходом. Это скорее ваш заработок с вашей частной собственности — то есть с ваших данных.
Что до базового дохода, то тут я немного пересмотрел свои взгляды. Я не верю, что, если ИИ сможет заменить треть рабочих мест, людям будет нечем заняться. Люди будут работать, потому что им хочется иметь какое-то занятие и смысл в жизни, его нельзя просто так взять и заткнуть деньгами.
В основе идеи базового дохода лежит концепция личной свободы, которую стоит отличать от неолиберальных идей постоянной включенности в рынок. Она куда более фундаментальна. Если мы считаем, что человек может сам определять свои ценности и представление о хорошей, достойной жизни, то ему должен быть предоставлен некий минимальный порог дохода, который позволит ему сделать осознанный выбор этих ценностей. Если у вас нет минимальных средств к существованию, то вы несвободны — вы зависите от других людей, от их ценностей и идей, потому что они дают вам пищу и кров.
В наши дни лучший защитник базового дохода — Филиппе ван Парис, бельгийский философ, который сочетает либертарианский подход с марксистским, утверждая, что у свободы есть некое материальное начало. Очевидно, что один из основных компонентов этой теории — базовый доход, который позволяет людям самим определять свою концепцию достойной жизни и реализовывать ее на практике. Я нахожу привлекательной эту идею, потому что это способ осуществления социальной политики без патернализма. На мой взгляд, это позволит поощрять разнообразие в обществе, потому что люди смогут экспериментировать, думая: «Хорошо, я позанимаюсь этим два года, хотя на первых порах мне это не принесет денег». Это отличный способ поощрять эксперименты, неудачи, ошибки, прогресс и освобождать людей от социальной бюрократии, которая унизительна и загоняет нас в ловушку беспомощности.
— В начале 2022 года вы заявили, что будете баллотироваться в президенты Франции, однако не собрали нужного количества подписей — и до выборов вас не допустили. В чем заключалась ваша программа?
— Этот эксперимент закончился написанием книги, направленной против президентских выборов, — «Contrʼun» («Против одного»). В ней я разбираю, почему фигура универсального лидера нации — это ошибка. Участие в предвыборной гонке дало мне аргументы против самого принципа президентских выборов, который Франция как бы воскресила в 1962 году и тем самым повлияла на многие страны по всему миру.
С оглядкой на этот принцип Россия разработала свою конституцию, основанную на идеях Французской республики, что, наверное, было не к добру. Для меня это очевидный регресс по сравнению с парламентской демократией, которая существовала практически во всех демократических странах до Второй мировой войны. Идея большого человека [президента], который придет и решит все ваши проблемы, геополитически опасна.
Что до моей программы на тех выборах, то мы 10 лет продвигали разнообразные государственные реформы, включая регулирование обмена данными, базовый доход, местную автономию и прочее. Общественность оценила эти идеи, но этого не хватило для победы в политическом мире — во Франции он остается чрезвычайно якобинским и централизованным, а это ровно те вещи, которые мы хотели изменить. Идея была в создании политического движения, которое получило бы реальный отклик в обществе. Но проблема в том, что единственный способ создать политическую партию во Франции — это, к сожалению, баллотироваться в президенты. Именно в этот самый романтический и волнующий момент люди действительно обращают внимание на свои политические идеалы и программы кандидатов.
Было очень весело. Мы объездили всю страну, некоторые люди нас поддерживали. Но в конечном счете это был политический провал. И я спросил себя, хочу ли я потратить 30 лет жизни, чтобы действительно создать политическое движение с нуля. По личным причинам я счел, что этого времени у меня нет. Но борьба продолжается. У меня же много других интересов, которыми я не готов жертвовать в пользу политики.
Наша программа основывается на идее простоты. Мы слишком усложнили свою жизнь во Франции, у нас чудовищная бюрократизация общества, простейшие задачи могут решаться годами и зависать на стадии согласований, потому что чиновники не справляются с постоянно растущей бумажной волокитой. Наше движение выступает против централизации и за большую автономность городов и регионов Франции.
— Вы не первый раз близко подбираетесь к фигуре президента — несколько лет назад вы сыграли младшего брата Джона Ф. Кеннеди и американского сенатора Теда Кеннеди в фильме чилийского режиссера Пабло Ларраина «Джеки». Что это было?
— О, это чистая случайность. Кто-то из кастинг-команды фильма увидел меня по телевизору и обратил внимание на мое внешнее сходство с Тедом Кеннеди. Мне позвонили и пригласили в США на съемки, я не мог отказать. По-французски то, что я делал на площадке, называется словом «силуэт» — у меня была роль без слов, я просто появлялся в нужные моменты в кадре, и все. Но не обошлось без конфуза: когда я прилетел в аэропорт Вашингтона, сотрудник пограничного контроля, увидев мою актерскую визу, спросил, кого я буду играть. Я со своим сильным французским акцентом ответил, что я играю Теда Кеннеди. Он посмотрел на меня с подозрением, так что я поспешил его заверить: «Не волнуйтесь, я не буду говорить».
«Медуза»
«Медуза» — это вы! Уже три года мы работаем благодаря вам, и только для вас. Помогите нам прожить вместе с вами 2025 год!
Если вы находитесь не в России, оформите ежемесячный донат — а мы сделаем все, чтобы миллионы людей получали наши новости. Мы верим, что независимая информация помогает принимать правильные решения даже в самых сложных жизненных обстоятельствах. Берегите себя!