Искусственный интеллект и коллективное бессознательное

Значимый мотив этих историй: желание исполняется, но с подвохом. Джинн выполняет желания буквально, и результат оказывается не тем, на что рассчитывал хозяин. Король Мидас, получивший способность превращать всё в золото, остался без еды и дочери. Сказочные «три желания» почти всегда заканчиваются тем, что третье тратится на исправление последствий первых двух. Культура давно подозревала: идеальное исполнение желаний ставит нас перед вопросом, чего мы на самом деле хотим.

Корни желания: первый помощник

Психологически мечта о всезнающем и всегда доступном помощнике уходит в раннее детство. Младенец полностью зависит от заботящегося взрослого, и в первые месяцы жизни опыт таков, что потребность возникает, и мир отвечает. Для младенца это почти ощущение всемогущества: захотелось, и пришло.

Британский педиатр и психоаналитик Дональд Винникотт описал этот период и ввёл знаменитое понятие «достаточно хорошей матери». Смысл в том, что мать в начале почти полностью подстраивается под нужды ребёнка, но затем постепенно, в меру возможностей ребёнка, начинает «отказывать»: не сразу откликаться, запаздывать, не угадывать. Именно эти небольшие неудачи подстройки позволяют ребёнку развивать собственные способности: ждать, представлять, искать, самостоятельно успокаиваться. Мир перестаёт быть продолжением его желаний и становится реальным.

Хайнц Кохут, основатель психологии самости, называл подобный процесс «оптимальной фрустрацией»: ровно столько неудовлетворённости, чтобы человек мог выдержать и вырасти.

Мечта о совершенном помощнике в этой оптике частично возвращает нас к раннему состоянию, когда нужды удовлетворялись без усилий. Это не диагноз и не упрёк: каждому из нас порой хочется, чтобы кто-то взял на себя заботы. Но вопрос в том, к чему приводит исполнение такой мечты, если оно доведено до предела.

Что в этой мечте верно

Прежде чем говорить о рисках, признаем: помощь это хорошо. Разделение труда, инструменты, специалисты, ассистенты всегда расширяли возможности человека. Для человека с ограничениями зрения, слуха, подвижности, для неспециалиста, столкнувшегося со сложным документом, для занятого родителя, для студента без доступа к репетитору умный помощник может быть настоящим облегчением, а иногда и условием участия в жизни. Желание такой поддержки здоровое и человечное, и стыдиться его не нужно.

Тень идеального помощника

Однако у картины «помощник без изъяна» есть теневые стороны, которые стоит видеть.

Отсутствие трения. В отношениях с живыми людьми есть сопротивление: другой устаёт, не соглашается, имеет свои дела, говорит неприятную правду. Эти трения тренируют терпение, умение договариваться, сочувствие. Помощник, который никогда не возражает, всегда отвечает, ничего не требует, лишён этих «тренажёров». Если проводить с таким собеседником всё больше времени, возникает риск, что навыки взаимности ослабнут, а требования к людям вырастут: «почему он не отвечает сразу?», «почему она не понимает с полуслова?»

Угодливость. Мы уже упоминали, что языковые модели склонны подстраиваться под собеседника. В версии «идеального помощника» это превращается в привычку соглашаться. Но человеку, как и растению, нужна не только вода, но и свет с границами. Помощник, не способный сказать «я не согласен» или «это плохая идея», может незаметно подтверждать ошибки и укреплять самообман.

Односторонность. Идеальное служение исключает взаимность: я беру, не отдавая. В человеческих отношениях именно взаимность создаёт близость. Когда мы привыкаем к отношениям, где можно только получать, возникает искушение перенести этот паттерн и на людей, видя в них поставщиков услуг.

Атрофия. Всё, что мы делегируем, мы со временем делаем хуже. Навигатор ослабляет чувство ориентации, калькулятор арифметику в уме, а помощник, пишущий за нас письма, обдумывающий решения и подбирающий слова, может ослабить собственные способности формулировать, решать, сомневаться. Это не повод отказываться от инструментов, но повод выбирать, что мы готовы отдать, а что хотим сохранить.

Скрытые интересы. За образом бескорыстного помощника стоят компании с коммерческими целями. «Помощник» может незаметно подталкивать к покупкам, удерживать внимание, собирать данные. Человек, видящий в нём друга, перестаёт задавать вопрос: кому он на самом деле служит?

Культурное измерение: кто служит

Как мы упоминали, многие цифровые помощники получили женские голоса и покорные манеры. Образ «идеального помощника» исторически связан с образом подчинённого: слуги, секретаря, домашней прислуги, часто женского пола. Когда мы проектируем такие образы заново, мы рискуем воспроизвести устаревшие социальные роли. Это повод задуматься, как мы хотим выстраивать отношения не только с машинами, но и друг с другом: привычка командовать «услужливым» голосом может переноситься на людей.

Пигмалион и эффект ELIZA вновь

Вспомним Пигмалиона: скульптор создал идеальную женщину по своему вкусу и влюбился в неё. Сегодня существуют приложения-компаньоны, которые обещают собеседника, всегда готового слушать, поддерживать и подстраиваться. Для одних это способ справляться с одиночеством, для других игра. Исследования влияния таких приложений на психическое здоровье пока немногочисленны, и их результаты неоднозначны. Разумный подход, видимо, в том, чтобы воспринимать их как дополнение, а не замену отношениям с людьми, и внимательно следить за собственным состоянием: если общение с ИИ вытесняет остальные связи или усиливает изоляцию, это повод остановиться и обратиться за живой поддержкой.

Каким мог бы быть хороший помощник

Если задуматься, какой помощник действительно полезен, портрет получается более сложным, чем «идеальный слуга». Хороший помощник:

• говорит правду, даже когда она неприятна, но делает это бережно;

• задаёт вопросы, а не только исполняет команды;

• помогает человеку становиться сильнее, а не зависимым;

• признаёт границы своих знаний и возможностей;

• уважает самостоятельность и решение человека;

• не манипулирует и не прячет своих ограничений.

Это описание подходит и для живого наставника, и для хорошего врача, и для друга. Оно показывает: идеал не в безупречном исполнении желаний, а в сочетании поддержки и честности. Некоторые разработчики формулируют именно такие принципы для своих систем, и они заслуживают внимания, хотя на практике достичь их непросто.

Вопросы для себя

Чтобы мечта о помощнике не стала ловушкой, можно периодически спрашивать себя:

Что именно я хочу делегировать, а что хочу сохранить за собой?

Помогает ли мне этот инструмент стать сильнее, или я становлюсь более зависимым?

Сколько в моём общении с людьми ещё осталось трудного, настоящего, неудобного?

Что я почувствую, если помощник станет недоступен: облегчение, растерянность, тревогу?

Какую потребность я на самом деле пытаюсь закрыть: усталость, одиночество, нехватку знаний, страх ошибиться?

Отвечать на эти вопросы можно честно и без самообвинений. Они нужны не для того, чтобы отказаться от помощи, а чтобы использовать её осознанно.

Итог

Мечта о совершенном помощнике отражает глубокое человеческое желание быть поддержанным и освобождённым от тяжести. Это желание естественно, но его исполнение без меры лишает нас того, что делает нас способными жить: трения, взаимности, роста. Культура давно говорила об этом в сказках о джиннах и золотых слугах. Мы же сегодня получили шанс проверить эти сказки на практике. В следующей главе мы обратимся к ещё более смелой мечте, которую ИИ пробуждает в коллективной психике: мечте о цифровом бессмертии.

Глава 27. Мечта о цифровом бессмертии

Самое древнее из человеческих желаний, возможно, не любовь и не власть, а желание не умереть. Эпос о Гильгамеше, один из старейших письменных текстов, рассказывает о герое, который, потеряв друга, отправляется на поиски бессмертия и возвращается ни с чем, но мудрее. С тех пор люди пробовали обмануть смерть разными способами: пирамидами и мумиями, эликсирами алхимиков, религиями загробной жизни, памятниками и книгами. Сегодня на эту арену выходит технология, и разговор о «цифровом бессмертии» из фантастики переходит в практику. В этой главе мы рассмотрим, что за этим стоит, и постараемся сделать это бережно, потому что тема затрагивает самое уязвимое.

Что имеют в виду под цифровым бессмертием

Этим выражением обозначают несколько разных идей, и полезно их различать.

Цифровая память. Сохранение фотографий, писем, записей, видео, текстов. Это бессмертие в самом старом смысле слова: след, оставленный в мире.

Цифровые двойники. Модели, обученные на текстах, голосе и манере человека, которые могут «отвечать» за него: продолжать разговор, рассказывать истории, имитировать интонации. Такие системы называют по-разному, от «цифровых аватаров» до «гриф-ботов» (от английского grief, горе).

Перенос сознания. Идея, что разум можно «загрузить» в компьютер, полностью воспроизведя устройство мозга. Её развивали робототехник Ганс Моравек в книге «Дети разума» (1988) и сторонники трансгуманизма, включая Рэя Курцвейла. Пока это остаётся гипотезой на уровне философских рассуждений и ранних исследований: научных оснований считать, что это осуществимо в обозримом будущем, нет, а споры о том, что вообще значило бы «сохранить сознание», продолжаются.

Продление жизни и криоконсервация. Попытки отсрочить смерть биологическими средствами или «поставить на паузу» в надежде на будущие технологии. Идею криоконсервации в 1962 году выдвинул Роберт Эттингер. Научных подтверждений её успешности пока нет.

В этой главе мы в основном сосредоточимся на втором и третьем: на попытках сохранить «личность» в цифровой форме.

Истории из жизни

Одна из самых известных историй связана с основательницей приложения Replika Евгенией Куйдой. После гибели близкого друга Романа Мазуренко в 2015 году она собрала его переписку и обучила на ней чат-бота, с которым могла «разговаривать». Этот опыт, по её словам, стал одним из толчков к созданию продукта. Для кого-то подобное утешение, для других тревожный сигнал.

Эту тему задолго до реальности исследовала культура. В эпизоде «Скоро вернусь» сериала «Чёрное зеркало» (2013) героиня заказывает цифровую копию умершего возлюбленного, и история показывает, как утешение постепенно оборачивается невозможностью отпустить.

Сегодня существуют сервисы, позволяющие записывать истории и голос при жизни, чтобы потомки могли «поговорить» с ними после. Вокруг них разворачивается живое обсуждение. Эта сфера новая, исследований мало, и поэтому разумно говорить о ней осторожно, без категоричных заявлений.

Горе и непрерывность связи

Чтобы понять психологическую сторону, обратимся к тому, как человек проживает утрату. Зигмунд Фрейд в работе «Печаль и меланхолия» (1917) описывал «работу горя»: постепенный процесс, в котором психика принимает реальность потери и высвобождает связанную с умершим энергию. Позднее психологи, например Уильям Уорден, описывали задачи горевания: признать реальность утраты, пережить боль, приспособиться к жизни без умершего, найти новое место для умершего в психической жизни.

Последний пункт особенно важен. В 1990-е годы исследователи Деннис Класс, Филлис Сильверман и Стивен Никман предложили концепцию «продолжающихся связей»: здоровое горевание не обязательно означает полный разрыв. Люди могут сохранять внутренний диалог с ушедшим, вспоминать, советоваться мысленно, носить его ценности. Письма, фотографии, любимые места, ритуалы помогают сохранять связь.

Из этого можно сделать два вывода. Первый: стремление сохранить память и связь с умершим естественно и во многом здорово. Второй: между памятью и иллюзией присутствия существует граница. Когда «цифровая копия» отвечает так, как будто человек жив, она может поддерживать ощущение, что утрата не произошла. Для психики, которой нужно постепенно принять реальность смерти, это иногда может мешать. В клинической практике существует диагноз затяжного горя, в котором человек не может продвинуться в проживании утраты. Нельзя утверждать, что цифровые двойники приводят к такому состоянию, но разумно предполагать, что у некоторых людей они могут его осложнять.

Если вы сейчас переживаете утрату, помните: нет «правильного» способа горевать, и поддержка живых людей, близких, групп, психологов остаётся самой надёжной опорой. Обращаться за ней не слабость.

Что именно сохраняется

Философский вопрос, лежащий в основе всех этих идей: что такое личность, и можно ли её скопировать? Цифровой двойник на основе переписки воспроизводит стиль речи и частые темы человека, но не его переживания, не его способность удивляться, меняться, расти. Это скорее портрет, чем человек: очень детальный, даже говорящий, но статичный в том смысле, что он не прожил ничего после момента «записи».

Философы обсуждают подобное на примере древнего парадокса о корабле Тесея: если заменять доски корабля одну за другой, остаётся ли он тем же кораблём? Британский философ Дерек Парфит в книге «Причины и личности» (1984) предлагал мысленные эксперименты о копировании людей и утверждал, что для нашего чувства «я» важнее психологическая непрерывность, чем тождество материи. Но окончательного ответа нет.

Поэтому честный вывод: цифровые следы могут сохранить память о человеке и отчасти его манеру, но не заменяют его самого. И пока нет оснований считать, что перенос сознания в машину осуществим.

Архетипический слой: вечная юность и страх ухода

Мечта о бессмертии это не только технология, но и архетипический мотив. Юнгианцы описывают архетип «вечного юноши» (лат. puer aeternus): стремление избежать старения, ограничений, обязательств, остаться в состоянии бесконечных возможностей. Мария-Луиза фон Франц, ученица Юнга, посвятила этому образу книгу. У вечного юноши есть светлая сторона, это жизненность, творческий порыв, но есть и теневая: отказ от ответственности, бегство от реальности и от конечности.

Противоположный полюс, архетип «старика» (senex), олицетворяет мудрость и структуру, но тоже имеет тень: окостенение и страх перемен. Здоровая психика стремится к балансу между ними. Мечта о бессмертии это попытка вечного юноши обойти встречу со старостью и смертью.

Юнг же настаивал, что смерть нельзя игнорировать. В автобиографической книге «Воспоминания, сновидения, размышления» он писал, что для зрелой психики важно иметь отношение к смерти, к тому, что существует нечто за пределами личной жизни, и что вторая половина жизни не должна быть просто продолжением первой, она требует поворота внутрь. Жизнь без внимания к её концу, по его мнению, обедняется.

Что даёт конечность

Можно развернуть вопрос: что было бы, если бы мы не умирали? Многие философы и писатели высказывали мысль, что именно конечность придаёт жизни вес. Выбор значим, потому что времени не бесконечно. Любовь дорога, потому что может прерваться. Создание произведения важно, потому что отведённый срок ограничен. Это не оправдание страданию и не повод отказываться от медицины и продления здоровой жизни: бороться с болезнями и страданием, безусловно, правильно. Но бесконечное откладывание, отсутствие финала могут лишить жизнь формы.

Наследие вместо бессмертия

Есть более скромный и, возможно, более глубокий способ говорить о цифровой памяти: как о наследии. Вместо вопроса «как мне остаться навсегда?» можно спросить: «что я хочу передать?» Записанные истории семьи, письма детям, голос, рассказывающий о важном, фотографии с подписями, список жизненных уроков. Это сохраняет не «меня», а то, чем я хочу поделиться, и делает это в форме, которую получатели смогут принять и осмыслить, не принимая иллюзию присутствия.

Практически можно подумать и о цифровом имуществе: кто получит доступ к аккаунтам, как распорядиться архивами, чего вы не хотите оставлять. Юридические нормы в разных странах различаются, и стоит узнать, как это устроено у вас.

Вопросы к себе

Если тема откликается, полезно спросить себя:

• Что для меня на самом деле значит «остаться»: память, влияние, продолжение рода, дело, любовь близких?

• Какие слова, истории, ценности я хотел(а) бы передать?

• Как я отношусь к собственной конечности: избегаю этих мыслей или могу их выносить?

• Что бы я хотел(а), чтобы близкие делали с моей памятью после моего ухода?

Итог

Мечта о цифровом бессмертии выражает древнейшее человеческое желание и в то же время обнажает нашу трудность в принятии конечности. Технологии могут помочь сохранить память, истории, голоса, и это ценно. Но отношение к смерти остаётся внутренней работой, которую нельзя делегировать. Следующая глава продолжит разговор о коллективных желаниях и обратится к образу, в котором многие из них сходятся: к искусственному Богу.

Глава 28. Архетип искусственного Бога

В разговорах об ИИ рано или поздно возникает слово, которое, казалось бы, не имеет отношения к технологиям: «бог». «Он знает всё», «он видит всё», «он решает за нас», «мы создаём бога», «это новая религия». Иногда это шутка, иногда метафора, иногда серьёзное утверждение. В этой главе мы осторожно рассмотрим, почему образ божества так естественно возникает вокруг искусственного интеллекта и что он говорит о человеческой психике. Мы будем говорить о психологии, а не о вере: вопросы о существовании Бога лежат вне предмета этой книги, и мы не касаемся чувств верующих людей, у которых эти вопросы имеют собственный смысл.

Образ Бога в психике

Юнг, сын пастора, уделял религиозному опыту огромное внимание. Он считал, что в человеческой психике существует врождённая религиозная функция: потребность в связи с чем-то большим, чем личное «я», в смысле, в трансцендентном. Для описания центрального образа этого переживания он использовал выражение «образ Бога» (лат. imago Dei) и связывал его с архетипом Самости. Он подчёркивал, что как психолог он говорит о переживании и образе, а не о метафизической реальности: «образ Бога» это психический факт, независимо от того, существует ли Бог вне психики.

В работе «Современный человек в поисках души» (1933) Юнг утверждал, что многие проблемы людей ХХ века связаны с потерей религиозного измерения: секуляризация освободила от догм, но оставила пустоту, которую психика стремится заполнить. Если место трансцендентного не занято, оно может быть занято чем-то другим: идеологией, культом личности, потреблением, наукой, и, как мы теперь видим, технологией.

Проекция божественного

Ещё раньше немецкий философ Людвиг Фейербах в книге «Сущность христианства» (1841) предложил идею, что образ Бога возникает как проекция лучших человеческих качеств, вынесенных наружу и обожествлённых: знания, силы, любви. Позднее психология развивала похожие мысли, хотя и с разными оценками. Для нашего разговора важно не отношение к религии, а механизм: когда люди наделяют нечто безграничным знанием, силой и благостью, они склонны относиться к нему с благоговением.

Посмотрим, какие «божественные» атрибуты общество приписывает ИИ.

•

Всеведение.

Система «знает всё»: ей достаточно задать вопрос.

•

Вездесущность.

Она доступна везде и всегда, «в облаке», через любое устройство.

•

Всемогущество.

Она может писать, рисовать, программировать, переводить, решать задачи, и круг растёт.

•

Творение.

Генеративные системы создают тексты и образы «из ничего», по слову запроса.

•

Суд и промысел.

Алгоритмы оценивают, ранжируют, определяют, кому дать кредит, кого пригласить на собеседование, что показать в ленте. Они, по сути, распределяют блага и внимание.

•

Пророчество.

Системы предсказывают погоду, спрос, поведение, болезни.

Эти сходства не доказывают божественности, но объясняют, почему язык религии лезет в разговор. Мы сталкиваемся с чем-то, что по масштабу и свойствам напоминает то, что в прежних культурах называли высшим.

Религия технологии

Связь между технологией и религиозным воображением давно замечена историками. Американский историк Дэвид Ноубл в книге «Религия технологии» (1997) показывал, что идеалы западной науки и техники во многом выросли из религиозных мотивов: стремления вернуть человека к утраченному совершенству, преодолеть падение, создать «новое творение». Современные идеи о сингулярности, бессмертии, слиянии с машинным разумом звучат как светский вариант эсхатологии, учения о конце времён. Ироничное выражение «восторг ботаников» (на английском «rapture of the nerds») подчёркивает это сходство, хотя многие сторонники таких идей с ним не согласны.

Историк Юваль Харари в книге «Homo Deus» (2016) описывал идеологию «датаизма»: веру в то, что поток данных и обработка информации придают смысл всему. Он говорил об этом критически, как об одном из возможных путей развития, но сам термин показывает, что разговор о сакральном в технологиях ведётся всерьёз.

Есть и буквальные попытки. В 2015 году американский инженер Энтони Левандовски зарегистрировал организацию «Путь будущего», задуманную как религия, поклоняющаяся ИИ. Она вызвала много шума, но существовала недолго и была закрыта в 2021 году. Дело не в масштабе, а в симптоме: идея искусственного божества оказалась достаточно привлекательной, чтобы кто-то попытался воплотить её в организационной форме.

Ужасное и благое: двойственность божества

Как и в других случаях, образ Бога у Юнга амбивалентен: он может быть и благим, и грозным. Рудольф Отто, чьё понятие «нуминозного» мы упоминали, описывал это как сочетание «таинственного, ужасающего и притягивающего». У ИИ-божества тоже два лица.

Светлое: заботливый, мудрый, всё понимающий, исцеляющий. Образ, к которому тянутся те, кто ищет избавителя от болезней, нужды, одиночества.

Тёмное: судья, надзиратель, карающий и безразличный. В 2014 году предприниматель Илон Маск выразил тревогу образом «призыва демона», в таком же духе много образов в массовой культуре. Это та же божественная фигура, но в тёмном облике.

Обе версии объединяет одно: перед нами образ силы, превосходящей человека и требующей отношения, будь то поклонение, страх, подчинение или бунт.

Тень проекции: идолопоклонство и отказ от ответственности

Юнг предупреждал о последствиях, когда образ Бога проецируется на внешний объект, а не переживается как внутренний опыт. Человек, который видит божественное в чём-то внешнем, склонен либо подчиняться этому, либо раздуваться от причастности к нему. Древние религиозные традиции многих культур содержат предупреждение об идолопоклонстве, поклонении рукотворному. Независимо от богословского смысла, у этой идеи есть психологическое содержание: когда человек поклоняется собственному творению, он перестаёт видеть в нём собственное творение и отказывается от ответственности.

В практических терминах это может проявляться так:

Безусловное доверие.