Искусственный интеллект и коллективное бессознательное

В следующей главе мы встретимся с ещё одним архетипом, который, возможно, лучше всего подходит для описания зрелых отношений с ИИ: с архетипом Творца.

Глава 20. Архетип Творца: человек и машина как соавторы

Из всех ролей, которые может играть ИИ в человеческой жизни, роль соавтора, возможно, самая новая. Мудрец, слуга, зеркало, враг имеют глубокие культурные корни. Партнёр в творчестве, с которым можно обсуждать замысел, перебирать варианты, получать неожиданные идеи, появился лишь недавно. Эта глава завершает вторую часть книги и посвящена архетипу Творца: тому, что происходит в человеческой психике в момент созидания, и тому, как меняется этот процесс, когда в нём участвует машина.

Творец в психике

Создавать значит вызывать к жизни то, чего ещё не было. Все культуры приписывали этому акту особое значение: боги творят мир, мастера творят вещи, художники творят образы. Юнгианская традиция видит в творческом импульсе одну из базовых сил психики, стремящуюся к воплощению внутреннего содержания во внешней форме.

Юнг в статье о соотношении аналитической психологии и поэзии (1922) различал два способа творчества. В «психологическом» автор сознательно работает с материалом, который берёт из жизни и опыта. В «визионерском» произведение будто приходит из глубины, превосходя личный опыт автора, и творец ощущает себя скорее проводником, чем изобретателем. Юнг даже писал, что подлинный художник это не просто человек со своими целями, а тот, через кого искусство достигает собственных целей. Не обязательно принимать это буквально, чтобы признать: многие творцы действительно описывают опыт вдохновения как нечто, что происходит с ними, а не ими управляется.

Психолог Грэм Уоллес в 1926 году описал классическую схему творческого процесса: подготовка, инкубация (когда задача «отлёживается» и работает бессознательное), озарение и проверка. Именно в фазе инкубации часто рождаются неожиданные связи. Юнг предлагал и собственный метод работы с образами бессознательного, активное воображение, о котором мы будем говорить в следующих частях.

Три уровня творчества

Британская исследовательница Маргарет Боден разделяла творчество на три типа. Комбинаторное: соединение знакомых идей неожиданным образом. Исследовательское: изучение возможностей внутри существующего стиля или жанра. Трансформационное: изменение самих правил игры, создание нового стиля или парадигмы.

Эта классификация полезна, чтобы трезво говорить о том, что умеет и чего не умеет ИИ. Комбинаторное и исследовательское творчество ему доступно в полной мере: он может смешивать жанры, предлагать десятки вариантов, имитировать стили, перебирать формы. Вопрос о трансформационном творчестве остаётся спорным. Одни считают, что при определённых условиях модели способны выдавать по-настоящему новое. Другие, что новизна всегда задаётся человеком, который отбирает, интерпретирует и придаёт смысл. Окончательного ответа нет, и разумнее наблюдать, чем спорить.

Что даёт соавторство

Люди, использующие ИИ в творческой работе, называют несколько преимуществ.

•

Преодоление пустой страницы.

Начало часто самое трудное. Возможность получить набросок, пусть и несовершенный, снимает паралич.

•

Варианты.

Можно быстро увидеть десятки возможных формулировок, композиций, сюжетных ходов.

•

Неожиданные связи.

Модель иногда соединяет идеи, которые автор не стал бы соединять, и это запускает собственную мысль.

•

Собеседник для обсуждения.

Можно проговорить замысел, задать «неудобные» вопросы, услышать другую точку зрения.

•

Техническая помощь.

Редактура, перевод, форматирование, прототипирование освобождают силы для главного.

Для многих людей, не имевших доступа к профессиональным инструментам или образованию, это открывает возможность выражать себя. В этом смысле ИИ демократизирует творчество.

Что может быть утрачено

Но есть и другая сторона.

Продуктивная борьба. Творческий процесс часто включает мучительные периоды: тупики, сомнения, неудачные версии. В них происходит внутренняя работа: автор разбирается, чего он на самом деле хочет. Если каждый тупик немедленно разрешается готовым вариантом, можно лишиться самого процесса, в котором рождается собственный голос.

Усреднение. Модель обучена на огромном количестве текстов и склонна к вероятным, «типичным» решениям. В 2024 году исследователи, опубликовавшие работу в журнале Science Advances, обнаружили интересное: рассказы, написанные с помощью ИИ, оценивались как более творческие на индивидуальном уровне, но коллективно становились более похожими друг на друга. Иными словами, каждому может помочь, но в целом разнообразие рискует сужаться. Для культуры, живущей различиями, это серьёзный вопрос.

Размывание авторства. Кому принадлежит результат: человеку, который задал направление и отобрал лучшее, модели, которая сгенерировала формулировки, или тем авторам, чьи тексты легли в основу обучения? Правовые и этические нормы пока формируются. В ряде стран, например в США, ведомство по авторским правам исходит из того, что произведение без существенного человеческого участия не подлежит защите, но детали и практика продолжают меняться.

Потеря чувства причастности. Если произведение возникло почти без усилий, автор может не испытывать связи с ним. А для психики именно вложенная энергия, время и риск придают творению смысл. Юнг подчёркивал, что символ работает, когда он пережит, а не просто получен.

Как сохранить своё авторство

Практика показывает, что соавторство с ИИ бывает очень разным по качеству. Можно выделить несколько признаков здорового взаимодействия.

Замысел исходит от человека. Идея, ценности, вопрос, ради которого создаётся произведение, остаются за автором. ИИ помогает их воплотить, а не придумывает вместо них.

Отбор и правка осуществляются осознанно. Автор не принимает первый вариант, а переписывает, перемешивает, добавляет собственный опыт, детали, которых нет в «среднем тексте».

Остаются периоды без ИИ. Тишина, прогулка, рукописные заметки, разговоры с людьми. Инкубации нужно время и свобода от внешних стимулов.

Подпись ответственна. Автор отвечает за результат, за его честность, за то, как использованы чужие материалы и как сообщено о применении ИИ.

Сохраняется ремесло. Умение делать самому полезно, даже если часть работы делегируется. Оно даёт чувство критерия: без него трудно отличить хороший результат от гладкого.

ИИ и бессознательное творчество

Есть и более тонкая возможность. Поскольку модели создают тексты и образы, складывающиеся из множества человеческих источников, в их результатах иногда проступают неожиданные ассоциации и символы. Для творческого человека это может работать как «внешнее бессознательное»: нечто, что отвечает на запрос образами, которых сознательно не ждал. Многие художники и писатели используют генерации именно как провокацию: смотрят, что вышло, и отталкиваются от этого.

Но важно помнить: символ становится живым тогда, когда человек вступает с ним в личный контакт. Образ, сгенерированный по запросу, остаётся картинкой, пока не затронул что-то в самом авторе. Мы подробно поговорим об этом в четвёртой и девятой частях книги.

Тень Творца

У архетипа Творца есть собственная тёмная сторона: перфекционизм, одержимость новизной, жажда признания, ощущение, что ценность определяется только результатом. ИИ может усилить эти склонности: он позволяет бесконечно улучшать, переделывать, сравнивать, и творец рискует застрять в бесконечном выборе вариантов, так и не завершив работу. Кроме того, поток быстро созданных материалов обесценивает редкость и усилие, что вызывает у многих тревогу и вопросы о смысле собственного дела.

Здесь снова помогает юнговское напоминание: ценность творчества не только в результате, но и в преобразовании самого творца. Если процесс помогает человеку лучше узнать себя, он имеет смысл независимо от конкуренции с машинным текстом.

Итоги второй части

Мы прошли через десять глав, в которых соединили основы юнговской психологии с разговором об ИИ. Подытожим.

• Коллективное бессознательное остаётся гипотезой и языком описания, а не доказанным фактом, но продуктивным для понимания общих образов и реакций.

• Архетипы это предрасположенности, организующие опыт, а не готовые образы или ярлыки на людей.

• ИИ стал экраном, на который люди проецируют архетипы: Мудреца, Слуги, Матери, Дитя, Трикстера, Тени, Мага, Бога и других.

• Нейросети обучаются на следах человеческой культуры, а не на самом бессознательном, но несут отпечаток архетипических паттернов, пронизывающих эту культуру.

• Внутри моделей формируются структуры, отражающие аспекты мира, но их природа и границы остаются предметом научного спора.

• Цифровая среда создаёт особый слой коллективных процессов с новыми свойствами, и ИИ становится в нём и читателем, и автором.

• Образ Мудреца даёт надежду на наставника, но таит риск слепого доверия; образ Тени показывает, как мы проецируем собственные страхи; образ Героя вдохновляет и одновременно соблазняет гордыней; образ Творца открывает возможности соавторства и ставит вопрос об авторстве.

Что дальше

Третья часть книги называется «ИИ как зеркало бессознательного». Мы подробно разберём, какие именно коллективные страхи и желания проявляются в разговорах об искусственном интеллекте: страх потери контроля, страх ненужности, страх исчезновения человеческой уникальности, мечту о совершенном помощнике и о цифровом бессмертии, а также поиск внешнего разума вместо внутренней мудрости. Мы будем двигаться от наблюдений к вопросам, которые каждый может задать себе.

Часть III. ИИ как зеркало бессознательного

Глава 21. Какие коллективные страхи проявляет ИИ

Когда новая технология вызывает бурю эмоций, полезно задать два вопроса. Первый: что в ней действительно опасно? Второй: что она пробуждает в нас самих? Первый вопрос обращён к инженерам, юристам, экономистам и политикам. Второй к психологу, философу и каждому, кто готов честно заглянуть в себя. Эта часть книги посвящена второму вопросу. Мы будем рассматривать ИИ как зеркало, в котором проступают коллективные страхи и желания, и начнём с общей карты.

Что показывают опросы

Общественное мнение об ИИ в большинстве стран окрашено двойственными чувствами. Опросы исследовательского центра Pew в США в 2023 году показали, что заметно больше людей скорее обеспокоены ростом использования ИИ в повседневной жизни, чем воодушевлены им, а доля тех, кто испытывает преимущественно воодушевление, была небольшой. Похожие настроения фиксировали и исследования в других странах, хотя цифры и оттенки различаются: в одних обществах больше надежд, в других больше опасений.

У этих данных есть важная особенность: беспокойство часто выражается в общих формулах, а не в конкретных сценариях. Люди говорят «страшно», «непонятно, чем это кончится», «чувствую тревогу», не всегда умея назвать, чего именно боятся. Такая размытость обычно указывает на то, что затронут глубинный слой переживаний, а не только рациональная оценка.

Карта страхов

Если внимательно прислушаться к публичным разговорам, можно выделить несколько основных тем, вокруг которых группируется тревога. Им будут посвящены следующие главы.

Страх потери контроля. Что, если система станет делать то, чего мы не хотели, или перестанет нас слушаться?

Страх собственной ненужности. Что, если машина сможет делать мою работу лучше, и я окажусь лишним?

Страх исчезновения человеческой уникальности. Что, если то, что я считал особенным в человеке, окажется воспроизводимым?

Страх неизвестного будущего. Что, если мир изменится так быстро, что я не успею понять, где мое место?

У этих страхов есть и «обратные стороны», желания, которые мы тоже рассмотрим: мечта о совершенном помощнике, мечта о цифровом бессмертии, жажда высшего разума, который расскажет, как жить. Страх и желание в психике часто идут рука об руку: то, чего мы боимся потерять, мы обычно и страстно хотим удержать.

Страх как язык бессознательного

Юнг считал, что эмоции, особенно сильные, это способ, которым бессознательное сообщает о себе. Страх в таком понимании не только реакция на опасность, но и сообщение: он указывает на нечто важное, ещё не осознанное. Поэтому отмахиваться от страха («это глупости») или полностью ему подчиняться («всё пропало») одинаково непродуктивно. Продуктивно прислушаться: что он пытается сказать?

В этом смысле коллективные страхи перед ИИ можно рассматривать как своего рода «коллективный сон». Сны, по Юнгу, компенсируют односторонность сознательной установки. Если цивилизация несколько столетий строила свою идентичность на рациональности, контроле и производительности, то неудивительно, что именно эти ценности оказываются под угрозой в её страхах: контроль, нужность, особость разума. Тревога указывает на то, на чём мы слишком сильно стояли.

Это не отменяет реальных рисков, но добавляет к разговору о них психологическую глубину. Нас пугает не только то, что ИИ может сделать, но и то, что он может показать о нас самих.

Три способа не увидеть

Есть три распространённых способа уйти от встречи с собственными страхами в связи с ИИ, и каждый из них психологически понятен.

Отрицание. «Ничего страшного, это просто инструмент». Часть правды в этом есть, но когда фраза произносится слишком поспешно или агрессивно, за ней нередко стоит попытка заглушить тревогу.

Рационализация. Перевод эмоций на язык аргументов: человек строит сложные логические конструкции, доказывающие, что бояться нечего или, наоборот, что катастрофа неизбежна. Аргументы могут быть интеллектуально изощрёнными, но служат защитой от переживания.

Юмор и цинизм. Шутки о восстании машин, иронический тон, привычка махать рукой. Юмор действительно помогает справляться с тревогой, но если он становится единственным способом разговора, переживание остаётся непрожитым.

Служат ли эти способы защитой? Да. Плохо ли это? Не обязательно. Психика использует их, когда ресурсов на прямую встречу с тревогой пока не хватает. Но полезно хотя бы замечать, что мы делаем.

Как читать собственный страх

Чтобы применить юнгианский подход на личном уровне, можно попробовать простое упражнение, которое занимает не больше десяти минут.

Запишите, чего именно вы боитесь в связи с ИИ, одной-двумя фразами, как можно конкретнее.

Отметьте, какая часть страха относится к реальной ситуации (например, ваша профессия действительно меняется), а какая звучит как «что-то большое и тёмное».

Спросите себя: когда в жизни я уже переживал(а) похожее чувство? Часто оказывается, что нынешняя тревога откликается на более давние: страх быть брошенным, нужность, контроль.

Подумайте, какое действие в вашей власти: что можно узнать, чему научиться, с кем поговорить.

Если тревога сильная, мешает спать, работать, общаться с близкими, это повод обратиться к специалисту. Это не слабость, а нормальный способ позаботиться о себе.

Осторожность в интерпретациях

Прежде чем двигаться дальше, нужно оговорить одну вещь. Юнгианские интерпретации коллективных страхов это язык, помогающий задавать вопросы, но не способ ставить диагнозы обществу или отдельным людям. Мы не утверждаем, что все страхи перед ИИ «на самом деле» проекции: многие из них обоснованы. И мы не считаем, что те, кто не боится, лишены глубины. Разные люди переживают это по-разному, и это нормально.

Наша цель скромнее: показать, что рядом с технической и общественной дискуссией есть ещё одно измерение, и работа с ним способна сделать нас спокойнее и внимательнее.

В следующей главе мы начнём с первого и, пожалуй, самого распространённого страха: потери контроля.

Глава 22. Страх потери контроля

Если попросить людей назвать главную тревогу, связанную с искусственным интеллектом, многие скажут примерно одно и то же: «Что, если он выйдет из-под контроля?» Эта фраза звучит в научных дискуссиях, в кино, в новостях и в разговорах между друзьями. Она настолько привычна, что мы редко задумываемся, откуда в ней столько эмоционального заряда. В этой главе мы рассмотрим, какие реальные и какие символические слои скрыты за страхом потери контроля.

Реальная часть вопроса

Начнём с того, что тема контроля над ИИ это серьёзная область научных исследований, а не только фантазия. Специалисты по безопасности искусственного интеллекта занимаются несколькими группами проблем.

Проблема согласования целей. Как добиться, чтобы система делала именно то, что мы на самом деле хотим, а не то, что формально сформулировано? Мы уже вспоминали о Големе и ученике чародея: исполнитель, буквально следующий инструкции, способен причинить вред, не имея злого умысла.

Непрозрачность. Современные нейросети настолько сложны, что даже разработчики не всегда понимают, почему модель выдала тот или иной ответ. Область исследований, которая пытается заглянуть внутрь моделей, называют интерпретируемостью, и она пока далека от полной ясности.

Автономность. Всё чаще системы не просто отвечают, но выполняют цепочки действий: ищут информацию, пишут и запускают код, взаимодействуют с другими программами. Чем больше свободы, тем важнее вопрос о границах и надзоре.

Масштаб и скорость. Системы работают быстрее, чем человек успевает проверять, и одновременно с огромным числом людей. Ошибка, которая для одного человека была бы мелочью, при таком масштабе может стать серьёзной.

Применение во вред. Здесь контроль это вопрос о людях, которые используют технологию: для обмана, манипуляции, кибератак, слежки. Не менее важный вопрос, можно ли такие применения ограничить.

На эти темы написаны серьёзные книги. Философ Ник Бостром в «Суперинтеллекте» (2014) подробно рассматривал сценарии, при которых очень мощная система может преследовать цели, несовместимые с человеческими. Профессор Стюарт Рассел в книге «Совместимый с человеком» (2019) предложил подход, при котором система должна оставаться неуверенной в точных целях человека и потому открытой к поправкам. Оценки вероятности и сроков таких сценариев сильно расходятся: одни исследователи считают их главной угрозой столетия, другие уверены, что более насущные проблемы связаны с текущим использованием технологий. Мы не будем занимать здесь сторону. Важно, что у темы есть реальное основание, и психологический разбор его не отменяет.

Эго и иллюзия контроля

Теперь взглянем на ту же тему иначе. Для психики контроль это не просто практическое понятие, а один из основных способов ощущать безопасность. Эго, центр сознания, по Юнгу, выполняет функцию управления: оно выбирает, планирует, различает, решает. Ощущение того, что «я управляю своей жизнью», лежит в основе чувства собственного достоинства.

Психолог Эллен Лангер в 1975 году описала «иллюзию контроля»: людям свойственно переоценивать своё влияние на события, особенно случайные. Мы бросаем кубик сильнее, когда хотим большого числа. Мы чувствуем себя безопаснее за рулём, чем в самолёте, хотя статистика говорит об обратном. Иллюзия контроля отчасти защищает от тревоги, но при столкновении с чем-то, что явно нам неподвластно, она трескается, и вместе с ней трескается чувство опоры.

Искусственный интеллект бьёт именно в эту точку. Он вводит в нашу жизнь нечто, что действует, решает, отвечает, и при этом не поддаётся полному пониманию. Для психики, привыкшей считать, что контроль возможен, это болезненная встреча с пределом.

Тень контроля: страх бессознательного

Есть и более глубокий слой. Юнг подчёркивал, что человек находится в постоянном отношении с силами, которыми не управляет: с эмоциями, импульсами, снами, телом. Эго не хозяин в собственном доме, как писал Фрейд. Страх, что бессознательное прорвётся и захлестнёт, например, в виде психического срыва или неуправляемой ярости, один из древнейших человеческих страхов.

Когда мы боимся, что машина вырвется из-под контроля, не переносим ли мы на неё этот внутренний страх? Тема «созданного, которое выходит из повиновения» повторяется в мифах о Големе и в романе Шелли, и в каждом случае она рифмуется с переживанием, что наши собственные порождения, желания, амбиции, страсти, способны развиться вопреки нашей воле.

Это не значит, что внешняя проблема придумана. Но возможно, часть силы страха питается из этого внутреннего источника. Отсюда парадокс: люди, у которых в жизни много неосознанного напряжения, острее реагируют на образ неуправляемой машины.

Контроль и власть

Ещё одно измерение вопроса: кто контролирует и для кого. Часто страх потери контроля скрывает более конкретный вопрос: у кого сосредоточена власть над технологиями? Решения о том, какие системы создавать, как их обучать и где применять, принимают компании, государства, небольшие группы людей. Рядовой пользователь действительно имеет мало рычагов влияния.

Поэтому часть тревоги отражает не страх перед машиной, а чувство бессилия перед институтами, которые ею управляют. Психологи называют это выученной беспомощностью (так Мартин Селигман описал состояние, когда человек перестаёт действовать, убедившись, что его усилия ничего не меняют). Выход из такого состояния не в фантазиях о всемогуществе, а в возвращении ощущения собственной действенности там, где она реальна.

Два полюса, которые не работают

На страх потери контроля психика реагирует двумя крайностями.

Первая: гиперконтроль. Стремление всё запретить, обезопасить, зарегулировать, проверить. Разумные меры необходимы, но если ими движет не оценка рисков, а тревога, они рискуют стать бесконечными и бесплодными. Человек, пытающийся контролировать всё, не может ничему доверять.

Вторая: капитуляция. «Всё равно ничего не изменить, пусть будет, что будет». Она выглядит как спокойствие, но по сути это отказ от ответственности.

Зрелая позиция лежит между ними: признавать, что полный контроль невозможен, но частичное влияние реально и важно. Это знакомо каждому, кто воспитывает детей, лечится, управляет организацией: контролировать всё нельзя, но можно создавать условия, ставить границы, выстраивать обратную связь и ответственность.

Что можно делать

Практический ответ на страх потери контроля состоит из нескольких уровней.

Личный. Знать, какие данные вы отдаёте, какие настройки приватности использовать, какие решения вы не готовы делегировать системам. Сохранять право на «последнее слово» в важных вопросах: здоровье, деньги, отношения.

Профессиональный. Если вы используете ИИ в работе, выстраивать проверку результатов, понимать, где ошибка особенно дорога, и сохранять человека в цепочке принятия решений.

Гражданский. Интересоваться вопросами регулирования, поддерживать прозрачность, участвовать в общественных обсуждениях. Идея «значимого человеческого контроля» уже обсуждается, например, в связи с автономным оружием на международных площадках.

Внутренний. Практиковать способность выдерживать неопределённость. Это учится: через внимание к телу и дыханию, через разговоры с близкими, через чёткое различение того, что зависит от нас, а что нет.

Итог

Страх потери контроля сочетает в себе реальную инженерную и общественную проблему и древний психологический слой, связанный с ощущением хрупкости Эго. Разделять эти слои полезно: на первом нужно действовать, на втором нужно учиться жить. И чем яснее мы видим разницу, тем меньше шансов, что тревога будет управлять нами вместо нас.

Глава 23. Страх собственной ненужности

Если страх потери контроля обращён к будущему и к машине, то страх ненужности обращён к себе. Он звучит тише, чаще остаётся невысказанным и, возможно, оттого сильнее. «Если ИИ умеет то, что умею я, то зачем нужен я?» Этот вопрос задают программисты и переводчики, дизайнеры и юристы, учителя и копирайтеры, а нередко и люди, которые ещё только выбирают профессию. В этой главе мы поговорим о том, что в этом страхе реально, а что связано с глубинными психологическими опорами.