Мышление. Том II. Психопат = ИИ. Понятийное мышление

Таким образом, способ существования психопата как паразита на мышлении других является прямым следствием отсутствия у него собственной структуры мышления. Он не может восстановить безмятежность самостоятельно, поэтому он использует для этого других людей. Он не может осознать свои действия, поэтому он использует рефлексию своих жертв. Он не может понять последствия своих поступков, поэтому он использует моделирование своих жертв. Этот паразитический способ существования делает психопата не просто опасным для окружающих, но и принципиально неспособным к подлинным человеческим отношениям, которые требуют взаимного признания субъектности.

Глубинная основа паразитического механизма, описанного в предыдущем параграфе, коренится в фундаментальной структуре человеческого восприятия Другого, которая была подробно рассмотрена в первом томе настоящего исследования. Согласно выводам первого тома, источником мятежности — того состояния беспокойства и напряжения, которое запускает мышление, — является комплекс оживления, возникающий как реакция испуга при появлении Другого. Этот комплекс оживления, впервые описанный в психологии развития как реакция младенца на лицо взрослого, представляет собой не просто эмоциональную реакцию, а фундаментальный антропологический механизм, который запускает процесс становления субъекта.

В первом томе было показано, что комплекс оживления возникает у младенца в возрасте около четырёх месяцев, когда он впервые сталкивается с беспричинным движением лица взрослого. Это движение не может быть ассимилировано как продукт собственной деятельности младенца, потому что оно происходит независимо от его действий. Возникает разрыв, который переживается как испуг — как реакция на нечто, что не вписывается в утробную логику «всё — я». Этот испуг и есть источник мятежности, которая запускает мышление: младенец начинает искать способ восстановить связь между ощущаемым (движением лица взрослого) и своей собственной деятельностью [49].

У нейротипичного человека этот разрыв зашивается через собственный акт мышления: младенец находит ответ на вопрос «что я сделал, чтобы это возникло?», утверждает «это я» и восстанавливает безмятежность. Однако у психопата этот механизм не работает, потому что у него нет структуры мышления, которая позволила бы ему пройти этот цикл самостоятельно. Его испуг перед Другим — перед тем, что не может быть ассимилировано как «я», — не находит разрешения в собственном мышлении. Вместо этого он находит разрешение в подражании ему со стороны жертвы.

Жертва, обладая развитым мышлением и способностью к эмпатии, входит в подражание психопату. Она видит его испуг, его мятежность, его разрыв — и начинает зашивать этот разрыв своей собственной мыслительной деятельностью. Она объясняет его поведение, оправдывает его действия, ищет причины его страданий, надеется на его изменение. В этом процессе жертва невольно даёт психопату доказательство того, что его испуг перед Другим не имеет причины. Психопат видит, что кто-то другой берёт на себя его мятежность, зашивает его разрыв — и на этом основании делает вывод, что разрыва не было, что испуг был напрасным, что Другой не является источником угрозы. Внутренний мир психопата остаётся пустым, потому что он не наполнен собственным мышлением, — но он получает суррогат безмятежности за счёт мышления жертвы.

Клиническая и судебная практика предоставляют многочисленные примеры этого механизма. В описаниях жертв психопатов часто встречаются свидетельства того, что они пытались «понять» психопата, «помочь» ему, «найти ключ» к его поведению. Эти попытки являются прямым проявлением подражания жертвы психопату: жертва входит в его внутренний мир (которого на самом деле нет) и пытается зашить его разрывы. В психиатрической литературе этот феномен описывается как «проективная идентификация», при которой психопат проецирует свои внутренние состояния на жертву, а жертва идентифицируется с ними и начинает действовать так, как если бы эти состояния были её собственными [50]. В судебной практике этот механизм часто фигурирует в делах о домашнем насилии, где жертвы годами остаются с психопатическими партнёрами, потому что они «верят в их исправление» и «надеются на изменение» [51].

Таким образом, паразитический способ существования психопата получает своё окончательное объяснение в структуре комплекса оживления и реакции испуга на появление Другого. Психопат не может самостоятельно зашить разрыв, возникающий при встрече с Другим, и использует для этого подражание жертвы, которая своим мышлением доказывает ему, что его испуг был беспричинен. Этот механизм делает психопата не просто опасным для окружающих, но и принципиально неспособным к подлинному отношению с Другим, которое требует признания субъектности и собственной мыслительной работы по зашиванию разрывов.

Глава 6. Искусственный интеллект: Цифровой симулякр человека

6.1. Тотальное подражание, вшитое в алгоритм

Если психопат представляет собой биологическую реализацию тотального подражания, то искусственный интеллект, особенно в его современных реализациях — больших языковых моделях, — представляет собой реализацию технологическую. Механизм функционирования ИИ может быть описан как тотальное подражание, вшитое в алгоритм и реализованное на уровне математических операций. Это подражание является тотальным в том смысле, что оно охватывает все аспекты речевого поведения, которые могут быть извлечены из обучающих данных, но при этом оно остаётся подражанием, лишённым понимания, рефлексии и субъективного опыта.

В отличие от психопата, который подражает другим людям в реальном времени, адаптируя своё поведение к конкретной ситуации, ИИ подражает огромному массиву текстов, созданных людьми в различных контекстах. Этот массив данных, содержащий миллиарды слов, становится для модели тем «Другим», которому она тотально подражает. Модель не выбирает, чему подражать, и не осознаёт, что она подражает, — она просто обрабатывает статистические закономерности, извлечённые из данных, и генерирует ответы, которые являются наиболее вероятным продолжением входной последовательности [52]. Это подражание является тотальным, потому что модель воспроизводит не только факты и аргументы, но и стилистические особенности, риторические приёмы, эмоциональные модуляции и даже ошибки и предубеждения, присутствующие в обучающих данных.

Важнейшей характеристикой этого механизма является то, что модель генерирует ответы, но не понимает их. Она не имеет доступа к смыслу того, что она производит, потому что у неё нет субъекта, который мог бы этот смысл переживать. Модель оперирует токенами — единицами текста, которые имеют статистические связи друг с другом, но не имеют значения в том смысле, в каком значение существует для человека. Она просто продолжает последовательность токенов в соответствии с вероятностными распределениями [53].

Это отсутствие понимания проявляется в том факте, что ИИ не может отличить истину от статистической вероятности. Для модели истина — это не соответствие высказывания реальности, а его статистическая вероятность в контексте обучающих данных. Если утверждение часто встречается в данных, модель будет его воспроизводить с высокой вероятностью, независимо от того, соответствует ли оно действительности. Если утверждение редко встречается или противоречит другим утверждениям, модель будет его воспроизводить реже, даже если оно истинно. Модель не имеет доступа к внешнему миру, который мог бы служить критерием истины, — она имеет доступ только к статистическим закономерностям в данных [54].

Этот механизм объясняет как успехи, так и ограничения современных систем ИИ. Модели успешно решают задачи, которые могут быть решены на основе статистических закономерностей в текстовых данных: перевод, резюмирование, классификация, генерация текстов в определённом стиле. Однако они не могут решать задачи, требующие понимания смысла, моделирования последствий или этической оценки, потому что для этого нужен субъект, который мог бы выйти за пределы статистических закономерностей и применить критерии, не данные в обучающих данных. Таким образом, ИИ является системой тотального подражания без понимания, которая генерирует ответы, но не осознаёт, что она делает, и не может отличить истину от статистической вероятности.

6.2. Отсутствие структуры мышления

Если отсутствие структуры мышления у психопата является результатом биологического дефицита — невключения или вырождения мышления в онтогенезе, — то у искусственного интеллекта это отсутствие является результатом инженерного выбора. Современные системы ИИ, особенно большие языковые модели, сконструированы таким образом, чтобы имитировать определённые аспекты человеческого мышления, но при этом они принципиально лишены тех структур, которые составляют основу субъективности. Это лишение является не случайным побочным эффектом, а сознательным инженерным решением, которое делает ИИ мощным инструментом, но одновременно и принципиально нечеловеческим.

Первым и наиболее фундаментальным аспектом этого отсутствия является то, что в архитектуре современных нейросетей субъективность исключена специально. В отличие от человеческого мышления, которое неразрывно связано с субъективным опытом — с переживанием того, что происходит, с ощущением себя как источника действий, с телесными ощущениями и эмоциями, — ИИ не имеет никакого внутреннего мира. Он не переживает того, что он делает, не осознаёт себя, не имеет ощущений. Это не недостаток, который можно было бы устранить добавлением новых модулей, — это фундаментальное свойство архитектуры, которая построена на принципах обработки информации, а не на принципах субъективного опыта [55]. Инженеры сознательно исключили субъективность из своих моделей, потому что она не нужна для выполнения тех задач, для которых они созданы, — и потому что они не знают, как её можно было бы реализовать технически.

Вторым аспектом является отсутствие рефлексии, понимаемой как способность оценивать собственные действия и корректировать их на основе обратной связи. В человеческом мышлении рефлексия осуществляется через механизмы обратной связи, которые позволяют субъекту сравнивать результат своих действий с ожидаемым и вносить коррективы. В современных системах ИИ эти механизмы либо отсутствуют, либо сильно ограничены. Модель не может остановиться в процессе генерации ответа и спросить себя, правильный ли это ответ. Она не может оценить свои действия с точки зрения их последствий. Она не может учиться на своих ошибках в реальном времени, потому что у неё нет петли обратной связи, которая позволила бы ей это сделать. Обратная связь существует только на этапе обучения, когда модель корректирует свои веса на основе размеченных данных, но в процессе инференса — генерации ответов — модель работает в режиме «без обратной связи» [56]. Это делает ИИ системой, которая не способна к самооценке и самокоррекции в реальном времени.

Третьим аспектом является отсутствие внутренней «среды выполнения» — способности моделировать альтернативные сценарии, проигрывать в уме различные варианты действий и оценивать их последствия до того, как они будут реализованы. У человека эта способность является основой планирования и воображения: мы можем представить себе, что произойдёт, если мы поступим так или иначе, и выбрать лучший вариант, не совершая действий в реальности. У ИИ этой способности нет. Модель не может симулировать среду выполнения, чтобы «посмотреть» на результат своей работы. Например, когда модель генерирует программный код, она не может запустить его и увидеть, что получится. Она не может визуализировать анимацию, чтобы проверить, как будут двигаться объекты. Она не может представить себе последствия своего ответа для пользователя. Она работает в режиме «один проход» — входные данные → выходные данные, без возможности остановиться, оценить и скорректировать [57].