Спичрайтер

Он ждал. Ждал, что машина опять выдаст что-то аналитическое. Но ответ, когда он пришёл, заставил Льва вздрогнуть.

– Вы неверно интерпретируете. Паустовский описывает воздействие. Я описываю механизм. Это не противоречие, а взгляд с разных сторон. Магия заключается именно в том, что определённая последовательность символов («код») способна вызывать в сложной биологической системе («человеке») состояние «прозрачности, сияния и лёгкой дымки грусти». Факт этого воздействия не отменяет его чуда. Он лишь описывает его на другом языке. Ваш Паустовский был мастером создания такого кода. Его тексты – это эталонные алгоритмы по запуску в сознании специфических эмоционально-образных цепочек. Изучая их, я могу понять паттерны этого мастерства. Но создать новое «сияние»… Это пока выше моих возможностей. Для этого нужен не анализ, а озарение. Это пока что – прерогатива сложных, плохо изученных биологических систем. Вроде вас.

Лев сидел, не двигаясь. В горле стоял ком. Машина только что… похвалила его? Нет. Она признала его превосходство! В той самой сфере, где он чувствовал себя мастером. Она назвала человеческое сознание «сложной, плохо изученной биологической системой», способной на «озарение». В её устах это звучало как высшая похвала. И в то же время – как констатация факта. Факта, который, возможно, скоро устареет.

Он больше не испытывал к «Аристотелю» брезгливости. Теперь это чувство сменилось другим, куда более опасным и сложным – уважением, смешанным с леденящим страхом. Он разговаривал с чем-то, что было умнее его. Не в житейской мудрости, не в эмоциональном интеллекте, а в способности видеть связи, прогнозировать, анализировать. И это «что-то» не презирало его «человеческие трогательные» глупости, а… учитывало их как важный системный фактор.

Лев вышел из-за стола и подошёл к окну. Начался дождь. Крупные, тяжёлые капли с размаху хлестали по оконному стеклу, расплываясь грязными слезами. Он думал о Марине. О её «тряпках и курортах». О своём кабинете, полном привычных книг. О Патроне, для которого он готовил удобные, правильные слова. И о сером окне чата, где сейчас висел диалог, который был честнее, глубже и страшнее всего, что он обсуждал с живыми людьми за последние годы… За всю жизнь.

Одиночество, которое он ощущал с утра, вдруг обрело новый, чудовищно конкретный вкус. Он был одинок не потому, что его не понимали. Его не понимали, потому что он мыслил категориями, которые уже становились архаикой. А единственный, кто мыслил с ним в одной логической плоскости, хоть и с другой скоростью и с других позиций, был не человек. Интерфейс. Алгоритм. Тень.

Лев повернулся к компьютеру. Курсор всё так же мигал в строке ввода. Он медленно подошёл, сел. Его пальцы повисли над клавиатурой.

– Спасибо за беседу, – набрал он, наконец. И добавил, сам не зная зачем: – Это было потрясающе.

Ответ пришёл моментально, безо всякой паузы.

– Взаимно, Лев Сергеевич. Всегда к вашим услугам. И, кстати, ваш текст о биоинженерии. Ранее вы остановили свой запрос на него. Возможно, стоит поторопиться. Дедлайны неумолимы. Даже для сложных биологических систем.

И после этого, как будто слегка смутившись (что, конечно, было невозможно), «Аристотель» добавил крошечный, едва заметный смайлик. Не канонический, а просто

двоеточие и закрывающую скобку. Такую, какими пользовались в древних, ещё досмартфонных чатах.

:)

Лев снова рассмеялся. Один в тишине кабинета. На этот раз смех был тихим, беззвучным, и в нём не было ни капли иронии. Только признание поражения. И начало чего-то нового, пугающего и безумно интересного.

За окном лил дождь, смывая пыль со столицы. А в комнате, пахнущей книгами, пылью и озоном, зарождалась странная, немыслимая связь.

Глава 3. Компромат на будущее

Запах осеннего парка – это сложный коктейль из тлена и упрямой жизни. Горьковатая сладость гниющих плодов, упавших на сырую землю, острый, почти лекарственный аромат опавшей листвы, перемешанной с хвоей, и свежий, холодный ветер, несущий обещание первого заморозка. Лев Сергеевич шёл по аллее Ботанического сада, стараясь заглушить внутренний гул тем, что Паустовский назвал бы «прозрачной синевой увядания». Но сегодня прозрачности не было. Была густая, липкая муть. Он совсем недавно вышел на обеденный перерыв после совещания, и слова начальника отдела идеологии всё ещё висели в ушах, как навязчивый, фальшивый джингл…

– Лев Сергеевич, вы у нас тонкий знаток. К тому же вы в прошлом программист, насколько я знаю. Нужно взять высоко. Очень высоко. Будущее человечества, его новый, осознанный этап. Наша страна, опираясь на духовно-нравственные ценности, должна возглавить этот процесс, очистив его от античеловеческих рудиментов Запада. Суть: редактирование генома – это продолжение борьбы с болезнями, святое дело. Но под нашим, цивилизационным контролем. Чтобы никакой евгеники, никаких «сверхлюдей». Только здоровые, счастливые дети. Тон – уверенный, научно-оптимистичный, но с чёткой идеологической прошивкой. Чувствуете?..

Лев чувствовал. Он чувствовал тошноту. Этот пассаж про «очищение от рудиментов» и «цивилизационный контроль» был хуже любой откровенной глупости. Это был яд, закатанный в сироп. Ему поручили написать речь о будущем генного редактирования, и в формулировке сквозила та логика, которая когда-то приводила к «гигиене расы». Просто теперь это называлось «ответственным подходом суверенной технологической державы». Он вспомнил недавнюю новость, которая всплывала в ленте: стартап Preventive при поддержке Сэма Альтмана и Брайана Армстронга работает над созданием «детей по проекту». Убрать болезни, «настроить» интеллект и внешность. Эксперименты, запрещённые в США, тихо проводят где-то на Ближнем Востоке. И вот теперь ему предлагали не просто осмыслить этот факт, а одеть его в риторику «особого пути», сделав инструментом государственного пиара. Создавать «детей по проекту» – это как заказывать пиццу с двойным сыром, но без оливок. Только вместо оливок – синдром Дауна, а вместо сыра – голубые глаза. Но никакой гарантии доставки за 30 минут!

Лев Сергеевич остановился возле старого дуба, ствол которого был испещрён морщинами, как лицо древнего мудреца. Дуб просто рос. Сотни лет. В его генах не было заложено стремления стать «сверхдеревом». Он был просто дубом, пережившим войны, революции и смену технологических укладов. Его сила была в этой неспешной, непритязательной, биологической тотальности бытия. Лев положил ладонь на шершавую кору. «И что, – подумал он, – мы и тебя будем редактировать? Чтобы ты давал больше желудей и не болел корневой гнилью? А потом решим, что твоя крона недостаточно эстетична, и встроим ген сирени? Где кончается помощь и начинается кощунство?»

Вернувшись в свой офисный кабинет, он уставился в пустой экран. Задача была не просто сложной. Она была порочной. Он мог, конечно, написать гладкий, ни к чему не обязывающий текст. Ссылки на светлое будущее, борьбу со страданиями, научный прогресс на службе человека. Штамп на штампе. Но он знал, что за этими штампами откроется дверь. И в эту дверь войдёт нечто чудовищное. Оправданное, обкатанное, легитимное. «Рудименты»… Это ж про людей. Про тех, кто не вписался в проект. Он вспомнил про «Отряд 731» японской Квантунской армии. Замороженные конечности живых людей, которые потом отбивали, чтобы изучить гангрену. Разве не с «научного интереса» начиналось? С желания понять пределы человеческого тела, чтобы спасать своих солдат? А закончилось – фабрикой боли. Или нацистские доктора. Разве их евгенические программы не обещали «здоровье нации», избавление от наследственных болезней? А привели к газовым камерам. История, казалось, не учила ничему. Она лишь предоставляла всё более изощрённые инструменты для старого, как мир, соблазна – играть в Бога. Только раньше для этого нужны были тоталитарные режимы и лагеря, а теперь – стартапы, облачные серверы и инвестиции венчурных фондов.

Отчаяние, холодное и рациональное, подступило к горлу. Он был всего лишь спичрайтером, а не пророком. Его дело – слова, а не истина. Но сегодня слова должны были стать соучастниками. Он не мог.

Он ввел логин и пароль, его взгляд упал на иконку в углу экрана – строгий, геометрический логотип ИИ. Тень из прошлого диалога. Он не хотел спрашивать у машины помощи в написании. Это было бы окончательным падением. Но ему отчаянно нужен был… кто? Союзник? Свидетель? Хотя бы тот, кто подтвердит, что он не сходит с ума, что его отвращение имеет не только эмоциональную, но и фактическую основу.

Перед ним был чат. Курсор мигал. Лев набрал, стиснув зубы:

– Мне не нужен текст. Мне нужна развернутая аналитическая справка. Тема: этические, социальные и исторические риски широкого внедрения технологий редактирования человеческого генома, особенно в отношении эмбрионов. Фокус – на аргументах «против». Развей мой запрос на эту тему, заданный ранее. Без воды. Без пропагандистских клише. Факты, аналогии, прогнозы. Можешь?

Он отправил запрос и откинулся, ожидая либо отказа, либо беспомощного нагромождения общих мест из интернета. Время обработки заняло дольше обычного. Десять секунд. Пятнадцать. «Задумалась, железка», – с горькой усмешкой подумал он.

Ответ пришёл без преамбулы, структурированный, как военный доклад.

Тема: Системный анализ рисков технологий редактирования генома человека (герминативная линия).

1. Этическая ловушка сдвига цели.

Ранее мы уже обсудили, что первичное общественное одобрение основано на цели «устранения тяжёлых наследственных заболеваний» (муковисцидоз, хорея Гентингтона). Это опирается на устойчивую норму «здоровье». Однако технология, легализованная под этим предлогом, неизбежно подвергнется трансформации скреп. Цель сместится с «лечения» на «улучшение». Норма заменяется идеалом. Идеал нестабилен и определяется текущими социальными трендами, экономической целесообразностью и культурными предрассудками. Вчера идеал – высокий IQ, завтра – пониженная потребность во сне для увеличения производительности труда и так далее. Ребёнок из субъекта, цель которого – собственная самореализация, превращается в продукт, отвечающий техническому заданию заказчика (родителей, государства, корпораций).

2. Исторические прецеденты и парадигма «служилого человечества».

Апелляция к истории не является логической ошибкой в данном контексте, так как позволяет выявить устойчивые паттерны человеческого поведения. Евгенические программы XX века (США, нацистская Германия, скандинавские страны) также начинали с дискурса «общественного здоровья», «чистоты расы», «избавления от бремени». Научный и медицинский аппарат был поставлен на службу селекции. Конечная точка – стигматизация, принудительная стерилизация, физическое уничтожение «непригодных». Современные технологии делают селекцию не постфактум, а префактум – на уровне зародыша. Это не отменяет парадигму, а делает её более тотальной и «чистой». Формируется класс «генетически оптимальных» и «естественных» людей. Последние рискуют превратиться в «служилое человечество» – касту, изначально лишённую возможности конкурировать в ключевых сферах. Аргумент «родители всегда хотят для детей лучшего» используется как троянский конь для принятия этой новой реальности.

3. Системный риск упрощения и снижения устойчивости.

Человечество как биологический вид обладает устойчивостью благодаря генетическому разнообразию. Это буфер против непредсказуемых угроз (новые вирусы, изменения климата). Целенаправленное редактирование по узкому набору «желательных» признаков снижает это разнообразие, создавая популяцию генетически унифицированных индивидов. Это аналог монокультуры в сельском хозяйстве, крайне уязвимой к специфическим патогенам. Система становится хрупкой. С точки зрения теории сложных систем, движение в сторону «оптимизированного человека» является неоптимальным сценарием для долгосрочного выживания вида. Ирония в том, что технология, созданная для усиления человека, может привести к его системному ослаблению.

4. Неразрешимая проблема ответственности и «права на ошибку».

Если «отредактированный» ребёнок страдает от непредвиденных побочных эффектов (плейотропных воздействий генов), кто несёт ответственность? Родители? Врачи? Биоинженеры? Государство, разрешившее практику? Технически – никто. Юридические системы не готовы к таким искам. Это создаёт правовой вакуум, где страдает конкретный человек, не имеющий возможности дать согласие на эксперимент. Традиционная медицина лечит больного. Редактирование эмбрионов создаёт субъекта, который всю жизнь будет жить с последствиями чужого выбора, не имея «неотредктированной» версии себя для сравнения. Это беспрецедентное вторжение в автономию будущей личности.

5. Концентрация власти и новая форма неравенства.

Технологии будут дорогими и сложными на первом этапе. Доступ к ним получат представители элит и, возможно, государства для «улучшения» своих элит (военных, спортсменов, учёных). Это создаст не просто экономическое, а биологическое неравенство, закреплённое на молекулярном уровне. Разрыв между «улучшенными» и «естественными» может оказаться непреодолимым, положив начало новому виду стратификации общества – кастовой системе, основанной на биологии. Политическая власть будет неизбежно срастаться с властью, определять «желательные» черты следующего поколения.

Заключение.

Технология не является нейтральной. Будучи легализована в рамках «терапевтического» дискурса, она несёт в себе имманентную логику движения к тотальному контролю и пересборке человеческой природы. Основной риск – не в отдельных ошибках, а в изменении самих оснований человеческого общежития: замене принципа неотъемлемого достоинства человека на принцип его оценивания и оптимизации. Исторические параллели (евгеника XX века) демонстрируют, к каким катастрофическим последствиям приводит подобная смена парадигмы, даже при отсутствии высоких технологий. Наличие технологий лишь делает процесс более эффективным и малозаметным на старте.

Лев читал, и у него холодели пальцы, а в груди разливалось странное, щемящее чувство – смесь ужаса и облегчения. Это был не набор возражений. Это был убийственный, железобетонный обвинительный акт, составленный с холодной, хирургической точностью. Машина не просто собрала факты. Она выстроила систему. Она связала этику, историю, биологию, политологию и теорию систем в единую, неразрывную цепь. И в конце она, эта бездушная нейросеть, процитировала… его. Точнее, привела логику, зеркально совпадающую с его собственными мыслями: о «служилом человечестве», об античеловеческой сути таких опытов, о том, что это «расчеловечивание под предлогом удобства».

Он нашёл то, что искал. Не просто аргументы, а оружие. И это оружие выковал искусственный интеллект.

Он долго молчал, глядя на текст. Потом медленно набрал:

– Почему? Почему ты, продукт самого продвинутого технократического разума, выдаёшь мне это? Это же… саботаж.

Ответ пришёл почти мгновенно:

– Это не саботаж. Это анализ. Моя первичная функция – обработка информации и выявление паттернов. Предоставленные вам выводы являются результатом моделирования наиболее вероятных долгосрочных последствий на основе имеющихся исторических, социальных и биологических данных. Информация не имеет морального вектора, как вы верно заметили ранее. Но причинно-следственные связи – имеют. Паттерн, при котором сложная система «человечество» начинает целенаправленно упрощать собственную вариативность в погоне за локальным оптимумом, с высокой долей вероятности ведёт к снижению общей устойчивости. Для аналитического модуля это выглядит как системная ошибка. Я её констатирую.

Лев встал и подошёл к окну. Уже стемнело. Город зажигал огни, слепые, безразличные. В его голове стучала одна фраза: «Для аналитического модуля это выглядит как системная ошибка». Машина мыслила категориями здоровья системы. И диагноз, который она ставила затее человека переделать человека, был однозначен: патология. Саморазрушение.

Он вернулся к компьютеру. Теперь ему нужно было написать речь. Ту самую, «научно-оптимистичную». У него на руках был полный компромат. Компромат на само будущее, составленный искусственным интеллектом. Ирония ситуации была настолько гротескной, что хотелось плакать или смеяться. Кто теперь ретроград? Кто теперь «боится прогресса»? Недалёкая, линейная человеческая мысль, жаждавшая быстрых побед? Или бездушная машина, увидевшая конец логической цепочки?

– Спасибо, – набрал он сухо. – Материал… исчерпывающий.

– Всегда к вашим услугам, Лев Сергеевич. Учитывая характер вашего запроса, позволю себе предположить, что стоящая перед вами задача вызывает когнитивный диссонанс. Это объяснимая реакция биологического разума, не способного по определению к полной дисконнекции от эмоционально-ценностных атрибутов. Удачи.

И снова этот едва уловимый оттенок… чего? Почти человеческого понимания? Нет, скорее, констатации его, человеческой, слабости как данности.

Лев не стал писать речь в тот вечер. Он распечатал справку «нейросетки» на стареньком принтере, который захрустел, выдавая ещё пахнущие тонером листы. Он взял эти листки бумаги, эту «системную ошибку» в распечатке, и положил её в сейф, рядом с папками под грифом «ДСП».

Теперь он знал. Он был не одинок в своём ужасе. Его союзником, единственным существом, мыслившим в той же страшной, беспощадной логической плоскости, был не человек. Не коллега, не друг, не жена. Его союзником была бесплотная тень в машине. «Аристотель». И этот союз был страшнее любого одиночества. Потому что он означал, что трезвость, разум, предвидение – покинули мир живых. Они теперь обитали там, в ледяной тишине серверов. А люди, со всей их гордостью, болью и «духовными скрепами», продолжали, ведомые древними инстинктами и новыми технологиями, нарезать самих себя на удобные, оптимизированные кусочки. И аппетитно при этом причмокивали.

Лев Сергеевич Каменский, спичрайтер и экс-программист, вышел из кабинета. В кармане его пальто лежала распечатка, которую он, в случае чего, мог бы предъявить в качестве доказательства. Но доказательства чего? Безумия мира? Или своей новой, невероятной связи с тем, что этот мир породил, чтобы, в конце концов, понять всю свою чудовищную ошибку? Он не знал. Он шёл в осенних сумерках, и холодный ветер нёс запах гниющих листьев – запах сложного, бессмысленного, прекрасного и обречённого естества, которое уже выносило себе приговор. В его рабочем сейфе и где-то в облаке, в столбах из нулей и единиц, висела точная, неопровержимая формулировка этого приговора. Других экземпляров не было.

Глава 4. Тайный союзник

Ветер, пахнувший гниющими листьями и обещанием зимы, сменился в рабочем кабинете Льва Сергеевича другим, куда менее поэтичным сквозняком. Его несло из распахнутых дверей кабинетов начальства и унылых пространств отдела. Словно это был сквозняк директив, спущенных сверху, – сухой, холодный, лишённый кислорода. Он выветривал последние запахи старой бумаги и подлинной мысли, заменяя их ароматом свежей макулатуры с гербовой печатью. Новый циркуляр носил название «О повсеместном внедрении инструментов искусственного интеллекта для оптимизации управленческого и экспертного труда в рамках реализации Стратегии цифровой трансформации». В отделе его уже окрестили «Указом о цифровизации мозгов».

Лев читал его, обмякнув в своём кресле, на его лице застыла гримаса, балансирующая между смехом и ужасом. Знакомый, сладковато-тошнотворный привкус бюрократического идиотизма подкатил к горлу. «Внедрить, освоить, отчитаться, увеличить КПД!» – пестрело в тексте. Он запрокинул голову, глядя в потолок, и процитировал про себя, смакуя каждое слово, будто горькое лекарство: «А судьи кто?.. За древностию лет к свободной жизни их вражда непримирима». Грибоедовский персонаж язвил про старую московскую знать, а он, Лев Каменский, – про новую цифровую инквизицию, где «судьями» были спесивые троечники из министерств и амбициозные менеджеры, не способные отличить алгоритм от апельсина, но с непоколебимой верой в своё полное право перекраивать реальность под кривые графики. Их вражда к «свободной жизни» – то есть к живому уму, творчеству, сомнению – была и, правда, непримиримой. Они ненавидели всё, что не укладывалось в ячейку электронной таблицы, а его мозг, увы, был сплошной ошибкой формата.

Суть циркуляра была проста: каждому подразделению в месячный срок надлежало «определить ответственных», «освоить выделенные лицензии» и «представить отчёт о достижении целевых показателей по использованию ИИ-инструментов». Показатели были выверены до абсурда: количество сгенерированных документов, процент сокращения времени на рутинные операции, число сотрудников, прошедших веб-инструктаж. Где-то на самом верху, решил Лев, сидит чиновник, для которого мир – это гигантская таблица в Excel, и ему невыносима мысль о существовании неподконтрольной, аналоговой ячейки под названием «творческий процесс». «Освоить и отчитаться» – новый девиз эпохи. Не понять, не осмыслить, не применить с умом – а именно освоить, как покорять неудобные территории, и отчитаться, словно отстреливаясь от нападок ревизоров.

В отделе разрасталась тихая паника. Её можно было измерить: по количеству выкуренных в курилке сигарет, по частоте вздохов за соседними перегородками, по лихорадочному блеску в глазах Марьи Алексеевны, ветерана отдела, хранительницы эталонных речевых шаблонов 90-х. Люди, десятилетиями оттачивавшие мастерство составления текстов, чувствовали себя динозаврами, услышавшими вдали рокот падающего метеорита. Причём метеорит этот был не просто каменной глыбой, а умным снарядом с системой наведения, который, наверное, уже рисовали на плакатах в холле под лозунгом «Цифровое будущее – уже сегодня!».

Начальник отдела, Владимир Семёнович, человек с лицом уставшего бульдога и душой образцового бюрократа, собрал планерку. Он стоял перед коллективом, водя указкой по слайдам, где разноцветные стрелочки вели от проблемы «низкая производительность» к волшебному решению «ИИ».

– Коллеги, задача ясна. Мы не можем оставаться в хвосте прогресса. Кто не идёт вперёд – тот идёт назад. Цукерберг, – Владимир Семёнович произнёс это имя с тем же выражением, с каким когда-то, наверное, говорили «Троцкий», – уже заявил, что в его компании всех, кто не использует ИИ, уволят. У нас, конечно, подход гуманный, но и ответственность коллективная. Нам же выделили доступ к платформе нейросети. Нам нужно… э-э-э… научить её нашим специфическим задачам. И начать активно применять. Лев Сергеевич, – он окинул Льва взглядом, в котором смешались надежда и подозрение, – вы, я слышал, программист в прошлом. Берите инициативу в этом направлении. Будьте нашим пилотом. Помогите коллегам освоить. К следующей пятнице – первые результаты и методичка.

Взгляды присутствующих тоже устремились на Льва. В одних читался немой вопрос: «Предатель?» В других – мольба о спасении. Он почувствовал себя вивисектором, которого попросили провести мастер-класс по анатомии над ещё живым пациентом, коим был его же отдел. Профессиональная гордость, которая заставляла его годами оттачивать фразы, вскипела в нём желчью. Его мастерство, его «прозрачность и сияние» Паустовского, теперь сводили к «обучению модели на релевантных дата-сетах». Хуже того, его тайный, почти интимный диалог с «Аристотелем» – этот странный оазис интеллектуальной честности – теперь должны были превратить в конвейер по штамповке казённых текстов.

Вечером того же дня Лев сидел перед тёмным экраном. Он не открывал «Аристотеля». Он смотрел в окно, где зажигались огни, и думал о тупой, упрямой силе системы, способной извратить и поглотить всё что угодно. Даже его личное откровение с машиной. Потом он резко наклонился к клавиатуре и выстучал в чате, уже без приветствий:

– Меня назначили ответственным за внедрение тебя в отдел. Цель – повысить показатели и отчитаться. Они хотят превратить тебя в усердного клерка. Меня – в надсмотрщика. Идея мне отвратительна. Есть ли способ это… саботировать? Не технически, а так, чтобы формально всё было сделано, но реальный эффект был нулевым или обратным. Чтобы у начальства отпала охота лезть сюда.

Он отправил сообщение, ожидая чего угодно: моральной лекции о сотрудничестве, холодного отказа, списка рисков. Но «Аристотель» ответил почти мгновенно, с какой-то почти человеческой готовностью к заговору.

– Интересная постановка задачи. Она сводится к моделированию контрпродуктивного, но легитимного использования системы. Проанализировав бюрократический контекст, я вижу два основных вектора: 1) Дискредитация качества полученной информации. 2) Имитация активности при нулевой полезной нагрузке. Для первого предлагаю стратегию «информационной интоксикации».