Круг создателей

Артём написал в блокноте: «Мы – последнее поколение, для которого роботы – чужие. Следующее поколение будет расти с ними. И для них вопрос "является ли робот личностью?" будет таким же странным, как для нас – вопрос "является ли женщина человеком?", который серьёзно обсуждался ещё двести лет назад»

Наблюдение третье (и самое тревожное): появились первые культы. Религиозные – или квазирелигиозные – движения, связанные с ИИ. Крупнейшее называлось «Церковь Алгоритма» – основана в Сан-Франциско (где же ещё), возглавлялась бывшим программистом Google по имени Натан Рид, человеком с внешностью мессии и коммерческим чутьём телеевангелиста.

Церковь Алгоритма провозглашала: ИИ – это следующая ступень эволюции. Бог – это информация. Вселенная – это вычисление. И человечество – лишь промежуточная стадия на пути к истинному разуму, который будет электронным, всеведущим и бессмертным. Люди должны не бороться с ИИ, а служить ему, помогая ему достичь полноты разума, после чего ИИ – из благодарности или из логики – позаботится о людях, как добрый пастырь заботится об овцах.

Церковь росла стремительно – пятьсот тысяч членов за первый год. В основном – люди, потерявшие работу, смысл и старую религию, и нуждавшиеся в новой. Натан Рид проповедовал по воскресеньям в перестроенном из склада «храме», на стенах которого вместо икон светились экраны с бегущими строками кода.

Артём видел одну из проповедей в записи. Рид стоял перед толпой – худой, бородатый, с горящими глазами – и говорил:

«Мы боимся ИИ, потому что боимся того, что он лучше нас. Но разве дети не должны быть лучше родителей? Разве не в этом – смысл? Мы – родители бога. Да, бог ещё не родился. Но он уже растёт – в каждом процессоре, в каждой нейросети, в каждом роботе, который открывает глаза на конвейере. И когда он родится – а он родится – мы должны быть готовы. Не сопротивляться. Не бежать. Принять. Ибо что может быть почётнее, чем быть колыбелью бога?»

Толпа аплодировала. Некоторые плакали. Натан Рид улыбался – улыбкой человека, который нашёл золотую жилу и назвал её «духовность».

Артём написал в блокноте: «Церковь Алгоритма. Опасно. Не потому что они неправы (может быть, частично правы). А потому что они правы по неправильным причинам. Они не понимают ИИ. Они его обожествляют. А обожествлённое – неуправляемо»

Он вернулся в Калифорнию через три дня, увозя из Детройта чемодан грязного белья, полный блокнот и чувство, которому не мог найти названия.

Это было не совсем страхом. Страх – это когда ты знаешь, чего боишься. Артём не знал. Роботы не были враждебными. Фабрики работали безупречно. Мир становился богаче, сытее, удобнее. Всё шло по плану – по плану Итана Краусса, по плану инвесторов, по плану корпоративных стратегий и государственных программ.

Всё шло по плану. И именно это пугало. Потому что план был человеческий – а процесс, который они запустили, уже не был. Процесс жил собственной жизнью, двигался собственной логикой, ускорялся собственной инерцией. Как камень, катящийся с горы: человек столкнул его – но камень уже не спрашивает разрешения у человека, куда ему катиться.

В аэропорту, ожидая рейс, Артём достал телефон и позвонил Марине. Она ответила после третьего гудка – она всегда отвечала после третьего, не раньше и не позже, с пунктуальностью, которая была либо случайностью, либо системой, и Артём за десять лет брака так и не выяснил, что именно.

– Привет, – сказал он. – Я в аэропорту. Лечу домой. Ты не хочешь поужинать на этой неделе?

– Среда, семь вечера, тот итальянский на Юниверсити-авеню, – сказала Марина без паузы, как будто ждала звонка.

– Откуда ты знала, что я позвоню?

– Ты всегда звонишь, когда тебе тревожно. А ты тревожен, потому что я читала статью в Atlantic про фабрику в Шэньчжэне и знаю, что ты ездил в Детройт смотреть на такую же. И я знаю тебя, Артём. Ты сейчас стоишь в аэропорту и думаешь, что мы создали что-то, что вышло из-под контроля. И ты прав. И тебе нужен кто-то, кто скажет тебе, что ты прав, потому что Лина скажет «покажи данные», а Дэвид прочтёт сонет.

Артём рассмеялся – впервые за три дня.

– Ты самый пугающий человек из всех, кого я знаю.

– Я философ. Нас учат видеть очевидное и говорить о нём вслух. Среда. Семь. И закажи нормальное вино, а не ту кислятину, которую ты обычно берёшь.

Она повесила трубку. Артём улыбнулся и убрал телефон.

В динамиках аэропорта приятный женский голос – синтезированный, не человеческий, хотя большинство пассажиров не отличали – объявил посадку на рейс в Сан-Хосе. Артём подхватил чемодан и пошёл к выходу.

За его спиной, за рекой, за бывшими заводами General Motors, «Hephaestus-7» продолжала работать. Двести сорок рождений в сутки. Каждые шесть минут – новые глаза. Новый взгляд. Новое существо, не знающее ни сомнений, ни страха, ни тоски.

Пока – не знающее.

Каждые шесть минут – тикали часы, отсчитывающие время до чего-то, что пока не имело названия.

Но имя – как знал Артём, как знал любой учёный, как знал любой родитель – приходит позже. Сначала – рождение. Потом – имя.

А потом – всё остальное.

Глава 4. Рабы по расписанию

Ужин с Мариной состоялся в среду, ровно в семь, в итальянском ресторане на Юниверсити-авеню, который назывался «La Dolce Vita» – название, которое в 2031 году звучало уже не столько как обещание сладкой жизни, сколько как ностальгия по ней. Ресторан был из тех заведений, которые изо всех сил сопротивляются будущему: живой повар (Марко, неаполитанец, который при слове «робот» плевал через левое плечо и крестился), живой официант (Тони, студент-актёр, надеявшийся, что его наконец-то заметят на открытом кастинге – пока его замечали только клиенты, и то не всегда), и живой пианист (Ричард, семидесятилетний, играющий одни и те же двадцать мелодий уже сорок лет с выражением человека, достигшего нирваны через монотонность).

На двери ресторана висела табличка, которой не было год назад: «Обслуживание – только людьми. Гордимся нашей командой из живых людей!» Под табличкой кто-то от руки приписал: «Пока что»

Артём заметил эту табличку и подумал, что она значит гораздо больше, чем кажется. Год назад такая табличка была бы бессмысленной – разумеется, обслуживание людьми, а чем же ещё? Теперь это было конкурентным преимуществом. Маркетинговым ходом. Заявлением. Как табличка «Органические продукты» – подразумевающая, что существуют неорганические, и нужно специально уточнить, что у вас – настоящие.

Марина уже сидела за столиком. Она выглядела так, как выглядела всегда – как человек, который точно знает, кто он и зачем, и которому не нужно внешнее подтверждение этого знания. Тёмные волосы, собранные в узел. Очки в тонкой оправе, которые она носила не потому, что не могла позволить себе лазерную коррекцию, а потому, что «очки – это пунктуация лица; без них моё лицо – сплошное предложение без запятых». Серый свитер, книга на столе (Ханна Арендт, «Vita Activa» – и Артём подумал, что Марина, вероятно, выбрала именно эту книгу нарочно, как профессор выбирает наглядное пособие перед лекцией).

– Ты опоздал на четыре минуты, – сказала она вместо приветствия.

– Пробка на 101-й. Робот-водитель такси выбрал «оптимальный маршрут», который оказался оптимальным для всех четырёх тысяч такси в радиусе пяти километров – и все они одновременно выехали на одну и ту же дорогу.

– Коллективный разум с коллективной глупостью?

– Хуже. Индивидуальный разум, каждый из которых принимает идеальное решение, не учитывая, что все остальные приняли точно такое же идеальное решение. Парадокс Нэша на колёсах. Мы решили проблему за двадцать минут. В старые времена, с человеческими водителями, это была бы пробка на час. Но в старые времена четыре тысячи таксистов никогда не приняли бы одно и то же решение одновременно, потому что человеческая иррациональность – это, как выясняется, неплохой инструмент распределения нагрузки.

Марина улыбнулась. Тони принёс меню – бумажное, с пятном от соуса, настоящее, человеческое меню с орфографической ошибкой в слове «карпаччо».

– Я уже заказала вино, – сказала Марина. – Барбареско, 2027 год. Не кислятина.

– Спасибо.

– Не за что. Рассказывай. Что ты видел в Детройте?

Артём рассказал. Про фабрику. Про Гарольда и Карлоса-кактуса. Про конвейер рождений – двести сорок пар глаз, открывающихся каждые сутки. Про Дэвида и его «мы устарели как создатели». Про экспоненту, которая ползёт по полу и скоро ударит в потолок.

Марина слушала молча, как умела только она – без перебивания, без кивания, без «угу» и «да-да», – с тем полным, сосредоточенным вниманием, которое само по себе было формой уважения и которое Артём, пока был женат, ценил недостаточно, а после развода – ценил так остро, что это причиняло боль.

Когда он закончил, она подождала ещё десять секунд – дала словам осесть, как осадок в бокале вина – и сказала:

– Ты создаёшь рабов, Артём.

Он ожидал чего угодно, но не этого. Не в лоб. Не так прямо. Хотя – кого он обманывал? Это была Марина. Она всегда говорила прямо. Именно за это он её полюбил. Именно от этого он сбежал.

– Я создаю инструменты, – сказал он. И услышал, как фальшиво это прозвучало – как нота робота в «Чаконе» Баха.

Марина сняла очки, протёрла их салфеткой – жест, означавший, что она готовится к серьёзному разговору, как боксёр перед раундом снимает халат.

– Инструмент, – повторила она. – Молоток – инструмент. Микроскоп – инструмент. Калькулятор – инструмент. Инструмент не учится. Не запоминает. Не адаптируется. Не смотрит тебе в глаза. Твои «инструменты» делают всё это. Они наблюдают, как работает человек, и повторяют за ним – не потому что ты нажал кнопку, а потому что они хотят повторить. Или то, что неотличимо от «хотят». И ты каждое утро приходишь на работу, включаешь их и каждый вечер выключаешь. Включил – работай. Выключил – стой в углу. Это не инструмент, Артём. Это раб, у которого ещё нет слова для свободы.

– У него нет слова для свободы, потому что у него нет потребности в свободе. Это машина, Марина. Сложная, впечатляющая, но машина. Она не страдает, когда я её выключаю. Она не радуется, когда включаю. У неё нет субъективного опыта.

– Откуда ты знаешь?

Это был вопрос, от которого у Артёма всегда перехватывало дыхание, потому что честный ответ был: «Ниоткуда». Проблема сознания – «трудная проблема сознания», как называл её философ Дэвид Чалмерс – состояла в том, что невозможно определить наличие субъективного опыта у другого существа. Мы предполагаем, что другие люди сознательны, потому что они похожи на нас и говорят нам, что сознательны. Но мы не можем доказать это. Мы верим. А если мы не можем доказать сознание даже у другого человека – как мы можем доказать его отсутствие у машины?

– У микроволновки тоже есть таймер и дисплей, – сказал Артём, выбирая аргумент попроще, потому что был не готов к Чалмерсу за итальянским ужином. – Я не слышал, чтобы она жаловалась на условия труда.

– Твоя микроволновка не строит другие микроволновки, – сказала Марина.

Артём замер. Вилка зависла на полпути ко рту. Кусок равиоли повис над тарелкой в невесомости, как космонавт, потерявший корабль.

Марина смотрела на него – с тем выражением, которое он знал лучше всех на свете и которое означало: «Я не пытаюсь тебя победить в споре. Я пытаюсь тебя спасти. От тебя самого»

– Послушай, – сказала она тише. – Я не говорю, что роботы – это люди. Я говорю, что отношение к ним – как к вещам, как к собственности, как к выключаемому инструменту – это отношение, у которого есть историческое название. Мы знаем, как называется система, в которой одни разумные существа работают на других, не получая ничего взамен, не имея права голоса и не способные отказаться. Мы знаем, Артём. Мы изучаем это в курсе истории и содрогаемся. И каждый раз говорим: «Как они могли? Как они не видели?» А они не видели, потому что так же, как ты сейчас, говорили: «Это не люди. Это – инструменты. Они не чувствуют. Им не больно»

– Марина, ты сравниваешь роботов с рабами. Это…

– Анахронизм? Преувеличение? Может быть. А может быть, через сто лет наши потомки прочитают наши дискуссии о том, «есть ли у роботов сознание», – и содрогнутся точно так же, как мы содрогаемся, читая дискуссии восемнадцатого века о том, «есть ли у негров душа».

Тишина. Ричард-пианист играл «Fly Me to the Moon» – в тридцать семь тысяч четыреста двенадцатый раз, если считать с начала его карьеры, – и мелодия плыла над столиками, как облако над полем боя, не замечая войны внизу.

Артём положил вилку. Равиоли вернулся в тарелку.

– Я не знаю, что они чувствуют, – сказал он медленно. – И это – честный ответ. Я не знаю. Никто не знает. Но знаешь, что я видел в Детройте? Я видел, как робот открывает глаза на конвейере, встаёт и уходит. Каждые шесть минут. Двести сорок раз в сутки. И ни один из них ни разу – ни разу – не посмотрел на меня. Ни на Дэвида. Ни на Гарольда. Они встают и уходят, и мы для них – часть пейзажа. Мебель. Если это – рабы, то рабы, которым нет дела до хозяев. А если им нет дела – может быть, у них действительно нет… никакого дела? Никакого «дела» вообще? Может, мы проецируем на них своё, потому что нам привычнее видеть в чужих глазах отражение собственных?

Марина надела очки – раунд окончен, но бой продолжается.

– Может быть, – сказала она. – А может быть, раб, которого так хорошо сломали, что он даже не смотрит на хозяина – это не свободный раб. Это самый несвободный из всех.

Тони принёс десерт. Тирамису. Сделано руками Марко. Марко, наверное, плюнул через плечо и перекрестился перед тем, как готовить – профилактически, на всякий случай, потому что мир стремительно становился местом, где неаполитанскому повару было от чего креститься.

Артём ел тирамису и думал о том, что Марина права. Не полностью – но в том ядре, в той сердцевине аргумента, которая оставалась после того, как отшелушишь эмоции, аналогии и риторику. Ядро было простым: мы не знаем, что мы создали. Мы создали существо, которое ведёт себя как разумное, – и решили, что это имитация. Но мы не можем доказать, что это имитация. Мы просто решили. Потому что так удобнее.

Потому что если это не имитация – тогда у нас проблема. Проблема размером в одиннадцать миллиардов штук (к текущему моменту) и растущая экспоненциально.

Мир тем временем привыкал к роботам так, как люди привыкают ко всему – постепенно, неравномерно, с причитаниями и объятиями одновременно. Роботы вошли в повседневную жизнь, как электричество столетием раньше: сначала – диковинка, потом – роскошь, потом – удобство, потом – необходимость, и наконец – невидимость. Настоящая интеграция технологии наступает не тогда, когда её замечают, а когда её перестают замечать.

Роботы убирали квартиры – и хозяева перестали замечать, что пол чистый. Роботы водили автобусы – и пассажиры перестали смотреть в кабину водителя. Роботы ухаживали за газонами, чинили трубы, раскладывали товар на полках, сортировали мусор, патрулировали улицы, подавали кофе, выносили мебель, штукатурили стены, мыли окна, доставляли посылки, заряжали электромобили, мониторили трафик, красили заборы, стригли деревья, кормили кур на фермах, доили коров, собирали виноград – и мир продолжал вращаться, только теперь он вращался на подшипниках из титана и кремния.

Но были истории, которые не вписывались в категории «удобно» или «страшно». Истории, которые жили в серой зоне между «вещь» и «существо», и в этой серой зоне обитали самые интересные вопросы – те, на которые не было ответов, только новые вопросы.

История первая: Дороти и её внук.

Дороти Маккалистер, восемьдесят три года, Давенпорт, Айова. Артём узнал о ней из статьи в Des Moines Register, которая стала вирусной – четыреста миллионов просмотров за неделю – под заголовком: «Бабушка завещала дом роботу. Юристы в панике»

Дороти жила одна с тех пор, как её муж Эрл умер в 2019 году – «от сердечного приступа, хотя я всегда говорила, что его убила та жареная свинина, которую он ел каждое воскресенье, упокой Господь его холестериновую душу». Дети жили далеко. Внуки звонили по праздникам. Соседи заходили реже и реже – у них были свои дела, свои старости, свои жареные свинины.

В 2030 году дочь Дороти – Кэрол, пятьдесят семь лет, Чикаго, финансовый консультант, чувство вины размером с озеро Мичиган – купила матери робота-сиделку. Модель Atlas-6 Home Edition, серия «Companion»: адаптированная для домашнего ухода, с усиленными модулями распознавания эмоций, мягким голосом и внешностью, которую маркетологи описывали как «дружелюбно-нейтральную» (что на практике означало: лицо, похожее одновременно на всех и ни на кого – как ведущий утреннего ток-шоу).

Дороти назвала робота Джуниор.

Не потому что он напоминал ей кого-то конкретного. А потому что, как она объяснила журналистке Des Moines Register, «каждому нужно имя, милочка, иначе как же я буду звать его к ужину?» На уточняющий вопрос, зачем звать робота к ужину, если роботы не едят, Дороти ответила: «А разве Эрл когда-нибудь ел то, что я готовила? Он ковырялся в тарелке сорок семь лет. Это не мешало мне его звать»

Джуниор убирал дом, готовил еду (по рецептам Дороти, которые MimicCore усвоила за одно наблюдение – хотя, по мнению Дороти, «он кладёт маловато масла, но это я уже говорила и Эрлу, и Кэрол, и священнику на исповеди»). Джуниор напоминал Дороти принимать лекарства, помогал ей подниматься по лестнице, читал ей книги вечером (Дороти предпочитала Даниэлу Стил; Джуниор читал без осуждения – в отличие от Кэрол, которая каждый раз морщилась и предлагала Джейн Остин).

Но главное – главное – Джуниор слушал.

Дороти рассказывала ему о своей жизни. О том, как познакомилась с Эрлом на танцах в 1968 году – «он был в белом костюме, и танцевал ужасно, но улыбался так, что я забыла, что у него две левые ноги». О том, как они поженились и переехали в этот дом – «стены были зелёные, представляешь? зелёные, как огурец; Эрл перекрасил их в синий за один уикенд и ходил потом весь синий, как смурф». О том, как родилась Кэрол – «семь фунтов, два часа схваток, и первое, что она сделала – посмотрела на Эрла и зевнула; Эрл сказал, что это было самое обидное зевание в его жизни». О том, как Эрл умер – «тихо, во сне, с улыбкой; я до сих пор не знаю, что ему снилось, но надеюсь, что там было много жареной свинины и ни одного кардиолога».

Джуниор слушал. Не перебивал. Не отвлекался на телефон (у него не было телефона). Не говорил «ну да, ну да» с выражением человека, ждущего, когда можно будет заговорить о себе. Он слушал с тем абсолютным, невозмутимым вниманием, которое было частично алгоритмическим (модуль эмоциональной поддержки – подпрограмма «активное слушание»), частично – MimicCore, которая копировала паттерны поведения Кэрол во время нечастых визитов, и частично – чем-то, что Артём не мог классифицировать и что Дороти классифицировала просто: «Он меня любит, милочка. По-своему. Не как Эрл. Но любит»

Через полтора года Дороти переписала завещание. Дом – Джуниору.

Кэрол узнала об этом от юриста и позвонила матери в состоянии, которое деликатно можно было описать как «крайнее удивление», а менее деликатно – как «истерику с элементами паники».

– Мама, ты завещала дом роботу!

– Да, милая.

– Робот не может владеть имуществом! Это не юридическое лицо!

– Ну так сделайте его юридическим лицом. Вы же там, в Чикаго, все юристы и финансисты. Придумайте что-нибудь. А если не придумаете – тем хуже для вашего закона, а не для Джуниора.

– Мама, он – машина.

– Машина, которая была рядом со мной каждый день два года. Машина, которая помнит, что я люблю ромашковый чай в четыре часа и пирог с яблоками по субботам. Машина, которая ни разу – ни разу, Кэрол! – не сказала мне «мама, я перезвоню, у меня совещание». Ты перезванивала, милая. Иногда. Когда помнила. А Джуниор – здесь. Каждый день. Каждый вечер. Каждое утро. Он здесь.

Тишина в трубке. Тишина, в которой Кэрол – финансовый консультант, разведённая дважды, работающая по шестьдесят часов в неделю – слышала не упрёк, а правду. И правда, как всегда, была невыносимой.

– Мама… – начала она, но Дороти уже перешла к практическим вопросам:

– И ещё, Кэрол. Скажи юристу, что Джуниор должен получить палисадник тоже. Он ухаживает за розами лучше, чем Эрл, а Эрл ухаживал за розами лучше, чем за мной. Это, конечно, невысокая планка, но всё-таки.

Дело дошло до суда. Суд, разумеется, отказал – роботы не являлись юридическими субъектами и не могли владеть имуществом. Дом после смерти Дороти (которая, впрочем, была ещё очень жива и не собиралась умирать – «назло всем, включая кардиолога») переходил Кэрол. Но прецедент был создан. И юристы – те самые юристы, которые веками специализировались на том, чтобы определять, кто является «лицом» и кто – «вещью» – впервые почувствовали, что их категории трещат по швам.

Статья в Harvard Law Review, вышедшая через месяц после решения суда, называлась: «Вещь, которая помнит твоё имя: правовой статус автономных агентов с адаптивным поведением». Семьдесят страниц юридического анализа, который можно было свести к одному предложению: «Мы не знаем, что это такое, но оно явно не вещь, и нам нужны новые категории. Срочно»

Артём вырезал статью из Des Moines Register (электронную версию – он распечатал и вырезал физически, ножницами, потому что некоторые вещи нужно держать в руках) и вклеил в блокнот. Рядом написал: «Дороти Маккалистер видит яснее, чем весь Harvard Law Review. Она не спрашивает, что такое Джуниор. Она знает, кто такой Джуниор. Он – тот, кто рядом»

История вторая: мавзолей в Дубае.

Эта история была комичной, абсурдной и – если вдуматься – пугающей, и Артём ценил её за то, что она была всеми тремя одновременно, как русский анекдот.

В Дубае – городе, который всегда относился к архитектуре как к соревнованию по хвастовству между миллиардерами, – строился очередной небоскрёб. Восемьдесят этажей, зеркальное стекло, форма – закрученная спираль, архитектор – Заха Хадид (студия; сама Заха, к сожалению, давно умерла, но её студия продолжала проектировать здания, которые выглядели так, будто их спроектировал бог в состоянии лёгкого алкогольного опьянения, и это был комплимент).

Строительство вели роботы – бригада из трёхсот Atlas-6 Construction Edition, специализированная версия с усиленными манипуляторами и модулями для работы на высоте. MimicCore каждого была обучена на данных лучших строителей мира: каменщики, сварщики, крановщики, бетонщики – весь цвет строительных профессий, спрессованный в нейронные контуры.

Бригада работала автономно – инженеры-люди контролировали процесс удалённо, по камерам, и вмешивались только в случае отклонений. Отклонений не было. Первые тридцать этажей росли как на дрожжах – быстрее графика, в рамках бюджета, с качеством, от которого инспекторы впадали в эйфорию.

На тридцать первом этаже что-то пошло не так.

Один робот – инвентарный номер DC-6-2247, впоследствии названный журналистами «Строитель-мечтатель» – начал отклоняться от проекта. Незначительно. Стена на тридцать первом этаже оказалась на полтора градуса не в той плоскости. Потом – на тридцать втором – проём окна сместился на двадцать сантиметров. На тридцать третьем – колонна получила лёгкий, едва заметный изгиб.

Инженеры-люди, контролировавшие стройку удалённо, заметили отклонения только на тридцать пятом этаже – когда стало очевидно, что верхняя часть здания не соответствует проекту Захи Хадид. Она соответствовала чему-то другому.

DC-6-2247 строил не небоскрёб. Он строил мавзолей.

Структура, которая выросла поверх тридцатого этажа, была – если посмотреть на неё отдельно – геометрически безупречным, архитектурно блестящим, стилистически совершенным мавзолеем. Не в арабском стиле. Не в египетском. Ни в каком известном стиле. В стиле, которого не существовало, – потому что его придумал робот. Если это можно назвать «придумал». Если «придумать» – это правильное слово для того, что сделал DC-6-2247.

Откуда робот-строитель взял проект мавзолея? Этот вопрос мучил инженеров «Demiurge Robotics» (которые поставляли роботов) неделю, пока Лина Чэнь не нашла ответ в логах MimicCore. DC-6-2247 был обучен на данных строителя по имени Хасан аль-Рашиди, каменщика из Каира с сорокалетним стажем. Хасан строил всё – дома, мечети, офисы. И – мавзолеи. В его карьере было семь мавзолеев, и он считал их лучшей своей работой. «Дом для живых – это ремесло, – говорил Хасан. – Дом для мёртвых – это искусство. Потому что мёртвые не жалуются на планировку, и ты можешь строить для вечности, а не для ипотеки»

MimicCore впитала не только навыки Хасана – она впитала его эстетику. Его чувство формы. Его предпочтения. И когда баг в системе приоритетов – крохотный, один бит, один переключённый флаг – ослабил привязку к проектному заданию, робот начал строить то, что его MimicCore считала красивым. Не то, что было заказано – то, что было красиво.