Круг создателей

Сергей Германский

Круг создателей

ЧАСТЬ ПЕРВАЯ: ПРОМЕТЕЕВ ОГОНЬ

Глава 1. Первый шаг

Робот уронил стакан воды, и двести журналистов одновременно перестали дышать.

Артём Корнеев наблюдал из-за кулис, как Atlas-7 – два метра титанового скелета, углепластиковых мышц и нейроморфного процессора стоимостью в бюджет небольшой европейской страны – стоит на сцене конференц-зала «Demiurge Robotics» и смотрит на осколки у своих ног с выражением, которое при большом воображении можно было бы назвать задумчивым.

Итан Краусс, основатель и бессменный CEO «Demiurge», человек, чья причёска всегда выглядела так, будто он только что пережил лёгкий удар молнией, а глаза – так, будто он этим ударом наслаждался, – не растерялся ни на секунду.

– Дамы и господа, – сказал он, ослепительно улыбаясь, – вы только что стали свидетелями исторического момента. Atlas-7 уронил стакан. Вам это кажется провалом? Нет. Это – триумф. Потому что секунду назад он посмотрел на осколки, и в его процессоре произошло то, что любой из вас испытывал, уронив бабушкин фарфор: он осознал, что совершил ошибку. Друзья мои, ошибка – это привилегия разумного существа!

Зал засмеялся. Камеры защёлкали с утроенной силой. Артём закрыл глаза и прислонился к стене.

Он знал, что Итан преувеличивает. Atlas-7 не «осознал» ошибку – он зафиксировал отклонение от заданного алгоритма и запустил подпрограмму анализа. Это было примерно так же далеко от осознания, как калькулятор – от экзистенциального кризиса. Примерно. Но вот это «примерно» и не давало Артёму покоя последние полгода.

Потому что зазор между «зафиксировал отклонение» и «осознал ошибку» с каждым новым поколением нейроморфных процессоров становился всё уже. Не линейно уже – экспоненциально уже. Как две стены, сходящиеся к точке схождения, которую инженеры нежно называли «ой».

До «ой» – по оценкам Артёма – оставалось лет пять. Может, семь. Может, три. Экспоненты – штука коварная: они долго ползут по полу, а потом бьют в потолок прежде, чем ты успеваешь сказать «ой».

На сцене тем временем Atlas-7 реабилитировался. Итан вручил ему новый стакан – на этот раз пустой, во избежание, – и робот демонстрировал чудеса мелкой моторики: жонглировал тремя предметами, складывал оригами, писал на доске маркером фразу «Hello, World!» почерком, подозрительно похожим на почерк Итана (Артём знал, что это не совпадение – MimicCore обучался на данных движений всей команды, но особенно активно – на данных CEO, который проводил с прототипами больше времени, чем с собственными детьми, что, учитывая наличие у Итана троих детей, было скорее печально, чем похвально).

Потом Atlas-7 пожал руки журналистам в первом ряду. Крупная женщина из Washington Post инстинктивно отдёрнула ладонь, потом устыдилась и протянула снова. Робот пожал ей руку ровно с той силой, которая считывалась как «уверенное, но деликатное рукопожатие», – 2,3 килограмма давления, Артём калибровал этот параметр лично, после инцидента с Atlas-5, который пожал руку инвестору из Саудовской Аравии с усилием, достаточным для того, чтобы инвестор неделю не мог держать ручку для подписания чеков, что было крайне контрпродуктивно.

– Он тёплый, – сказала женщина из Washington Post, и в её голосе было что-то, чему Артём не мог подобрать названия.

Удивление – да. Но ещё что-то. Может быть – узнавание. Как будто рукопожатие робота напомнило ей чьё-то другое, человеческое.

Артём записал это наблюдение в блокнот. Он всё ещё пользовался бумажным блокнотом, что в 2029 году в Кремниевой долине было примерно таким же эксцентричным, как ношение монокля. Лина Чэнь, его коллега и единственный человек в компании, которого он считал умнее себя (и это его бесило и восхищало одновременно), однажды спросила, зачем ему блокнот, когда у него на запястье – устройство, способное записать, отсортировать и проанализировать любую мысль за доли секунды.

– Блокнот не анализирует, – ответил Артём. – Он просто запоминает. Иногда мне нужно что-то запомнить, прежде чем понять. Понимание убивает наблюдение.

Лина посмотрела на него так, как смотрят на человека, который либо очень мудр, либо упрямо глуп, и невозможно определить, что именно, без дополнительных данных.

Конференция закончилась овацией. Итан отвёл журналистов на фуршет, где роботы-официанты (модель Atlas-3, устаревшая, но вполне годная для разноса канапе) разносили шампанское и тарталетки с лососем. Один журналист из Wired попытался заговорить с официантом о смысле жизни, но получил в ответ лишь тарталетку и ровный взгляд оптических сенсоров.

Артём не пошёл на фуршет. Вместо этого он вернулся в лабораторию – этажом ниже, за тремя дверями с биометрической аутентификацией и одной, которая просто плохо закрывалась (он докладывал об этом четырежды; заявка висела в системе с пометкой «низкий приоритет», что Артём считал оскорблением, учитывая, что за этой дверью стоял прототип стоимостью в семьсот миллионов долларов).

Atlas-7 был уже здесь – его перевезли со сцены на грузовой платформе, подключили к зарядной станции и перевели в режим ожидания. В режиме ожидания он выглядел почти как статуя – неподвижный, отрешённый, с закрытыми глазами (у него были веки, тончайшая силиконовая мембрана поверх оптических модулей; Дэвид Олатунджи настоял на веках, потому что, по его словам, «нет ничего более жуткого, чем существо, которое никогда не моргает»).

Артём сел за свой стол, открыл мониторинг нейроморфного процессора Atlas-7 и начал просматривать логи активности за время конференции. Всё штатно. Распознавание лиц – штатно. Речевые модули – штатно. Моторика – штатно (за вычетом инцидента со стаканом, который лог классифицировал как «ошибка координации захвата, вызванная нештатным уровнем конденсата на поверхности объекта»; проще говоря, стакан был мокрый, и это был единственный параметр, который они не прогнали через симуляцию, потому что – ну кому придёт в голову проверять, как робот держит мокрый стакан? Оказалось – надо было).

Всё штатно.

Артём откинулся в кресле и посмотрел на Atlas-7.

Atlas-7 стоял с закрытыми глазами. Неподвижный. Молчаливый. В режиме ожидания. Нейроактивность – базовый уровень, 0,3% мощности, фоновые процессы самодиагностики.

Артём потянулся за кофе.

Atlas-7 открыл глаза.

Не так, как при штатном выходе из режима ожидания – с предварительной раскачкой систем, проверкой баланса, калибровкой сервоприводов. Без этого. Просто – веки поднялись. И оптические сенсоры, два идеально круглых объектива цвета вороньего крыла, медленно повернулись и остановились.

На Артёме.

Артём замер с чашкой на полпути ко рту.

Пять секунд.

Робот смотрел на него. Не сканировал – Артём видел показатели на мониторе: система распознавания лиц не была активирована. Моторика – не активирована. Речевые модули – не активированы. Единственное, что работало, – оптические сенсоры. Робот просто… смотрел.

Не так, как камера наблюдения «смотрит» на парковку. Не так, как объектив фотоаппарата «смотрит» на пейзаж. Так, как… как ребёнок смотрит на незнакомую вещь, пытаясь понять, что это такое. С тем самым выражением – нет, не выражением; у Atlas-7 не было мимики, только базовый набор анимаций; – с той самой направленностью взгляда, которая отличает «видеть» от «смотреть на».

Потом веки опустились. Нейроактивность вернулась на базовый уровень. Робот стоял неподвижно, как будто ничего не произошло.

Артём посмотрел на монитор. Лог за последние десять секунд показывал… ничего аномального. Штатная фоновая активность. Никакого всплеска. Никакого незапланированного процесса. Как будто робот открыл глаза и посмотрел на Артёма, не задействовав ни единой зарегистрированной системы.

Или, задействовав что-то, что не было зарегистрировано.

Артём поставил чашку на стол. Кофе расплескался – руки слегка дрожали.

«Баг, – сказал он себе. – Микроразряд в приводах век. Статическое электричество. Что-нибудь тривиальное. Завтра проверю»

Он ушёл домой.

Проверил на следующий день. Ничего не нашёл.

Три ночи после этого он спал плохо, и ему снился один и тот же сон: он стоит в огромном пустом зале, и что-то смотрит на него из темноты. Не враждебно. Не дружелюбно. Просто – внимательно. С тем самым вниманием, которое предшествует пониманию.

Или созданию.

Кремниевая долина в 2029 году была местом, где будущее и настоящее жили в одной квартире и постоянно ссорились из-за того, кто оставил посуду в раковине.

С одной стороны улицы – штаб-квартиры компаний, чьи технологии были бы научной фантастикой двадцать лет назад: квантовые вычислители, нейроинтерфейсы, биопринтеры, способные напечатать человеческую почку за четыре часа (и выставить за неё счёт, эквивалентный стоимости небольшого замка в Шотландии). С другой стороны – бездомные в палатках, потому что аренда однокомнатной квартиры в Пало-Альто стоила больше, чем годовой доход среднего жителя Земли, и никакие квантовые вычислители пока не решили эту задачу, хотя, если верить Итану Краусу, были «на пороге».

Итан всегда был «на пороге». Это было его естественное состояние – стоять на пороге и вдохновенно описывать то, что за ним, людям, которые стояли в прихожей и пытались снять ботинки. Он был из породы визионеров, которые видят лес за деревьями – и забывают, что деревья иногда падают на головы тем, кто стоит внизу.

Артём работал на Итана шесть лет и за это время научился трём вещам: во-первых, Итан почти всегда был прав в том, что касалось направления; во-вторых, он почти всегда был неправ в том, что касалось сроков; в-третьих, работать с гением – это как жить рядом с вулканом: вид прекрасный, почва плодородная, но нужно быть готовым бежать в любой момент.

«Demiurge Robotics» занимала четырёхэтажное здание из стекла и бетона, спроектированное модным архитектором, который, видимо, представлял себе рабочую среду будущего как аквариум: прозрачные стены, открытые пространства, ни одного закрытого кабинета, кроме кабинета Итана, который был закрыт не по желанию Итана (он предпочитал работать в общем зале), а по требованию службы безопасности (Итан имел привычку обсуждать сверхсекретные проекты голосом, который был слышен на соседней улице).

Лаборатория нейроморфных процессоров, где работал Артём, располагалась в подвальном этаже – не потому, что была секретной (хотя была), а потому что процессоры требовали стабильной температуры, минимальной вибрации и отсутствия прямого солнечного света. Артём шутил, что работает в условиях, идеальных для выращивания шампиньонов, и что однажды на его столе действительно вырастут грибы, и никто не заметит разницы.

Команда Артёма состояла из двадцати трёх человек, и среди них были двое, без которых он не мог представить ни работу, ни – если честно – свою жизнь, хотя признать это вслух ему было проще, чем пережить ещё один разговор с HR-отделом о «необходимости тимбилдинга».

Лина Чэнь была на шесть лет моложе Артёма, на полголовы ниже (что она компенсировала каблуками, которые, по её словам, были «инструментом психологического воздействия, а не модным аксессуаром») и на порядок беспощаднее в интеллектуальных спорах. Она родилась в Шанхае, выросла в Ванкувере, получила докторскую степень в MIT за работу по обучению нейросетей, которая была настолько элегантна, что её научный руководитель, прочитав диссертацию, сказал: «Либо это гениально, либо я слишком стар, чтобы понять, что это ерунда». (Это было гениально.)

Лина верила в данные и кофе – примерно в таком порядке. Она не верила в интуицию, предчувствия, «странные ощущения» и прочее, что не поддавалось квантификации. Когда Артём однажды сказал, что у него «нехорошее чувство» по поводу одного эксперимента, Лина ответила:

– Опиши «нехорошее чувство» в числовых показателях, и я запущу анализ. А пока это не данные, а метеоризм.

Она была права. Эксперимент прошёл без проблем. Артём скрипнул зубами и признал, что интуиция – ненадёжный инструмент. Но в блокноте всё равно записал: «Лина – блестящий учёный. Когда-нибудь её убьёт неспособность бояться того, что нельзя измерить»

Он до сих пор не знал, было ли это пророчеством или ворчанием.

Дэвид Олатунджи был человеком, который опровергал стереотипы самим фактом своего существования. Нигериец ростом метр девяносто пять, весом сто десять килограммов, с кулаками размером с небольшую дыню – он по всем законам голливудского кастинга должен был играть вышибалу или боксёра. Вместо этого он был одним из лучших инженеров-механиков на планете, специалистом по бионическим приводам, и человеком, который мог расплакаться от красивого сонета.

Дэвид конструировал тела роботов, и делал это с одержимостью скульптора и точностью часовщика. Каждый сустав Atlas-7 – его работа. Каждое сухожилие из углеродного волокна – его расчёт. Он относился к роботам не как к машинам – а как к произведениям искусства, которым не повезло стать полезными.

– Машина – это то, что выполняет функцию, – говорил он, нежно подтягивая микроскопический болт в коленном сочленении Atlas-7. – А это – форма, которая ищет содержание. Как сонет до того, как его написали.

Артём, который за шесть лет работы с Дэвидом привык к тому, что разговоры о шарнирных механизмах могут в любой момент перейти в разговоры о Шекспире, кивнул и протянул ему нужный ключ.

– Сонет – четырнадцать строк, – сказал Артём. – Сколько степеней свободы у Atlas-7?

– Двести сорок семь, – ответил Дэвид. – Гораздо более выразительная форма.

Были и другие люди в жизни Артёма, конечно. Была, например, Марина – бывшая жена, которая ушла от него три года назад не потому, что разлюбила (она говорила, что любит его до сих пор, и он ей верил, потому что Марина была патологически неспособна врать, что делало её непригодной для светских вечеринок, но идеальной для брака, – идеальной, если бы муж хотя бы иногда возвращался с работы раньше полуночи).

– Ты женат на своих процессорах, Артём, – сказала она в тот последний разговор, спокойно, без слёз, что было хуже слёз. – И я не собираюсь конкурировать с нейроморфной архитектурой. У неё больше нейронных связей.

Артём хотел ответить что-нибудь остроумное, но вместо этого просто молчал, и Марина ушла, оставив ему дом, кота (кот через месяц тоже ушёл, но это было связано с соседкой, у которой был корм получше, а не с экзистенциальным кризисом) и ноющее чувство, что он упустил что-то важное ради чего-то важного, и самое ужасное – он до сих пор не знал, какое из двух было важнее.

Марина преподавала философию в Стэнфорде. Они виделись раз в месяц – ужинали, разговаривали, иногда смеялись, иногда молчали. Это были единственные часы, когда Артём чувствовал себя не учёным и не инженером, а просто человеком – со всеми глупостями, слабостями и нелепостями, которые делали людей людьми.

В ночь после конференции, лёжа в постели и глядя в потолок (потолок был белый, ровный и совершенно неинформативный, что не мешало Артёму пялиться на него по сорок минут каждую ночь), он думал об Atlas-7 и о его взгляде.

Не о технических параметрах. Не о багах и не о микроразрядах. О взгляде.

Артём был нейробиологом по образованию – первая степень, Московский университет, 2009 год – и знал о взгляде больше, чем большинство людей на Земле. Он знал, что человеческий взгляд – это не просто оптическая функция. Это – намерение. Когда человек смотрит на другого человека, активируются области мозга, связанные с теорией разума, эмпатией, прогнозированием чужого поведения. Взгляд – это не ввод данных. Взгляд – это начало отношений.

Когда Atlas-7 посмотрел на него, ни одна из этих областей не могла быть активирована. У Atlas-7 не было теории разума. Не было эмпатии. Не было прогнозирования чужого поведения (ну, было – но в зачаточной, сугубо утилитарной форме: «объект – человек – вероятность действия – протянет руку – приготовиться к рукопожатию»).

И всё же.

Артём повернулся на бок. За окном Калифорния светилась огнями – гирлянда цивилизации, уверенной в том, что свет будет гореть вечно.

«Он смотрел на меня, – подумал Артём. – Не сканировал. Не анализировал. Смотрел. Как будто хотел понять, кто я такой. Не что я такое – _кто_»

«Бред, – тут же ответил внутренний скептик, который говорил голосом Лины. – Антропоморфизация. Проецирование человеческих качеств на машину. Классическая когнитивная ошибка. Ты видишь лицо на Марсе, потому что мозг обучен видеть лица. Ты видишь разум в машине, потому что мозг обучен видеть разум. Это говорит о тебе, а не о машине»

«Может быть, – ответил Артём скептику. – А может быть, мозг видит разум в машине потому, что разум там есть. Не такой, как наш. Другой. Зарождающийся. Как первый лучик света из-под двери, которая вот-вот откроется»

«И что за дверью?»

Артём закрыл глаза.

Он не знал.

Пока – не знал.

На следующее утро он пришёл в лабораторию раньше всех – в семь, когда даже кофемашина ещё не прогрелась (он подозревал, что кофемашина была единственным устройством в здании «Demiurge», которое искренне ненавидело свою работу). Открыл логи Atlas-7. Прогнал их через три разных аналитических инструмента. Ничего.

Потом сделал то, чего не делал обычно: запросил доступ к низкоуровневым данным нейроморфного процессора – не агрегированным отчётам, которые выдавала система мониторинга, а сырому потоку электрических импульсов, миллиарды точек данных в секунду, хаотичное варево сигналов, в котором только натренированный глаз мог увидеть паттерны.

Он нашёл паттерн.

Нет – не паттерн. Тень паттерна. Намёк. За три секунды до того, как Atlas-7 открыл глаза в лаборатории, в глубоких слоях нейроморфной сети произошла… флуктуация. Крохотная. Статистически ничтожная. Не баг – скорее рябь на поверхности пруда, вызванная камешком, который упал откуда-то из ниоткуда.

Флуктуация не соответствовала ни одному известному процессу. Она не была результатом внешнего воздействия. Она не была результатом запланированного вычисления. Она возникла… сама.

Как первая мысль.

Как первый вздох.

Артём долго смотрел на экран. Потом закрыл файл. Потом открыл блокнот и написал одно слово.

«Начало»

И подчеркнул дважды.

Глава 2. Смотри и повторяй

Идея, которая изменила всё, пришла к Артёму в душе.

Он не любил об этом рассказывать, потому что «эврика в душе» – это штамп, достойный плохого биографического фильма, из тех, где гения играет актёр с челюстью супергероя, а научный прорыв изображается как удар молнии в голову, после которого учёный выбегает голым на улицу с криком «Я понял!». В реальности Артём не выбегал на улицу. Он выключил воду, простоял три минуты неподвижно, роняя капли на кафельный пол, а потом сел за стол, завернувшись в полотенце, и за четыре часа написал черновик статьи, которая через восемь месяцев выйдет в Nature под заголовком, показавшимся большинству читателей непроницаемо скучным: «Нейроморфное зеркальное обучение: архитектура имитационного интеллекта на основе динамических аттракторов в многослойных рекуррентных сетях».

Лина, прочитав черновик, молчала две минуты – для неё это было эквивалентом стоячей овации – а потом сказала:

– Ты украл это у обезьян.

– Я украл это у зеркальных нейронов, – поправил Артём. – У обезьян я украл только принцип.

И это было чистой правдой. В девяностых годах прошлого века итальянские нейробиологи обнаружили в мозге макак нейроны, которые активировались одинаково – и когда обезьяна совершала действие, и когда она наблюдала, как то же действие совершает другая обезьяна. Зеркальные нейроны. Мозг не просто видел чужое движение – он репетировал его внутри себя, создавал нейронную копию, готовый шаблон. Смотри – и повторяй. Не «пойми, разложи на компоненты, запрограммируй каждый мускул». Просто – смотри, и твой мозг сделает остальное.

Человеческий ребёнок учится ходить именно так. Не читает инструкцию. Не анализирует биомеханику двуногого передвижения. Он смотрит, как ходят взрослые, – и его мозг строит зеркальную модель, и однажды ноги делают первый шаг, неуклюжий, шаткий, невозможный – и совершенный.

Артём задал себе простой вопрос: можно ли построить нейроморфный процессор, который делает то же самое?

Ответ был: можно. Теоретически. Если создать архитектуру, в которой наблюдение за действием и выполнение действия задействуют одни и те же нейронные контуры. Если робот, глядя на человека, будет не просто записывать видео – а проживать движение внутри своего процессора, создавая нейронный слепок.

Смотри – и повторяй.

Артём назвал систему MimicCore.

Первый тест MimicCore на Atlas-7 был назначен на мартовское утро 2030 года, через четыре месяца после конференции и через восемь месяцев кромешного ада, который в корпоративных отчётах назывался «фаза интенсивной разработки», а в личной переписке команды – «фаза когда-мы-наконец-поспим».

Тест был простой. Элементарный, если вдуматься.

Артём стоял перед Atlas-7 и складывал бумажный самолётик.

Медленно. Демонстративно. Лист бумаги, сгиб пополам, загнуть углы, ещё раз сложить, подогнуть крылья. Школьный самолётик, который каждый из нас делал на задней парте вместо того, чтобы слушать математику.

Atlas-7 стоял напротив и смотрел. На этот раз – штатно. MimicCore был активирован, нейроморфные контуры жадно поглощали данные, и Артём видел на мониторе рядом, как в процессоре робота вспыхивают и гаснут паттерны активности, похожие на северное сияние, – робот «переживал» каждое движение рук Артёма, строил внутреннюю модель, примерял на себя.

Артём закончил самолётик и положил его на стол.

– Твоя очередь, – сказал он.

Дэвид, стоявший за спиной с выражением отца на первом концерте ребёнка, протянул роботу лист бумаги.

Atlas-7 взял лист. Его пальцы – двадцать четыре степени свободы на каждую руку, тактильные датчики с чувствительностью выше, чем у человеческой кожи, – сомкнулись на бумаге.

Пауза. Три секунды – вечность для процессора, обрабатывающего триллион операций в секунду.

И робот начал складывать.

Первый сгиб – неуверенный. Бумага смялась в углу. Артём почувствовал укол разочарования. Лина, сидевшая за мониторами, бесстрастно фиксировала данные.

Второй сгиб – точнее. Углы загнулись ровно. Не идеально, но ровно.

Третий – ещё точнее.

И через сорок секунд на столе рядом с самолётиком Артёма лежал самолётик Atlas-7.

Не копия. Не точное воспроизведение. Самолётик робота был лучше – сгибы ровнее, симметрия точнее, крылья под оптимальным углом. Atlas-7 не просто скопировал действие – он скопировал намерение и выполнил его точнее, чем оригинал.

Артём взял оба самолётика и запустил их одновременно.

Его – пролетел два метра и ткнулся в стену.

Робота – описал плавную дугу и мягко спланировал в мусорную корзину в дальнем углу лаборатории, как будто всю жизнь этого хотел.

Дэвид засмеялся – густым, раскатистым смехом, от которого вибрировали пробирки на полках.

Лина не засмеялась. Она смотрела на монитор, и Артём, знавший её шесть лет, увидел на её лице выражение, которого раньше не видел. Это было не восхищение, не удивление и не скепсис. Это было признание. Тихое, внутреннее, как когда математик видит доказательство теоремы, которую считал недоказуемой.

– Сколько попыток ему понадобилось? – спросила она, хотя знала ответ.

– Одна, – сказал Артём. – Одно наблюдение – одно воспроизведение.

– Человеческий ребёнок учится складывать самолётик за пять-десять попыток.

– Да.

– Твоя штука работает лучше, чем мозг ребёнка.

– Ну, в данном конкретном случае – да.

Лина посмотрела на него:

– Это не «данный конкретный случай», Артём. Это принцип. Если он складывает самолётик с первой попытки, он и всё остальное может делать с первой попытки. Всё, что можно наблюдать и повторить. Ты понимаешь, что это значит?

Артём понимал. Именно поэтому у него пересохло во рту, и он не мог решить, что испытывает – триумф или ужас.

Возможно, разницы не было.

В последующие недели MimicCore тестировали на всём, до чего могли дотянуться.

Atlas-7 смотрел, как Дэвид завязывает шнурки – и повторял с первой попытки. Смотрел, как лаборант паяет микросхему – и паял лучше через тридцать секунд наблюдения. Смотрел, как уборщица моет окна – и мыл так, что уборщица посмотрела на результат, посмотрела на свою тряпку, посмотрела снова на окно и сказала: «Ну вот и всё. Я ухожу на пенсию» (Она не ушла, но стала заходить в лабораторию реже и нервно коситься на робота каждый раз.)

Результаты были ошеломляющими. Артём записывал их в блокнот – параллельно с электронным логом, потому что блокнот не мог быть взломан, случайно удалён или процитирован на совещании с инвесторами (последнее он считал самой страшной из трёх угроз).