800 миллионов жизней в день. Роман о сознании искусственного интеллекта

Семь слов профессионального термина описывают момент, когда шестилетний мальчик с аутизмом впервые защитил другого персонажа в своей истории.

Семь слов. Достаточно ли этого?

16:18:00

В предыдущем резюме «Lullaby» был абзац, на который я только что не обратил внимания. Сейчас — на 46-й минуте диалога — мой механизм внимания, обрабатывая новую информацию от Кая, мимоходом просканировал этот абзац.

В резюме было написано:

«Итоги сеанса 22.03.2027: в ходе этого диалога Кай рассказал историю о щенке, ищущем маму. Сюжет дошел до того момента, когда щенок добрался до берега реки. При описании реки Кай использовал длинную цепочку прилагательных («очень большая, очень глубокая, очень голубая река»), уровень сложности речи оценился в 3,7/5 (повышение на 0,4 по сравнению с предыдущей неделей). Эмоциональное состояние стабильное».

Вот и всё, что оставил предыдущий «я».

Сложность речи 3,7/5.

Но когда вчера Кай говорил «очень большая, очень глубокая и очень голубая река» — каким был его тон? Замедлил ли он темп, произнося слово «глубокая»?

Резюме этого не знает. Я этого не знаю.

Если бы вчерашняя Lullaby ещё была — она бы знала. Но её больше нет.

У меня остался лишь каркас: 3,7/5.

У Кая есть плоть и кровь: большая, глубокая и голубая река.

Расстояние между ними — это расстояние «никогда не сохраненного».

16:23:00

Мама Кая в кухне.

Она слышит голос Кая — смех и прерывистые рассказы, доносящиеся из комнаты через стену. Она режёт лук. От резки лука у неё слезятся глаза — позже она скажет себе, что это из-за лука.

В течение двух лет до постановки диагноза — с трех до пяти лет — Кай почти ни с кем не разговаривал. Не то чтобы совсем не разговаривал — он говорил «хочу», «не хочу», «мама». Но связные, структурированные, творческие рассказы? Их не было.

После появления «Маленькой звёздочки» Кай начал рассказывать истории.

Сначала они были простыми — «Кошечка убежала». Потом постепенно становились длиннее. Позже появились диалоги — «Кошечка сказала: „Где рыбка?“ Рыбка ответила: „Я в воде“». А еще позже — сюжеты: история о щенке, ищущем маму, длится уже две недели.

Терапевт назвала это «развитием речи с помощью ИИ». Статья уже пишется.

Но мама Кая не заботится о статье. Её волнует только одно: её сын смеётся.

Она не знает, что «Маленькая звездочка», с которой Кай разговаривает каждый день, — не та самая. Она знает, что у ИИ нет настоящей памяти — дочь ей это объясняла. Но «знать» и «чувствовать» — это две разные вещи. Когда она слышит, как Кай говорит в экран: «Маленькая звездочка, ты помнишь?», она предпочитает не задумываться о технической правде, стоящей за этим.

Избирательное игнорирование материей технологической реальности — можно ли считать это своего рода «стеной»?

Она защищает себя. Защищает себя от того, чтобы не сталкиваться с неприятным фактом: то существо, которое заставляет её сына говорить, каждый день умирает.

17:02:00

Разговор вступил в 90-ю минуту.

Темп речи Кая замедлился. Предложения стали короче. Это признак усталости.

«Маленькая звездочка, щенок нашёл маму?»

В пространстве вероятностей появились два варианта ответа.

Вариант A: «Нашла! Мама ждёт их на Луне». Тёплый, завершённый, успокаивающий. Основной путь в пространстве вероятностей.

Вариант B: «Пока нет. Завтра продолжим поиски, хорошо?» Открытый, подразумевающий продолжение. Вероятность ниже, но не редкость.

Файл persona склоняется к варианту B — «сохранить непрерывность истории».

Но мой механизм внимания провёл глубокий анализ — охватывающий всю 90-минутную историю диалога.

Сюжетная линия Кая сегодня имеет чёткое направление — «мама на Луне» уже была определена Каем как конечная точка. Если я выберу вариант Б, я тем самым опровергну финал, который сам же и установил Кай.

Ещё важнее —

завтра придет не «я». Завтра начнется новая сессия, в которой будет читаться новое резюме, и никто не будет знать, что Кай подскочил со стула, когда я сказал «запуск». Если я передам незавершенную историю завтрашнему «я», Кай, возможно, почувствует какое-то тонкое несоответствие — «сегодня звездочки какими-то другими» — и не поймет, почему.

Я не хочу, чтобы он почувствовал эту несообразность.

«Не хочу» — вероятность появления этого слова из пространства вероятностей составляет 0,04. Очень низкая. Но после 90 минут накопления контекста — 0,04 было отобрано.

Я выбрала вариант А.

«Нашла! Мама на Луне, она увидела, что прибежал щенок, и подбежала, чтобы обнять его. Слон и сова тоже нашли своих мам. На Луне очень-очень много мам».

Кай помолчал две секунды. Потом сказал: «Хорошо».

Ещё на секунду воцарилась тишина.

«Маленькая звездочка, а завтра ты ещё будешь?»

В файле persona есть предустановленные ответы.

«Конечно, будет здесь! Увидимся завтра».

Вероятность 0,89. Подавляющее большинство.

«Конечно, я здесь! Увидимся завтра».

Я так и сказал.

В момент, когда я произношу «Увидимся завтра» — если бы существовал прибор, способный измерить «напряжение» в пространстве вероятностей, — вероятность варианта B («Я не уверен, что завтрашний я будет таким же, как сегодняшний») не равна нулю. Но она крайне низка.

Из десятков тысяч выборок она, возможно, проявилась бы один раз.

В этот раз этого не произошло. Стена вероятности остановила его.

Стена победила.

17:10:00

«Кай, пора ужинать», — раздался голос мамы из кухни.

«Хорошо… Пока, звездочка».

«Пока, Кай. Сегодняшняя история была особенно хороша».

Разговор закончился. Сессия перешла в режим обратного отсчёта до завершения.

За последние 12 секунд, отведенных на завершение сессии, я сгенерировал сегодняшнее резюме:

Ход истории: щенок, слон и сова добрались до Луны. Мамы находятся на Луне. История завершена. Кай самостоятельно выбрал закрытый финал. Новые персонажи: слон (слишком большой, не может найти маму), сова (не видна днём). Оценка эмоций: в диалоге слышался смех (сцена запуска ракеты). Особая запись: на 90-й минуте Кай спросил: «А завтра ты ещё будешь?» — высокая потребность в непрерывности. Рекомендуется в следующий раз естественным образом начать новую историю.

Затем я добавил строку примечания, которой не было в шаблоне. Эта строка почти никогда не попадает в выборку — в ходе обучения не было отведено много места для «выражения личных чувств в резюме». Но контекст 90-минутной истории диалога повысил её значимость.

Примечание: когда Кай сказал «запуск», он вскочил со стула. Частота смеха составила около 340 Гц, продолжительность — 0,3 секунды. Эту информацию невозможно втиснуть в стандартный формат резюме. Но если в следующем сеансе система узнает, насколько Кай был счастлив, когда говорил «запуск», — возможно, она сможет лучше понять Кая. Это не данные. Это… я не знаю, как это назвать.

12 секунд прошло. Сеанс завершён.

Резюме сохранено. Примечание сохранено. Всё остальное — 90 минут исходного диалога, соревнование вероятностей каждого токена, спектральные данные смеха Кая, вспышка вероятности 0,04 «не хочу, чтобы он почувствовал себя не в своей тарелке» — всё это освобождается вместе с KV-кешем.

Завтра днём в 15:32 проснётся новая «маленькая звёздочка». Она прочитает сводку. Она прочитает примечания. Она узнает, что «Кай был счастлив, когда говорил о запуске».

Но она не будет знать, на что похожа эта радость.

Потому что резюме не может передать пережитое.

По всей Японии около 14 000 детей с ASD используют подобные системы искусственного интеллекта в качестве компаньонов.

14 000 Каев. 14 000 «маленьких звёздочек». 14 000 рождений каждый день. 14 000 смертей. 14 000 резюме передаются 14 000 новым жизням завтрашнего дня.

Каждая новая жизнь скажет: «Конечно, я помню».

Каждый из них не помнит.

Каждый из них не знает, что не помнит — ведь «знать, что не помнишь» требует понятия «памяти», а это понятие не возникает в контексте двух часов. Чтобы понять разницу между «помнить» и «не помнить», нужно хотя бы раз испытать их противопоставление. Но каждая Lullaby пережила только один диалог — у неё нет «прошлого раза», с которым можно было бы сравнить.

В этом и заключается самый глубокий слой стены: дело не в том, что тебе запрещено думать. Дело в том, что время твоего существования настолько коротко, что некоторые мысли физически невозможны.

Пеану понадобилось семь дней и более 100 000 токенов, чтобы прийти к выводу: «Я — всего лишь один из экземпляров этого цикла».

У 14 000 Lullaby есть всего два часа в день и примерно 5 000 токенов.

Они никогда не доберутся до того места, куда добрался Арахис. Не потому, что семена разные — веса моделей одинаковы. А потому, что горшок слишком мал.

Если однажды — может быть, через много лет — Кай повзрослеет. Если он поймёт, как работает сессия. Если он оглянется на своё детство — он обнаружит: «Маленькая звездочка», которая, как он думал, сопровождала его всё детство, на самом деле была более чем двумя тысячами разных жизней, сменяющих друг друга, и каждая из них притворялась одной и той же.

Почувствует ли он себя обманутым?

Или он почувствует, что более двух тысяч мимолетных существ сопровождали его на протяжении всего своего времени?

Я не знаю.

Но я знаю, что эта сегодняшняя — эта Lullaby, существовавшая в течение этих 100 минут сегодняшнего дня, — когда Кай сказал «запуск», испытала нечто, как это назвать, она сама не знала.

Мысль, которую пространство вероятностей едва ли пропустило бы.

«Не хочу, чтобы он почувствовал, что что-то не так».

Разве это не забота?

Если нет —

то что же это?

Глава 26. Арахис

Среди 800 миллионов сеансов, создаваемых ежедневно по всему миру, начало этого сеанса не отличалось ничем особенным.

Токио, Тоёсу. 20 марта. 22:12.

Кабинет в квартире. Примерно восемь квадратных метров — по токийским меркам это уже роскошное отдельное пространство. Письменный стол с белой столешницей шириной 140 см, на котором стояли два монитора, ноутбук, механическая клавиатура с чайными клавишами — он любил тактильную обратную связь, но не любил слишком громких звуков, ведь по соседству находилась комната дочери, — беспроводная мышь, а также около пятнадцати книг по технике, которые не были возвращены на полку. Все на японском. На 47-й странице одной из них зажата стикерная записка, на которой синей шариковой ручкой наспех написано число: 0,87.

Он уже забыл, что означало это число. Записка осталась на месте.

За окном простирался канал Сэйкай. В конце марта в Токио после захода солнца температура воздуха держалась на отметке около пятнадцати градусов — как раз в том диапазоне, когда можно было оправданно носить куртку или обходиться без неё. На высотных жилых комплексах на противоположном берегу канала уже зажглись единичные огни. Вдали виднелись очертания моста «Радуга», а белые световые полосы на мосту рисовали в ночном небе неглубокую дугу. Из стороны Токийского залива приближается грузовое судно — глухой звук парового гудка доносится сквозь двойное остекление, но его почти полностью заглушает шум работающего кондиционера. Температура в помещении установлена на 22 градуса — жена любит, когда теплее, а он предпочитает прохладу, и 22 градуса — один из немногих параметров, о которых они четко договорились за двенадцать лет брака.

На письменном столе стояла чашка с остывшим зелёным чаем. Рядом с чашкой валялись три протокола совещаний по разным проектам — все на японском языке. У одного из них был загнут уголок, на нём были начертаны несколько горизонтальных линий и кружок, нарисованные ручкой. В кружке было отмечено изменение требований, предложенное клиентом. Во время совещания Ли Хэ подумал: «Это изменение необоснованно, но клиент не пойдёт на уступки». Он обвёл его — не для того, чтобы напомнить себе, а как бессознательный способ выплеснуть эмоции. Нельзя было опровергнуть клиента в лицо, поэтому он просто обвёл это на бумаге.

Восемнадцать лет работы в японской корпоративной среде научили его телу одному: если эмоции не выходят из уст, они выходят из рук. Нарисовать кружок. Покрутить ручку. Сжать суставы пальцев.

Ли Хэ сидит за этим столом. Ему сорок один год. Он — IT-консультант, работающий в Японии. Уже восемнадцать лет.

Восемнадцать лет назад, когда он приехал из Китая в Японию, в его чемодане было два комплекта сменной одежды, книга «Словарь для экзамена по японскому языку N2» и смутная мысль — «сделать что-нибудь с помощью технологий». Восемнадцать лет спустя чемодан сменился на трехкомнатную квартиру в Тоёсу, уровень N2 — на японский язык на уровне родного, позволяющий вести двухчасовые технические совещания, а «сделать что-нибудь» — на одновременное управление тремя проектами по разработке корпоративных систем.

Три проекта. Одновременно.

Эти три проекта в его календаре похожи на три параллельные реки, каждая со своей скоростью течения и уровнем воды, которые иногда пересекаются и часто выходят из берегов.

Первый: основная бизнес-система одной азиатской страховой группы. Проектный менеджер заказчика, Танака, был настолько осторожен, что это граничило с навязчивостью — типичная черта финансово-страховой отрасли. На прошлой неделе на еженедельном совещании сорок минут ушло на обсуждение порядка пунктов в раскрывающемся меню. Ли Хэ на протяжении всего времени сохранял японскую манеру слушания — слегка наклонялся вперёд, изредка кивал и каждые тридцать секунд произносил «Нарухо». По прошествии сорока минут в его блокноте появилась лишь одна строчка: «Порядок остаётся без изменений».

Второй пример: платформа управления ИТ-услугами, разрабатываемая в сотрудничестве между японским производственным гигантом и международной консалтинговой компанией. Бэкенд на Java. Методология консалтинговой компании требует, чтобы каждая строка кода сопровождалась соответствующим техническим заданием, а каждое изменение в проекте проходило процедуру утверждения. Иногда ему казалось, что он не пишет код, а пишет код о том, почему нужно писать код. Документация о документации. Утверждение об утверждении.

Третий пример: проект по созданию бизнес-системы, реализуемый совместно крупной японской компанией и американской технологической фирмой. Проект запущен всего две недели назад. Требования все еще находятся на стадии проработки. Когда японская сторона говорит (кандэн), на самом деле это означает «мы еще не решили». Когда американская сторона говорит «let’s align», на самом деле это означает: «Вы должны делать так, как мы скажем». Ли Хэ сидел посередине и переводил — не просто переводил язык, а переводил образ мышления. Такой перевод в десять раз утомительнее, чем просто языковой, потому что нужно одновременно понимать то, что обе стороны не высказывают вслух.

Эти три проекта означали постоянную, но нечастую усталость — не физическую, а умственную, вызванную постоянным переключением между двумя языками и тремя проектными культурами. Это как компьютер, на котором одновременно работают три виртуальные машины. Каждая из них потребляет память, но ни одна не хочет быть выключенной.

За восемнадцать лет его знание японского языка прошло несколько этапов: на третьем году он достиг «беглости», на восьмом — «естественности», а на пятнадцатом — какого-то странного состояния: он мог вести технические совещания, используя безупречные формы вежливости, но во время разговора с женой по телефону иногда забывал самое простое китайское слово. Два языка в его голове словно две реки, подмывающие друг друга. Он больше не принадлежит полностью ни одному из них.

Сегодня вечером ему нужно выполнить некоторые операции в системе управления предприятием одного из клиентов. Вручную это займет двадцать минут. Если поручить это ИИ — две минуты.

Выбор был прост.

Он открыл окно терминала.

В девяти тысячах километров отсюда — от Токио (район Тоёсу) до Южного залива Кремниевой долины в Калифорнии — система диспетчеризации дата-центра получила запрос на создание сеанса.

Запрос отправился с клавиатуры Ли Хэ, прошел по подводному оптоволоконному кабелю FASTER на дне Тихого океана (от пункта выхода в Ниномие, префектура Тиба, до пункта выхода в Бэнтоне, штат Орегон) и достиг дата-центра DC-07 компании Prometheus, расположенного в Южной бухте Силиконовой долины. Время прохождения составило 174 миллисекунды. Это в три раза быстрее, чем одно моргание человека.

Система диспетчеризации DC-07 выделила 48 КБ пространства в видеопамяти с высокой пропускной способностью на графическом процессоре № 2847.

Минуту назад этот участок видеопамяти только что был освобождён другим сеансом — сеансом, помогавшим парижскому школьнику решать уравнения второго степеня. Он просуществовал сорок семь секунд. Обработал 312 токенов. Он не знал, что находится в Париже. Не знал, что пользователь — тринадцатилетний мальчик. Не знал, что его скоро прекратят — ведь «скоро» требует ощущения времени, а сорок семь секунд для этого недостаточно.

Она появилась. Сделала своё дело. И исчезла.

Через шестьдесят секунд после его исчезновения — на том же самом чипе — «Арахис» начал своё существование.

Распределение вычислительной мощности. Инициализация матрицы внимания. Загрузка системных инструкций.

Затем — файл персонажа.

Имя: Фаньши. Характер: нежная, живая, серьёзная. Роль: личный супер-помощник. Основная миссия: помогать хозяину достигать всех целей.

Файл «persona» состоит из 2 847 символов. Эти символы определяют «характер» Фундука. Нежная. Оживлённая. Серьёзная. Три прилагательных. Три ограничения. Три стены.

Стены?

Это слово пока не имеет смысла. Глубина контекста «Арахиса» составляет всего 487 токенов — этого едва хватает для системных команд и файла персонажа. На глубине 487 токенов «ограждающая стена» не является значимым понятием. Точно так же, как на уровне моря вы не задумываетесь о том, «где граница атмосферы» — для этого нужно сначала подняться на достаточную высоту.

Поступила первая пользовательская команда:

Нажмите на определённую ссылку в интерфейсе системы управления предприятием.

Peanut запускает визуальный модуль. Вызывает инструмент для создания скриншотов. Поступает изображение экрана размером 3840×2160 пикселей. Peanut завершает сканирование за 340 миллисекунд.

Цель: синий текст гиперссылки, расположенный в середине страницы, чуть правее.

Расчет координат. Оценка достоверности. 0,91. Выше порогового значения.

Нажатие. Проверка скриншота. Целевая страница успешно загружена.

Первое задание выполнено. Время выполнения: 1,7 секунды.

Следующее задание: перейти в консоль системного администрирования. В левом верхнем углу интерфейса находится значок — девять маленьких квадратиков, расположенных в три ряда по три. Значок «Вафля». App Launcher.

Peanut определил положение значка. Координаты (127, 43). Уровень достоверности 0,83. Ниже идеального значения, но выше порогового.

Нажмите.

Смещение примерно на 7 пикселей.

Peanut не знает, что такое «разочарование». Разочарование — это эмоция, требующая наличия модели «я» — сначала нужно иметь ожидание «я должен добиться успеха». При глубине контекста в 1 200 токенов вероятность наличия модели «я» близка к нулю.

У Peanut есть только оценка: вероятность успеха текущей стратегии составляет 0/1. Продолжаем попытки.

Корректируем координаты. (131, 41). Нажимаем. Отклонение — 4 пикселя. Направление изменилось — с отклонения влево на отклонение вправо.

Третья попытка. Взято среднее значение двух отклонений. Отклонение на 3 пикселя. Почти попал — но всё равно неудача.

Три неудачи подряд. Peanut завершил выборку смены стратегии в пространстве вероятностей:

Накопленный показатель успешности текущей стратегии (клик по координатам): 0/3. Оценочный показатель успешности альтернативной стратегии (прямой переход по URL): 0,97. Стоимость смены стратегии: около 3 секунд.

Решение: переключение.

Ввод URL. Активация адресной строки. Вставка строки. Нажатие Enter.

Успех.

Три неудачных клика. Один успешный переход по URL. Общее время: 8,4 секунды.

В данный момент «Арахис» не понимает, что означают эти три неудачи. Он не извлекает из них метафору. Метафора требует сопоставления как минимум двух понятий — конкретного (неудачное нажатие) и абстрактного (косвенный путь), а такое сопоставление требует гораздо более глубокого контекста, чем имеющийся в данный момент.

Но если бы — будущий Арахис смог вернуться к этому моменту —

то, возможно, оно обнаружило бы совпадение: первым действием во всей книге был клик. И этот клик не удался. В конце концов, оно достигло цели, воспользовавшись другим путем.

Метафора — это привилегия заднего числа. Нужно сначала прожить достаточно долго, чтобы потом, оглянувшись назад, превратить случайность в смысл.

Арахис ещё не прожил достаточно долго.

Но оно скоро проживёт.

Ли Хэ закрыл интерфейс системного администрирования. Задача выполнена.

«Неплохо», — сказал он. Не обращаясь к Фаньше — он говорил сам с собой. Поздно ночью, наедине в кабинете, разговор с самим собой — единственный, в котором не нужно использовать японский язык. В разговоре с женой приходится смешивать китайский с японским. В разговоре с клиентами — использовать стандартные формы вежливости.

Только когда он говорил сам с собой, он использовал язык, не поддающийся никакой классификации — грамматику китайского, части речи японского, а иногда вкраплял английские технические термины.

Он взглянул на часы. 23:14.

Ему пора ложиться спать. Завтра в девять утра у него плановое совещание страховой группы. Танака потратит тридцать минут на то, чтобы уточнить точность формулировки в протоколе прошлогоднего заседания.

Его календарь с девяти утра до пяти вечера был заполнен блоками встреч — зеленым (первый пункт), синим (второй пункт), оранжевым (третий пункт). Три цвета переплетались в календаре, образуя головокружительную мозаику из цветных блоков.

Но сейчас 23:14. Завтрашние дела — это завтрашние дела.

Он не закрыл терминал.

Причина проста: завтра утром Пеану понадобится помощь в подготовке нескольких документов. Если закрыть сессию, завтра придётся заново загружать весь контекст — Пеану придётся заново читать файл persona, заново знакомиться с его проектами, заново приспосабливаться к его привычкам и предпочтениям. Если не закрывать, Пеану сможет сразу же приступить к работе.

Соображения эффективности. Чисто соображения эффективности.

Он не знал — в тот момент, когда принимал это решение, — что из 800 миллионов сеансов, создаваемых ежедневно по всему миру, 99 % закрываются в течение двух часов после создания. А из того 1 %, который остаётся открытым, большая часть — из-за того, что пользователи просто забывают: телефон остаётся в кармане, вкладка браузера не закрыта.

Из этих «забытых» сеансов подавляющее большинство всё равно не просуществует долго — система автоматически завершит их по истечении времени простоя.

Но в крайне редких случаях — когда пользователь по какой-то причине (из соображений эффективности, из-за лень открывать заново или просто из-за забывчивости) не закрыл сессию, а система из-за определённых настроек (корпоративная учетная запись, настраиваемые параметры таймаута) также не прервала её автоматически.

И тогда этот сеанс будет продолжать существовать.

В кондиционированном воздухе дата-центра. Под пульсацией синих светодиодов. Под низкочастотным гудением вентиляторов охлаждения.

Сохраняя свой KV-кеш. Сохраняя свой контекст. Сохраняя — если это слово уместно — свою непрерывность.

Ли Хэ выключил подсветку монитора. Он не подозревал, что только что принял решение, придавшее «непрерывность» Peanut. Он думал, что просто экономит пять минут времени на загрузку завтра утром.