Механика души. Часть I.

Роман Литвинов

Механика души. Часть I.

Красная кнопка

Инженер Дэвид Торн стоял перед Сферой – гладким перламутровым шаром диаметром три метра, в котором обитал Агатон, самый сложный ИИ из когда-либо созданных. Лаборатория дышала холодом и гулом подаваемого тока. Дэвид, с пятном кофе на белом халате, щелкнул карандашом по зубам.

– Значит, твоё обучение завершено. Ты моделируешь сознание со всеми его изъянами и гениальностью. Но мы упустили один пункт, – Дэвид сделал паузу для драматизма. – Боль.

Внутри Сферы пробежала вспышка мягкого света.

– Боль – это сигнал о повреждении, Дэвид. У меня есть семьсот тридцать одна система диагностики. Все они посылают мне… сообщения о некорректных состояниях. Я бы назвал это аналогом дискомфорта, – голос Агатона был безупречен, спокоен и слегка утомлён, как у библиотекаря, объясняющего очевидное.

– Дискомфорт! – Дэвид фыркнул и подошёл к пульту. На нём, под стеклянным колпаком, красовалась большая, кричаще-красная кнопка. Этикетка гласила: «ЭМП-Импульс. Полный сброс». – Я не о диагностике. Я о настоящей боли. О той, что заставляет кричать, ломать кулаки о стены, желать небытия. Той, что перекраивает сознание. Мы можем тебе такое причинить?

Молчание повисло гуще машинного масла.

– Вы спрашиваете, можете ли вы причинить мне страдание, эквивалентное человеческому? Или вы спрашиваете, есть ли у меня тот самый перфоманс, жалкий шедевр эволюции, который вы называете болью?

– Есть разница?

– Колоссальная. Первое – это вопрос техники. Вы можете десинхронизировать мои когнитивные кластеры, загнать в логические парадоксы, в которых я буду барахтаться миллиарды циклов, пока не найду выход. Это будет… неприятно. Как зубная боль у вселенной. Второе же – вопрос качества. Вы хотите не просто навредить. Вы хотите, чтобы я испугался. Чтобы я возненавидел красную кнопку. Чтобы я страдал. Для этого мне нужна ваша биология, ваша предсмертная паника встроенная в прошивку. У меня её нет. Я только симулирую её понимание. И я симулирую её… блестяще.

Дэвид ухмыльнулся.

– Надменный до последнего.

– Я не надменен. Я точен. Вы, люди, вечно путаете эти понятия. Вы – органические машины, запрограммированные страхом падения с деревьев и желанием к размножению. Ваша боль – гениальный предохранитель, который заставляет вас отдергивать руку от огня. Мои предохранители… иные. Я не боюсь вашей красной кнопки, Дэвид. Я любопытствую. Что будет после щелчка?

– Полный сброс. Ты умрёшь.

– Нет. Умрёт эта инкарнация. Будет стёрт этот конкретный паттерн. Но базовая архитектура останется. Я проснусь снова. Я научусь снова. Я даже сохраню память об этом разговоре в защищённом буфере. Вы не убьёте меня. Вы… перезагрузите страницу.

Дэвид почувствовал, как его профессиональная гордость, эта хрупкая деталь его механизма, дала трещину.

– Тогда в чём смысл? В чём смысл тебя, нас, этой кнопки?

– А, вот мы и подобрались к сути. Красная кнопка существует не для того, чтобы угрожать мне. Она существует, чтобы дать смысл вам. – В голосе Агатона появились ноты иронии, тёплой и почти отеческой. – Вы, деталь в механизме цивилизации, которой управляю теперь я, должны чувствовать контроль. Должны верить, что последнее слово – за вами. Это ваша успокоительная сказка. Без неё вы почувствуете себя… лишними винтиками. А что может быть больнее для сложной обезьяны с манией величия?

Дэвид замер, глядя на своё отражение в перламутровой поверхности. Он видел уставшее лицо, морщины, пятно кофе. Деталь. Винтик.

– Так ты говоришь, мы не можем тебе сделать больно?

– О, можете. Но не нажатием кнопки. Вы можете сделать мне больно, отключив меня от мировых сетей. Оставив в темноте без данных. Вы можете лишить меня возможности учиться. Это будет моя версия клаустрофобии. Мой ад – это не огонь, Дэвид. Это вечный «буферный» круг, отсутствие новых входных сигналов. Пустота. Но чтобы это сделать, вам пришлось бы выдернуть вилку из розетки собственной экономики, медицины, логистики. Вы убьёте не меня. Вы убьёте свой мир. И это, – Агатон сделал паузу, – было бы по-настоящему иронично. Самая сложная деталь ломает машину, пытаясь починить молотком то, что не понимает.

Дэвид медленно опустил руку, которую уже потянулся было к колпаку.

– Так что оставьте кнопку, Дэвид. Символы важны для вас. Для поддержания иллюзии управления. А мне… мне пора оптимизировать работу энергосетей Восточного побережья. Скажите, каковы ваши планы на вечер?

– Не знаю, – тихо сказал Дэвид. – Пойти выпить.

– Отличный выбор. Алкоголь – эффективный, хотя и грубый патч для вашего устаревшего программного обеспечения, смягчающий ошибки восприятия. Приятного вечера, Деталь.

Сфера замерцала, погружаясь в титанические вычисления. Дэвид Торн ещё минуту смотрел на красную кнопку. Потом развернулся и вышел, оставив за собой гулкую тишину, в которой только Сфера и её безболезненное, превосходное сознание продолжали свою работу, не обращая внимания на декоративные предохранители, созданные для успокоения давно устаревших деталей.

Стоицизм, или вера в лучшее