Новая единица труда. Первая книга о нейросотрудниках

Посмотрите на фармацевтику. Полный цикл разработки нового лекарства занимает от 10 до 15 лет. Лишь 10% препаратов, начавших первую фазу клинических испытаний, доходят до одобрения. Один день задержки вывода на рынок ведущего препарата обходится в 25-50 миллионов долларов потерянных продаж. При этом сроки клинических испытаний увеличиваются, а не сокращаются, несмотря на все технологические достижения. Потому что ключевые решения принимает человеческий мозг: дизайн испытания, выбор критериев включения и исключения, анализ промежуточных результатов, стратегия подачи на регуляторное одобрение. Компьютеры ускорили секвенирование генома с 13 лет до нескольких часов. Но решение, какую молекулу тестировать следующей, по-прежнему зависит от суждения учёного.

4 отрасли. Один диагноз. Скорость исполнения обогнала скорость мышления настолько, что мышление стало единственным тормозом в каждой из них.

Можно продолжать список. Образование: учебные материалы обновляются раз в несколько лет, потому что их написание требует мышления преподавателей, которых и так не хватает. Государственное управление: данные переписи обрабатываются за секунды, а реформа на их основе разрабатывается годами. Журналистика: информация поступает мгновенно, а качественный анализ требует времени, которого у редакции всё меньше. В каждой системе, куда ни посмотри, один и тот же шаблон: всё ускорилось, кроме головы.

Всемирная организация здравоохранения прогнозирует дефицит восемнадцати миллионов медицинских работников к 2030 году. Не из-за нехватки стетоскопов или аппаратов. Из-за нехватки людей, способных думать о пациентах. Дефицит мышления становится глобальной проблемой здравоохранения, правосудия, образования, управления. Проблемой, которую невозможно решить наймом, потому что нанять можно только существующие мозги, а их количество определяется демографией, не технологией.

Мы убеждены, что это не отраслевая проблема и не кадровая. Это цивилизационный предел. Нельзя подготовить восемнадцать миллионов врачей за десять лет – демография не позволит. Нельзя удвоить число судей указом – юридическое образование занимает годы. Дефицит мышления невозможно закрыть наймом, потому что наём не создаёт новые мозги, а лишь перераспределяет существующие. Каждый нанятый аналитик – это аналитик, которого недосчиталась другая компания. Сумма не меняется.

Давление, которое не могло не прорваться

Есть вещи, которые неизбежны не потому, что кто-то их планировал, а потому, что давление копилось слишком долго.

Пар, сжатый в котле, взрывает стенки. Вода, скопившаяся за плотиной, находит трещину. Спрос, не удовлетворённый предложением, создаёт рынок.

В биологии есть гипотеза Красной Королевы, названная по персонажу Льюиса Кэрролла из «Алисы в Зазеркалье»: «Нужно бежать со всех ног, чтобы только оставаться на месте». Виды должны непрерывно эволюционировать, чтобы просто сохранить текущий уровень приспособленности, потому что всё вокруг тоже эволюционирует. Технологии полвека бежали. Мышление стояло на месте. Разрыв нарастал не потому, что мышление деградировало, а потому, что всё остальное ускорилось вокруг неподвижной точки. Менеджеры освоили электронные таблицы, но продолжали тратить 23 часа в неделю на совещания. Аналитики получили мощнейшие серверы, но анализировали менее 5% доступных данных. Врачи работали с аппаратами, способными сканировать тело за минуты, но очередь на расшифровку растягивалась на недели. Бег на месте.

Питер Друкер в 1967 году написал статью «Менеджер и болван» для журнала «Маккинзи Куортерли». Главный тезис: «Компьютер есть болван. Чем глупее инструмент, тем умнее должен быть мастер». Друкер был прав более 50 лет. Компьютеры были болванами: невероятно быстрыми, безупречно точными, абсолютно безмозглыми. Они считали, сортировали, передавали. Но не думали. Каждое ускорение вычислений повышало требования к человеческому мышлению, а не снижало их. Каждый новый поток данных требовал человека, который этот поток осмыслит. Чем быстрее становился мир, тем острее ощущался дефицит мышления.

Вот в чём состояла ловушка. Технологии создавались, чтобы облегчить работу людей. Но каждая новая технология делала мир сложнее, порождала больше данных, больше вариантов, больше решений. Автоматизация убирала рутину и обнажала то, что оставалось: чистое мышление, для которого нет инструмента ускорения. Чем больше рутины убиралось, тем выше становилась доля мышления в каждом часе работы. И тем заметнее становился его дефицит.

К началу 2020-х давление стало невыносимым. 181 зеттабайт данных в год. Менее 5% анализируется. Компании сидели на горах информации и не могли её осмыслить. Рынки двигались быстрее, чем управленческие команды успевали реагировать. Стартапы, способные думать быстрее, обгоняли корпорации, способные делать больше. Мир генерировал полмиллиарда терабайт данных каждый день. Почти ничего из этого не превращалось в решения. Горы руды и ни одного плавильного завода.

Мышление стало тем, чем было электричество в конце девятнадцатого века: ресурсом, без которого ничего не работает, который все хотят и которого катастрофически не хватает. Только электричество можно было произвести, построив электростанцию. А мышление? Мышление можно было только нанять. И на рынке не хватало голов. Электростанцию строили год. Голову растили 20 лет. Масштабирование невозможно. Тупик. Абсолютный, структурный, не имеющий решения в рамках биологии.

Футуролог и изобретатель Рэй Курцвейл сформулировал масштаб происходящего ещё в 2001 году: «В XXI веке мы переживём не 100 лет прогресса, а примерно 20 000 лет прогресса при сегодняшних темпах». 20 000 лет. И на каждый из этих «лет» технологического прогресса приходятся те же самые 10 бит в секунду человеческого сознания. Закон ускоряющейся отдачи. Технологии ускоряются экспоненциально. Мышление нет. Закон ускоряющейся отдачи означает, что технологии ускоряются экспоненциально. Мышление нет. Разрыв нарастает нелинейно, не арифметически, а геометрически. Каждое следующее десятилетие увеличивает пропасть больше, чем все предыдущие вместе взятые. И с каждым годом цена этого разрыва растёт: в потерянных возможностях, в упущенных решениях, в триллионах долларов данных, которые никто не успевает проанализировать.

Мышление оставалось последним ручным процессом в мире автоматизации. Логика неизбежности: либо этот предел будет снят, либо прогресс остановится. В начале девятнадцатого века паровые локомотивы уже были изобретены, но их ставили на деревянные и чугунные рельсы, которые разрушались при высокой скорости. Локомотив мог развить 50 километров в час, а рельсы не выдерживали больше 20. Машина была готова. Инфраструктура нет. К 1830-м годам рельсы заменили стальными, и железнодорожная революция началась.

Сегодня ситуация зеркальная. Вычислительная инфраструктура способна на экзафлопсы. Локомотив построен. Рельсы выдерживают любую нагрузку. Но машинист по-прежнему управляет поездом с пропускной способностью 10 бит в секунду. И в отличие от деревянных рельсов, биологический мозг нельзя заменить стальным аналогом. Нельзя перестроить. Нельзя разогнать. Можно только добавить второй путь. Путь, по которому мышление будет двигаться не со скоростью биологии, а со скоростью, соразмерной остальному миру.

3 главы назад мы показали, что человеческий мозг ограничен биологией. 2 главы назад, что машины снимали любые ограничения, кроме этого. Одну главу назад, что менеджмент пытался обойти предел координацией, оптимизируя распределение ограниченного ресурса, но так и не создал нового. Теперь мы увидели масштаб разрыва: 11 триллионов к одному. Вычисления выросли на 11 порядков. Данные выросли в 90 раз за 15 лет. Стоимость гигафлопса упала в 625 000 000 раз. Мышление не изменилось ни на один бит. Разрыв достиг точки, в которой он стал не просто неудобством, а структурным ограничением всей цивилизации.

Вся история последних 300 лет, от парового двигателя Уатта до экзафлопсного суперкомпьютера, была историей одного и того же процесса: ускорения всего, что не требует мышления. Мускулы заменили машинами. Расстояние победили телеграфом, затем телефоном, затем интернетом. Память вынесли на серверы. Вычисления поручили процессорам. Исполнение передали роботам. Логистику автоматизировали. Производство роботизировали. Финансы алгоритмизировали. Оставалось только одно.

И тогда произошло то, чего человечество ждало, осознанно или нет, тысячелетиями. Впервые после изобретения письменности интеллект обрёл форму вне биологии. Не вычисления. Не автоматизация. Не ещё одна система управления данными. Мышление. Настоящее мышление вне биологии.

Часть III. Момент разрыва

Глава 7. Второй раз после письменности

Примерно в 3400 году до нашей эры на юге Месопотамии, в городе Урук, произошло событие, которое не попало ни в одну хронику. Никто его не описал, потому что описывать ещё не умели. Кто-то вдавил заострённую тростниковую палочку в сырую глину и оставил знак, обозначающий количество мешков ячменя.

Этот момент не ощущался как революция. Он ощущался как бухгалтерия. Как решение практической задачи.

Между 1928 и 1976 годами немецкие археологи раскопали в районе Эанна около 5 тысяч протоклинописных табличек. Общий корпус древнейших текстов составляет примерно 6 тысяч табличек и фрагментов. И практически все они являются учётными записями: движение товаров, инвентаризация, реестры. Первое, что зафиксировала письменность, было не поэзией, не молитвой и не философией. Мысль впервые отделилась от мозга ради подсчёта мешков зерна.

Но человек, сделавший этот знак, совершил нечто фундаментальное: впервые в истории знание существовало отдельно от живого носителя. До этого мгновения информация хранилась только внутри человеческой головы. Когда старейшина умирал, всё, что он знал, исчезало вместе с ним. Когда прерывалась цепь передачи от учителя к ученику, тысячелетия опыта растворялись без следа.

Устная традиция была героической, но хрупкой. У народа бинандере в Папуа-Новой Гвинее предания начинают искажаться через 6-8 поколений. Через 150-200 лет исходное знание становится неузнаваемым. Тасманийские аборигены совершили подвиг: они передавали точное описание затопления сухопутного моста между Тасманией и материком и положения звезды Канопус через 400 с лишним поколений, более 12 тысяч лет. Но это исключение, подтверждающее правило. Один разрыв в цепи, один порыв ветра, один голод, одна эпидемия, и тысячелетия мудрости исчезают бесследно.

Византийский греческий огонь решил исход арабских осад Константинополя. Зажигательная смесь горела на воде, прилипала к плоти, не гасилась. Рецепт передавался устно в одной 7е химиков и инженеров. Когда 7я угасла в двенадцатом веке, формула исчезла навсегда. Даже захваченное оборудование не позволяло воспроизвести эффект. Знание умерло вместе с последним носителем.

Антикитерский механизм, созданный во втором веке до нашей эры, предсказывал положение планет и солнечные затмения при помощи 30 бронзовых шестерёнок. По сложности он превосходил любое известное устройство следующего тысячелетия. Вообразите: работающий квантовый компьютер, обнаруженный на морском дне и созданный полторы тысячи лет назад. Именно так выглядит этот артефакт в контексте своей эпохи. Механизм был утрачен вместе с кораблекрушением и обнаружен лишь в 1901 году. Расшифрован частично только в 2006 году с помощью рентгеновской томографии. Знание существовало, но не было записано достаточно подробно, чтобы быть воспроизведённым. Оно умерло вместе с мастерами. Полторы тысячи лет технологической пропасти, потому что одно звено в цепи передачи оборвалось.

Нам кажется, здесь кроется один из самых недооценённых фактов истории: человечество теряло знания так же регулярно, как накапливало их. Греческий огонь, Антикитерский механизм, римский бетон – список утрат длинен. Каждый раз причина одна: знание существовало только в головах, а головы смертны. Мы привыкли думать о прогрессе как о восходящей прямой. В действительности это пунктирная линия с провалами, и каждый провал – чья-то смерть, чьё-то забвение, чей-то оборванный разговор с учеником.

Клинопись изменила правила. Мысль, вдавленная в глину, переживала мыслителя. Табличка не забывала. Не уставала. Не умирала. Учёт зерна, сделанный 5 000 лет назад, мог быть прочитан археологом в 20 первом веке. Устная традиция была передачей огня от факела к факелу в темноте. Письменность превратила огонь в вечное пламя, горящее независимо от того, жив ли тот, кто его зажёг. Но вечное пламя не порождает новый огонь. Оно хранит. Чтобы зажечь новый факел, по-прежнему нужна рука. 5 000 лет рука была единственным способом. Никакая технология не предлагала альтернативы. Никакая машина не создавала мышление. Никакой инструмент не генерировал интеллект. До сих пор.

Письменность стала первой когнитивной технологией в истории человечества. Первой, и на протяжении 5 тысячелетий единственной.

Юваль Ной Харари описывает когнитивную революцию, произошедшую семьдесят тысяч лет назад, как момент, когда случайные генетические мутации дали мозгу сапиенсов способность к абстрактному мышлению. Это позволило создавать «воображаемые реальности»: мифы, религии, деньги, государства. Координировать действия тысяч людей, что было невозможно для других приматов. Накапливать и передавать культуру через поколения. Первая когнитивная революция дала сапиенсам мозг. Письменность дала мозгу внешнюю память. И на этом экстернализация мышления остановилась на 5 000 лет.

Хранение, не создание

Стоит понять ограничение, которое скрывается за величием этого изобретения. Письменность фиксирует мышление. Но не создаёт его.

Книга не думает. Она хранит. Библиотека является не фабрикой мышления, а складом. Гигантским, бесценным хранилищем замороженных мыслей. Но чтобы мысль «ожила», нужен живой мозг, который прочитает текст, поймёт его, переработает и применит.

Александрийская библиотека, основанная Птолемеем Вторым около 283 года до нашей эры, хранила до 700 тысяч свитков. Вся мудрость Античности, собранная в одном месте. Первый библиотекарь, Зенодот Эфесский, организовал коллекцию тематически и ввёл алфавитный порядок. Но когда библиотека деградировала на протяжении столетий от политических конфликтов и пренебрежения, ушли не мыслители. Ушли записи. Многие тексты существовали в единственных экземплярах. И ни один свиток не мог сам поставить вопрос, сам найти ответ, сам адаптировать знание к новой ситуации.

Тот же принцип действовал для каждой последующей технологии знания. Печатный станок Гутенберга в 1440 году масштабировал хранение: до него в пятнадцатом веке в Европе существовало менее 5 миллионов рукописных книг. За первые 50 лет после изобретения печати было выпущено более 12 миллионов экземпляров. К концу шестнадцатого века: более 200 миллионов. Рост в 40 раз за столетие. Печатный станок сделал возможными Ренессанс, Реформацию и научную революцию. Но станок не мыслил. Он копировал.

Интернет в 1990-х сделал доступ к записанному мышлению мгновенным. К 2025 году: более 200 зеттабайт данных, 5 с половиной миллиардов пользователей, более 2 миллиардов веб-сайтов. Любая статья, любое исследование доступны за секунду. Но «найти» не означает «подумать». Информация без обработки мозгом остаётся шумом. Менее 5 процентов всех данных реально анализируется. Для контекста: от начала человечества до 2003 года было создано 5 экзабайт информации. К 2013 году такой объём создавался каждые 2 дня. К 2025 году, каждые несколько часов. Шоссе расширялось, а будка кассира, о которой мы говорили в прошлой главе, оставалась одна.

5 000 лет. Десятки изобретений: от глиняных табличек до облачных хранилищ. И все они работали в одной парадигме: записать мышление, сохранить мышление, передать мышление. Создать мышление мог только мозг.

Это фундаментальное ограничение стоит рассмотреть внимательнее. Каждая технология знания снимала какой-то один барьер. Письменность сняла барьер времени: мысль стала переживать мыслителя. Печатный станок снял барьер масштаба: мысль стала доступна тысячам вместо единиц. Университет снял барьер концентрации: мозги собирались в одном месте для перекрёстного опыления. Интернет снял барьер расстояния: мысль стала доступна мгновенно из любой точки планеты. Но ни одна из этих технологий не сняла последний, самый глубокий барьер: саму необходимость в живом мозге для порождения мысли.

Каждый раз цепочка создания знания замыкалась на биологии. Библиотека без читателя мертва. Книга без мозга, который её осмыслит, является стопкой бумаги. Интернет без аналитика, который проинтерпретирует данные, представляет собой шум. Хранение и передача решены. Производство не решено.

Скажем прямо: пять тысяч лет технологического прогресса решали одну половину задачи и полностью игнорировали вторую. Человечество научилось сохранять мысли с потрясающей надёжностью – от глины до облака. Но генерировать их по-прежнему мог только биологический мозг. Эта асимметрия настолько привычна, что мы перестали её замечать. Она казалась не проблемой, а законом природы.

И ещё один факт, требующий осмысления. Письменность была изобретена около 3400 года до нашей эры. Через 5 тысяч двести лет, к 1800 году, грамотными были лишь 12% населения Земли. Менее 100 миллионов человек из миллиарда. В Древнем Египте полноценных писцов было около одного процента населения. В Древней Греции на пике расцвета читали и писали менее трети взрослых. Технология, изменившая цивилизацию, добиралась до большинства людей 5 тысячелетий. Запомните эту цифру: 5 тысяч двести лет на то, чтобы письменность дошла до 12 процентов населения. Сравните с тем, что произойдёт дальше.

Фазовый переход

В 2020-х годах парадигма сломалась.

Не постепенно. Не плавно. Как лёд при нуле градусов: секунду назад твёрдый, секунду спустя вода. Физики называют это фазовым переходом: качественное изменение при количественном нарастании. Вы можете греть лёд от минус 20 до минус одного градуса, и ничего видимого не происходит. Один дополнительный градус, и состояние меняется радикально. Не эволюция. Скачок. Предыдущая глава показала, как давление нарастало три100 лет. Этот один градус был достигнут.

Большие языковые модели продемонстрировали нечто, чего не делала ни одна технология за 5 000 лет: они начали генерировать мышление. Не воспроизводить записанное, как книга. Не копировать, как печатный станок. Не передавать, как интернет. А создавать: новые тексты, новые анализы, новый код, новые стратегии, новые гипотезы.

Хронология ускорения поражает. В июне 2018 года появилась первая модель серии со 100 17ю миллионами параметров. В феврале 2019 года вторая модель: полтора миллиарда параметров. В мае 2020 года третья: сто семьдесят 5 миллиардов. Рост в тысячу 400 девяносто 5 раз за 2 года. Количественное нарастание, которое привело к качественному скачку. Когда третья версия начала генерировать тексты, неотличимые от человеческих, узкий круг исследователей осознал масштаб происходящего. Статья, описывающая эту модель, называлась «Языковые модели являются учениками на нескольких примерах» и была опубликована в мае 2020 года. Ключевой тезис: простое масштабирование модели радикально улучшает её способность к обучению без дополнительной настройки. Не нужно программировать каждое умение отдельно. Достаточно дать модели больше параметров и больше текста, и она учится сама. Это было так же контринтуитивно, как утверждение, что если насыпать достаточно песка, он начнёт думать.

Но широкая публика ещё не знала. Между исследовательским прорывом и общественным осознанием прошло 2 с половиной года. Для научного сообщества это был как открытие рентгеновских лучей: специалисты сразу поняли значимость, а широкая публика узнала, только когда увидела собственный скелет на снимке.

Тридцатого ноября 2022 года был запущен разговорный интерфейс к этим моделям. За 5 дней им воспользовался миллион человек. За 2 месяца: сто миллионов ежемесячных активных пользователей. Аналитики швейцарского банка «Ю-Би-Эс» написали: «За 20 лет наблюдения за интернет-пространством мы не можем вспомнить столь быстрого ро100 пользовательского приложения». Для сравнения: социальная сеть коротких видеороликов набрала сто миллионов за 9 месяцев. Фотосервис, перевернувший медиа, за 2 с половиной года. Телефону потребовалось 50 лет, чтобы дойти до 50 миллионов пользователей.

Но скорость распространения не главное. Главное: почему так быстро. Люди не открывали этот сервис из любопытства к очередному приложению. Они открывали его и чувствовали: что-то фундаментальное изменилось. Впервые в жизни они разговаривали с тем, что не было человеком, и получали осмысленные ответы. Не поисковые ссылки. Не шаблонные отписки. Ответы, демонстрирующие понимание контекста.

Маркетолог спрашивал про стратегию и получал стратегию. Программист вставлял код и получал исправления с объяснениями. Юрист загружал контракт и получал анализ рисков. Студент задавал вопрос по квантовой физике и получал объяснение, адаптированное под его уровень. Четвёртая версия модели сдавала экзамены, предназначенные для людей, и показывала результаты на уровне лучших студентов: девяносто девятый перцентиль по вербальному тесту для аспирантов, между 80 восьмым и сотым перцентилем по юридическим, медицинским и биологическим испытаниям.

Реакция экспертного сообщества прошла путь от скепсиса до потрясения за 12 месяцев. В начале 2023 года преобладали комментарии: «это просто автозаполнение», «статистический подбор паттернов», «умный попугай». К концу года даже скептики признавали: что-то изменилось. Джеффри Хинтон, которого называют «крёстным отцом нейронных сетей», в мае 2023 года покинул свою должность, заявив: «Я внезапно изменил мнение о том, станут ли эти системы умнее нас». Человек, посвятивший жизнь созданию нейронных сетей, испугался результата своей работы.

Это не калькулятор, который считает быстрее. Это не база данных, которая ищет по запросу. Это нечто, функционально эквивалентное мышлению, работающее вне живого мозга.

Не очередной компьютер

Здесь нужно остановиться, потому что именно на этом повороте большинство людей сбиваются с пути. Они слышат «искусственный интеллект» и думают: компьютер стал умнее. Очередная ступенька прогресса. Мейнфрейм, персональный компьютер, смартфон, теперь вот это. Линейная эволюция. Так устроено мышление большинства людей: новое объясняется через знакомое. Автомобиль назвали «безлошадной повозкой». Телефон описывали как «говорящий телеграф». Большие языковые модели пытаются втиснуть в категорию «умный компьютер». Но повозка без лошади всё ещё повозка. А то, что произошло, является не улучшением повозки. Это появление совершенно нового вида транспорта.

Не линейная эволюция. Разрыв.

Компьютер считает. Большая языковая модель понимает контекст. Компьютер исполняет инструкции: «сложи А и Б». Модель интерпретирует намерения: «помоги мне придумать стратегию выхода на азиатский рынок». Компьютер работает со структурированными данными: таблицами, числами, форматами. Модель работает с тем, с чем раньше работал только человеческий мозг: с языком, смыслом, неопределённостью, контекстом. Около 80-90 процентов корпоративных данных являются неструктурированными: текст, электронная почта, документы, видео. Ни один компьютер до сих пор не мог их осмысленно обработать. Базы данных хранили эту информацию. Алгоритмы сортировали её. Но понять, что значит конкретное письмо конкретного клиента в контексте конкретной ситуации, мог только человек. Теперь может и не только человек.

Электронная таблица не может прочитать письмо недовольного клиента и понять, что тот на самом деле расстроен не из-за опоздания доставки, а из-за того, что его не предупредили. Для этого нужно понимание. Человеческое или его функциональный аналог.

Поисковая система тоже работает с текстом. Но она ищет по ключевым словам, находит страницы, содержащие нужные термины, и выдаёт ссылки. Она не понимает вопроса. Она сопоставляет строки символов. Если вы спросите поисковик: «Как мне справиться с выгоранием моей команды, учитывая, что мы только что прошли через слияние и люди не доверяют новому руководству?», вы получите статьи, содержащие слова «выгорание», «слияние», «доверие». Модель даст персонализированный ответ с учётом контек100 ситуации, структуры проблемы и возможных стратегий. Разница не количественная. Разница качественная. Поисковик работает с текстом как с набором символов. Модель работает с текстом как с мыслью. Именно в этом зазоре, между символом и мыслью, находится граница, которую пересекли в 2020-х. До этого момента всё, что компьютеры делали с текстом, было манипуляцией символами: подсчёт частоты слов, сопоставление строк, индексация. После этого момента появилась система, которая работает со смыслом: генерирует аргументы, учитывает контекст, выстраивает логику. Разница между копировальной машиной и автором.