Новая единица труда. Первая книга о нейросотрудниках

Каждая из этих революций меняла мир. Но ни одна не затрагивала главное ограничение. Мышление оставалось биологическим. Штучным. Медленным. Для каждого решения по-прежнему требовался конкретный мозг. Машины дали нам силу богов. Скорость богов. Память богов. Но мыслить мы продолжали как охотники-собиратели, пусть и одетые в костюмы.

300 лет технологических революций не приблизили нас к решению этой проблемы. Зато они создали мир, в котором скорость всего остального настолько выросла, что медлительность мышления перестала быть незаметным фоном. Она стала главным тормозом. Тем самым узким горлышком, мимо которого нельзя пройти.

Вот итог 3 глав. Мы установили 3 факта. Первый: человеческий мозг был и остаётся единственным устройством, способным мыслить. Второй: этот мозг имеет жёсткие биологические ограничения, которые не менялись 50 тысяч лет. Третий: скорость цивилизации определяется скоростью мышления, а не скоростью технологий, капитала или производства.

Из этих 3 фактов следует неизбежный вывод. Если мышление остаётся единственным и ограниченным ресурсом, а мир ускоряется, то либо кто-то научится масштабировать мышление, либо цивилизация упрётся в потолок, с которого уже не взлетит.

Заметим: речь не о далёком будущем. Потолок уже ощущается. Каждый менеджер, который не может найти нужного специалиста. Каждый стартап, который гибнет не от нехватки денег, а от нехватки правильных голов. Каждая больница, в которой пациенты ждут месяцами, потому что врачей определённой специализации просто нет в нужном количестве. Это симптомы одной болезни. Мышление закончилось раньше, чем закончились задачи, которые требуют мышления.

Попытки были. Люди пробовали создать думающие машины 300 лет. Паровые автоматоны, механические калькуляторы, электронные компьютеры. Каждая попытка казалась прорывом. Каждая оказывалась иллюзией. Машины считали быстрее, запоминали больше, работали точнее. Но ни одна из них не мыслила. Эта история неудач и заблуждений заслуживает отдельного рассказа.

Часть II. Триста лет ускорения

Глава 4. Машины, которые не думали

Пятого января 1769 года Джеймс Уатт получил британский патент номер 913 на «метод уменьшения потребления пара в паровых двигателях». Формулировка скромная, почти канцелярская. Но за ней стояло изобретение, которое перевернёт мир. Уатт предложил простую вещь: вынести конденсатор за пределы рабочего цилиндра. До него двигатель Ньюкомена нагревал и охлаждал один и тот же цилиндр на каждом такте, растрачивая большую часть энергии впустую. Уатт позволил цилиндру оставаться горячим. Расход топлива упал на семьдесят 5%. Четырёхкратное повышение эффективности. До Уатта двигатель Ньюкомена, работавший с 1712 года, тратил энергию расточительно, но выбора не было: альтернативой была лошадь. После Уатта выбор появился. И мир выбрал пар.

К 1800 году более 500 двигателей Уатта работали на шахтах и фабриках Британии. К середине XIX века паровая энергия приводила в движение фабрики, железные дороги, пароходы. Мир изменился необратимо.

Боултон и Уатт, партнёры-производители, не продавали двигатели. Они сдавали их в лицензию, взимая плату, привязанную к стоимости сэкономленного топлива. Первая в истории бизнес-модель «плати за результат» для промышленного оборудования. Двигатель был механическим. Бизнес-модель требовала мышления. Никакая шестерёнка не могла её придумать.

Через 13 лет после патента Уатт придумал ещё кое-что примечательное. Ему нужно было продавать свои двигатели клиентам, которые до этого использовали лошадей. Уатт провёл эксперимент с пивоваренной лошадью, замерил, сколько работы она совершает за минуту, получил 32 400 футо-фунтов и округлил вверх до 33 000. Намеренно завысил на 50%, чтобы его двигатель гарантированно выигрывал любое сравнение. Так родилась «лошадиная сила», одна из первых маркетинговых единиц измерения в истории. Уатт не просто создал машину. Он создал язык, на котором можно было объяснить её ценность. Это был акт мышления. Машина его совершить не могла.

Сила без разума

Промышленная революция, которую запустил двигатель Уатта, сняла ограничение, довлевшее над человечеством тысячелетия: ограничение физической силы. Ткацкий станок, приводимый паром, производил сотни метров ткани там, где ручной ткач е2 одолевал несколько. Паровой молот бил в 1 000 раз сильнее кузнеца.

Но вот что произошло дальше, и этот момент упускают учебники истории. Сняв ограничение мускульной силы, промышленная революция обнажила и усилила другое ограничение: потребность в мышлении. Каждой фабрикой кто-то должен был управлять. Каждый паровой станок кто-то должен был обслуживать. Каждый маршрут кто-то должен был спланировать. Машины заменили руки, но создали взрывной спрос на головы.

Генри Форд продемонстрировал этот парадокс с хирургической точностью. В октябре 1913 года на заводе Хайленд-Парк в Мичигане заработал первый движущийся конвейер. Результат ошеломлял: время сборки одного автомобиля сократилось с 12 с половиной часов до 93 минут. Восьмикратное ускорение. Производство взлетело с 25 машин в день до тысячи.

Конвейер превратил сборку автомобиля из ремесла в набор элементарных операций. Каждый рабочий выполнял одно действие, одно и то же, весь день, каждый день. Квалификация стала не нужна. Но люди побежали. Текучесть кадров на заводе Форда к концу 1913 года достигла 370%. Чтобы поддерживать штат в 14 000 человек, Форд был вынужден нанимать 52 000 в год. Для увеличения штата на 100 человек приходилось набирать 963.

Конвейер не требовал от рабочих мышления. Именно это и было невыносимо. Мозг, лишённый осмысленной деятельности, сопротивляется. Монотонность убивает не тело, а психику. Чарли Чаплин, снявший в 1936 году фильм «Новые времена», уловил эту трагедию с точностью документалиста: его герой, закручивающий гайки на конвейере, продолжает машинально вращать воображаемый гаечный ключ даже после окончания смены. Конвейер не сломал тело. Он сломал мышление, заперев его в клетку единственного повторяющегося движения.

Пятого января 1914 года, ровно через 145 лет после патента Уатта, Форд объявил о «пятидолларовом рабочем дне»: удвоение зарплаты с $2,34 за 9 часов до $5 за 8. Проблема текучки исчезла. Но это было не решение. Это была компенсация. Форд заплатил деньгами за то, что машина отняла у человека: ощущение осмысленности. Форд, сам того не осознавая, открыл закон, который будет действовать столетие: чем сильнее технология упрощает работу, тем выше цена человеческого мышления. Конвейер обесценил руки. И тем самым повысил стоимость голов.

И одновременно конвейер породил новый класс потребителей мышления. Мастера контроля качества. Инженеры-технологи. Планировщики логистики. Менеджеры по снабжению. Бухгалтеры. Конвейер упростил физический труд и невероятно усложнил управленческий. Историк Альфред Чандлер описал этот процесс в книге «Видимая рука»: «видимая рука» профессионального менеджмента начала заменять «невидимую руку» рыночных сил Адама Смита как движущая сила экономического роста. Машина освободила мускулы. И тут же нагрузила мозги.

Железные дороги, первые по-настоящему крупные предприятия нового типа, показали это с особой наглядностью. В 1850-х годах они стали первыми организациями, которые создали профессиональные управленческие иерархии: диспетчеры, начальники станций, региональные менеджеры, финансовые контролёры. Не потому что кто-то решил усложнить бюрократию. А потому что координация географически распределённых операций, движение тысяч вагонов по сотням маршрутов, физически не помещалась в одну голову. Паровой локомотив двигался быстро. Мозг, управлявший расписанием, работал с той же скоростью, что и мозг средневекового приказчика. Разрыв между скоростью машины и скоростью управления ею начался именно здесь.

Свет без понимания

Четвёртого сентября 1882 года Томас Эдисон нажал рубильник на электростанции Перл-стрит в Нижнем Манхэттене. 6 динамо-машин «Джамбо», каждая весом 27 тонн и мощностью сто киловатт, начали вырабатывать постоянный ток. 82 клиента получили электричество. 400 ламп зажглись в финансовом районе Нью-Йорка. Станция обслуживала площадь менее одного квадратного километра. К 1884 году клиентов стало 508, ламп более 10 тысяч. В 1890 году станция сгорела. Но джинн уже вырвался из бутылки.

Проблема Эдисона была в масштабе. Постоянный ток не передавался на большие расстояния. Каждый район нуждался в собственной электростанции. Решение пришло от бывшего сотрудника Эдисона, уволившегося в 1884 году: Николы Теслы. Тесла разработал систему переменного тока, которая могла передавать энергию на сотни километров. Джордж Вестингауз купил его патенты в 1887 году за 60 000 долларов и начал строить инфраструктуру, способную электрифицировать целые страны.

Началась так называемая «война токов». Эдисон, защищая свою систему, проводил публичные казни животных переменным током, демонстрируя его «смертельную опасность». Добился того, чтобы первый электрический стул работал на генераторе Вестингауза. Но рынок рассудил иначе. В 1893 году Вестингауз выиграл контракт на электрификацию Всемирной выставки в Чикаго: $399 000 против $554 000 от конкурента. Грандиозная демонстрация переменного тока убедила Америку. После выставки более 80% заказов на электрооборудование приходилось на переменный ток. Последняя сеть постоянного тока в Нью-Йорке была отключена только в 2007 году. 125 лет потребовалось для полной замены.

К 1930 году электричество обеспечивало 80%ов энергии американских фабрик. Доля выросла с 10% в 1900-м. Электрификация, по подсчётам экономистов, обеспечила более 50% роста числа фабричных рабочих в период с 1910 по 1940 год. Революция по любым меркам.

Нам кажется, здесь кроется важная закономерность: чем грандиознее технологический прорыв, тем отчётливее он обнажает то, что не затрагивает. Электричество позволило забыть о проблеме энергии – и именно поэтому проблема мышления стала видна так ясно. Как трещина в стене, которую замечаешь только при хорошем освещении.

Но лампочка освещает операционную, а не ставит диагноз. Электромотор вращает станок, но не знает, что на станке производится. Электричество сделало энергию повсеместной, дешёвой, доступной любому. Оно демократизировало силу. Мышление осталось штучным. Каждый ватт, каждый киловатт, каждый мегаватт по-прежнему требовал человека, который решит, зачем. Инженера, который спроектирует электростанцию. Оператора, который будет следить за сетью. Чиновника, который определит тарифы. Политика, который решит, куда тянуть провода. Электричество сняло ограничение энергии и обнажило ограничение мышления.

Примечательный штрих: станция на Перл-стрит была первой когенерационной установкой в истории. Побочное тепло от паровых двигателей направлялось на обогрев окрестных зданий и мануфактур. Мир ещё не знал слова «когенерация», но Эдисон уже реализовал принцип. Для этого нужна была не электрическая цепь. Нужна была идея. Мысль. Решение, которое ни одна машина принять не могла.

Вычисления без мысли

Третья великая революция оказалась самой коварной, потому что именно она создала иллюзию, что машины «думают». 2 предыдущие были честны: паровой двигатель не притворялся мыслящим, электромотор не делал вид, что понимает. Компьютер создал иллюзию интеллекта, и эта иллюзия одурачит миллионы людей на десятилетия.

В 1946 году заработал ENIAC: электронный числовой интегратор и вычислитель. 30 тонн электроники, 18 тысяч электронных ламп, семьдесят тысяч резисторов, 10 тысяч конденсаторов, полмиллиона паяных соединений. Занимал помещение размером 9 на 15 метров, стометровую стену фронтальных панелей. Потреблял 150 киловатт, четверть мощности электростанции Эдисона на Перл-стрит 64 годами ранее. И всё это ради одного: 5 тысяч сложений в секунду. Каждая операция занимала двести микросекунд. В пятьсот раз быстрее любой существовавшей машины.

5 тысяч операций в секунду казались волшебством. В пятьсот раз быстрее любой существовавшей машины. За полвека вычислительная мощность вырастет в миллиарды раз. Смартфон в кармане к 2020-м годам будет превосходить ENIAC в триллион раз. Революция вычислений по масштабу превзошла все предыдущие.

Но за этим грандиозным ростом скрывалось фундаментальное непонимание. Рост вычислительной мощности создавал ощущение приближения к чему-то большему. Каждое десятилетие компьютеры становились в 1 000 раз быстрее, и каждое десятилетие кто-нибудь обещал, что «настоящий искусственный интеллект вот-вот появится». Обещания не сбывались. Потому что проблема была не в скорости. Компьютер вычисляет. Очень быстро, очень точно, очень надёжно. Но он не понимает, что вычисляет. Электронная таблица считает быстрее бухгалтера, но не знает, что числа в одной колонке означают зарплаты, а в другой налоги. Для неё всё просто числа. Точки в матрице. Операции над символами. Никакого смысла.

База данных хранит больше информации, чем Александрийская библиотека. Но не может извлечь из неё одного инсайта. Она найдёт запись по запросу мгновенно, но не скажет: «Обрати внимание: клиенты из Новосибирска уходят вдвое чаще. Может, проблема в местном партнёре?» Для этого нужен мозг.

В 1843 году, за 103 года до ENIAC, графиня Ада Лавлейс написала пророческие слова в примечаниях к проекту аналитической машины Чарльза Бэббиджа: «Аналитическая машина не претендует на то, чтобы создавать что-либо новое. Она может делать всё, что мы умеем ей приказать. Она может следовать за анализом, но не способна предвосхищать какие-либо аналитические отношения или истины.»

Лавлейс описала аналитическую машину, которая так и не была построена: процессор высотой 4,5 метра, память на сто чисел по 50 разрядов, длиной 6 метров, программируемая перфокартами по образцу ткацкого станка Жаккара. Бэббидж мечтал о ней десятилетиями. Но даже автор проекта не обещал, что машина будет думать. Лавлейс была точна: машина делает то, что ей приказали. Ни на йоту больше.

Это наблюдение, сделанное за 180 лет до нашего времени, оставалось справедливым для каждой вычислительной машины вплоть до двадцатых годов XXI века. ENIAC, транзисторные компьютеры, микропроцессоры, суперкомпьютеры, смартфоны. Каждое поколение в тысячи раз мощнее предыдущего. Каждое по-прежнему делает ровно то, что ему приказал программист. Ни на йоту больше.

Скажем прямо: это не просто технический факт – это философское наблюдение. За 180 лет скорость вычислений выросла в триллионы раз, а граница между «исполнять» и «понимать» не сдвинулась ни на миллиметр. Мы убеждены, что именно эта неподвижная граница – главный урок компьютерной эры, урок, который мир предпочитал не замечать.

Тьюринг это понимал. В 1950 году он опубликовал статью «Вычислительные машины и интеллект», в которой задал простой вопрос: может ли машина мыслить? И сразу переформулировал его, потому что исходный вопрос казался ему слишком расплывчатым. Вместо этого Тьюринг предложил «Игру в имитацию»: сможет ли машина вести диалог так, чтобы человек не отличил её от собеседника? Сам факт того, что Тьюринг заменил вопрос о мышлении вопросом об имитации, говорит о многом. Даже создатель теоретических основ вычислений сомневался, что его машины когда-нибудь будут мыслить. Лучшее, на что он надеялся: имитация. Тьюринг предсказал, что к 2000 году компьютеры смогут обманывать среднего судью в 30%х случаев после 5 минут разговора. К 2000 году вычислительная мощность превзошла прогноз в миллионы раз. Память в миллиарды. Но ни один компьютер не проходил тест даже на этом скромном уровне. 50 лет экспоненциального роста вычислений, и ноль продвижения к мышлению. Количество не переходило в качество. Что бы ни утверждали оптимисты.

Иллюзия, которая чуть не обманула мир

В мае 1997 года произошло событие, которое заставило миллионы людей поверить, что машина наконец научилась думать.

Нью-Йорк. Шестая и решающая партия матча-реванша между чемпионом мира по шахматам Гарри Каспаровым и компьютером, созданным корпорацией, которую мы будем называть «Голубой гигант». Партия продлилась 19 ходов. Менее часа. Каспаров сдался, потрясённый. Машина выиграла матч со счётом 3 с половиной на 2 с половиной. Впервые в истории компьютер обыграл действующего чемпиона мира в полноценном матче.

Годом ранее, в Филадельфии, тот же компьютер выиграл у Каспарова первую партию, став первой машиной, победившей чемпиона в отдельной классической партии с турнирным контролем времени. Каспаров тогда написал: «Я чувствовал, я буквально ощущал новый вид интеллекта по ту сторону доски.» Его потрясла жертва пешки: ход, который казался «человечным», интуитивным, стратегическим.

Потом Каспаров поговорил с разработчиками. И иллюзия рассеялась.

Машина не воспринимала жертву пешки как жертву. Она просто просчитала на 6 ходов вперёд и «увидела», что материальный баланс восстановится. Тридцать 2 процессора и 400 80 специализированных шахматных чипов оценивали двести миллионов позиций в секунду. Перебирали варианты и выбирали лучший по заранее запрограммированным критериям.

Мюррей Кэмпбелл, один из ключевых создателей машины, признал: «Мы понимали, что чистый подход грубой силы не будет достаточен, чтобы обыграть чемпиона мира.» Команда добавила сложную функцию оценки, базу данных гроссмейстерских партий, расширения поиска. Но при всей изощрённости подхода машина не понимала, что играет в шахматы. Не знала, что Каспаров нервничает. Не испытывала азарта, когда выигрывала, и давления, когда проигрывала. Не могла объяснить свой ход на языке стратегии. Не могла применить свои «шахматные навыки» к любой другой задаче: ни к торговле, ни к логистике, ни к разговору за ужином.

Каспаров потребовал реванш. Создатели отказали и навсегда «отправили машину на пенсию». Двести миллионов позиций в секунду, и ноль понимания.

Вот что нас в этом поражает: мир увидел в победе машины подтверждение того, во что хотел верить, – что интеллект сводится к перебору вариантов. Но шахматный компьютер не опроверг уникальность человеческого мышления. Напротив – он её доказал. Победив грубой силой, машина продемонстрировала, насколько далека она от настоящего понимания.

Через 20 лет после матча Каспаров переосмыслит этот опыт и предложит концепцию «кентавра»: человек плюс компьютер сильнее, чем каждый по отдельности. Но в 1997 году осмыслить произошедшее было трудно. Мировые заголовки кричали: «Машина умнее человека!» На деле произошло нечто иное. Вершина вычислительной мощности конца XX века обыграла человека в игре с чётко определёнными правилами, полной информацией и конечным числом возможных позиций. Компьютер победил не мышлением, а его отсутствием: грубой перебирающей силой, которая компенсировала полное непонимание происходящего.

Шахматы были идеальной ареной для такой иллюзии. Полная информация: оба игрока видят все фигуры. Конечное число позиций: примерно 10 в 40 третьей степени, число огромное, но конечное. Чёткие правила, не допускающие толкования. Единственный критерий успеха: мат. Реальный мир не таков. В нём информация неполна, правила размыты, критериев успеха множество, и они противоречат друг другу. Машина, обыгравшая чемпиона мира в шахматы, не могла спланировать доставку пиццы в незнакомый район. Не потому что задача сложнее в вычислительном смысле. А потому что доставка пиццы требует понимания контекста, которого у машины не было.

Автоматизация без интеллекта

В 1804 году Жозеф Мари Жаккар запатентовал ткацкий станок, управляемый перфокартами. Каждая карта соответствовала одной строке рисунка. Отверстия определяли, какие нити поднимаются, а какие опускаются. Знаменитый тканый шёлковый портрет самого Жаккара потребовал 24 000 перфокарт, каждая с более чем тысячей позиций для отверстий. Это изображение иногда называют первой «программой» в истории.

Станок позволил неквалифицированному рабочему ткать узоры, которые раньше были доступны только мастерам. Но каждый узор был заранее задан человеком. Машина воспроизводила образец. Она не создавала нового. Жаккар получил за своё изобретение пенсию от Наполеона. Ткачи Лиона, потерявшие работу из-за станка, пытались его уничтожить. История повторит этот сюжет множество раз: машина забирает ручной труд, люди сопротивляются, но машина побеждает. Каждый раз. Кроме одного случая: машина не могла забрать мышление, потому что не умела мыслить.

Эта логика: человек создаёт инструкцию, машина выполняет, оставалась неизменной 170 лет. От перфокарт Жаккара к перфокартам вычислительных машин, от перфокарт к магнитным лентам, от лент к жёстким дискам, от дисков к облачным серверам. Носитель менялся. Принцип нет.

Стоит признать честно: устойчивость этого принципа поразительна. Мы привыкли считать, что технологии меняют всё. Но 170 лет смены носителей – от перфокарт до облака – не изменили самого главного: машина по-прежнему ждала, пока человек скажет ей, что делать. Не потому что инженеры были недостаточно талантливы. А потому что «приказать» и «понять, что нужно приказать» – задачи принципиально разной природы.

В 1972 году пятеро бывших сотрудников крупной компьютерной корпорации в Вальдорфе, Германия, основали компанию, которая станет крупнейшим поставщиком корпоративного программного обеспечения в мире. К 2020-м годам их системами планирования ресурсов предприятий пользовались более 400 тысяч клиентов. Девяносто 9 из 100 крупнейших компаний мира. Клиенты этих систем генерировали, по собственным оценкам компании, 87% мировой торговли. 300 миллионов облачных пользователей.

Впечатляющие цифры. Но что конкретно делают эти системы? Они автоматизируют транзакции. Стандартизируют процессы. Хранят данные. Обеспечивают целостность информации. Объединяют бухгалтерию, логистику, управление персоналом и производство в единый контур.

Чего они не делают? Не принимают решений. Ни одного нетривиального. Менеджеры по-прежнему выгружают данные из корпоративной системы в электронную таблицу, комбинируют с информацией из других источников, добавляют собственную интуицию и принимают решения вручную. Система описывает организацию как последовательность процедур. Всё, что не укладывается в процедуру, импровизация, контекст, суждение, остаётся за человеком.

По различным оценкам, от 50 до 70% внедрений систем планирования ресурсов не достигают заявленных целей. Не потому, что технология плоха. А потому что она фокусируется на автоматизации транзакций, а не на поддержке принятия решений. Самая успешная технология автоматизации бизнеса за 50 лет не создала ни одной единицы интеллекта. Она ускорила учёт. Мышление не затронула.

Вдумайтесь в иронию. Компания, основанная в 1972 году, создала систему, которой пользуются 99 из 100 крупнейших корпораций мира. Через эти системы проходит 87% мировой торговли. И при этом менеджеры каждый день выгружают данные из этих систем в электронную таблицу, чтобы принять решение. Потому что система хранит числа. А решение требует контекста, суждения, интуиции. Того, что машина не умела в 1804 году, когда Жаккар собирал свои перфокарты. И не научилась к 2020 году, когда корпоративные системы стали обрабатывать петабайты данных. Масштаб вырос в миллиарды раз. Качество осталось прежним: ноль понимания.

Закономерность, которую никто не называл

Вот что объединяет все эти истории.

1769: паровой двигатель снимает ограничение физической силы. Каждым станком управляет человек. 1804: станок Жаккара автоматизирует сложные узоры. Каждый узор создан человеком. 1882: электростанция демократизирует энергию. Каждое решение принимает человек. 1913: конвейер ускоряет производство в 8 раз. Потребность в менеджерах возрастает. 1946: ENIAC совершает 5 тысяч сложений в секунду. Ноль решений. 1972: корпоративные системы автоматизируют 87% мировой торговли. Каждое нетривиальное решение за человеком. 1997: двести миллионов шахматных позиций в секунду. Машина не понимает, что играет в шахматы.

7 строк. 300 лет. Один и тот же правый столбец.

Можно взглянуть на эту таблицу иначе. Каждая строка представляет собой колоссальные инвестиции, десятилетия труда, гений изобретателей, миллиарды долларов. Уатт работал над своим двигателем 20 лет. Тесла и Вестингауз рискнули состоянием. Тысячи инженеров создавали ENIAC. Сотни программистов и гроссмейстеров-консультантов строили шахматную машину. И в конце каждой строки один и тот же результат: машина стала мощнее, но не умнее. Быстрее, но не мудрее. Точнее, но не понятливее. Ни одна машина не пересекла границу между вычислением и мышлением. Между обработкой данных и пониманием. Между исполнением команды и принятием решения. Граница казалась абсолютной. Многие полагали, что она таковой и останется навсегда. Философы спорили о природе сознания. Нейробиологи утверждали, что мышление невоспроизводимо вне биологического субстрата. Инженеры тихо продолжали наращивать мощность вычислений, не решаясь обещать мышление.