На пороге сверхразума. Как ИИ изменит работу, обучение и общество

Натан Роу

На пороге сверхразума. Как ИИ изменит работу, обучение и общество

Предисловие

Мы живём в эпоху ожидания «больших событий». Логика работы СМИ, алгоритмы социальных сетей и даже миндалины в глубинах нашего мозга подталкивают нас обращать внимание на те драматические, революционные «экстренные новости», которые способны мгновенно изменить всё. Мы представляем себе, что приход сверхразума будет следовать тому же сценарию: однажды ранним утром все экраны мира заполнятся одним и тем же сообщением — «Объявлено о появлении первого всеобщего искусственного интеллекта (AGI)», — после чего мировой порядок будет полностью переписан в течение нескольких недель или даже дней. Это интуитивно понятный и полный драматизма сюжет, но он почти наверняка неверный.

Сверхразум, скорее всего, появится без каких-либо сенсационных новостей. Оно не будет сопровождаться грандиозной глобальной презентацией, в центре внимания не будет стоять ни один создатель «в стиле Опенгеймера», и не будет четко различимой «точки взрыва». Напротив, его приход будет скорее похож на бесшумную, постепенную и глубокую структурную трансформацию, сила которой заключается в бесчисленных мелких, но непрерывных итерациях. Пока большинство из нас все еще ждет того решающего момента «сингулярности», фундаментальные изменения, определяющие будущее, уже давно незаметно происходят в неприметных уголках и с неудержимой силой поднимаются вверх по S-образной кривой технологической эволюции.

Вспомним 2016 год, когда AlphaGo, разработанная компанией DeepMind, входящей в состав Google, победила чемпиона мира по го Ли Се-ши, что потрясло весь мир. СМИ назвали это событие «моментом Спутника» в области искусственного интеллекта — началом новой эры. Это, без сомнения, стало важной вехой, мощным символом, привлекшим внимание всего мира. Однако после шума вокруг этого события мир, казалось, вернулся к обычному ритму жизни. Для большинства людей жизнь не изменилась сразу: го по-прежнему оставалась той же древней настольной игрой, а искусственный интеллект — отдаленным и расплывчатым понятием. Победа AlphaGo стала впечатляющим представлением, доказательством возможностей, но сама по себе она не изменила мировую структуру власти. Этот прорыв лишь на мгновение позволил нам заглянуть в будущее, после чего мы быстро вернулись к привычной жизни. Этот пример прекрасно иллюстрирует ограниченность единичных прорывов: они могут вызвать внимание и дискуссии, но не всегда приводят к системным социальным преобразованиям. Сила перемен зачастую скрывается в том долгом и тихом периоде «брожения», который следует за событием.

Спустя почти десять лет крупные языковые модели (Large Language Models, LLM), такие как серия GPT, вновь вывели искусственный интеллект в центр общественного внимания. В отличие от AlphaGo, их возможности гораздо более универсальны: от написания стихов и программирования до ведения мультимодальных диалогов — их результаты поражают воображение. Однако наблюдаемое нами явление удивительно похоже. Первоначальный шок и восторг быстро разбавляются насмешками над их «серьёзной чепухой», тревогами по поводу воздействия на рынок труда и сомнениями в отношении технологического ажиотажа.

Настоящие перемены происходят не на тех громких презентациях моделей, а после них — в бесчисленных экспериментах, которые проводят миллионы разработчиков, предпринимателей и энтузиастов по всему миру в своих «нестандартных сценариях». Они, словно кубики «Лего», объединяют эти мощные возможности ИИ с существующими рабочими процессами, продуктами и услугами, решая одну за другой конкретные и незначительные проблемы: независимый разработчик использует их для помощи в отладке кода, небольшая компания, занимающаяся электронной коммерцией, — для автоматического создания описаний товаров, а учитель — для разработки индивидуальных заданий для учеников. Каждое из этих, казалось бы, небольших применений само по себе незначительно, но когда они собираются вместе в миллионы, они образуют необратимый поток, который медленно, но уверенно устремляется из периферии в основное русло экономики и общества. Это и есть классическая модель распространения технологий — изменения происходят не по приказу из центра, а начинаются с бесчисленных шепотов на периферии.

Чтобы понять эволюцию сверхразума, нам нужна совершенно новая когнитивная парадигма: мы должны переключить внимание с погони за мимолетными «горячими новостями» на выявление стабильных и устойчивых «кривых производительности». Как показывают данные, отслеживаемые из года в год в «Отчете об индексе искусственного интеллекта» (Artificial Intelligence Index Report), публикуемом Стэнфордским университетом (Stanford University), несмотря на то, что общественное мнение время от времени подвергается колебаниям, показатели, характеризующие ключевые способности ИИ — будь то масштаб параметров моделей, объем обучающих наборов данных или результаты различных тестов — практически всегда демонстрируют плавную и крутую кривую экспоненциального роста (Стэнфордский университет, 2024). Эта кривая гораздо лучше, чем любой отдельный запуск продукта или публичная дискуссия, раскрывает наше реальное положение. Она говорит нам, что мы плывём по реке с экспоненциальным течением: даже если поверхность воды кажется спокойной, скорость судна продолжает ускоряться поразительными темпами.

Эта книга призвана предоставить системную концептуальную основу и практическое руководство для действий в эпоху «отсутствия сенсационных новостей». Мы вместе рассмотрим, как нам — как отдельным людям, организациям и всему обществу в целом — следует наблюдать, принимать решения и действовать, когда сила, определяющая будущее человечества, развивается столь скрытно, постепенно и противоречиво. Мы превратим всеобщую тревогу перед неизвестным в систему реагирования, которую можно проанализировать, проверить и применить на практике. Ведь в эпоху сверхразума самый большой риск, возможно, исходит не от злого умысла машин, а от того, что мы, придерживаясь устаревшей когнитивной карты, разработанной для вчерашнего мира, пытаемся плавать по совершенно новым неизведанным водам. Пришло время обновить нашу карту.

1. Постепенный переход

Представлять себе приход сверхразума как единичное, взрывное событие — это не только неверное толкование законов развития технологий, но и упрощение способов эволюции сложных систем. Более реалистичной моделью является «постепенный скачок» (Gradual Leap). Этот, казалось бы, противоречивый термин как раз и отражает ключевую особенность развития искусственного интеллекта: он движется за счёт накопления бесчисленных мелких и непрерывных количественных изменений, но при достижении определённой критической точки демонстрирует нелинейное, казалось бы, внезапное появление новых способностей. Такой «скачок» не возникает из ниоткуда, а глубоко укорен в фазе крутого подъёма одной или нескольких технологических S-образных кривых.

Развитие любой революционной технологии — от парового двигателя до Интернета — редко проходит по линейной траектории. Они, как правило, следуют «S-образной» кривой: сначала идет длительный период зарождения, характеризующийся медленным прогрессом и отсутствием внимания со стороны широкой публики; затем наступает период стремительного роста, когда производительность за короткий срок повышается в геометрической прогрессии, что вызывает широкий резонанс в обществе; и, наконец, наступает период зрелости, когда рост замедляется, а технология становится частью социальной инфраструктуры.

Эпоха искусственного интеллекта, в которой мы сейчас находимся, как раз расположена в середине этой S-образной кривой — в самой захватывающей и в то же время самой запутанной «фазе роста». Каждый «прорыв», который мы наблюдаем — будь то более мощные модели, более впечатляющие приложения или преодоление какого-то нового рубежа — представляет собой лишь очередную точку на этой крутой кривой, а не её конечную точку. Ещё больше усложняет ситуацию то, что перед нами, возможно, стоит не одна S-образная кривая, а «кластер кривых», образованный переплетением и наложением друг на друга нескольких ключевых технологических кривых: алгоритмов, вычислительной мощности, данных и т. д. Например, когда S-образная кривая вычислительной мощности аппаратного обеспечения (следующая за вариантом закона Мура) пересекается с S-образной кривой новой архитектуры нейронных сетей (такой как Transformer) и с S-образной кривой способности обрабатывать огромные объемы данных, их суммарный эффект создает более крутую макроуровневую кривую роста, наклон которой намного превосходит то, чего могла бы достичь любая отдельная технология. Это объясняет, почему развитие ИИ кажется наполненным ошеломляющими «скачками», но его основной движущей силой являются постоянные и предсказуемые постепенные инновации.

Наиболее увлекательным проявлением такого «постепенного скачка» является открытие «эмерджентных способностей» (Emergent Abilities) в крупных языковых моделях. В 2022 году исследователи из Google опубликовали знаковую статью, в которой систематически раскрыли суть этого явления: когда масштаб модели (например, количество параметров) ещё относительно невелик, её результаты при решении определённых сложных задач (таких как многошаговое мышление или понимание метафор) ничем не отличаются от случайных догадок; однако, как только масштаб модели превышает определенный порог, который невозможно точно предсказать заранее, ее производительность при решении этих задач внезапно подскакивает с уровня, близкого к нулю, до уровня, значительно превышающего случайный, и даже достигает или превосходит человеческий уровень (Wei et al., 2022).

Эти способности не были специально разработаны или запрограммированы исследователями; они словно «естественным образом возникают» из огромного масштаба модели. Это открытие даёт нам ключевое понимание «прорыва» в ИИ: так называемое «озарение» или «скачок» на самом деле представляет собой качественное изменение, вызванное непрерывным накоплением количественных изменений. Это похоже на нагрев воды: в процессе нагрева от 1 до 99 градусов состояние воды не претерпевает существенных изменений, но когда температура превышает критическую отметку в 100 градусов, она внезапно закипает и превращается в пар. Для внешнего наблюдателя это представляет собой «мутацию», но по сути является неизбежным результатом непрерывного накопления энергии. То же самое происходит с появлением новых возможностей ИИ: за каждым, казалось бы, волшебным «скачком» стоит непрерывное линейное увеличение инвестиций в исследования и разработки, накопление данных и потребление вычислительной мощности. Поняв это, мы сможем проникнуть за фасад медийных заголовков типа «ИИ внезапно научился XX» и увидеть стоящую за ними прочную и непрерывную цепочку причинно-следственных связей.

Даже если сама технология совершила поразительный скачок, её преобразование всей социально-экономической системы неизбежно будет сдерживаться «задержкой усвоения». Чтобы технология прошла путь от лаборатории к обществу и стала инфраструктурой, перестраивающей социальную структуру, необходимо преодолеть огромную системную инерцию. Экономическая структура, законодательство, организационные формы, сети цепочек поставок и даже навыки и ментальные модели отдельных людей не могут быть мгновенно перестроены, как при обновлении программного обеспечения. Электроэнергия — классический пример.

Прошло несколько десятилетий с того момента, как в конце XIX века Эдисон зажег первую коммерческую лампочку, до того, как электрические сети действительно стали «операционной системой» индустриального общества, стимулирующей всесторонний рост производительности. Первые фабриканты просто заменили паровые машины на электродвигатели, но планировка фабрик и производственные процессы по-прежнему следовали моделям паровой эпохи, что приводило к ограниченному росту производительности. Только когда новое поколение инженеров и менеджеров кардинально переосмыслило проектирование фабрик и перестроило производственные линии с учётом децентрализованных свойств электроэнергии, удалось в полной мере раскрыть революционный потенциал электрификации (David, 1990). Распространение Интернета также следовало той же модели: от первоначальной электронной почты и статических веб-страниц до повсеместных сегодня мобильных платежей, облачных вычислений и социальных сетей — его глубокое преобразование бизнеса и образа жизни также прошло через процесс постепенного проникновения, длившегося несколько десятилетий.

Даже если завтра в какой-то лаборатории действительно создадут универсальный искусственный интеллект, достигший уровня человека, он не сможет уже на следующий день взять под свой контроль мировую экономику. Его необходимо превратить в продукт, найти подходящие сферы применения, осуществить сложную интеграцию с существующими системами, преодолеть регуляторные барьеры, а также подготовить соответствующую правовую, этическую и трудовую инфраструктуру на уровне всего общества. Этот процесс по сути является процессом социального обучения и адаптации, временные рамки которого неизбежно исчисляются годами, а то и десятилетиями.

Сравнение разработки сверхразума с «Манхэттенским проектом» или «Проектом Аполлон» может привести к серьезным заблуждениям. Последние два проекта представляли собой инженерные программы с четко сформулированными целями, четкими границами и высокой степенью концентрации ресурсов, у них были четко определенные начало и конец, а их успех можно было обозначить одним испытанием атомной бомбы или одной высадкой на Луну. Разработка сверхинтеллекта, напротив, больше похожа на эволюцию глобальной, распределенной и децентрализованной экосистемы. У неё нет главного штаба, участники представлены в академических кругах, промышленности и сообществах открытого исходного кода, а путь её развития полон неопределённости и случайности.

Это скорее похоже на выращивание тропического леса, чем на строительство небоскрёба. Мы можем наблюдать за темпами роста этого леса, его видовым разнообразием и стабильностью системы, а не ждать, когда какое-то «божественное дерево» внезапно прорвётся к небу. История развития технологий автономного вождения предоставляет нам отличный объект для наблюдения. Прошло двадцать лет с тех пор, как в 2004 году Управление перспективных исследований Министерства обороны США (DARPA) провело первый конкурс по автономному вождению, но мы до сих пор не достигли полного автономного вождения уровня L5.Мы наблюдаем типичный «постепенный» процесс: технология шаг за шагом переходит из закрытых испытательных полигонов на упорядоченные автомагистрали; возможности постепенно расширяются от простой помощи при крейсерском режиме до автоматического следования за впереди идущим транспортным средством и автоматического перестроения в пробках.

Каждый шаг вперед вселяет оптимизм, но каждое внедрение в коммерческую практику сопровождается большими, чем ожидалось, трудностями и более длительными сроками. Ожидания общественности также напоминают американские горки, колеблясь между ажиотажем «революция не за горами» и разочарованием «ничего особенного». Именно это и является правдивым отражением процесса интеграции новых технологий в общество — он полон повторений, проб и сложных взаимодействий с существующими системами, а не представляет собой четкую и резкую революцию.

2. Перемены на периферии

История неоднократно доказывала, что радикальные преобразования зачастую начинаются не в центре, а берут начало в тех «периферийных сценариях», которые упускаются из виду основным потоком. Когда появляется новая технология, она редко находит прямое применение в самых центральных и ключевых системах общества. Эти ключевые системы (такие как финансовая, медицинская, транспортная и энергетическая) обычно подвергаются строгому регулированию, к ним предъявляются чрезвычайно высокие требования к стабильности и безопасности, а их организационная структура и система интересов настолько запутаны, что они испытывают естественное сопротивление к любому новому явлению, которое может принести неопределенность. Первой точкой приземления новой технологии неизбежно становятся те «периферийные зоны», где высокий уровень допустимой ошибки, слабое регулирование и низкие издержки проб и ошибок. Здесь они могут свободно тестироваться, подвергаться итерациям, терпеть неудачи и развиваться, пока не найдут жизнеспособную модель применения и не накопят достаточно сил, чтобы затем нанести удар по центральным областям. Возникновение искусственного интеллекта идеально следует этому классическому пути «окружения центра с периферии».

Эверетт Роджерс (Everett Rogers) в своей классической книге «Распространение инноваций» (Diffusion of Innovations) систематически описал этот процесс. Он отмечает, что для того, чтобы любая инновация была принята широкой общественностью, она должна пройти длительный процесс, в котором «новаторы» (Innovators) и «ранние последователи» (Early Adopters) играют ведущую роль, а затем инновация постепенно проникает в «раннее большинство» (Early Majority), «позднее большинство» (Late Majority) и «отстающих» (Laggards) (Rogers, 2003). Распространение технологий ИИ является современным воплощением этой теории. «Новаторы» — это гики и исследователи, полные любопытства к самой технологии, которые проводят безграничные эксперименты с «игрушечными задачами» ИИ (такими как генерация забавных изображений или имитация стиля письма знаменитостей).«Ранние последователи» — это предприимчивые предприниматели и менеджеры по продуктам с острым чутьем, которые видят потенциал коммерциализации этих «игрушек» и применяют их в «зонах с низким риском», создавая первые ИИ-приложения, действительно приносящие ценность. Эти приложения, возможно, не идеальны и даже выглядят несколько сыроватыми, но они решают конкретные проблемы определённой группы пользователей (например, автоматизируют создание маркетинговых текстов или разрабатывают более умных NPC для инди-игр), благодаря чему они прочно закрепились на рынке. Эти успешные «крайние» примеры, подобно искре, послужили ценным подтверждением концепции, технологической базой и бизнес-моделью для последующей более масштабной волны «массового внедрения».

То, что «зоны с низким риском» стали естественной испытательной площадкой для инноваций в области ИИ, обусловлено их внутренними особенностями. Во-первых, в таких сценариях допускается высокий уровень ошибок. Если приложение для рисования с помощью ИИ случайно нарисует палец с аномалиями или чат-бот даст неверный ответ на вопрос, последствия обычно будут незначительными: пользователи, скорее всего, просто посмеются над этим или даже сочтут это развлечением. Однако если применить столь же незрелую технологию в медицинской диагностике или автономном вождении, любая мельчайшая ошибка может привести к катастрофическим последствиям.

Во-вторых, уровень регулирования в этих областях относительно низкий. В настоящее время во всем мире законодательство в отношении искусства, создаваемого ИИ, или программирования с помощью ИИ либо отсутствует, либо является весьма либеральным, что обеспечивает огромную свободу для инноваций. В отличие от этого, такие отрасли, как финансы и медицина, находятся под жестким регулированием, и внедрение любой новой технологии должно проходить через длительный и строгий процесс утверждения. Наконец, цикл подтверждения ценности в периферийных сценариях короче. В случае потребительского приложения на базе ИИ рыночная реакция и коммерческая ценность могут быть подтверждены в течение нескольких недель или месяцев. А для системы ИИ, призванной преобразовать ключевые процессы в производственной сфере, может потребоваться несколько лет, чтобы оценить реальную рентабельность инвестиций. Именно эти факторы обусловливают эволюцию ИИ по градиентной модели продвижения, при которой «сначала решаются простые задачи, а затем — сложные».

Еще более важно то, что ИИ, как типичная «технология общего назначения» (General-Purpose Technology, GPT), обладает наибольшей ценностью не сам по себе, а благодаря огромному потенциалу «комбинированных инноваций» в сочетании с другими технологиями и знаниями в различных областях. На «периферии» свобода таких междисциплинарных комбинаций максимальна. Когда ИИ встретился с биотехнологиями, мы получили AlphaFold2 — систему искусственного интеллекта, разработанную DeepMind, способную с беспрецедентной точностью предсказывать трехмерную структуру белков. До её появления для определения структуры одного белка могли потребоваться годы лабораторной работы.

AlphaFold2 сократила этот процесс до нескольких минут. Изначально этот прорыв рассматривался как значительный шаг вперед в «периферийной» академической области — вычислительной биологии, — однако его влияние быстро распространяется на всю фармацевтическую отрасль, коренным образом меняя модели и эффективность разработки новых лекарств. Аналогичным образом, когда ИИ сочетается с материаловедением, исследователи используют его для проектирования новых материалов с определёнными свойствами (такими как более высокая проводимость или большая прочность), и этот процесс также проходит путь от академических исследований к промышленному применению. Влияние этих прорывов, достигнутых в периферийных междисциплинарных областях, подобно кругам на воде: со временем оно постепенно распространяется на центральные области экономики, вызывая более глубокие структурные преобразования.

Простое сравнение поможет нам более четко понять логику применения ИИ в различных сценариях:

Характеристики

Применение в периферийных сценариях (примеры: NPC в играх, генерация произведений искусства)

Применение в основных сценариях (примеры: ключевые банковские системы, управление воздушным движением)

Уровень отказоустойчивости

Высокая

Очень низкий

Степень регулирования

Низкий или отсутствует

Очень высокая

Затраты на развертывание

Относительно низкий

Очень высокая

Доступность данных

Легко получить или создать

Конфиденциальность, сложность получения

Цикл подтверждения ценности

Короткий

Длительный

Сфера влияния

Определенные сообщества/сферы

Все общество/ключевая инфраструктура

Эта таблица наглядно демонстрирует фундаментальные различия между этими двумя сценариями. Сила преобразований зарождается и укрепляется именно в сценарии, описанном в левом столбце. Развитие финансовых технологий (FinTech) служит нам классическим примером. В то время как основные направления традиционного банковского дела (такие как депозиты, кредиты, платежи и клиринг) подвергаются строгому регулированию и технологической изоляции, искусственный интеллект первым нашел применение в высокочастотной торговле — этой высокоцифровой, специализированной и относительно «периферийной» области.

Сложные алгоритмы, разработанные ведущими математиками и компьютерными учеными, за миллисекунды принимают огромное количество торговых решений, принося колоссальную прибыль небольшому числу хедж-фондов и компаний, занимающихся собственной торговлей. Успех в этой области продемонстрировал всей финансовой отрасли мощь данных и алгоритмов. Впоследствии эта сила начала проникать в смежные сферы: робо-консультанты (Robo-advisors), использующие алгоритмы для предоставления рекомендаций по распределению активов по низкой стоимости широкому кругу инвесторов, бросили вызов позициям традиционных финансовых консультантов; модели кредитного скоринга на основе машинного обучения позволяют более точно, чем традиционные методы, оценивать кредитные риски малых и микропредприятий, а также физических лиц, что сделало возможным развитие инклюзивного финансирования; а системы борьбы с мошенничеством на базе ИИ стали незаменимыми «хранителями» всех онлайн-платежей и банковских приложений.

Мы видим, что путь преобразований заключается не в мгновенном захвате «основных банковских систем», а в постепенном подрыве позиций традиционной финансовой системы посредством ряда «периферийных инноваций», что в конечном итоге вынуждает основные системы к преобразованиям. Поняв эту модель «периферийных преобразований», мы сможем лучше предсказывать будущее: вместо того, чтобы спрашивать «когда ИИ заменит управляющих банками», мы будем задавать вопрос: «Какая область «высокочастотных транзакций» станет следующей, которую преобразит ИИ?».

3. От тревоги к систематическому подходу

Перед лицом сверхинтеллекта, демонстрирующего экспоненциальный рост, постоянно расширяющего границы своих возможностей и инициирующего преобразования с периферии, чувство тревоги является вполне нормальной и рациональной реакцией. Эта тревога не является беспочвенным беспокойством; она проистекает из интуитивного восприятия ряда реальных и глубоких вызовов: страха перед массовой безработицей, опасений по поводу алгоритмических предубеждений и контроля, паники в связи с потерей контроля над автономным оружием и даже коренных философских вопросов о месте человечества во вселенной будущего.