Надзорный капитализм или демократия?

Как экономическая сила, надзорный капитализм обладает олигополистической властью практически над всеми цифровыми пространствами информации и коммуникации (Manns, 2020). Однако тем, кто анализирует ситуацию исключительно через призму концентрации экономической власти и ее регулирования посредством экономического и антимонопольного законодательства, следует учитывать и другие аспекты. Когда экономические операции, приносящие доход, основываются на превращении человеческого в товар, классическое экономическое поле искажается. Концентрация экономической власти создает параллельную концентрацию власти в сфере управления и социального контроля. Институциональное развитие надзорного капитализма сплетает эти три вектора власти в многоголовую силу, которая, действуя через экономические операции, вступает в конкуренцию с демократией за управление и социальный контроль. Олигополия в экономической сфере трансформируется в олигархию в общественной.

Особенности рыночной власти гигантов отражают различие между их различными индивидуальными бизнес-моделями, с одной стороны, и их общим участием в доминирующей экономической логике надзорного капитализма, получаемыми от нее преимуществами и связанными с ней стратегиями институционального воспроизводства – с другой. Эти институциональные элементы распространяются через экосистемы гигантов и охватывают растущее большинство предприятий во всем коммерческом пространстве (Power, 2022). Хотя этот институциональный порядок действует как олигополистическая сила, что уже отражено в термине “Big Tech”, отдельные компании при этом могут обладать монопольной или дуопольной властью в более узких конкурентных сферах своих конкретных бизнес-моделей – например, в массовой розничной торговле, мобильных услугах и таргетированной онлайн-рекламе. В результате надзорный капитализм теперь опосредует практически все взаимодействие человека с цифровыми архитектурами, информационными потоками, продуктами и услугами, и практически все пути к экономическому, политическому и социальному участию пролегают через его институциональные владения.

Эти условия практической и психологической безысходности создают ауру неизбежности, которая является одновременно ключевой опорой риторической структуры надзорного капитализма и критически важным элементом любого институционального воспроизводства (Zuboff, 2019, p. 221–224; Зубофф, 2022, с. 291–295). Джепперсон отмечает, что институционализация противоположна действию. Институциональный порядок считается устойчиво институционализированным, когда его долговечность и развитие не зависят от «периодической коллективной мобилизации», а поддерживаются самовоспроизводящимися внутренними рутинами (Jepperson, 2021, p. 39). «Институты, – пишут Бергер и Лукман, – контролируют человеческое поведение, устанавливая предопределенные его образцы… этот контролирующий характер присущ институционализации как таковой». Они отмечают, что внешние формы человеческого действия требуются только тогда, когда «процессы институционализации не вполне успешны» (Berger and Luckmann, 1966, p. 55; Бергер и Лукман, 1995, с. 91–92).

Тем не менее эти формирующие процессы не означают ни предрешенности пути, ни его обособленности. Институциональные порядки формируются и развиваются, но могут также подвергнуться «деинституционализации» или даже «реинституционализации» в новой форме (Jepperson and Meyer, 2021). Такие радикальные изменения траектории провоцируются противоречиями, которые явно оспаривают или неявно подрывают ауру неизбежности. Например, внешние потрясения могут разрушить неизбежность и ослабить институционализацию. Сдвиги могут быть инициированы коллективным действием, усилением противоречий с конкурирующими институциональными порядками или накоплением внутренних противоречий, порождающих конфликт между институциональными элементами. В каждом случае фундаментальных изменений сила противоречия достаточно значительна, чтобы угрожать механизмам самовоспроизводства. В этих обстоятельствах институциональный порядок вынужден прибегать к активным мерам для защиты территории, некогда считавшейся неизбежной, неприкосновенной и непобедимой. Действие сигнализирует об угрозе, и, поскольку действие слабее институционализации, исход таких противостояний неопределен. Возвращение на путь развития? Деинституционализация и разрушение? Последующая реинституционализация? Возможен любой из этих исходов.

Такая динамика противоречий требует рассмотрения институционального развития надзорного капитализма как части более масштабного противостояния институциональных порядков. В частности, двадцатилетний путь развития надзорного капитализма можно понять только в связи с тем институциональным порядком, который дал ему жизнь и взрастил его до зрелости, – либерально-демократическим государством.

В этой работе рассматриваются способы, посредством которых институционализация надзорного капитализма привела к деинституционализации демократического порядка через эрозию информационных, социетальных, поведенческих и управленческих возможностей, необходимых для поддержания и воспроизводства демократии. При таком рассмотрении направление развития надзорного капитализма предстает как эпистемическая контрреволюция, антидемократический переворот, стремящийся к господству над знанием и наносящий удар по самой сущности жизнеспособности демократии.

Надзорный капитализм – молодой претендент на власть с множеством козырей в рукаве. Рожденный на рубеже цифровой эпохи, наступлению которой он способствовал, он демонстрирует стремительный рост, воплощающий американскую историю с многочисленными новыми способами институционального воспроизводства. Главным среди них стала его способность держать закон на расстоянии вытянутой руки. Отсутствие публичного права, препятствующего его развитию, является краеугольным камнем его существования и необходимым условием его дальнейшего успеха. Поэтому он стремится поддерживать и поощрять провалы демократического руководства (Zuboff, 2019, p. 37–82; Зубофф, 2022, с. 54–111; Chander, 2014).

Несмотря на эту историю, либеральные демократии все же представляют экзистенциальную угрозу для режима надзорного капитализма, поскольку только они сохраняют необходимую институциональную силу и возможности для того, чтобы противодействовать его базовым операциям, прерывать их и упразднять. Действительно, по мере роста надзорного капитализма усиливаются противоречия с его поседевшим, но все еще могущественным антагонистом. Демократия – старый, медленный и неповоротливый действующий игрок, но именно эти качества дают ей преимущества, с которыми трудно соперничать. Главные среди них – способность вдохновлять на действия, а также легитимные полномочия и необходимая власть для создания, введения и обеспечения верховенства закона. Теперь именно демократическому порядку предстоит вернуть утраченные позиции ради всех обществ и народов, отчаянно пытающихся избежать антиутопии.

Итак, столкновение институциональных порядков – это смертельная схватка за политику знания в нашей информационной цивилизации, где главная награда – управление управлением (the governance of governance). Антидемократические экономические императивы, внутренне присущие надзорному капитализму, порождают динамику игры с нулевой суммой, в которой укрепление порядка надзорного капитализма ведет к разрушению демократического порядка и его институтов. Только один из этих конкурирующих порядков выйдет из этого противостояния с властью и полномочиями править, в то время как другой будет дрейфовать к деинституционализации, его функции будут поглощены победителем. Приведут ли эти противоречия к поражению надзорного капитализма или демократия понесет более тяжелые потери? На кону стоит социальный порядок нашей информационной цивилизации: власть большинства или меньшинства? Равенство в знании или подчинение? Можно иметь надзорный капитализм и можно иметь демократию. Но нельзя иметь и то и другое вместе.

В следующих главах мы попробуем по-новому взглянуть на то, что нужно для успешного противодействия демократии надзорному капитализму, и тем самым усилить позиции всех, кто пытается остановить наше сползание в непреднамеренную антиутопию. Для этого я анализирую надзорный капитализм как единое поле институционального развития. Стадии развития этого двадцатилетнего института обнаруживают причинно-следственные связи между ранними инновационными экономическими операциями и последующим антиутопическим вредом для демократического управления и общества. Такой целостный взгляд указывает на то, что эффективные стратегии устранения производных антиутопических последствий, таких как «дезинформация» или незаконное манипулирование коллективным поведением, которое выражается в крайней «поляризации», зависят от того, удастся ли прервать, упразднить и переизобрести те исходные экономические операции, которые порождают этот вред.

Следующая глава посвящена институциональному развитию надзорного капитализма с точки зрения единого поля. Далее будут рассмотрены четыре уже узнаваемые стадии развития надзорного капитализма, каждая из которых отмечена углублением и расширением конфликта с демократическим порядком. В конце будут намечены перспективы дальнейшей работы.

Подход с точки зрения единого поля

Общественность и законодатели теряются под шквалом ежедневных заголовков, кричащих о новейших злодеяниях надзорного капитализма[2]. Понимание этого нескончаемого потока затрудняется категориальными ошибками: различные виды социального вреда помещаются в обособленные сегменты и рассматриваются как несвязанные кризисы. Например, утрата конфиденциальности или рост дезинформации воспринимаются как дискретные феномены, каждый со своей этиологией, специалистами и способами лечения.

Подход с точки зрения единого поля предлагает решение для этой раздробленной Вавилонской башни, показывая органические и временные взаимосвязи между иерархически соединенными стадиями институционального развития. Дискретные виды ущерба предстают как результаты зависимости от пройденного пути, где причины и следствия связаны во времени и через возрастающую сложность развития в рамках общего процесса роста и институционализации.

Мы выделяем четыре стадии институционального развития надзорного капитализма на основе их новых экономических операций. Это: (1) превращение поведения человека в товар; (2) концентрация производства и потребления вычислительного знания; (3) дистанционная активация поведения и (4) системное доминирование. Однако адекватное понимание каждой стадии только начинается с ее экономического действия.

Более 100 лет тому назад молодой Дюркгейм приступил к объяснению «разделения общественного труда» как основы социального порядка в зарождающуюся индустриальную эпоху. Он предостерегал читателей: «наша точка зрения на разделение труда отличается от точки зрения экономистов» (Durkheim, 1964, p. 275; Дюркгейм, 1990, с. 257). Точно так же наша точка зрения на стадии развития институционального порядка надзорного капитализма отличается от точки зрения экономистов. Помимо экономических достижений, каждая новая стадия все больше заполняет пространство, оставленное демократиями, которые не сумели вовремя установить контроль над цифровой сферой информации и коммуникации. В этом процессе новые экономические операции каждой стадии приводят в движение и неразрывно связывают с собой два сопутствующих вектора антиутопических последствий. Я называю их «вектором управления» и «вектором социального вреда».

Вектор управления формируется путем накопления управленческих прерогатив, которые обеспечиваются недавно закрепленными экономическими операциями. Хотя было понятно, что технологические гиганты стремятся к управлению (Balkin, 2017; Goodman and Powles, 2019; Klonick, 2020; Pasquale, 2017b), единое поле институционального развития позволяет увидеть, что вектор управления является ключевым механизмом воспроизводства с постоянно расширяющимся охватом. Такой подход показывает, как со временем расширяются и интегрируются в иерархию конкретные элементы управления, как тесно связаны они с экономическими операциями и как предыдущие достижения создают почву для новых завоеваний в сфере управления.

С точки зрения противостояния институциональных порядков каждая функция управления втягивается в орбиту надзорного капитализма, что ведет к одновременному выхолащиванию демократического порядка. Захват одних функций управления трудно распознать, поскольку сами эти функции еще не кодифицированы формально, как мы увидим ниже на примере эпистемических прав. Другие представляют собой явные вызовы верховенству публичного права. Наибольшую тревогу вызывает то, в какой степени демократический порядок содействует этим атакам или оказывается неспособным им противостоять.

Описывая стремление Apple радикально изменить индустрию здравоохранения, генеральный директор компании Тим Кук раскрывает ту основную логику развития, которая объединяет все этапы установления контроля над управлением. Его слова отражают общее направление, движение и цель вектора управления. «Мы изымаем то, что было у институтов, – говорит Кук, – и расширяем права и возможности (empowering) отдельного человека» (Feiner, 2019, para. 72).

В столь же редком приступе откровенности основатель Uber Трэвис Каланик однажды рассказал группе студентов MIT о великом «изъятии», которое привело Uber к успеху. Он назвал это «регуляторным подрывом» (regulatory disruption) и тут же добавил: «Мы в техе об этом обычно не говорим» (MIT Sloan School of Management, 2013, para. 6; см. также: Fleischer, 2010; Riles, 2014; Terry, 2016, 2017).

Оба руководителя с восторгом говорят о том, как функции управления извлекаются из сферы публичного права и переносятся в свободное рыночное пространство, где возрождаются уже без правовых ограничений и подчиняются логике частных институтов. Когда Кук говорит о «расширении прав и возможностей» отдельного человека, он заявляет о праве Apple заменить собой существующие институты и законы. Apple Inc. преподносит себя так, будто у нее есть полномочия «расширять права и возможности» и, следовательно, соответствующие полномочия так же легко лишать этих прав и возможностей, просто изменив условия обслуживания или операционную систему.

Заявления руководителей – это классические примеры корпоративных стратегий, известных как «подрыв» (disruption), насквозь пропитанные либертарианскими идеями о суверенном индивиде, несправедливо подчиненном обществу и его устаревшим институтам. У Кука Apple предстает Робин Гудом XXI века, который освобождает ценные активы, удерживаемые в заложниках могущественными институтами, и перераспределяет их несправедливо ущемленным индивидам. Под этим фальшивым флагом освобождения Кук стремится отделить человека от общества, чтобы скрыть неудобную для Apple истину: только демократическое общество может установить и защитить те права и законы, которые действительно расширяют возможности людей и обеспечивают им защиту.

В уравнении подрыва демократия не обладает ни внутренней ценностью, ни неприкосновенностью. Рыночная мифология о божественном всеведении, якобы естественным образом оптимизирующем экономические результаты, используется для оправдания возвышения рынка над демократическими институтами и законами. Это иллюстрирует Клей Кристенсен, родоначальник теории подрыва, и его соавторы в статье 2012 года о великом «изъятии» новостной индустрии с садистским названием «Срочные новости». В статье мимоходом упоминается и отметается критически важная роль журналистики в поддержании демократии: «Журналистские институты играют важнейшую роль в демократическом процессе, и мы надеемся на их выживание. Но только сами организации могут внести изменения, необходимые для адаптации…» Этот laissez-faire агностицизм и sang froid интеллектуальная отстраненность предвосхищают амбиции Тима Кука. Кристенсен и его соавторы отвергают демократический проект небрежным жестом императора pollice verso (большой палец вниз) после неравного гладиаторского боя. Четвертая власть, задуманная как ключевая опора демократии и инструмент контроля над властью, отбрасывается как «функция жизни в старом мире». Действующие игроки проигрывают из-за того, что упрямо «держат курс» на «качество» контента. Победителями оказываются новые участники, делающие ставку на «нижний сегмент», «низкую стоимость» и «персонализацию» (Christensen et al., 2012, paras. 14, 15).

Из этой идеологической крепости – крепости Кука – невозможно было признать, а может, даже увидеть, что «нижний сегмент» и «низкая стоимость» создавали условия не для производства новостей, а для производства фейков. Или что «старый мир» олицетворял кодифицированные принципы достоверности информации, правдивости и фактологичности, которые десятилетие спустя будут восприниматься не как затхлая ностальгия, а как оазисы рациональности в искаженном информационном аду. Первыми сдались США, а вслед за ними и другие демократии, несмотря на высокие ставки, и со стороны наблюдали рождение своего ущербного будущего.

Из-за того, что все свелось к «подрыву», новостная индустрия была быстро вынуждена присоединиться к порядку надзорного капитализма и включиться в процесс его самовоспроизводства. К 2017 году исследователи из Принстона обнаружили, что новостные сайты содержали больше кодов отслеживания, чем сайты любой другой изученной ими отрасли, так как издатели гнались за доходами на новых рынках таргетированной рекламы, созданных Google и Facebook. Экономические императивы надзорного капитализма определяли облик как печатных, так и телевизионных новостей: страницы и выпуски новостей специально разрабатывались для оптимизации вовлеченности в социальных сетях с целью максимального извлечения данных о людях (Narayanan and Reisman, 2017; NewsWhip, 2019; Stroud et al., 2014).

Глубина этого поражения отчетливо видна в подробном опросе Pew Research 2020 года, охватившем 979 лидеров технологического бизнеса, политических специалистов, разработчиков, инноваторов, исследователей и активистов. Примерно половина участников опроса предсказали, что «использование технологий людьми приведет к ослаблению демократии… из-за скорости и масштаба искажения реальности, упадка журналистики и влияния надзорного капитализма» (J. Anderson and Rainie, 2020).

Суть в том, что стратегия подрыва Кристенсена и Кука никогда не предполагала развития институтов – она была направлена на их ликвидацию. Они предвидели новые отношения с «отдельными людьми», опосредованные частными компаниями, которые сначала обходят институты, затем уничтожают функции, которые эти институты должны были защищать, и в конечном счете делают сами институты бессмысленными. Поскольку институты выступают хранителями, которые разрабатывают, поддерживают, внедряют и обеспечивают соблюдение стандартов поведения и контента в своих сферах, их ослабление или устранение открывает путь подделкам: не только известным фейковым новостям, но и фейковому здравоохранению, фейковому образованию, фейковым городам, фейковым контрактам, фейковым общественным пространствам, фейковому управлению и т. д.

«В техе об этом обычно не говорят», потому что компаниям удобнее маскировать свои попытки захвата власти под образ Робин Гуда, хотя на самом деле эти захваты готовят почву для прямо противоположного: замены демократического управления частным вычислительным управлением. Этот сдвиг проявляется на четвертой стадии в формах системного доминирования, когда мишенью подрыва становится сам демократический порядок.

На каждой стадии возникает и второй вектор: появляются новые виды социального вреда, которые записываются в счет издержек институционального воспроизводства и рассматриваются как экстерналии. Два вектора дополняют друг друга. Захват управленческих функций способствует институциональному воспроизводству, наращивая мощь надзорного капитализма и усиливая его полномочия и власть за счет демократического порядка. Социальный вред способствует воспроизводству через прямые атаки, которые дезориентируют, отвлекают и фрагментируют демократический порядок. Каждый захват управленческих функций порождает уязвимости, которые открывают путь для новых видов социального вреда, а те, в свою очередь, еще больше ослабляют способность общества противостоять следующим захватам власти.

Причины и следствия каждой стадии создают условия и основу для следующей. Каждая стадия основывается на предыдущей и развивает ее. Каждая стадия развивается за счет инерции уже существующих механизмов институционального самовоспроизводства и создает новые инструменты, которые поддерживают, расширяют и усложняют новый институциональный порядок. Как обычно бывает в стадийных теориях развития, стадии представляют собой идеально-типические абстракции, раскрывающие внутреннюю логику институционального порядка в постоянном движении, вынужденного выживать, расти и развиваться. Стадии формируют единое поле иерархически связанных причин и следствий, где каждый этап зависит от предыдущего развития. Так явления, кажущиеся разрозненными, раскрываются как последствия более поздних стадий, вытекающие из механизмов ранних стадий и их способов воспроизводства. Все три измерения – экономическое, управленческое и социальное – движутся вместе во времени в рамках единой архитектуры институционального роста и усиления (см. рис. 1).

Рис. 1. Четыре стадии институционального порядка надзорного капитализма

Главный урок для эффективного демократического противодействия заключается в том, что справиться с социальными разрушениями на поздних стадиях можно только через прямое противостояние экономическим операциям ранних стадий. Надежные решения должны быть направлены на первоисточник всех этих проблем.

Наконец, в приведенных далее описаниях стадий иногда используются примеры ведущих корпораций, чтобы проиллюстрировать взаимозависимость экономики, управления и социального вреда внутри стадий и между ними. Ключевой момент такого стадийного анализа в том, что описываемая здесь динамика относится не только к корпорациям-протагонистам из этих примеров, но и к более широкому институциональному порядку, в котором они участвуют. Я концентрируюсь на развитии института по мере того, как он накапливает данные, знания, полномочия, власть и амбиции. Каждый из корпоративных гигантов, как и множество компаний во всем коммерческом ландшафте, уже встроенных в порядок надзорного капитализма, демонстрирует уникальную конфигурацию достижений каждой стадии. Одни продвинулись дальше других. У некоторых более специализированные роли и возможности в общем спектре. Каждый из них вносит свой вклад в институциональное развитие и одновременно черпает из него силы.

Основополагающая стадия 1: превращение поведения человека в товар (экономия за счет масштаба)

Экономические операции

На первой стадии происходит превращение поведения человека в товар через скрытное масштабное извлечение данных, генерируемых людьми. Этот определяющий прорыв был совершен Google и заложил основу для всего последующего развития.

В 2000 году, когда только 25 % мировой информации хранилось в цифровом формате (Hilbert and López, 2011), небольшой, но блестящий интернет-стартап из Кремниевой долины под названием Google столкнулся с угрозой выживания во время финансового кризиса, известного как крах доткомов. Основатели Ларри Пейдж и Сергей Брин еще не нашли способ монетизировать свое поисковое чудо. В период с 2000 по 2001 год, когда инвесторы компании угрожали выйти из дела, команда Google случайно сделала ряд открытий, которые указали путь к спасению (Zuboff, 2019, p. 63–97; Зубофф, 2022, с. 87–131). Специалисты по науке о данных научились распознавать поведенческие сигналы, содержащиеся в «выхлопах данных» – остаточной информации от поисковой активности и просмотров пользователей. Эти невостребованные поведенческие следы (Power, 2022) оказались излишком – их было больше, чем требовалось для улучшения продукта. Сигналы, содержавшиеся в этом поведенческом излишке, как выяснилось, можно было объединять и анализировать для предсказания поведения пользователей. Вскоре команда совершила прорыв, научившись предсказывать «коэффициент кликабельности» (click-through rate, CTR) – бесценное вычисление, которое спасло небольшую компанию от банкротства. Это дало начало индустрии таргетированной онлайн-рекламы, которую точнее называть надзорной рекламой – троянским конем, скрывающим сложный механизм скрытного масштабного извлечения данных, генерируемых людьми.

В 2001 году основатель Google Ларри Пейдж определил суть бизнеса Google как поиск и захват. «Если бы нам надо было выбрать категорию, – размышлял он, – это была бы личная информация… Все, что вы когда-либо слышали, видели или испытали, станет доступным для поиска. Вашу жизнь можно будет искать целиком» (Edwards, 2011, p. 291). Бизнес-план Google предусматривал продажу лицензий на поисковую систему корпоративным клиентам. Вместо этого молодая компания нашла быстрый путь к спасению, превратив свою поисковую систему в сложный инструмент надзора, который работал себе в убыток ради масштабного извлечения «всей вашей жизни». Люди думали, что они ищут в Google, но Google искал и захватывал их самих.