Надзорный капитализм или демократия?

В профессиональной среде это называли «вовлечением пользователей» (user engagement) – кодовое обозначение нового социального отношения между субъектом и объектом, где ресурсом для извлечения волею случая оказались мыслящие человеческие существа. Изобретения Google зависели от тайного вторжения в некогда приватный человеческий опыт для осуществления скрытого изъятия без спроса. Такие действия обычно называются кражей, и именно на основе этого первородного греха скрытной кражи частная жизнь пользователей была провозглашена собственностью корпорации. В некоторых из самых ранних патентов Google прослеживается откровенное стремление компании к получению поведенческих излишков по всему интернету, в том числе методами, направленными на использование и создание информации профиля пользователя, или ИПП (user profile information, UPI), в обход воли пользователей, их осведомленности и намерений. Например, в патентной заявке 2003 года говорится, что ИПП можно «получить косвенным путем», «предположить» и «вывести логически» даже в тех случаях, когда пользователи не давали такую информацию осознанно или намеренно предоставляли в неполном виде «из соображений конфиденциальности и т. д.». В ней отмечается: «ИПП… может быть определена (или обновлена, или расширена), даже когда системе не предоставляется явная информация… Начальная ИПП может включать некоторую явно введенную ИПП, хотя это необязательно» (Bharat et al., 2016, sec. 4.2.3).

Изобретение и его антидемократические социальные отношения родились одновременно. Пейдж боялся последствий, если пользователи, законодатели или конкуренты поймут истинную природу его действий. Все, что могло «вызвать шум вокруг конфиденциальности и поставить под угрозу нашу способность собирать данные», тщательно избегалось (Edwards, 2011, p. 240–245). Одного закона, который сорвал бы маску и прямо назвал Google вором, было бы достаточно, чтобы положить конец надеждам на финансовое спасение.

Эта корпоративная «стратегия сокрытия», как ее называли (S. Levy, 2011, p. 69), также служила для сокрытия поразительных финансовых результатов новых возможностей Google. С 2001 года, когда впервые была применена экономика надзора, до выхода на биржу в 2004 году доходы компании выросли на 3590 % (Google Inc., 2004, p. 19). Этот надзорный дивиденд сделал скрытное масштабное извлечение данных, генерируемых людьми, нелегитимной и неприемлемой, но при этом формально законной основой нового экономического порядка. Каждый инвестор захочет этого. Каждый стартап постарается это обеспечить… и никакой закон этому не помешает.

В 2008 году после ряда дорогостоящих промахов, вызвавших протесты пользователей, основатель Facebook Марк Цукерберг обратился за ответами к Google, наняв Шерил Сандберг, руководителя глобальной онлайн-рекламы Google, в качестве своего заместителя (Hempel, 2008). Когда Сандберг начала отвечать за операционную деятельность компании, Facebook быстро научился извлекать поведенческие излишки из каждого поведенческого следа, независимо от того, чем люди делились добровольно. Она поняла, что Facebook имеет места в первом ряду на то, что Пейдж назвал «всей вашей жизнью», поскольку ничего не подозревающие пользователи выливали свою жизнь на страницы Facebook. В результате появилась компания, которая, как отмечала Сандберг, располагала «большим объемом информации, чем кто-либо еще… и это абсолютно точная информация, а не догадки» (Kirkpatrick, 2011, p. 266; Киркпатрик, 2011, с. 197).

Спустя год после прихода Сандберг новый управленческий тандем изменил политику конфиденциальности Facebook, проложив путь к экономике надзора. TechCrunch так описал стратегию корпорации: «Если против социальной сети поднимется серьезная волна протеста, она сможет заявить, что пользователи сами приняли решение поделиться своей информацией со всеми» (Kincaid, 2009, para. 6). Давшееся непростым путем понимание экономики надзора подготовило Цукерберга к realpolitik нового экономического порядка: «Мы решили, – объяснял он, – что социальные нормы теперь будут такими, и просто сделали это» (B. Johnson, 2010, para. 15; см. также: Srinivasan, 2019).

Новые экономические основы надзорного капитализма начинаются с его первородного греха. Человеческий опыт объявляется бесплатным сырьем для рыночных действий, начиная с его скрытного извлечения и преобразования в поведенческие данные. Эти данные становятся входом в новые области высокоточных предсказаний: эмоции, личность, политическая и сексуальная ориентация и многое другое. Излишки данных немедленно переопределяются как корпоративные активы, частная собственность, доступная для проприетарных вычислений индивидуальных и коллективных профилей и предсказаний.

Надзорные капиталисты соревнуются друг с другом за то, чьи предсказания лучше снижают неопределенность. Эта ключевая коммерческая цель требует масштабного извлечения, производства и обработки данных, создаваемых людьми, подобно тоннам пшеницы или баррелям нефти. Продукты-предсказания продаются бизнес-клиентам на новом типе товарно-сырьевого рынка, где торгуют человеческими фьючерсами. Иллюстраций этого может служить документ Facebook 2016 года, описывающий его «ИИ-основу» под названием FBLearner Flow. В отсутствие демократического противодействия его ИИ «ежедневно поглощает триллионы точек данных» для построения тысяч моделей. Эти вычисления поступают в его «сервис предсказаний», производящий «более 6 миллионов предсказаний в секунду» (Dunn, 2016). Это строительные блоки продуктов-предсказаний, которые продаются компаниям, рекламодателям, политическим кампаниям и другим покупателям, заинтересованным в том, чтобы знать, усиливать или подавлять предсказанное поведение индивидов и групп (Biddle, 2018b).

«Коэффициент кликабельности» был лишь первым глобально успешным продуктом-предсказанием, а таргетированная онлайн-реклама стала первым процветающим рынком человеческих фьючерсов. Так появился на свет надзорный капитализм, и все свидетели его рождения были обязаны хранить это в тайне (Searle, 2010, p. 85–86, 13).

Масштаб и охват скрытного накопления поведенческих излишков показывает ложность идеи «экономики внимания», поскольку основная работа здесь выполняется за пределами поля внимания. В действительности эта идея опасным образом исказила общественное восприятие, создав ложную иллюзию, что для защиты от извлечения данных достаточно контролировать свое внимание. Факты говорят об ином. То, что вы не уделяете чему-то внимание, никак не защищает от скрытного извлечения сигналов, которые производятся и захватываются за пределами человеческого осознания и контроля. Можно тешить себя иллюзией выбора (Kim, 2013; Radin, 2012), принимая отдельные решения поделиться какой-то информацией с корпорацией, но эта информация ничтожна по сравнению с объемом поведенческих излишков, которые скрытно захватываются, агрегируются и выводятся на основе анализа. Таким образом, принцип сокрытия, воплощенный в таком надзоре, является необходимым элементом этой фундаментальной стадии экономических операций и становится важнейшим механизмом институционального воспроизводства (Binns, 2022, p. 21).

Во втором десятилетии первоначальные успехи первопроходцев надзорного капитализма, таких как Google и Facebook, привели к проникновению надзорной экономики в «нормальную» экономику, наглядной иллюстрацией чего теперь служит конкуренция Walmart с Amazon за сбор и обработку генерируемых людьми данных, используемых для прогнозирования и таргетирования (Tobin, 2022). Надзорный капитализм дал метастазы в различные секторы: от страхования, розничной торговли и финансов до сельского хозяйства и транспорта, достигнув самых личных и прогностически значимых данных в двух критически важных секторах – образовании и здравоохранении.

Сегодня любой продукт с маркировкой «умный» и любой сервис с пометкой «персонализированный» работают себе в убыток ради потока проходящих через них данных о людях. Большинство «приложений» начинают свой путь с продажи и распространения через магазины приложений Apple и Google. После того как пользователи скачивают их себе на устройства, они при всей своей внешней безвредности выступают каналами передачи данных, пересылая поведенческие сигналы с «умных» устройств на серверы, принадлежащие преимущественно технологическим гигантам и компаниям, специализирующимся на рекламе на основе данных. Как описал мне один дата-сайентист из Кремниевой долины: «Сейчас сбор данных стал базовой нормой практически для всей разработки программного обеспечения и приложений. Любая разработка основывается на том, что все данные должны собираться, и большая часть этого происходит без ведома пользователя» (DS I, см. «Примечание о методе»).

Содержание того, что подразумевается под «всеми данными», постоянно расширяется. Отслеживание местоположения теперь стало системным явлением: оно глобально, вездесуще и неизбежно (Zekavat et al., 2021). В отраслевом анализе прямо отмечается, что отслеживание местоположения «позволяет бизнесу определять поведение клиентов… и снижать рыночную неопределенность» (Grand View Research, 2022). Понятие «всех данных» последовательно развивается в направлении все более точных предсказаний, таких как распознавание речи по сигналам мозга или использование движений глаз для извлечения чувствительной информации, включая личностные черты, эмоции и сексуальные предпочтения (Kröger et al., 2020; Moses et al., 2019). Действительно, уже понятно, что дополненная реальность, или «метавселенная», при всей своей футуристической риторике, задумана как усиление фундаментальных операций извлечения данных первой стадии (H. Murphy, 2022; Heller, 2021; Martin, 2021).

Конец ознакомительного фрагмента.

Текст предоставлен ООО «Литрес».

Прочитайте эту книгу целиком, купив полную легальную версию на Литрес.

Безопасно оплатить книгу можно банковской картой Visa, MasterCard, Maestro, со счета мобильного телефона, с платежного терминала, в салоне МТС или Связной, через PayPal, WebMoney, Яндекс.Деньги, QIWI Кошелек, бонусными картами или другим удобным Вам способом.

Сноски

1

На английском книга вышла в 2019 г. На русском см.: Зубофф, 2022.

2

Вы просите рекламу не следить за вами, но она все равно следит – даже на iPhone (Fowler, 2021). Рынок данных о том, где вы находитесь, оценивается в 16 млрд долларов (Location Intelligence Market Size and Share Report, 2022–2030, 2022). Кибернаемники входят в моду; большую часть данных они добывают у технологических гигантов (Bradshaw et al., 2021). Камеры наблюдения вот-вот станут доступными каждому и появятся повсюду, а любой человек с приложением Bosch сможет их установить, использовать и анализировать записи (Campbell and Jones, 2022). «Умная» лампочка следит за вашим пульсом (Tuohy, 2022). Новый телевизор наблюдает за вами (Fowler, 2019c). Alexa и все остальные «помощники» хранят все записи, чтобы кормить ими свой искусственный интеллект (Fowler, 2019a; Suliman, 2022). Facebook разрабатывает технологию чтения мыслей (Samuel, 2019). «Службы слежения за учениками» «защищают детей», отслеживая все подряд – от биометрии до переписки (Haskins, 2019). Автомобили превратились в инструменты слежки (M. Anderson, 2019). General Motors запустила автострахование «на основе поведения» с системами наблюдения, которые следят за движениями глаз, головы и много чем еще (Bellon, 2022). Браузер Google Chrome работает как инструмент слежки (Fowler, 2019b). Дверной звонок Ring видит абсолютно все (Grauer, 2022). Ваше лицо с выпускной фотографии, которую вы выложили с благодарностью и надеждой, используется для обучения китайских систем распознавания лиц, наблюдающих за уйгурскими семьями в концентрационных лагерях (Murgia, 2019b)…