Атлас искусственного интеллекта: руководство для будущего

Добыча ископаемых для ИИ является как буквальной, так и метафорической. Новый экстрактивизм добычи данных также охватывает и стимулирует старый экстрактивизм традиционной добычи. Стек, необходимый для работы систем искусственного интеллекта, выходит далеко за рамки многоуровневого технического стека моделирования данных, аппаратного обеспечения, серверов и сетей. Вся цепочка поставок искусственного интеллекта охватывает капитал, труд и ресурсы Земли – и от каждого из них она требует огромных затрат[56]. Облако – это основа индустрии искусственного интеллекта, и оно сделано из камней, литиевого рассола и сырой нефти.

В своей книге «Геология медиа» теоретик Юсси Парикка предлагает думать о медиа не с точки зрения Маршалла Маклюэна, согласно которой медиа являются продолжением человеческих чувств, а как о продолжении Земли[57]. Вычислительные медиа сегодня участвуют в геологических (и климатологических) процессах, от преобразования земных материалов в инфраструктуру и устройства – до питания этих новых систем за счет запасов нефти и газа. Размышление о медиа и технологиях как о геологических процессах позволяет нам рассмотреть радикальное истощение невозобновляемых ресурсов, необходимых для работы технологий настоящего времени. Каждый объект в расширенной сети системы искусственного интеллекта, от сетевых маршрутизаторов до батарей и центров обработки данных, построен с использованием элементов, которым потребовались миллиарды лет для формирования внутри Земли.

С точки зрения глубокого времени, мы извлекаем геологическую историю Земли, чтобы обслужить доли секунды современного технологического времени, создавая такие устройства, как Amazon Echo и iPhone, рассчитанные на срок службы всего в несколько лет. Ассоциация потребительских технологий отмечает, что средний срок службы смартфона составляет всего 4,7 года[58]. Такой цикл устаревания способствует покупке большего количества устройств, увеличивает прибыль и усиливает стимулы для использования неустойчивых методов добычи. После медленного процесса разработки эти минералы, элементы и материалы проходят через чрезвычайно быстрый период добычи, переработки, смешивания, выплавки и логистической транспортировки, преодолевая тысячи миль в процессе своего преобразования. То, что начинается как руда, извлеченная из земли, превращается в устройства, которые используются и выбрасываются. В конечном итоге они оказываются захороненными на свалках электронных отходов в таких местах, как Гана и Пакистан. Жизненный цикл системы ИИ от рождения до смерти имеет множество фрактальных цепочек поставок: формы эксплуатации человеческого труда и природных ресурсов, массивные концентрации корпоративной и геополитической власти. И на протяжении всей этой цепи непрерывное, крупномасштабное потребление энергии обеспечивает непрерывность цикла.

Экстрактивизм, на котором построен Сан-Франциско, находит отклик в практике базирующегося там технологического сектора[59]. Массивная экосистема ИИ опирается на многие виды извлечения: от сбора данных, полученных из наших повседневных действий и выражений, до истощения природных ресурсов и эксплуатации труда по всему миру, чтобы эта огромная планетарная сеть могла быть построена и поддерживаться. ИИ извлекает из нас и планеты гораздо больше, чем мы думаем. Область залива является центральным узлом в мифологии ИИ, но нам придется отправиться далеко за пределы Соединенных Штатов, чтобы увидеть многослойное наследие человеческого и экологического ущерба, питающего технологическую индустрию.

Минералогический слой

Литиевые шахты в Неваде – лишь одно из мест, где из земной коры добывается сырье для производства искусственного интеллекта. Таких мест много, включая Салар на юго-западе Боливии – самое богатое месторождение лития в мире и, соответственно, место постоянной политической напряженности, – центральную часть Конго, Монголию, Индонезию и пустыни Западной Австралии. Без сырья из этих мест современные вычисления просто не работают, однако и эти полезные ископаемые все чаще оказываются в дефиците.

В 2020 году ученые из Геологической службы США опубликовали краткий список из двадцати трех минералов, подверженных высокому «риску поставок», то есть, если они станут недоступны, целые отрасли промышленности, включая технологический сектор, остановятся[60]. В число критически важных минералов входят редкоземельные элементы диспрозий и неодим, которые используются в динамиках iPhone и двигателях электромобилей; германий, используемый в инфракрасных военных устройствах для солдат и в беспилотниках; и кобальт, повышающий производительность литий-ионных батарей.

Существует семнадцать редкоземельных элементов: лантан, церий, празеодим, неодим, прометий, самарий, европий, гадолиний, тербий, диспрозий, гольмий, эрбий, тулий, иттербий, лютеций, скандий и иттрий. Они обрабатываются и встраиваются в ноутбуки и смартфоны, делая устройства меньше и легче. Эти элементы можно найти в цветных дисплеях, динамиках, объективах камер, аккумуляторных батареях, жестких дисках и многих других компонентах. Они являются ключевыми элементами систем связи – от оптоволоконных кабелей и усиления сигнала на вышках мобильной связи до спутников и технологии GPS. Вот только добыча этих полезных ископаемых зачастую сопровождается насилием на местном и геополитическом уровне. Добыча полезных ископаемых всегда была и остается жестоким занятием. Как пишет Льюис Мамфорд, «горное дело являлось ключевой отраслью, которая обеспечивала сухожилия войны и увеличивала металлическое содержимое первоначального капитала, военного сундука. С другой стороны, оно способствовало индустриализации вооружений и обогащало финансиста в результате обоих процессов»[61]. Чтобы понять бизнес ИИ, мы должны считаться с войной, голодом и смертью, которые несет с собой горное дело.

Недавнее законодательство США, регулирующее некоторые из этих семнадцати редкоземельных элементов, лишь намекает на разрушения, связанные с их добычей. Закон Додда-Франка 2010 года был направлен на реформирование финансового сектора после кризиса 2008 года. В него было включено специальное положение о так называемых конфликтных минералах, или природных ресурсах, добытых в зоне конфликта, а затем проданных для его финансирования. Теперь компании, использующие золото, олово, вольфрам и тантал из региона вокруг Демократической Республики Конго, должны были отчитываться, откуда поступили полезные ископаемые и финансируется ли их продажа вооруженным ополченцам[62]. Как и «кровавые алмазы», термин «конфликтные ресурсы» скрывает глубокие страдания и многочисленные убийства в горнодобывающем секторе. Прибыль от добычи полезных ископаемых финансировала военные операции в продолжавшемся несколько десятилетий конфликте в Конго, способствуя гибели нескольких тысяч людей и перемещению миллионов[63]. Более того, условия труда на шахтах часто приравнивались к современному рабству[64].

Intel потребовалось более четырех лет непрерывных усилий, чтобы получить базовое представление о собственной цепочке поставок[65]. Цепочка поставок Intel сложна: более шестнадцати тысяч поставщиков в более чем ста странах поставляют материалы для производственных процессов компании, инструменты и машины для ее заводов, а также услуги логистики и упаковки[66]. Кроме того, Intel и Apple подвергались критике за то, что для определения бесконфликтного статуса минералов они проверяли только плавильные заводы, а не сами шахты. То есть такие технологические гиганты оценивали плавильные заводы за пределами Конго, а аудит проводили местные жители. Таким образом, даже сертификация технологической отрасли на отсутствие конфликтов теперь под вопросом[67].

Голландская технологическая компания Philips также заявила, что она работает над тем, чтобы сделать свою цепочку поставок «бесконфликтной». Как и Intel, Philips имеет десятки тысяч поставщиков, каждый из которых поставляет комплектующие для производственных процессов компании[68]. Эти поставщики сами связаны с тысячами производителей комплектующих, приобретающих обработанные материалы у десятков плавильных заводов. Плавильные заводы, в свою очередь, покупают материалы у неизвестного числа трейдеров, которые напрямую работают как с легальными, так и с нелегальными горнодобывающими предприятиями, чтобы получить различные минералы, которые в конечном итоге попадают в компьютерные компоненты[69].

По словам производителя компьютеров Dell, сложность цепочек поставок металлов и минералов создает почти непреодолимые проблемы для производства электронных компонентов, свободных от конфликтов. Элементы отмываются через такое огромное количество организаций в цепочке, что определить их происхождение невозможно – так утверждают производители конечной продукции, что позволяет им правдоподобно отрицать любую практику эксплуатации, обеспечивающую их прибыль[70].

Подобно шахтам, обслуживающим Сан-Франциско в XIX веке, добыча полезных ископаемых для технологического сектора осуществляется путем сокрытия от глаз реальных затрат. Незнание цепочки поставок заложено в капитализме, начиная с того, как бизнес защищает себя через сторонних подрядчиков и поставщиков, и заканчивая тем, как товары продаются и рекламируются потребителям. Более чем правдоподобное отрицание стало хорошо отработанной формой недобросовестности: левая рука не может знать, что делает правая, что, в свою очередь, требует более причудливых и сложных форм дистанцирования.

Хотя добыча полезных ископаемых для финансирования войны и является одним из самых крайних случаев вредной добычи, большинство ресурсов не добывается непосредственно в зонах боевых действий. Однако это не означает, что они свободны от человеческих страданий и разрушения окружающей среды. Пристальное внимание к конфликтным минералам, несмотря на свою важность, также используется для того, чтобы отвлечь внимание от вреда, наносимого горнодобывающей промышленностью в целом. Если мы посетим основные места добычи минералов, мы услышим истории об обесцвеченных кислотой реках, разрушенных ландшафтах и исчезновении видов растений и животных, которые когда-то были жизненно важны для местной экологии.

Черные озера и белый латекс

В Баотоу, крупнейшем городе Внутренней Монголии, есть искусственное озеро, заполненное токсичной черной грязью. Оно пахнет серой и простирается до самого горизонта, занимая более пяти с половиной миль в диаметре. Черное озеро содержит более 180 миллионов тонн отходов переработки руды[71]. Озеро образовалось в результате стока отходов с близлежащих шахт Баян-Обо, которые, по оценкам, содержат почти 70 процентов мировых запасов редкоземельных минералов. Это крупнейшее месторождение редкоземельных элементов на планете[72].

Китай поставляет 95 процентов всех редкоземельных минералов в мире. Доминирование Китая на рынке, как отмечает писатель Тим Моган, обусловлено не столько геологией, сколько готовностью страны взять на себя экологический ущерб от добычи[73]. Хотя редкоземельные минералы, такие как неодим и церий, относительно распространены, для их использования требуется опасный процесс растворения серной и азотной кислоты. Эти кислотные ванны дают резервуары ядовитых отходов, которые заполняют мертвое озеро в Баотоу. Это всего лишь одно из мест, переполненное тем, что эколог-исследователь Майра Хирд называет «отходами, о которых мы хотим забыть»[74].

На сегодняшний день уникальные электронные, оптические и магнитные свойства редкоземельных элементов не могут сравниться ни с какими другими металлами, но соотношение полезных ископаемых и токсичных отходов чрезвычайно велико. Стратег в области природных ресурсов Дэвид Абрахам описывает добычу диспрозия и тербия в Цзянси, Китай, используемых в различных высокотехнологичных устройствах. Он пишет: «Только 0,2 процента добытой глины содержит ценные редкоземельные элементы. Это означает, что 99,8 процента земли, извлеченной при добыче редкоземельных элементов, выбрасывается в виде отходов, называемых „хвостами“, которые сбрасываются обратно в холмы и ручьи». В итоге эти отходы создают новые загрязняющие вещества, такие как аммоний[75]. В результате очистки одной тонны редкоземельных элементов, «по оценкам Китайского общества редких земель, образуется 75000 литров кислой воды и одна тонна радиоактивных остатков»[76].

Примерно в трех тысячах миль к югу от Баотоу находятся небольшие индонезийские острова Бангка и Белитунг, расположенные у побережья Суматры. Бангка и Белитунг производят 90 процентов индонезийского олова, используемого в полупроводниках. Индонезия – второй по величине производитель этого металла в мире, после Китая. Национальная оловянная корпорация Индонезии PT Timah напрямую поставляет олово таким компаниям, как Samsung, а также производителям припоев Chernan и Shenmao, которые в свою очередь поставляют его Sony, LG и Foxconn – всем поставщикам Apple, Tesla и Amazon.[77]

На этих небольших островах шахтеры «серого рынка», не имеющие официального трудоустройства, сидят на самодельных понтонах, скребут морское дно бамбуковыми шестами, а затем ныряют под воду и высасывают олово с поверхности через гигантские, похожие на вакуумные трубки. Шахтеры продают найденное олово посредникам, которые также собирают руду у шахтеров, работающих в разрешенных шахтах, и смешивают их вместе, чтобы продать таким компаниям, как Timah[78]. Совершенно нерегулируемый процесс разворачивается вне всякой формальной защиты работников и окружающей среды. Как сообщает журналист-расследователь Кейт Ходал: «Добыча олова – это прибыльный, но разрушительный промысел, который изрезал ландшафт острова, снес бульдозерами фермы и леса, уничтожил рыбные запасы и коралловые рифы, а также нанес ущерб туризму. Ущерб лучше всего виден с воздуха: участки пышного леса скрываются среди огромных полос бесплодной оранжевой земли. Там, где не преобладают шахты, все усеяно могилами, во многих из которых лежат тела шахтеров, погибших на протяжении веков при добыче олова»[79]. Шахты повсюду: во дворах, в лесу, на обочинах дорог, на пляжах. Это настоящий пейзаж руин.

Обычная практика жизни – сосредоточиться на мире, находящемся непосредственно перед нами, который мы ежедневно видим, обоняем и осязаем. Мы привязываемся к месту, к сообществам, известным нам уголкам и проблемам. Но чтобы увидеть все цепочки поставок ИИ, необходимо искать закономерности в глобальном масштабе, быть чувствительным к тому, как история и конкретный вред отличаются от места к месту и в то же время глубоко взаимосвязаны под воздействием многочисленных сил.

Эти закономерности существуют не только в пространстве, но и во времени. Трансатлантические телеграфные кабели – это важнейшая инфраструктура для переправки данных между континентами, эмблема глобальной коммуникации и капитала. Они также являются материальным продуктом колониализма с его моделями добычи, конфликтов и разрушения окружающей среды. В конце девятнадцатого века особое дерево Юго-Восточной Азии под названием Palaquium gutta стало центром кабельного бума. Эти деревья, произрастающие в основном в Малайзии, производят молочно-белый натуральный латекс, называемый гуттаперчей. После того как в 1848 году английский ученый Майкл Фарадей опубликовал в Philosophical Magazine исследование об использовании этого материала в качестве электрического изолятора, гуттаперча быстро стала любимицей инженерного мира. Инженеры увидели в гуттаперче решение проблемы изоляции телеграфных кабелей, чтобы они могли выдерживать суровые и изменчивые условия на дне океана. Скрученным медным проводам требовалось четыре слоя мягкого органического сока дерева, чтобы защитить их от проникновения воды и проводить электрический ток.

По мере развития глобального бизнеса подводной телеграфии рос и спрос на стволы Palaquium gutta. Историк Джон Талли описывает, как местные малайцы, китайцы и даяки получали мизерную плату за опасную работу по валке деревьев и медленному сбору латекса[80]. Латекс перерабатывался и затем продавался через торговые рынки Сингапура на британский рынок, где он превращался в оболочки подводных кабелей, огибающих весь земной шар. Как пишет исследователь СМИ Николь Старосельски: «Военные стратеги рассматривали кабели как наиболее эффективный и безопасный способ связи с колониями – и, как следствие, контроля над ними»[81]. Маршруты подводных кабелей и сегодня обозначают ранние колониальные сети между центрами и перифериями империи[82].

Из зрелой гуттаперчи выходило около одиннадцати унций латекса. Но в 1857 году первый трансатлантический кабель длиной в 4500 километров и весом в две тысячи тонн потребовал около 250 тонн сырья. Для производства одной тонны материала требовалось около девятисот тысяч стволов. Джунгли Малайзии и Сингапура были вырублены; к началу 1880-х годов Palaquium gutta исчезла. В последней попытке спасти цепочку поставок британцы в 1883 году ввели запрет на сбор латекса, но дерево как вид уже практически вымерло[83].

Викторианская экологическая катастрофа на заре глобального информационного общества показывает, как переплетаются отношения между технологией и сырьем, окружающей средой и трудовыми практиками[84]. Так же как викторианцы спровоцировали экологическую катастрофу, так и современные горнодобывающие предприятия и глобальные цепочки поставок еще больше нарушают хрупкий экологический баланс нашей эпохи.

В предыстории планетарных вычислений присутствует мрачная ирония. В настоящее время крупномасштабные системы искусственного интеллекта стимулируют формы экстракции окружающей среды и данных, но, начиная с викторианской эпохи, алгоритмические вычисления возникли из желания управлять и контролировать войны, население и изменение климата.

Palaquium gutta

Историк Теодора Драйер описывает, как основатель математической статистики, английский ученый Карл Пирсон, стремился разрешить неопределенности планирования и управления путем разработки новых архитектур данных, включая стандартные отклонения и методы корреляции и регрессии. Его методы, в свою очередь, были глубоко связаны с наукой о расах, поскольку Пирсон – вместе со своим наставником, статистиком и основателем евгеники сэром Фрэнсисом Гальтоном – верил, что статистика может стать «первым шагом в исследовании возможного влияния селективного процесса на любой характер расы»[85].

Как пишет Драйер, «к концу 1930-х годов эти архитектуры данных – методы регрессии, стандартного отклонения и корреляции – стали доминирующими инструментами, используемыми для интерпретации социальной и государственной информации на мировой арене. Отслеживая узлы и маршруты мировой торговли, межвоенное „математико-статистическое движение“ стало огромным предприятием»[86]. Это предприятие продолжало расширяться после Второй мировой войны, поскольку новые вычислительные системы использовались в таких областях, как прогнозирование погоды в периоды засухи для повышения производительности крупномасштабного промышленного сельского хозяйства[87]. С этой точки зрения, алгоритмические вычисления, статистика и искусственный интеллект были разработаны в двадцатом веке для решения социальных и экологических проблем, но позже использовались для интенсификации промышленной добычи, эксплуатации и дальнейшего истощения экологических ресурсов.

Миф о чистых технологиях

Минералы – это основа искусственного интеллекта, но его жизненной силой по-прежнему является электрическая энергия. Передовые вычисления редко рассматриваются с точки зрения углеродного следа, ископаемого топлива и загрязнения окружающей среды; метафоры вроде «облака» подразумевают нечто плавающее и хрупкое в рамках естественной, зеленой индустрии[88]. Серверы спрятаны в неприметных центрах обработки данных, и их загрязняющие свойства гораздо менее заметны, чем дымящиеся трубы угольных электростанций. Технологический сектор активно рекламирует свою экологическую политику, инициативы по устойчивому развитию и планы по решению проблем, связанных с климатом, используя ИИ в качестве инструмента решения проблем. Все это является частью создаваемого общественностью имиджа устойчивой технологической индустрии без выбросов углекислого газа. В действительности же для работы вычислительных инфраструктур Amazon Web Services или Microsoft Azure требуется гигантское количество энергии, а углеродный след систем ИИ, работающих на этих платформах, постоянно растет[89].

Как пишет Тунг Хуи Ху в книге «Предыстория облака»: «Облако – это ресурсоемкая, добывающая технология, которая преобразует воду и электричество в вычислительную мощность, нанося значительный ущерб окружающей среде, которую затем вытесняет из поля зрения»[90]. Решение проблемы энергоемкой инфраструктуры стало одной из главных задач. Конечно, отрасль приложила значительные усилия, чтобы сделать центры обработки данных более энергоэффективными и увеличить использование возобновляемых источников энергии. Но уже сейчас углеродный след мировой вычислительной инфраструктуры сравнялся с углеродным следом авиационной промышленности в период ее расцвета, и он растет даже быстрее[91]. Оценки разнятся: такие исследователи, как Лотфи Белхир и Ахмед Эльмелиги, считают, что к 2040 году на долю технологического сектора придется 14 процентов глобальных выбросов парниковых газов, а группа исследователей из Швеции прогнозирует, что потребление электроэнергии одними только центрами обработки данных к 2030 году возрастет примерно в 15 раз[92].

Внимательно изучив вычислительные мощности, необходимые для создания моделей ИИ, мы видим, что стремление к экспоненциальному увеличению скорости и точности обходится планете дорогой ценой. Требования к обработке данных при обучении моделей ИИ и, следовательно, их энергопотребление все еще являются новой областью исследований. Одна из первых работ в этой области была опубликована исследователем ИИ Эммой Струбелл и ее командой из Массачусетского университета в Амхерсте в 2019 году. Сфокусировавшись на попытке понять углеродный след моделей обработки естественного языка (NLP), они начали набрасывать потенциальные оценки путем запуска моделей ИИ в течение сотен тысяч вычислительных часов[93]. Первые цифры оказались поразительными. Команда Струбелл обнаружила, что запуск всего одной модели NLP приводит к выбросу более 660000 фунтов углекислого газа, что эквивалентно пяти автомобилям, работающим на газе, за весь срок их службы (включая производство), или 125 перелетам в обе стороны из Нью-Йорка в Пекин[94].

Хуже того, исследователи отметили, что такое моделирование является, как минимум, базовой оптимистичной оценкой. Она не отражает реальных коммерческих масштабов, в которых работают такие компании, как Apple и Amazon, собирающие данные в Интернете и использующие свои собственные модели NLP для того, чтобы системы ИИ, такие как Siri и Alexa, звучали более человечно. Однако точный объем энергопотребления, производимого моделями ИИ в технологическом секторе, неизвестен; эта информация хранится как строго охраняемая корпоративная тайна. И здесь экономика данных основана на сохранении экологического невежества.

В области ИИ стандартной практикой является максимизация вычислительных циклов для повышения производительности, в соответствии с убеждением, что больше – значит лучше. Как говорит Рич Саттон из DeepMind: «Методы, использующие вычисления, в конечном итоге являются наиболее эффективными, причем с большим отрывом»[95]. Вычислительная техника перебора при обучении ИИ или систематический сбор большего количества данных и использование большего количества вычислительных циклов до достижения лучшего результата, привела к резкому увеличению потребления энергии. По оценкам OpenAI, с 2012 года объем вычислений, используемых для обучения одной модели ИИ, ежегодно увеличивался в десять раз. Это связано с тем, что разработчики «постоянно находят способы использовать больше чипов параллельно и готовы платить за это экономические издержки»[96]. Мышление с точки зрения экономических издержек сужает взгляд на более широкую локальную и экологическую цену сжигания вычислительных циклов как способа создания дополнительной эффективности. Тенденция к «вычислительному максимализму» имеет глубокие экологические последствия.

Центры обработки данных являются одними из крупнейших в мире потребителей электроэнергии[97]. Для питания этой многоуровневой машины требуется электроэнергия из сети в виде угля, газа, ядерной или возобновляемой энергии. Некоторые корпорации реагируют на растущую тревогу по поводу энергопотребления крупномасштабных вычислений: Apple и Google заявляют о своей углеродной нейтральности (это означает, что они компенсируют выбросы углерода путем покупки кредитов), а Microsoft обещает стать углеродно-нейтральной к 2030 году. Однако работники этих компаний настаивают на сокращении выбросов по всем направлениям, а не на поблажках из чувства вины перед окружающей средой[98]. Более того, Microsoft, Google и Amazon лицензируют свои платформы искусственного интеллекта, инженерные кадры и инфраструктуру компаниям, добывающим ископаемое топливо, чтобы помочь им найти и добыть топливо из недр земли, что еще больше стимулирует отрасль, наиболее ответственную за антропогенное изменение климата.