Кодозависимые. Жизнь в тени искусственного интеллекта

В 2022 году представители компании заявили, что за счет предоставления цифровой работы ей удалось вытащить из нищеты более 50 тысяч человек в Восточной Африке – включая тех, кто находится на иждивении у сотрудников, а также людей, которые прошли необходимый для работы тренинг, но в итоге не были трудоустроены{14}. Один из офисов компании в Уганде расположен в столице страны Кампале, а второй – на севере, в небольшом городе Гулу, где не один десяток лет свирепствует «Господня армия сопротивления» – жестокая повстанческая группировка, которая вовлекает в боевые действия детей. Больше всего людей из Гулу в возрасте до двадцати пяти лет работает именно в Sama.

Когда в 2008 году Джана основала свою компанию в Сан-Франциско, инвесторы скептически отнеслись к ее планам привлекать дешевую рабочую силу на фоне экономического кризиса в Америке. Но Джана заявила, что собирается не просто предоставлять клиентам дешевые услуги, а повышать цифровую грамотность амбициозной и голодной молодежи Восточной Африки, помогая той становиться на ноги.

«Наша трудовая модель предполагает наем сотрудников на полный день, с предоставлением различных льгот и обеспечением прожиточного минимума, – сказала Джана, – что, как я выяснила, означает выплату фактической зарплаты в размере около трехсот долларов в месяц и медицинское страхование. Нанимая людей, мы в среднем увеличиваем их доход почти в четыре раза. Как правило, мы работаем с выходцами из незаконных и сельских поселений, поэтому они со всей серьезностью относятся к шансу устроиться в компанию, где платят хорошую зарплату, обучают работе на компьютере и позволяют взаимодействовать с ИИ».

Кроме того, как отмечают в Sama, каждый год компания выделяет четыре стипендии для сотрудников, которые хотят продолжить обучение, и предоставляет стартовый капитал тем, кто желает открыть собственный бизнес{15}. Джана неизменно подчеркивала, что руководствоваться нужно девизом «давай работу, а не пособие». В офисах Sama в Найроби сотрудники ходят в худи и футболках с надписью «Давай работу», а идеи для подработки в «своем деле» только поощряются, ведь новый бизнес может, в свою очередь, создать и новые рабочие места. На кустарной фабрике, построенной посреди замусоренного пустыря, десяток женщин и девушек вручную шьет футбольные мячи – это предприятие было основано при поддержке Sama. Сотрудники компании выводят на рынок косметику на основе трав, открывают магазины на базе M-PESA и цифровых кошельков, выращивают кур на мясо и открывают футбольные клубы для девочек в своих деревнях.

В начале 2020 года, незадолго до эпидемии коронавируса, Лейла Джана умерла от эпителиоидной саркомы. Ей было тридцать шесть лет. Дело ее жизни и ее явный интерес к судьбе построенного ею сообщества восточноафриканской молодежи пробудили во мне интерес. Соответствуют ли реальности идеализированные представления Джаны? Правда ли сотрудники Sama вроде Иэна и Бенджи чувствуют, что работа открывает им новые возможности? В состоянии ли они требовать перемен? Ответы я нашла в Найроби.

Роскошные автомобили и тук-туки

До 2023 года на Момбаса-роуд, в нескольких минутах езды от офиса, где занимаются аннотированием данных, у Sama было и второе здание – неказистая приземистая постройка из бетона, где работали исключительно с одним клиентом – компанией Meta. Эта гигантская корпорация, владеющая социальными сетями, подрядила Sama, чтобы привлечь несколько сотен модераторов контента для маркировки, категоризации и удаления запрещенного и проблемного контента на принадлежащих ей платформах Facebook и Instagram и одновременного обучения ИИ-систем компании той же работе. Хотя мне провели официальную экскурсию по этому зданию, подняться на этаж, где работают сотрудники, мне не разрешили, поскольку по требованию Meta все они подписали соглашения о неразглашении, по которым нельзя раскрывать в том числе и содержание токсичного контента, обрабатываемого специалистами.

По другую сторону дверей, войти в которые мне не разрешили, молодые мужчины и женщины смотрели на расчлененные в результате атаки беспилотников тела, детскую порнографию, всевозможные зверства, некрофилию и самоубийства и отфильтровывали их, чтобы на все это не пришлось смотреть нам. Позже я узнала, что многие из этих сотрудников месяцами и годами страдали от кошмаров, а некоторые сидели на антидепрессантах. Были и те, кто отдалился от близких, потому что более не мог наслаждаться общением с собственными детьми.

Через пару месяцев после моего визита более 200 человек подписали петицию и подали в суд на Sama и ее клиента Meta, обвинив обе компании в нарушении прав человека и неправомерном расторжении трудовых договоров{16}.

Это дело – один из самых громких подобных процессов в мире и один из трех процессов против Meta в Кении. В совокупности они могут серьезно сказаться на условиях труда невидимой армии из десятков тысяч человек, которых привлекают для выполнения подрядной цифровой работы для крупных технологических компаний.

Работа по модерации контента разительно отличалась от задач по разметке данных, которыми занимались Иэн, Бенджа и их коллеги. Генеральный директор Sama Венди Гонсалес сказала мне, что считает модерацию контента «важной работой», но при этом «очень и очень непростой», и добавила, что ее доля в Sama составляет всего 2%{17}. Она отметила, что в первую очередь Sama занимается разметкой данных. В начале 2023 года, столкнувшись с несколькими судебными исками, Sama перестала брать задачи по модерации контента, после чего соответствующий офис был закрыт.

Такое развитие событий спровоцировал Дэниел Мотаунг, 27-летний эмигрант из ЮАР, который работал в этом подразделении Sama. В начале 2022 года он подал в суд на своего работодателя, а также на компанию Meta, за неправомерное увольнение и эксплуатацию. Работа Дэниела состояла в том, чтобы вручную просматривать контент, загружаемый на Facebook в Черной Африке. Жестокость и насилие, с которыми он сталкивался в процессе, на многие годы оставили глубокие шрамы в его душе.

Приехав в Кению из своего родного городка неподалеку от Йоханнесбурга, Дэниел с оптимизмом смотрел в будущее. Судя по расплывчатому описанию вакансии, работа была связана с маркетинговым контентом. Его пропуском в компанию стало владение зулусским языком. Однако, проработав в Sama год, он оказался сломлен. Как сообщается, за работу, где приходилось смотреть на человеческие жертвоприношения, обезглавливания, разжигание ненависти и эксплуатацию несовершеннолетних, Дэниел и его коллеги в Sama получали около 2,20 доллара в час{18}. «Когда крупные компании приходят в бедные страны или нанимают повсюду бедных людей, якобы давая им возможность выйти на новый уровень и улучшить свое материальное положение, они тоже занимаются эксплуатацией, – сказал он мне, когда мы разговаривали по телефону. – Эти компании интересует только прибыль, а не жизни людей, которые они разрушают».

Хотя он занимался оценкой жестоких и противозаконных материалов, а не разметкой данных, как Иэн и Бенджа, его работа тоже использовалась для обучения ИИ-моделей – на основе решений, которые он принимал, разрабатываемые Facebook ИИ-системы модерации контента учились отличать хороший контент от плохого.

По словам Дэниела, в системе модерации Facebook время на выполнение каждой задачи четко ограничено. Сотрудники Sama и их начальники должны были вырабатывать дневные нормы. Перерывы – за исключением обеда по графику и коротких пауз на поход в туалет – не допускались. Сотрудникам приходилось выдумывать, что им нужно в туалет, просто чтобы иметь возможность размять ноги. Meta и Sama категорически отрицают эти обвинения, но в настоящее время иск Дэниела рассматривается в кенийском суде. Он подал иск, когда его уволили якобы за попытку организовать профсоюз. Представители Sama утверждают, что труд сотрудников оплачивается наравне с трудом кенийских учителей и врачей и что компания поддерживает организацию профсоюзов.

«Когда ты беден и голоден, – сказал Дэниел, – у тебя нет выбора, а если тебя эксплуатируют, у тебя нет права голоса. Они просто давали людям еду. Не более».

В суде Дэниела представляет кенийский адвокат Мерси Мутеми, которая также работает с истцами, обвиняющими Meta и Sama в нарушении условий труда. Она говорит, что обеспечение людей работой – не благотворительность. Просто платить им деньги недостаточно. Позволяя людям вырваться из нищеты, можно по-прежнему лишать их права голоса и обращаться с ними как с «безвольными пешками».

«Работа с ИИ подобна роскошному автомобилю – ее хотят все. Замените этот автомобиль на тук-тук, ведь в конце концов работа есть работа, – сказала мне Мутеми за обедом из нигерийского говяжьего рагу, жареных бананов и крепкого кофе. – Я встречаю немало людей, которые готовы закрывать глаза на многие унижения и нарушения прав человека, поскольку они “учатся работать с ИИ”».

Мутеми обладает поразительной способностью отсекать все лишнее и докапываться до сути вопроса. Она полагает, что клиенты Sama – в частности, Meta – просто идут по стандартному пути аутсорсинга. В сфере работы с данными наблюдаются такие же огромные разрывы, такое же неравенство, как в традиционном бизнесе, который привлекает подрядчиков из других стран, например в модной индустрии и IT. И все же люди считают эту работу уникальной из-за того, что Мутеми называет «иллюзией ИИ».

В частности, она отмечает, что, если взглянуть на эволюцию глобального капитализма, станет очевидно, что в работе по тренировке алгоритмов, например по обучению программ фильтрации нежелательного контента в социальных сетях, нет ничего нового. Это просто логическое продолжение бангладешских текстильных фабрик, цветочных ферм в кенийском городе Найваша или даже хлопковых плантаций в США. Но дело в том, что новизна и привлекательность ИИ скрывают его влияние на жизнь людей.

«Это путь Gucci, – говорит Мутеми. – И путь Louis Vuitton. Рабочие на фабрике думают, что они просто делают туфли. Они не знают, что их туфли продаются в каком-то магазине за три тысячи долларов. И здесь все точно так же».

На первый взгляд ИИ кажется исключительно высокотехнологичной сферой, но Мутеми отмечает, что специалистов по технологиям для развития ИИ недостаточно. Изучив цепочку разработки ИИ, «вы увидите предприятия, сотрудники которых 90% времени понятия не имеют, что их работа связана с ИИ, – подчеркивает она. – Знаете почему? Потому что сфера ИИ раздроблена. Люди не видят, с чем работают. Пока она остается такой раздробленной, у этих работников не будет рычагов, чтобы бороться за себя».

Конец ознакомительного фрагмента.

Текст предоставлен ООО «Литрес».

Прочитайте эту книгу целиком, купив полную легальную версию на Литрес.

Безопасно оплатить книгу можно банковской картой Visa, MasterCard, Maestro, со счета мобильного телефона, с платежного терминала, в салоне МТС или Связной, через PayPal, WebMoney, Яндекс.Деньги, QIWI Кошелек, бонусными картами или другим удобным Вам способом.

Notes

1

M Murgia, “My Identity for Sale,” WIRED UK, October 30, 2014, https://www.wired.1co.uk/article/my-identity-forsale.

2

J. Bridle, ’The Stupidity of AI’, The Guardian, March 16, 2023, https://www.theguardian.com/technology/2023/mar/16/the-stupidity-of-ai-artificial-intelligence-dall-e-chatgpt#:~:text=They%20enclosed%20our%20imaginations%20in,new%20kinds%20of%20human%20connection.

3

Hanchen Wang et al., ’Scientific Discovery in the Age of Artificial Intelligence’, Nature 620, no. 7972 (August 3, 2023): 47–60, https://doi.org/10.1038/s41586-023-06221-2.

4

Meredith Whittaker, ’The Steep Cost of Capture’, Interactions 28, no. 6 (November 10, 2021): 50–55, https://doi.org/10.1145/3488666.

5

V. Eubanks, Automating Inequality: How High-Tech Tools Profile, Police, and Punish the Poor (St Martin’s Press, 2018).

6

S. Noble, Algorithms of Oppression: How Search Engines Reinforce Racism (NYU Press, 2018).

7

Paola Ricaurte, ’Data Epistemologies, The Coloniality of Power, and Resistance’, Television & New Media 20, no. 4 (May 7, 2019): 350–65, https://doi.org/10.1177/1527476419831640.

8

Michael Roberts et al., ’Common Pitfalls and Recommendations for Using Machine Learning to Detect and Prognosticate for COVID–19 Using Chest Radiographs and CT Scans’, Nature Machine Intelligence 3, no. 3 (March 15, 2021): 199–217, https://doi.org/10.1038/s42256-021-00307-0.

9

Albert Bandura, ’Toward a Psychology of Human Agency’, Perspectives on Psychological Science 1, no. 2 (June 24, 2006): 164–80, https://doi.org/10.1111/j.1745-6916.2006.00011.x.

10

Inc. Grand View Research, ’GVR Report Cover Data Collection And Labeling Market Size, Share & Trends Analysis Report By Data Type (Audio, Image/Video, Text), By Vertical (IT, Automotive, Government, Healthcare, BFSI), By Region, And Segment Forecasts, 2023–2030’, March 30, 2023, https://www.grandviewresearch.com/industry-analysis/data-collection-labeling-market?utm_source=prnewswire&utm_medium=referral&utm_campaign=ICT_30-March-23&utm_term=data_collection_labeling_market&utm_content=rd1.

11

Karen Hao and Andrea Paola Hernández, ’How the AI Industry Profits from Catastrophe’, MIT Technology Review, April 20, 2022, https://www.technologyreview.com/2022/04/20/1050392/ai-industry-appen-scale-data-labels/.

12

Madhumita Murgia, ’AI’s New Workforce: The Data-Labelling Industry Spreads Globally’, Financial Times, June 24, 2019, https://www.ft.com/content/56dde36c-aa40-11e9-984c-fac8325aaa04.

13

Mary L. Gray and Siddharth Suri, Ghost Work: How to Stop Silicon Valley from Building a New Global Underclass (Houghton Mifflin Harcourt Publishing, 2019).

14

Sama, ’Sama by the Numbers’, February 11, 2022, https://www.sama.com/blog/building-an-ethical-supply-chain/.

15

Sama, ’Environmental & Social Impact Report’, June 14, 2022, https://etjdg74ic5h.exactdn.com/wp-content/uploads/2023/07/Impact-Report-2023-2.pdf.

16

Ayenat Mersie, ’Court Rules Meta Can Be Sued in Kenya over Alleged Unlawful Redundancies’, Reuters, April 20, 2023, https://www.reuters.com/technology/court-rules-meta-can-be-sued-kenya-over-alleged-unlawful-redundancies-2023-04-20/.

17

David Pilling and Madhumita Murgia, ’“You Can’t Unsee It”: The Content Moderators Taking on Facebook’, Financial Times, May 18, 2023, https://www.ft.com/content/afeb56f2-9ba5-4103-890d-91291aea4caa.

18

Billy Perrigo, ’Inside Facebook’s African Sweatshop’, Time, February 17, 2022, https://time.com/6147458/facebook-africa-content-moderation-employee-treatment/.