Измерять и навязывать. Социальная история искусственного интеллекта

Наконец, выдвинутая в книге трудовая теория автоматизации представляет собой не только аналитический принцип, нужный для демонтажа «верховного алгоритма» монополий ИИ, но и принцип синтетический. Он говорит о практике социальной автономии, которая создаст новые формы знания и новые культуры изобретательства.

1. Материальные орудия алгоритмического мышления

Силу наших «ментальных» орудий усиливает сила наших «металлических» орудий[66].

Жаннет Винг, «Вычислительное мышление», 2008 г.

Использование материального орудия всегда дает больше знаний, чем вложено в его изобретение[67].

Петер Дамеров и Вольфганг Лефевр, «Орудия науки», 1981 г.

Правила стали механическими до того, как им могли следовать машины[68].

Лоррейн Дастон, «Алгоритмы до компьютеров», 2017 г.

Воссоздание расчлененного бога

В космогоническом мифе индуистских Вед говорится, что верховное божество Праджапати распадается на части в акте сотворения вселенной. После творения происходит нечто контринтуитивное с точки зрения западных нарративов о господстве и принципов непротиворечивости: тело творца оказывается разобранным и расчлененным. В Индии этот древний миф разыгрывают в ритуале Агничаяна. Ритуал предполагает строительство огненного алтаря Шьеначити, и этот процесс служит символическим воссозданием распавшегося тела бога (см. рис. 1.1).

Рис. 1.1. Диаграмма огненного алтаря Агничаяна (Staal F. Greek and Vedic geometry // Journal of Indian Philosophy 27, no. 1 (1999): 111)

Алтарь Шьеначити возводят из тысячи кирпичей выверенной формы и точного размера в соответствии со сложной схемой, изображающей сокола. Рабочие кладут пять слоев по 200 кирпичей в каждом, повторяя специальную мантру и следуя пошаговым инструкциям. В основе ритуала лежит решение загадки: каждый слой должен повторять одну и ту же пространственную форму, но различаться внутренней конфигурацией[69]. Соколиный алтарь следует обращать на восток, знаменуя предстоящий символический полет воссозданного бога к восходящему солнцу – здесь мы видим уникальный пример божественного перевоплощения средствами геометрии.

Агничаяна подробно описана в шульба-сутрах; это посвященное вопросам геометрии дополнение к Ведам записано около 800 года до н. э. в Индии и опирается на гораздо более древнюю устную традицию[70]. Согласно этим текстам риши (духи жизни) создали семь пуруш (космических существ), имеющих форму квадрата; вместе они образовали единое тело, а уже из этой простой конфигурации возникло сложносоставное тело Праджапати[71]. Шульба-сутры учат строить алтари определенных геометрических форм, чтобы снискать благорасположение богов. Так, говорится, что «тем, кто хочет уничтожить настоящих и будущих врагов, следует построить огненный алтарь в форме ромба»[72]. Помимо религиозного значения ритуал Агничаяна и шульба-сутры обладали функцией передачи важных для общества техник, например умения планировать строительство и увеличивать существующие здания с сохранением первоначальных пропорций[73]. Агничаяна служит примером того, что математическое знание изначально носит социально-материальный характер, а также демонстрирует типичную для кастовой системы иерархию ручного и умственного труда. При сооружении жертвенника рабочие руководствуются правилами, которые традиционно существуют лишь у определенной группы мастеров. Она же и передает эти правила. Ритуалы, подобные Агничаяне, – это не только упражнения в геометрии. Они обучают процедурному знанию, которое не сводится к абстракции и основано на продолжительной «механической» тренировке. Кроме того, они показывают, как религия может побуждать к точности, а духовные упражнения – использоваться как средство трудовой дисциплины[74].

Агничаяна – уникальный артефакт в истории человеческой цивилизации: это самый древний задокументированный ритуал, который практикуется по сей день, хотя из-за сложности и проводится лишь несколько раз в столетие[75]. На протяжении тысячелетий с его помощью передавались и сохранялись сложные парадигмы знания, и благодаря комбинаторному механизму Агничаяны этот ритуал можно определить как первичный пример алгоритмической культуры. Что же позволяет интерпретировать как алгоритм столь древний ритуал? Согласно одному из самых распространенных в компьютерной науке определений, алгоритм, как уже упоминалось, – это конечная процедура пошаговых инструкций для преобразования ввода в вывод вне зависимости от данных и с наилучшим использованием имеющихся ресурсов[76]. Рекурсивные мантры, которые направляют рабочих на строительной площадке огненного алтаря, напоминают правила компьютерной программы: вне зависимости от контекста алгоритм Агничаяны позволяет точно распределить кирпичи и построить Шьеначити. Историки обнаружили, что индийская математика с древних времен носила преимущественно алгоритмический характер. Это означает, что задачи предлагалось решать не с помощью логической демонстрации, а путем пошаговой процедуры[77].

Так, итальянский математик Паоло Целлини утверждает, что ритуал Агничаяны свидетельствует о более сложной технике, чем следование жесткому правилу, а именно – об эвристическом методе пошаговой аппроксимации. Известно, что ведическая математика раньше, чем это произошло у других цивилизаций, познакомилась с бесконечно большими и бесконечно малыми числами. В древних сутрах перемножались огромные позиционные числа индуистской системы счета для охвата необъятных просторов вселенной (мыслительное упражнение, которое невозможно себе представить, например, в аддитивных шумерских, греческих и римских системах счисления). Ведическая математика также была знакома с иррациональными числами, например квадратным корнем, который во многих случаях (например, √2) можно рассчитать только приблизительно. В мантрах шульба-сутр пропеваются самые древние (и доскональные) объяснения вычислительных процедур (например, так называемого вавилонского алгоритма) для приближенного выражения квадратного корня. Процедуры приближения могут показаться громоздкими, слабыми и неточными по сравнению с математическими функциями и геометрическими теоремами, но их роль в истории математики и техники важнее, чем это принято считать. В книге по истории методов постепенного прироста (включая, среди прочего, древний метод гномона) Целлини утверждал, что индуистские методы пошагового приближения эквивалентны современным счетным алгоритмам Лейбница и Ньютона и даже техникам исправления ошибок, которые лежат в основе искусственных нейронных сетей и машинного обучения, составляющих парадигму ИИ (см. главу 9)[78].

Некоторым прочтение древних культур через парадигму новейших технологий Кремниевой долины, как и изучение математической составляющей религиозных ритуалов в эпоху оголтелого национализма, может показаться актом незаконного присвоения. Однако утверждать, что абстрактные техники познания и искусственные метаязыки безраздельно принадлежат современному индустриальному Западу, исторически неверно. Подобное утверждение – акт скрытого эпистемического колониализма по отношению к культурам других эпох и регионов[79]. Альтернативные формы вычислений, лежащие вне гегемонии Глобального севера и присущего ему режиму экстрактивизма знаний, получили признание и изучаются благодаря вкладу этноматематики, деколониальных исследований, а также истории науки и техники. Алгоритмами из-за их роли в компьютерном программировании обычно считают абстрактное применение сложных наборов правил. В этой книге я, напротив, утверждаю, что все алгоритмы, включая сложные алгоритмы искусственного интеллекта и машинного обучения, берут начало в общественной и материальной деятельности. Алгоритмическое мышление и алгоритмические практики, широко понимаемые как решение задач на основе правил, представляют собой часть всех культур и цивилизаций.

Конец ознакомительного фрагмента.

Текст предоставлен ООО «Литрес».

Прочитайте эту книгу целиком, купив полную легальную версию на Литрес.

Безопасно оплатить книгу можно банковской картой Visa, MasterCard, Maestro, со счета мобильного телефона, с платежного терминала, в салоне МТС или Связной, через PayPal, WebMoney, Яндекс.Деньги, QIWI Кошелек, бонусными картами или другим удобным Вам способом.

Примечания

1

Домингос П. Верховный алгоритм: как машинное обучение изменит наш мир. М.: Манн, Иванов и Фербер, 2016. С. 17.

2

Бостром Н. Искусственный интеллект: этапы, угрозы, стратегии. М.: Манн, Иванов и Фербер, 2016. С. 197.

3

Букв. перевод «интеллектуальный акт».

4

Geoghegan B. D. Information // Digital Keywords: A Vocabulary of Information Society and Culture. Benjamin Peters (ed.). Princeton: Princeton University Press, 2016. P. 177.

5

https://www.artint.ru/

6

См.: Ильенков Э. Об идолах и идеалах. М.: Политиздат, 1968. С. 32

7

Kirtchik O. The Soviet scientific programme on AI: if a machine cannot ‘think’, can it ‘control’?// BJHS Themes, 2023. P. 8, 111–125.

8

Маркс К. Капитал. Т. I. М.: Государственное издательство политической литературы, 1952. С. 429. Маркс также отмечает: «Позже мы увидим, что «хозяева» начинают петь совсем по-другому, когда им угрожает потеря их «живых» автоматов» (см.: Там же). – Здесь и далее, если не указано иное, прим. автора.

9

Грамши А. Тюремные тетради. Ч. I. C. 343. М.: Издательство политической литературы, 1991.

10

Перевод скорректирован: итальянский термин gli intellettuali соответствует русскому слову «интеллектуалы» (в англоязычной традиции его передают как intellectuals). Однако в советской традиции перевода, ведущей отсчет с 1950‑х гг., устоялся вариант «интеллигенты», который в силу конкретно-исторических коннотаций сужает понятие Грамши. При этом философ, безусловно, был прекрасно знаком с ролью, которая приписывалась интеллигенции в российской революционной традиции, и в размышлениях об особой социальной роли интеллектуалов отталкивался в том числе от этого. – Прим. пер.

11

В России сложилась традиция переводить словосочетание artificial intelligence как «искусственный интеллект». «Интеллект» в русском языке соотносится с английским intellect, под которым подразумевается способность понимать и объяснять (ср. «разум»), однако у intelligence прямого аналога в русском нет, это слово означает способность получать и применять на практике знания и навыки (ср. «разумность»). В случаях употребления слова intelligence с определениями я буду следовать сложившейся традиции перевода. В случаях обособленного словоупотребления intelligence, помимо вариантов «интеллект» и «интеллектуальные способности», я буду также использовать слово «разумность», делая акцент на наблюдаемом комплексе качеств, которые указывают на их глубинный источник (собственно, разум) в случае с живыми существами. – Прим. пер.

12

Согласно Грамши, чья цитата открывает книгу, все люди могут считаться интеллектуалами в том смысле, что не существует труда, в котором отсутствует хотя бы «минимум созидательной интеллектуальной деятельности». Однако, как тут же поясняет философ, «не все люди выполняют в обществе функции интеллектуалов (так, о том, кто жарит себе яичницу или пришивает заплату на куртку, не скажут, что он является поваром или портным)» (см.: Там же). – Прим. пер.

13

Сеннет Р. Мастер. М.: Strelka Press, 2018; Roberts L. and Schaffer S. (eds). The Mindful Hand: Inquiry and Invention from the Late Renaissance to Early Industrialisation. Chicago: University of Chicago Press, 2007. О роли физического прикосновения в цифровую эпоху см.: Ladewig R. and Schmidgen H. (eds). Body and Society 28. Nos. 1–2. Special issue. Symmetries of Touch: Reconsidering Tactility in the Age of Ubiquitous Computing (2012).

14

В случаях, когда речь идет о распознавании сугубо визуальных данных, которое исторически предшествует экстраполяции метода на невизуальную информацию, я использую устоявшийся перевод «распознавание образов». В других случаях, когда речь идет о расширенном применении метода, – «распознавание паттернов». – Прим. пер.

15

В начале 1960‑х годов Романо Альквати определил информацию как новаторские микрорешения, которые принимают работники в процессе производства (см. главу 5 этой книги). См. также: Pasquinelli M. Italian Operaismo and the Information Machine // Theory, Culture and Society 32, no. 3 (2015): 49–68; Sprenger F. Microdecisions and Autonomy in Self-Driving Cars: Virtual Probabilities // AI and Society (2020): 1–16.

16

Hawkins A. J. Elon Musk Just Now Realizing That Self-Driving Cars Are a «Hard Problem» // theverge.com. 5 July 2021.

17

См. также: A Manifesto // Logic Magazine. Issue 1. March 2017.

18

В английском языке слова calculation и computation в целом взаимозаменяемы, однако в контексте ИИ их следует разводить, как это делает автор. В первом случае речь идет об арифметических операциях, во втором – об алгоритмических. Слово calculation и родственные термины, например calculus, я передаю через слова с корнем «счет», а также вариантами «исчисление», «счисление»; в случае с computation использую производные от слова «вычисление» (см. советский вариант перевода computer как «вычислительной машины»). – Прим. пер.

19

Daston L. Calculation and the Division of Labor, 1750–1950 // Bulletin of the German Historical Institute 62 (Spring 2018): 13.

20

Фридрих Энгельс оспаривал тезис о «хозяйском глазе» и утверждал, что внутри крупных предприятий и инфраструктур того времени, например железнодорожных компаний, рабочие обладали широким представлением о производственном процессе: «Экономическое развитие нашего современного общества все более и более ведет к концентрации, к обобществлению производства в огромных предприятиях, которыми уже не могут более руководить отдельные капиталисты. Всякий вздор о «хозяйском глазе» и о создаваемых им чудесах превращается в явную бессмыслицу, как только предприятие достигает определенных размеров. Представьте себе «хозяйский глаз» на Лондонской и Северо-Западной железных дорогах! Но то, чего хозяин сделать не может, то рабочие, наемные служащие компании, с успехом могут делать и делают. Итак, капиталист уж больше не может предъявлять права на свою прибыль как на «заработную плату за руководство», так как он ничем не руководит». Цит. по: Энгельс Ф. Общественные классы. Необходимые и излишние // К. Маркс и Ф. Энгельс. Сочинения. Изд. 2‑е, Т. 19. М.: Государственное издательство политической литературы, 1962. С. 299.

21

В оригинале книга М. Пасквинелли называется The Eye of the Master. – Прим. ред.

22

О режиме видимости на рабовладельческих плантациях см.: Mirzoeff N. The Right to Look: A Counterhistory of Visuality. Durham, NC: Duke University Press, 2011.

23

Фуко М. Надзирать и наказывать: Рождение тюрьмы. М.: Ад Маргинем, 1999.

24

Giedion S. Mechanization Takes Command: A Contribution to Anonymous History. Oxford: Oxford University Press, 1948. P. 5.

25

Braverman H. Labor and Monopoly Capital: The Degradation of Work in the Twentieth Century. New York: Monthly Review Press, 1974. P. 117. См.: Taylor F. W. The Principles of Scientific Management. New York: Harper & Brothers, 1911.

26

Beller J. The Cinematic Mode of Production: Attention Economy and the Society of the Spectacle. Lebanon, IN: University Press of New England, 2006.

27

См.: Maier C. S. Between Taylorism and Technocracy: European Ideologies and the Vision of Industrial Productivity in the 1920s // Journal of Contemporary History 5, no. 2 (1970): 27–61; Hellebust R. Aleksei Gastev and the Metallization of the Revolutionary Body // Slavic Review 56, no. 3 (1997): 500–518; Olenina A. H. Psychomotor Aesthetics: Movement and Affect in Modern Literature and Film. Oxford: Oxford University Press, 2020; Sutil N. S. Motion and Representation: The Language of Human Movement. Cambridge, MA: MIT Press, 2015; Brown E. The Corporate Eye: Photography and the Rationalization of American Commercial Culture, 1884–1929. Baltimore, MD: Johns Hopkins University Press, 2008; Nelson D. (ed.), A Mental Revolution: Scientific Management Since Taylor. Columbus, OH: Ohio State University Press, 1992.

28

Словосочетания «трудовая теория автоматизации» и «трудовая теория машин» созданы по аналогии с выражениями, употребляемыми в политической экономии, в частности, «трудовой теории стоимости».

29

Дюркгейм Э. О разделении общественного труда. М.: Канон+, 1996; Mezzadra S. and Neilson B. The Politics of Operations: Excavating Contemporary Capitalism. Durham, NC: Duke University Press, 2019. P. 55

30

Altenried M. The Digital Factory: The Human Labor of Automation. Chicago: University of Chicago Press, 2021.

31

В советской и российской традициях выражение computer science принято передавать термином «информатика», что отражает континентальную ориентацию на понятие «информация», тогда как для американской традиции центрально понятие «алгоритм» (см. второе примечание на стр. 52). Поскольку в книге идет речь об американской родословной ИИ, отличной от европейской традиции, я использую для перевода буквальный вариант «компьютерная наука». – Прим. пер.

32

Turing A. Lecture on the Automatic Computing Engine (1947) // The Essential Turing. B. Jack Copeland (ed.). London: Clarendon Press, 2004. P. 392.

33

Ure A. The Philosophy of Manufactures. London: Charles Knight, 1835. P, 13–14.

34

Gray M. and Suri S. Ghost Work: How to Stop Silicon Valley from Building a New Global Underclass. New York: Houghton Mifflin Harcourt, 2019. См. также: Irani L. The Cultural Work of Microwork // New Media and Society 17, no. 5, 2013: 720–739; Irani L. and Silberman M. S. Turkopticon: Interrupting Worker Invisibility in Amazon Mechanical Turk // Proceedings of CHI 2013. 28 April – 2 May 2013.

35

Atanasoski N. and Kalindi V. Surrogate Humanity: Race, Robots, and the Politics of Technological Futures. Durham, NC: Duke University Press, 2019.

36

Бостром Н. Искусственный интеллект. Этапы. Угрозы. Стратегии. М: Манн, Иванов и Фербер, 2016.

37

Schaffer S. Babbage’s Dancer and the Impresarios of Mechanism // Cultural Babbage: Technology, Time and Invention. Francis Spufford and Jenny Uglow (eds). London: Faber & Faber, 1996; Schaffer S. Enlightened Automata // The Sciences in Enlightened Europe. William Clark, Jan Golinski, and Simon Schaffer (eds). Chicago: University of Chicago Press, 1999; Truitt E. R. Medieval Robots: Mechanism, Magic, Nature, and Art. Philadelphia: University of Pennsylvania Press, 2015; Voskuhl A. Androids in the Enlightenment: Mechanics, Artisans, and Cultures of the Self. Chicago: University of Chicago Press, 2013.

38

Schaffer S. Babbage’s Intelligence: Calculating Engines and the Factory System // Critical Inquiry 21, no. 1 (1994): 204. См. также: Geoghegan B. Orientalism and Informatics: The Alterity in Artificial Intelligence, from the Chess-Playing Turk to Amazon’s Mechanical Turk // Ex-Position 43 (June 2020): 45–90.

39

См., например: Nilsson N. The Quest for Artificial Intelligence: A History of Ideas and Achievements. Cambridge: Cambridge University Press, 2010.

40

Пример корпоративной повестки см.: Домингос П. Верховный алгоритм: как машинное обучение изменит наш мир. М.: Манн, Иванов и Фербер, 2016.

41

Об идее автономных технологий см. классический труд: Winner L. Autonomous Technology: Technics-Out-of-Control as a Theme in Political Thought. Cambridge, MA: MIT Press, 1977.

42

О’Нил К. Убийственные большие данные: как математика превратилась в оружие массового поражения. М: АСТ, 2018; Noble S. U. Algorithms of Oppression: How Search Engines Reinforce Racism. New York: New York University Press, 2018; Benjamin R. Race after Technology: Abolitionist Tools for the New Jim Code. Cambridge: Polity, 2019; Wendy Hui Kyong Chun. Discriminating Data: Correlation, Neighborhoods, and the New Politics of Recognition. Cambridge, MA: MIT Press, 2021. Исследования в области ИИ в ходе развития сталкиваются с внутренними проблемами. Как отмечает Ярден Кац, порой «критически настроенные эксперты по ИИ используют свою позицию для укрепления белого господства с прогрессивным лицом… прибегая к языку, заимствованному у радикальных социальных движений» (см.: Katz Y. Artificial Whiteness. New York: Columbia University Press, 2020. P. 128).

43

Систематический обзор критических исследований ИИ см.: University of Cambridge, Department of History and Philosophy of Science. Mellon Sawyer Seminar. Histories of AI: A Genealogy of Power. May 2020 – July 2021. URL: www.ai.hps.cam.ac.uk.

44

См.: Hadden R. On the Shoulders of Merchants: Exchange and the Mathematical Conception of Nature in Early Modern Europe. Albany, NY: State University of New York Press, 1994. См. также: Erickson P. et al. How Reason Almost Lost Its Mind: The Strange Career of Cold War Rationality. Chicago: University of Chicago Press, 2013.

45

О «военных априори» в истории вычислений см.: Winthrop-Young G. Drill and Distraction in the Yellow Submarine: On the Dominance of War in Friedrich Kittler’s Media Theory // Critical Inquiry 28, no. 4 (2002): 825–854.

46

См.: Erickson P. et al. How Reason Almost Lost Its Mind: The Strange Career of Cold War Rationality. Chicago: University of Chicago Press, 2013.

47

Agar J. The Government Machine: A Revolutionary History of the Computer. Cambridge, MA: MIT Press, 2003. См.: Wiggins Ch. and Jones M. L. How Data Happened: A History from the Age of Reason to the Age of Algorithms. New York: W. W. Norton, 2023.

48

См.: Katz Y. Manufacturing an Artificial Intelligence Revolution // SSRN Electronic Journal (November 2017).

49

Цитата из эссе «Формирование интеллигенции» из «Тюремных тетрадей» Грамши. – Прим. ред.

50

Критику социального конструктивизма см.: Winner L. Upon Opening the Black Box and Finding It Empty: Social Constructivism and the Philosophy of Technology // Science, Technology, and Human Values 18, no. 3 (1993): 362–378. Обзор исторической эпистемологии см.: Renn J. The Evolution of Knowledge: Rethinking Science for the Anthropocene, Princeton, NJ: Princeton University Press, 2020; Omodeo P. D. Political Epistemology: The Problem of Ideology in Science Studies. Berlin: Springer, 2019; Schmidgen H. History of Science // The Routledge Companion to Literature and Science. Bruce Clarke and Manuela Rossini (eds). London: Routledge, 2011.

51

О понятии числа см. главу 1. О механическом мышлении см.: Damerow P. et al. Exploring the Limits of Preclassical Mechanics: A Study of Conceptual Development in Early Modern Science. 2nd ed. New York: Springer, 2004; Schemmel M. Historical Epistemology of Space: From Primate Cognition to Spacetime Physics. New York: Springer, 2015.

52

Rose H. and Rose St. (eds). The Radicalisation of Science. London: Macmillan, 1976; Harding S. The Science Question in Feminism. Ithaca, NY: Cornell University Press, 1986; Keller E. F. Reflections on Gender and Science. New Haven, CT: Yale University Press, 1985; Federici S. Caliban and the Witch: Women, the Body, and Primitive Accumulation. New York: Autonomedia, 2004.

53

См. главу 5. О новом подходе к исследованию рабочих см.: Woodcock J. Towards a Digital Workerism: Workers’ Inquiry, Methods, and Technologies // Nanoethics 15 (2021): 87–98.

54

Имеется в виду название книги в оригинале (The Eye of the Master). Напомню, что «хозяйский глаз» – выражение Фридриха Энгельса. – Прим. пер.