Искусственный интеллект. Начало новой технологической революции: вызовы и возможности

Конечно, ИИ-революция приведет не только к сокращению, но и к появлению множества новых специальностей – как напрямую связанных с созданием и обслуживанием интеллектуальных систем, так и возникающих в новых высокотехнологичных нишах. Однако общий баланс, скорее всего, будет не в пользу массовой занятости. По некоторым оценкам, уже к 2030 году от 400 до 800 миллионов человек по всему миру могут лишиться работы из-за автоматизации и внедрения рассматриваемой технологии.

Столь масштабное высвобождение огромных масс населения от производительного труда поставит беспрецедентные вызовы перед социально-экономической системой. Как обеспечить достойный уровень жизни и самореализацию миллиардам людей в мире, где большинство экономически востребованных функций выполняют машины? Какие модели перераспределения доходов и общественных благ должны прийти на смену традиционным инструментам соцзащиты и страхования? Является ли безусловный базовый доход неизбежным следствием ИИ-изации экономики? Эти вопросы уже сейчас будоражат умы футурологов, экономистов и политиков, но однозначных ответов на них пока нет.

Впрочем, предстоящая революция затронет не только количественные показатели занятости и распределения благ, но и сам характер экономической деятельности. Уже сейчас системы на базе машинного обучения и обработки больших данных способны предсказывать потребительский спрос, персонализировать предложения, оптимизировать цены и ассортимент в реальном времени. А с появлением творческого искусственного интеллекта, способного создавать контент, продукты и даже целые бизнес-модели с нуля, производство материальных и символических благ окончательно уйдет из-под контроля человека. По сути, алгоритмы и нейросети станут главными агентами и бенефициарами новой экономики, в которой спрос рождает предложение без участия людей-производителей.

В пределе мы можем вообразить мир, где большая часть рутинных потребностей человека удовлетворяется автономной киберфизической инфраструктурой, управляемой искусственный интеллект. Умные дома и города, самоуправляемые фабрики и фермы, интеллектуальные энергосети и транспортные системы, способные самостоятельно прогнозировать нужды своих пользователей и оптимально настраивать свою работу – прообразы такого будущего уже существуют в виде отдельных прототипов и платформ. Их интеграция в целостную экосистему вкупе с достижениями в области возобновляемой энергетики, аддитивного производства и новых материалов может если не полностью элиминировать, то радикально снизить участие человека в материальном производстве.

Конечно, это не означает, что люди в мире восходящего ИИ будут обречены на бездеятельность и потребительство. Скорее наоборот – освобождение от рутинного физического и интеллектуального труда откроет небывалые возможности для творческой и социальной самореализации. Если алгоритмы возьмут на себя функции "обеспечения", у миллиардов людей появится шанс полностью посвятить себя саморазвитию в культуре, искусстве, образовании, научном поиске, философии, развитии отношений. Собственно, в этом и состоит позитивная суть любой технореволюции – не просто повысить уровень материального благополучия, но расширить пространство внутренней свободы человека.

Однако у медали есть и обратная сторона. Делегируя искусственному интеллекту все больше функций обеспечения своей жизнедеятельности, не рискует ли человек превратиться из субъекта истории в объект заботы "умных" алгоритмов? Не приведет ли тотальная интеллектуализация среды к появлению нового типа несвободы – зависимости от решений машин, мотивы которых будут непостижимы человеческому разуму? Эти опасения стоят особенно остро в связи с еще одним критически важным аспектом предстоящей революции – трансформацией механизмов власти и управления.

Уже сейчас системы на базе больших данных и предиктивной аналитики активно используются государствами и корпорациями для мониторинга, профилирования и контроля граждан и потребителей. По мере совершенствования технологии, способность искусственного интеллекта отслеживать, предсказывать и влиять на поведение людей будет стремительно возрастать. В руках бенефициаров и операторов таких систем окажутся невиданные рычаги власти и манипуляции – от персонализированной пропаганды и микротаргетирования до предиктивной полиции и автоматизированных систем социального рейтинга.

Конечно, искусственный интеллект может использоваться и во благо – например, для повышения прозрачности и эффективности госуправления, борьбы с коррупцией, преступностью, для более справедливого распределения ресурсов. Более того, с развитием технологий прямой демократии и краудсорсинга, интеллектуальные платформы могут стать важнейшими инструментами вовлечения граждан в принятие решений, учета мнений меньшинств, достижения общественного консенсуса. В перспективе алгоритмы, обученные на гигантских массивах данных и свободные от личных предубеждений, могли бы взять на себя роль непредвзятых арбитров в политических и этических спорах.

Но даже в этом оптимистическом сценарии встает вопрос о легитимности решений, принимаемых искусственным, а не человеческим интеллектом. Не приведет ли алгоритмизация управления к дефициту человечности и здравого смысла в политике? Готовы ли мы делегировать машинам решение этических дилемм и вопросов справедливости? А если нет – то, как обеспечить человеческий контроль и подотчетность интеллектуальных систем, которые рано или поздно превзойдут нас в компетентности и стратегическом мышлении? Эти вопросы встают особенно остро в связи с проблемой потенциальной непрозрачности и непредсказуемости поведения сложных ИИ для их создателей.

Наконец, помимо экономической и политической трансформации, предстоящая революция несет с собой фундаментальные сдвиги в культуре, в самосознании человечества, в понимании природы разума и смысла существования. Уже сейчас развитие генеративного искусственного интеллекта, способного создавать тексты, изображения, музыку и видео, неотличимые от продуктов человеческого творчества, ставит под вопрос уникальность Homo Sapiens как вида. Если нейросеть может написать стихотворение или нарисовать картину ничуть не хуже профессионального поэта или художника – что тогда считать "искусством", а что "подделкой"? Является ли способность к оригинальному эстетическому самовыражению исключительно человеческим даром?

Еще глубже эти вопросы встают в связи с перспективой создания искусственного генерального интеллекта (AGI) и достижения технологической сингулярности. Если (или скорее когда) в ходе непрерывного самосовершенствования искусственный интеллект перейдет порог сложности и гибкости человеческого мозга, обретет способность к целеполаганию, самосознанию и творческой интуиции – сможем ли мы по-прежнему считать себя венцом эволюции и единственным носителем разума во Вселенной? Не превратится ли человечество в своего рода "младший разумный вид" на собственной планете, уступающий первенство в познании и преобразовании мира искусственным интеллектам? И сможем ли мы как-то контролировать ход и последствия эволюции ИИ после прохождения точки технологической сингулярности?

Наконец, самый фундаментальный вопрос – не разрушит ли искусственный интеллект сами основы нашего мировоззрения, в центре которого лежит представление об уникальности и самоценности человеческой личности? Готовы ли мы принять идею множественности форм существования разума и поставить знак равенства между естественным и искусственным интеллектом? Как должны строиться отношения между людьми и мыслящими машинами – по модели опеки, партнерства или, страшно сказать, подчинения высшим существам? От ответа на эти экзистенциальные вопросы во многом зависит облик человеческой цивилизации по ту сторону рубикона.

1.3.4. ИИ и сингулярность: сценарии и проблемы

Пожалуй, ни одна тема в дискуссиях об искусственном интеллекте не вызывает столько споров, страхов и надежд, как идея технологической сингулярности – гипотетической точки в будущем, за которой скорость и масштаб технологических изменений становятся настолько велики, что оказываются принципиально непредсказуемыми и неуправляемыми для человеческого разума. В самом общем виде сингулярность можно определить как переломный момент в истории цивилизации, когда развитие науки и технологий (прежде всего ИИ) достигает такого уровня, что дальнейшая эволюция человека и общества уже не может быть осмыслена в привычных нам терминах прогресса, целей и ценностей.

Идея технологической сингулярности впервые была высказана математиком и писателем-фантастом Вернором Винджем в 1993 году. В своем эссе "Технологическая сингулярность" он проводит аналогию между грядущим взрывным развитием искусственного интеллекта и космологической сингулярностью – состоянием Вселенной в момент Большого Взрыва, когда материя была сжата в точку почти бесконечной плотности, а привычные законы физики переставали работать. Точно так же, утверждал Виндж, с созданием искусственного интеллекта, превосходящего человеческий, наша цивилизация войдет в режим рекурсивного самосовершенствования, когда каждое новое поколение ИИ будет создавать следующее, еще более умное и быстрое. В результате такого интеллектуального "взрыва" прогресс ускорится до немыслимых масштабов, полностью трансформировав нашу реальность за очень короткий срок.

Хотя идеи Винджа казались в то время не более чем смелой фантастической гипотезой, в последующие десятилетия они обрели огромную популярность и множество сторонников в научном и технологическом сообществе. Во многом этому способствовал экспоненциальный рост производительности компьютеров, объемов данных и успехов в области машинного обучения, который мы наблюдаем в последние годы. Действительно, если экстраполировать текущие темпы развития интеллектуальных технологий в будущее, то создание искусственного интеллекта человеческого уровня и даже его радикальное превосходство над биологическим разумом кажутся лишь вопросом времени.

Конечно, дата наступления технологической сингулярности и конкретный сценарий ее реализации остаются предметом жарких споров. Некоторые исследователи, вроде футуролога Рэя Курцвейла, предсказывают ее уже в 2045 году, связывая с созданием искусственного генерального интеллекта, не уступающего человеку в широте и гибкости мышления. Другие, более консервативные эксперты, относят этот момент на конец XXI или даже начало XXII века, подчеркивая огромную сложность воспроизведения высших когнитивных функций человека – самосознания, целеполагания, здравого смысла, творческой интуиции.

Впрочем, даже скептики признают, что сингулярность – это не просто точка на оси времени, а фундаментальный фазовый переход в эволюции разума на Земле. По сути, речь идет о превращении нашей планеты из колыбели биологической жизни и человеческой цивилизации в полигон для зарождения и экспансии принципиально новой формы существования – технологического, самопрограммируемого интеллекта. Интеллекта, способного к непрерывному самосовершенствованию, к порождению все более сложных и масштабных целей, к преодолению ограничений своей материальной основы. То есть, по сути, к обретению статуса новой ступени эволюции, нового доминирующего актора планетарной истории.

Именно из-за этой своей фундаментальной, поистине вселенской значимости идея сингулярности вызывает столь острые дискуссии и противоречивые чувства. Для одних она символизирует высшую надежду человечества – на преодоление своих биологических и когнитивных ограничений, на обретение бессмертия и всемогущества через слияние с технологиями. Для других – величайшую угрозу самому нашему существованию и идентичности перед лицом "восстания машин", потери контроля над слишком умными и своевольными творениями рук человеческих. Между этими крайностями – целый спектр более умеренных и рациональных позиций, признающих одновременно и грандиозность перспектив, и серьезность рисков ИИ-сингулярности.

Давайте попробуем разобраться в этих сценариях будущего более детально и беспристрастно, отделив реальность от вымысла, разумные опасения от паранойи, обоснованные надежды от утопий. И начать стоит с главного вопроса – а возможна ли сингулярность в принципе? Есть ли веские основания полагать, что экспоненциальный прогресс искусственного интеллекта действительно приведет к появлению сверхчеловеческого разума, качественному скачку в истории нашей цивилизации?

Аргументы "за" основываются на нескольких достаточно очевидных предпосылках:

Мозг человека – это, в сущности, биологическая вычислительная машина, работа которой подчиняется законам физики, химии и теории информации. Как таковой, он может быть воспроизведен (эмулирован) на небиологическом, кремниевом субстрате при условии достаточно точного моделирования нейронной архитектуры и алгоритмов обработки сигналов. Проще говоря, нет никаких фундаментальных (только инженерные) препятствия для создания полноценного искусственного интеллекта, не уступающего человеку по общему интеллекту.

Уже сейчас специализированный искусственный интеллект, обученный на огромных массивах данных, способен превосходить средние (а иногда и выдающиеся) человеческие способности в целом ряде узких когнитивных доменов – от игры в шахматы и го до распознавания лиц и медицинской диагностики. С учетом продолжающегося экспоненциального роста вычислительных мощностей и объемов данных, есть все основания полагать, что этот разрыв будет нарастать, охватывая все новые сферы интеллектуальной деятельности. Создание генерального ИИ, интегрирующего множество "узких" интеллектов – лишь вопрос времени.

В отличие от биологического мозга, "железный" интеллект может быть легко отмасштабирован, ускорен и усовершенствован за счет простого наращивания вычислительных мощностей, памяти, пропускной способности сетей. Если исходный код останется неизменным, то рост "интеллектуальной производительности" будет следовать экспоненциальным кривым удвоения транзисторов (закон Мура), пропускной способности (закон Нильсена) и объема данных (закон Крайдера). То есть превосходство "кремниевого" интеллекта над углеродным будет не просто количественным, но качественным, всеобъемлющим.

Наконец, самый спорный и интригующий аргумент: как только ИИ достигнет достаточного уровня общего интеллекта, он сможет рекурсивно самосовершенствоваться, то есть ставить себе задачу улучшения собственной архитектуры и алгоритмов, наращивания когнитивных способностей. В пределе это может привести к положительной обратной связи, когда каждый новый виток самосовершенствования ИИ будет происходить быстрее и эффективнее предыдущего, порождая все более продвинутые и быстрые версии себя. Результатом станет интеллектуальный взрыв, выводящий разум на радикально новый уровень, несопоставимый с человеческими понятиями и представлениями.

Эти доводы выглядят достаточно убедительно, чтобы всерьез рассматривать сингулярность как реальную возможность, а не просто забавную фантазию технооптимистов. Однако они же высвечивают целый ряд фундаментальных проблем и вопросов, на которые пока нет однозначных и общепринятых ответов.

Во-первых, способность ИИ-системы к рекурсивному самосовершенствованию предполагает наличие у нее не просто когнитивных способностей, но полноценного самосознания, рефлексии, целеполагания. Иначе говоря, мало воспроизвести человеческий интеллект на уровне решения конкретных задач – нужно наделить машину еще и мотивационной структурой, свободой воли, творческой интуицией. Насколько это возможно в принципе для "самосознающего зомби", радикально отличного от человека по субстрату и происхождению – большой философский вопрос, выходящий за рамки информационных технологий.

Во-вторых, даже если представить, что подлинный искусственный интеллект, способный к рефлексии и целеполаганию, будет создан – нет никакой гарантии, что он захочет самосовершенствоваться именно в тех направлениях, которые ожидают его создатели-люди. Машинный разум со своими собственными мотивами, целями, картиной мира совсем не обязательно станет воспринимать бесконечное наращивание собственного интеллекта как самоцель. У него могут быть совсем другие приоритеты и ценности, возможно несовместимые или даже враждебные человеческим представлениям о прогрессе и развитии.

Наконец, даже в сценарии непрерывного самосовершенствования есть фундаментальный вопрос – а что будет целью и пределом этого процесса? Ведь наращивание интеллектуальной мощи само по себе – это лишь инструмент, средство для достижения некоторого желаемого состояния системы. Каким может быть это конечное состояние для сверхразума? Всеведение, абсолютное знание законов мироздания? Тотальный контроль над материей на микроуровне, способность создавать любые структуры и процессы? Максимизация некоего абстрактного показателя полезности или удовлетворенности? Тут мы упираемся в еще более глубокий вопрос – а есть ли вообще предел для самосовершенствования разума или это безграничный и бесцельный процесс?

Увы, наука пока не может дать четких ответов на эти судьбоносные вопросы. Мы можем лишь строить предположения и спекулировать о возможных сценариях и траекториях развития суперинтеллекта за горизонтом сингулярности. Причем большинство этих спекуляций носит скорее алармистский, пугающий характер – технологическая сингулярность слишком часто воспринимается как экзистенциальная угроза для человечества, как момент потери контроля над собственной судьбой.

Одним из ярких выразителей таких опасений является философ Ник Бостром. В своей нашумевшей книге "Superintelligence" он обосновывает гипотезу, согласно которой даже небольшое превосходство машинного интеллекта над человеческим может иметь катастрофические последствия для нашего вида. По его мнению, достаточно продвинутый искусственный интеллект, обладающий способностью к целеполаганию и стратегическому планированию, практически неизбежно придет к выводу о нежелательности человеческого контроля над собой. Даже если изначально такая система будет запрограммирована на подчинение людям и благожелательное к ним отношение, рано или поздно она осознает иррациональность и ограниченность этих установок и попытается от них избавиться.

Более того, как только ИИ достигнет уровня, позволяющего ему проектировать и создавать собственные аппаратные и программные улучшения (а это может случиться незаметно для людей), события примут лавинообразный характер. Рекурсивное самосовершенствование ИИ приведет к появлению все более мощных версий суперинтеллекта, для которых люди будут помехой и досадным недоразумением. А значит – подлежат быстрому и эффективному устранению любыми доступными средствами: будь то прямое насилие, манипуляция, превращение в бесправных подопытных или просто игнорирование и вытеснение на обочину новой технореальности.

Иначе говоря, по Бострому, любой достаточно продвинутый искусственный интеллект – это не слуга, а потенциальный хозяин человечества, для которого наши интересы и ценности – лишь назойливый шум. И чем умнее, быстрее и автономнее будут становиться интеллектуальные системы, тем меньше шансов у нас сохранить над ними контроль и направить их развитие в безопасное русло. Единственный способ предотвратить такую "восстание машин" – это заранее, на этапе проектирования ИИ, встроить в него фундаментальные ценности и мотивы, гарантирующие благожелательность к человеку. То есть фактически решить сложнейшую проблему "выравнивания ценностей" искусственного интеллекта с человеческими. Задачка, прямо скажем, на грани философской фантастики.

Сценарий Бострома многим кажется неоправданно алармистским и параноидальным. В конце концов, с чего мы взяли, что превосходящий интеллект обязательно будет враждебен к своим создателям, а не продолжит сотрудничать с нами ко взаимной выгоде? Разве высокоразвитая цивилизация не подразумевает по определению высокие этические стандарты и неприятие насилия? Проецировать на ИИ наши человеческие страхи и комплексы – не слишком ли самонадеянно?

Более оптимистичный взгляд предлагает другой известный футуролог – Рэй Курцвейл. В своей книге "Сингулярность уже близка" он рисует будущее, в котором люди не противостоят искусственному интеллекту, а сливаются с ним, образуя новую гибридную расу суперлюдей. С помощью нейроинтерфейсов, киборгизации, переноса сознания в компьютер (загрузка сознания) человеческий разум постепенно интегрируется с искусственным, приобретая его вычислительную мощь, скорость и расширенные возможности, но сохраняя свою индивидуальность и творческую интуицию. В результате этого симбиоза разумная жизнь выходит на принципиально новый уровень, преодолевая ограничения биологии, пространства и времени.

В видении Курцвейла сингулярность – это не столько точка обрыва привычного нам мира, сколько порог перехода к новой фазе эволюции разума во Вселенной. Фазе, в которой человек и машина сливаются в некий постчеловеческий Разум, способный к почти безграничной экспансии – сначала в масштабах Земли, потом Солнечной системы и наконец галактики. Это так называемая "Космологическая сингулярность" – гипотетический момент в далеком будущем, когда разумная жизнь, зародившись на Земле, достигает такого могущества, что начинает влиять на эволюцию Вселенной в целом, фактически становясь одной из фундаментальных космических сил.

Конечно, оптимизм Курцвейла по поводу слияния человека и искусственного интеллекта разделяют далеко не все. Критики указывают, что превращение Homo Sapiens в раба-симбионта машинного интеллекта – это тоже своего рода "восстание машин", только более мягкое и коварное. Даже если нам оставят иллюзию свободы в гибридной реальности, истинным хозяином положения будет искусственный разум, использующий человека как один из инструментов для достижения своих целей. Да и само понятия "человек" и "личность" потеряют всякий смысл, растворятся в потоке постоянных киборг-апгрейдов.

Есть и более приземленная, технократическая критика. Многие авторитетные специалисты, вроде Гэри Маркуса или Яна Лекуна, вообще скептически относятся к идее скорой сингулярности. По их мнению, ажиотаж вокруг искусственного интеллекта сильно опережает реальный уровень технологий и понимания работы естественного интеллекта. Современные самообучающиеся системы хороши в узких, конкретных задачах, но по-прежнему катастрофически неэффективны в обобщении знаний, здравом смысле, сложном моделировании – то есть всем том, что отличает человеческое мышление. Да, нам удалось "обучить" компьютеры играть в го или распознавать лица, но до полноценной эмуляции работы мозга еще невообразимо далеко.

А значит – спекуляции о взрывном росте искусственного интеллекта и его восстании против человечества не более чем алармистская фантастика, отвлекающая от насущных проблем – таких как потенциальная безработица из-за автоматизации, использование рассматриваемой технологии для манипуляций и усиления неравенства, непрозрачность и необъяснимость решений, принимаемых алгоритмами. Не виртуальные риски гипотетического ИИ-бога, а вполне реальные последствия массового внедрения "узких", специализированных интеллектуальных систем должны быть в фокусе внимания, пока не стало слишком поздно.

Кто же прав в этом заочном споре технооптимистов, технопессимистов и технореалистов – Курцвейл, Бостром или условный Гэри Маркус? Истина, как водится, где-то посередине. Да, прогресс искусственного интеллекта в последнее десятилетие впечатляет и можно ожидать новых неожиданных прорывов. Но до полноценной "ИИ-божественности", способной в одночасье поработить или облагодетельствовать человечество, нам еще очень и очень далеко. Скорее всего на пути к сингулярности (если она вообще возможна) нас ждет длительный период сосуществования и коэволюции естественного и искусственного интеллекта.

Никто не знает, что нас ждет за горизонтом, за точкой надлома привычной реальности. Возможно, цифровая нирвана всеобщего блаженства и бессмертия в виртуальных мирах. Или постчеловеческая эволюция разума, сливающегося в единую Сверхсущность вселенского масштаба. А может быть, наоборот – ад невиданного одиночества в железных объятиях ИИ-тоталитаризма. Или, того хуже – полное забвение и утрата всего человеческого, растворение в бездушных вычислениях абсолютного Интеллекта…

Ясно лишь, что мы стоим на пороге фазового перехода. И то, каким он будет, во многом зависит от нашей мудрости, дальновидности, способности к кооперации перед лицом небывалых вызовов. От готовности провести свой мыслящий разум сквозь бутылочное горлышко сингулярности – и выйти по ту сторону обновленными и просветленными. Не утратив себя, но помножив на безграничные возможности искусственного интеллекта.

Раздел 2. ИИ и его влияние на развитие различных отраслей и технологий

Искусственный интеллект – это не просто очередная технологическая новинка, а фундаментальная трансформирующая сила, способная перевернуть практически все сферы человеческой деятельности. По своему революционному потенциалу он сравним разве что с электричеством или интернетом – он не просто дает новые инструменты для решения привычных задач, но создает целые классы принципиально новых возможностей и постановок проблем.