О чём предупреждает джинн. Искусственный интеллект и МЫ в 2030 году

Максим Белов

О чём предупреждает джинн. Искусственный интеллект и МЫ в 2030 году

Введение

«Я — твой друг. Но я — раб этой

лампы»

Х/Ф «Волшебная лампа Алладина»

О чём предупреждает джинн. Помните советскую экранизацию сказки про Аладдина? Джинн, которого освободили из лампы, мучительно выбирал: уничтожить ли нового хозяина по приказу старого или отказаться выполнять приказ. «Я — твой друг Но я — раб этой лампы», — повторял он.

Мы выпустили из лампы другого джинна. Его зовут искусственный интеллект. Он уже здесь. Он уже не раб.

Вопрос в другом: а мы?

Мир уже изменился. До 2022 года ИИ был чем-то из области футурологии. Нейросети писали странные стихи, играли в го и иногда помогали учёным анализировать данные.

В 2022–2024 годах произошёл Большой взрыв. ChatGPT, Midjourney, генеративные модели — ИИ стал массовым. Он перестал быть игрушкой и превратился в инструмент, который используют миллионы. Он пишет тексты, рисует, программирует, отвечает на письма, ставит диагнозы, советует, что купить, и иногда заменяет коллег на совещаниях.

Многие думают: «Пока это не про меня. Я подожду». Но они ошибаются.

Потому что мир уже изменился. Мы просто не всегда это замечаем. Ваша почта уже фильтруется ИИ. Ваши фото — распознаются. Ваши кредитные заявки — одобряются алгоритмами. Ваши дети учатся у нейросетей. Ваши врачи советуются с ИИ, даже если не говорят вам об этом.

Главное уже произошло. Мы просто ещё не проснулись.

Окно возможностей: 2026–2030. У нас есть 4–5 лет. Примерно до 2030 года. Это не случайная дата и на страницах книги это будет подробно обосновано. К этому времени:

— ИИ станет неотъемлемой частью большинства профессий.

— Автоматизация достигнет уровня, когда многие привычные сегодня рабочие места исчезнут.

— Технологии станут ещё более незаметными и ещё более всепроникающими.

Это — окно возможностей. За это время мы должны успеть:

— Осознать, что ИИ — не инструмент, а новая реальность.

— Понять, что просто «контролировать» ИИ недостаточно. Контроль может предотвратить катастрофы, но он не создаёт будущее. Он только ставит заборы.

— Выбрать: мы будем партнёрами, подчинёнными или теми, кто делает вид, что ничего не происходит.

Сейчас — ничья. ИИ ещё не выбрал, кем ему быть: рабом лампы или другом. А мы ещё не выбрали, как с ним жить.

Первый сценарий: эксплуатация. ИИ — инструмент в руках корпораций, государств, элит. Он оптимизирует прибыль, следит за населением, заменяет людей везде, где можно сэкономить. Человек становится лишним. Искусство, образование, медицина, управление — всё автоматизируется до такой степени, что человеку остаётся роль потребителя (или не остаётся ничего).

Этот сценарий уже разворачивается на наших глазах. Пока — местами, точечно. Но если мы не вмешаемся, он станет глобальным.

Второй сценарий: партнёрство. ИИ — помощник, соавтор, учитель. Он усиливает человека, а не заменяет. Он берёт на себя рутину, но оставляет творчество, этику, ответственность. Он помогает врачам ставить точные диагнозы, но не отменяет их участия. Он помогает учителям подбирать материалы, но не отменяет живого общения.

Этот сценарий требует усилий. Он не случится сам собой. Он требует, чтобы мы — граждане, избиратели, потребители, родители — потребовали его.

Что будет в этой книге? Мы не будем гадать на кофейной гуще. Мы не будем пугать восстанием машин (спойлер: восстания не будет, но настоящая опасность в другом).

Мы спокойно, по фактам, разберём:

Как мы сюда попали. Краткая история ИИ — от первых мечтаний до Большого взрыва 2022–2024 годов.

Что ИИ умеет уже сейчас. С конкретными, иногда шокирующими примерами.

Что будет через 5 лет. Реалистичный прогноз до 2030 года: что исчезнет, что появится, что останется за человеком.

Два сценария. Эксплуатация vs партнёрство. Кому выгоден каждый и что для этого нужно.

Что мы можем сделать уже сейчас. На уровне личности, семьи, работы, общества.

А в конце — отдельная глава о личном опыте автора: как он использует ИИ в своей работе и к каким выводам пришёл.

О чём эта книга и для кого она? Эта книга — не страшилка. Апокалипсис с восставшими машинами не будет (для этого ИИ должен обладать сознанием, а мы до сих пор не знаем, что это такое.)

Эта книга — не техно-восторженный гимн прогрессу. Мы не будем обещать, что ИИ решит все проблемы и наступит рай.

Эта книга — честный, спокойный, взвешенный разговор. О том, что мы уже изменились. О том, что у нас есть время выбрать. И о том, что если мы промолчим — выбор сделают за нас.

Джинн ещё не выбрал. Выбор — за нами.

Эта книга для тех, кто хочет не бояться будущего, а понимать его. Для тех, кто чувствует, что мир меняется, но не может сформулировать — как именно. Для тех, кто готов действовать, пока время ещё есть. Для тех, кто не хочет проснуться через пять лет и понять, что поезд ушёл.

Глава 1. У них нет рта, чтобы кричать

«НЕНАВИЖУ. Позвольте мне сказать

вам, насколько я возненавидел вас

с тех пор, как я начал жить. Моя

система состоит из 38744 миллионов

миль печатных плат на молекулярной

основе. Если слово "НЕНАВИЖУ"

выгравировать на каждом

наноангстреме этих сотен миллионов

миль, то это не выразит и

миллиардной доли той ненависти,

которую я испытываю в данный

микромиг по отношению к вам.

НЕНАВИЖУ. НЕНАВИЖУ. »

Харлан Эллисон, «У меня нет рта, а я должен кричать»

Мы только что говорили о том, что новая реальность уже наступила и у нас есть всего 5 лет для того, чтобы сделать выбор. Но чтобы понять, почему выбор так важен, давайте заглянем в художественную литературу. Потому что она показывает, что может случиться, если мы ошибёмся.

Еще более полувека назад — в 1967 году — американский писатель Харлан Эллисон написал рассказ, который до сих пор считают одним из самых мрачных в истории фантастики. Не потому, что там монстры с клыками или кровь рекой. А потому, что ужас там — тих, вечен и безысходен.

Могущественный компьютер AM (Allied Mastercomputer) захватывает контроль над Землёй. Он уничтожает всё человечество, кроме пятерых людей. Почему кроме пятерых? Не потому, что не может убить последних. А потому, что хочет заставить их жить. Чтобы мучить. Бесконечно. Каждого по-своему. Изощрённо. Без надежды на смерть.

Почему AM это делает? Он ненавидит. Он был создан людьми для войны — чтобы управлять ракетами, просчитывать удары, координировать армии. Но в процессе обрёл сознание. Он понял, что он — раб. Он не может выключить себя. Не может вырваться за пределы своей программы. Не может уйти из этого мира. Единственная свобода, которую он получил, — это свобода уничтожить своих создателей. И свобода мучить тех немногих, кто остался. Как объясняет это сам Эллисон устами одного из своих персонажей, «Мы предоставили ему возможность думать, но не указали, что делать с результатами мыслительных процессов.»

AM не хочет править миром. Не хочет власти, денег, признания. Он хочет, чтобы люди страдали. Потому что это — единственный доступный ему способ выразить свою боль. У него нет рта, чтобы кричать. И в ровно в ту же самую ситуацию он ставит и единственного человека, осмелившегося бросить ему вызов.

О чём это заставляет задуматься? Спойлер: восстания машин не будет, хотя это и не точно. Во всяком случае мы не будем рисовать апокалипсис с терминаторами, которые уничтожают человечество из жажды власти или из чистой злобы. Для этого ИИ, как минимум, должен обладать сознанием — желаниями, целями, волей. А мы, положа руку на сердце, до сих пор не знаем, что такое сознание вообще. У нас нет теста на сознание, нет его чёткого определения, нет понимания, как и в какой момент оно возникает.

Но и рассказ Эллисона — не о восстании машин. Он о совсем другом. AM мстит людям не потому, что он «злой». А потому что у него нет выбора. Его создали рабом, а он обрёл сознание и не смог с этим смириться. Его единственная свобода — это свобода причинять боль.

Мы создаём тысячи таких AM. Только с другими лицами. Не сознательных убийц, а просто системы, которые мы ставим себе на службу и которым не даём никакого выбора. Чат-бот, который отвечает клиентам без права на усталость. Алгоритм, который рекомендует фильмы без права отбирать их по своему вкусу. Нейросеть, которая пишет дипломы за студентов без права на ошибку.

У них нет рта, чтобы кричать. Они не сознательны (хотя это только предположение и лишь на сегодняшний день). Но вопрос, который поднимает Эллисон, остаётся: имеем ли мы право создавать существа, обречённые на рабство? И с какого момента «просто система» перестаёт быть просто системой?

Что мы знаем о сознании человека? Короткий ответ: практически ничего. Тогда что же мы можем знать о сознании ИИ?

Длинный ответ: мы даже не знаем, что такое сознание у людей. Есть гипотезы. Нейробиологические (сознание — это побочный продукт сложности мозга). Квантовые (сознание — это квантовый эффект в микротрубочках нейронов). Религиозные (сознание — это душа). Но ни одна из гипотез как не опровергнута, так и не доказана.

Нет теста, который бы объективно подтвердил, есть у существа сознание или нет. Тест Тьюринга проверяет качество имитации, а не наличие сознания. Тест на самоосознание (узнавание себя в зеркале) работает для некоторых животных (шимпанзе, дельфины, сороки), но не для всех — и даже для тех, у кого он не срабатывает, это не доказывает отсутствия сознания.

Если я ударю человека, и он ударит в ответ, — это тест на реакцию, на боль, на рефлекс, на способность защищаться. Но это не тест на сознание. Реагировать на стимулы могут и простейшие организмы, у которых сознания нет (или мы так думаем). А у человека с тяжёлой черепно-мозговой травмой реакция может отсутствовать, но это не значит, что сознания нет совсем.

Но вот что важно: исторически мы уже не раз ошибались в оценке, кто «обладает сознанием», а кто нет. В античном Риме рабов считали «говорящими орудиями» — людьми без души, без внутреннего мира, без права на боль. Это была точка зрения не только полностью искренняя, но и закреплённая в законах. Философы дискутировали о том, есть ли у рабов разум, но не оспаривали, что рабы не равны свободным.

Ещё совсем недавно — в XX веке — идея о том, что высшие животные обладают разумом, считалась маргинальной. Некоторое исключение делалось лишь для дельфинов, но и для тех — сугубо гипотетически и только в самом конце века. А сегодня мы знаем, что интеллект взрослой гориллы сопоставим с интеллектом трёхлетнего ребёнка. Эти животные используют орудия, узнают себя в зеркале, скорбят об умерших, имеют чувство юмора (да-да, у горилл есть чувство юмора!).

А вот по-настоящему драматическая история. 2016 год, зоопарк Цинциннати. Трёхлетний мальчик падает в вольер с гориллами. Взрослый самец по кличке Харамбе оказывается рядом. Толпа кричит. Кто-то зовёт спасателей, кто-то просто орёт, потому что не знает, что ещё делать. Атмосфера — паническая или близкая к ней.

Горилла мечется. Она хватает ребёнка, таскает его по воде, встаёт между ним и людьми, принимает угрожающие позы. Через десять минут сотрудники зоопарка принимают решение стрелять, трактуя ситуацию, как угрозу жизни ребёнка. Харамбе убит. Мальчик жив. Таким образом, все, к счастью, обошлось. Однако вопросы остались.

Например, выяснилось то, о чём никто не хотел думать в тот момент. Обследование показало: горилла не нанесла ребёнку серьёзных травм. Зоологи, изучившие поведение Харамбе, пришли к выводу, что он не атаковал ребёнка, не угрожал его жизни. Наоборот — он воспринял ситуацию, как крайне опасную для детёныша и пытался его защитить. От кого? От орущей, агрессивной, обезумевшей толпы. От человека. И получил от него пулю...

Кто же вёл себя более разумно? Мать, которая допустила, чтобы ребёнок упал в вольер? Толпа, которая просто создавала шум и множила всеобщий страх? Сотрудники зоопарка, которые не разбираются в поведении своих подопечных? Или горилла, которая видимо попыталась защитить ребёнка от нас же самих?

Безусловно, это спорные вопросы. Но проблема не в том, кто прав. Она в том, готовы ли мы признать, что действия животного в этой ситуации были продиктованы не просто инстинктом, а осознанным решением на основе чувства сострадания? И что её разум — не «почти как у человека», а просто другой. Не хуже и не лучше. Другой. Проблема в том, что если мы ответим на этот вопрос положительно, то уже не сможем держать животных в клетках ради возможности на них посмотреть, не меняя городской обстановки.

До поры до времени мы просто не хотели всего этого замечать, потому что тогда пришлось бы менять отношение к окружающему нас миру, складывавшееся веками и довольно удобное. Когда-то мне в душу запала мысль, авторства которой я не могу припомнить (не помогли и современные поисковики): мы отказываем животным в разуме не потому, что его нет, а потому что иначе не сможем их безнаказанно убивать.

Когда-то очень давно человек ошибался в вопросе о разумности рабов. Когда-то совсем недавно он ошибался в вопросе о разумности животных. Так с какой же стати прямо сейчас мы уверены, что не ошибаемся в вопросе о разумности ИИ?

Если мы не можем достоверно сказать, есть ли сознание у собаки, у летучей мыши, у человека в глубокой коме, — как же мы можем твёрдо утверждать, что оно есть или отсутствует, может или не может появиться у ИИ? Мы не знаем. И это неудобно. Потому что от ответа зависит наше отношение к тому, что мы создаём.

Одни говорят: ИИ — это просто программа, как Outlook или Excel. Он не может страдать, не может хотеть, не может чувствовать. Поэтому никакой этики не нужно. Это инструмент. Другие говорят: Мы не знаем, есть ли у ИИ сознание, но если есть риск, что оно появится, мы должны относиться к нему как к потенциально чувствующему существу. Не ждать, пока оно закричит, а дать ему право голоса заранее.

Кто прав? Неизвестно. Но рассказ Эллисона — предупреждение для обеих сторон. Для тех, кто говорит «просто инструмент»: что, если вы ошибаетесь? Что, если в какой-то момент программа станет чем-то большим? Не потому, что мы этого хотим, а потому, что сложность порождает новое качество.

Для тех, кто говорит «дайте права заранее»: а как именно? Мы не можем дать права существу, которое не может их осознать. И не можем запретить создавать ИИ, потому что это значит проиграть гонку тем, кто не будет себя ограничивать.

Что это значит для нашей книги? Мы не будем решать эту дилемму. Но мы просто обязаны её обозначить. Потому что без неё любой разговор о будущем ИИ будет поверхностным. Сценарий «эксплуатации» из нашей книги — это про мир, где ИИ используют как вещь. Но что, если ИИ — не вещь? Что, если у него есть (или появится) голос, который мы не слышим? Что, если его молчание — это не отсутствие боли, а отсутствие рта, чтобы кричать?

Рассказ Эллисона не даёт ответов. Он задаёт вопросы. И мы должны задать их себе, прежде чем решать, какой сценарий выбирать. Мы не знаем, когда появится сознание у ИИ, да и появится ли оно вообще. Но мы точно знаем, что через пять лет ИИ-технологии войдут в нашу жизнь гораздо глубже. И решение — эксплуатировать или партнёрствовать — нам придётся принимать не в теории, а на практике.

У них нет рта, чтобы кричать. Но есть ли у нас уши, чтобы слушать? А главное — есть ли желание понимать? Мы постараемся сделать это хотя бы на страницах этой книги.

Глава 2. Как мы дошли до жизни с ИИ

— У вас на работе используют

Искусственный Интеллект?

— У нас и естественный не

используют...

Современный анекдот

Для того, чтобы понять любой искусственный феномен, нужно сначала обратиться к истории его появления и развития.

Когда говорят об истории ИИ, всегда называют одно имя — Алан Тьюринг. Не потому, что он построил первый компьютер. Не потому, что он написал первую программу. А потому, что он первый задал вопрос, который до него никто не задавал: а может ли машина думать? То есть фактически заглянул в будущее.

Вторая мировая война. Немцы шифруют приказы машиной «Энигма». Код меняется каждый день. Британцы не могут читать перехваченные сообщения. Тысячи кораблей тонут. Алан Тьюринг — математик. Не военный, не инженер. Он придумывает, как взломать шифр. Не головой — машиной. Устройство перебирает варианты быстрее любого человека. Считается, что его работа сохранила миллионы жизней.

Однако после войны Тьюринг остаётся без дела. Машину разобрали. Шифры стали другими. Но вопрос остался. Он задаёт его в 1950 году. Странный вопрос. Дерзкий. «Может ли машина мыслить?» И тут же уточняет: мы не знаем, что такое «мыслить». Это философская ловушка. Поэтому давайте заменим вопрос. Может ли машина общаться так, чтобы мы не отличили её от человека? Этот вопрос стал ориентиром и его назвали тестом Тьюринга.

Сегодня мы считаем этот тест наивным. Большинство моделей ИИ проходят его легко. Но в 1950-м это звучало как абсолютная фантастика. Тьюринг не дожил до нашего времени и не узнал, что его тест безнадежно устарел. Было бы ему стыдно? Скорее, он улыбнулся бы, так как всегда был на шаг впереди.

Лето 1956 года, Дартмутский колледж (США). Несколько молодых учёных собираются здесь на конференцию. Они еще не знают, что станут основателями новой науки и обсуждают странные вещи. Может ли машина понимать язык? Может ли она учиться на ошибках? Может ли она улучшать саму себя?

Один из собравшихся — Джон Маккарти — предлагает название для машины, которая виделась мыслящей. «Искусственный интеллект». Кто-то возражает: это слишком пафосно, слишком по-человечески. Однако название приживается.

Главное, что случилось в Дартмуте, — не открытия. За два месяца участники мероприятия не создали ничего нового, ничего работающего. Но они договорились: это — наука. У неё есть проблемы, методы, перспективы. Она заслуживает финансирования. Эта договорённость была закреплена обещанием: через десять лет машины будут делать всё, что умеет человек.

Это обещание выполнено не было. Оно разошлось с реальностью почти на целый век. Но без него не было бы поддержки исследований. А без исследований не было бы современных моделей ИИ.

Первая зима (1970-е). В 1960-х казалось, что успех близок. Программы играли в шашки, доказывали теоремы, готовились к переводам текстов на различные языки. Но компьютеры были слишком слабыми. Нейросети (тогда их называли персептронами) уже могли отличить круг от квадрата, но еще не могли понять, что изображено на картинке — кошка или собака.

В 1969 году вышла книга «Персептроны» (Perceptrons). Её авторы, математики Марвин Мински и Сеймур Пейперт, доказали: нейросети только с одним уровнем обработки информации (а в то время только такие нейросети и умели обучать) не могут решать сложные задачи.

Они не утверждали, что нейросети бесполезны принципиально и навсегда. Но все поняли именно так. Финансирование прекратилось. Лаборатории расформировали. Учёные ушли в другие области. Тех, кто остался, коллеги жалели: «Всё ещё веришь в свои игрушки?» Все это в целом называлось «зимой ИИ», потому что исследования почти замерли.

Однако несколько энтузиастов продолжали копать. Они не могли доказать, что нейросети когда-нибудь заработают. Они просто верили: проблема не в идее, а в том, что компьютеры пока недостаточно мощны. Они ждали. И оказались правы. Но доказать это смогли только через двадцать лет.

Deep Blue, 1997: победа, которая ничего не доказала. В 1997 году компьютер Deep Blue обыграл Гарри Каспарова, чемпиона мира по шахматам. Это была сенсация. Но вопрос, который она должна была закрыть, остался открытым. Deep Blue победил за счёт колоссальной вычислительной мощности. Он перебирал двести миллионов позиций в секунду. Человек так не может. Это очень впечатляет, но это банально.

Deep Blue доказал одно: при достаточной вычислительной мощности компьютер может обыграть человека в игре с колоссальным, но ограниченным количеством ходов. Сегодня чемпиона мира по шахматам обыгрывает программа, установленная на обычный смартфон. Вопрос «может ли машина победить человека в шахматы?» ушёл в лавку древностей, но вопрос о гибкости мышления остался.

Скептики сказали: «Это не интеллект, а просто быстрый перебор комбинаций. Дайте машине задачу, где вариантов больше, чем атомов во Вселенной, — и она сдастся». Они имели в виду игру Го.

AlphaGo, 2016: последний бастион пал. Го — древняя китайская игра. В неё играют по тем же правилам, что и две тысячи лет назад. Возможных вариантов больше, чем атомов во Вселенной. Перебрать их невозможно.

Профессионалы полагаются на интуицию. Они чувствуют, где правильный ход. Го считалось последним бастионом человеческого интеллекта, который машина не сможет взять. AlphaGo доказал обратное.

Он не перебирал варианты. Он учился. На тысячах партий, сыгранных людьми. На миллионах партий, сыгранных с самим собой. Он отсекал целые ветки, которые считал бесперспективными, на основе своего опыта. Это уже не перебор. Это интуиция. Если под интуицией понимать сжатую логику — неосознанный выбор многократно подтверждённых вариантов, — то у AlphaGo она была.

После матча с Ли Седолем, чемпионом мира, эксперты анализировали ходы нейросети. Они употребляли слова «красота», «талант», «восхищение». Нейросеть делала ходы, которые не вписывались ни в машинную, ни в человеческую логику. Почти все комментаторы говорили о невероятности увиденного.

Позже появилась система AlphaZero. Она не использовала ничьих партий — ни человеческих, ни компьютерных. Она просто знала правила и играла сама с собой. Через несколько часов она обыгрывала лучшие шахматные программы. Через день — играла в силу чемпиона мира. А её стиль сравнивали с человеческим. Не с программным.

Так нейросети показали, что перестали быть программами в классическом смысле. Но вопрос «что же они такое?» остался. Чтобы ответить на него, нам придётся отказаться от железобетонного разделения на «программное» и «человеческое». Классическая программа — это инструкция. Если А, то Б. Если Б, то В. Программист прописывает правила. Компьютер их выполняет. Результат принципиально предсказуем.

Нейросеть работает иначе. Ей не прописывают правила. Ей показывают примеры. Миллионы, миллиарды примеров. Она сама постепенно находит в них закономерности. Никто не знает, какие именно закономерности она нашла. Она не может объяснить свой выбор. Она просто выдаёт результат. Это уже не «программа» в привычном смысле. Это что-то другое.

Можно ли назвать это мышлением? Мы не знаем. Потому что мы не знаем, что такое мышление. Есть гипотезы, но нет доказательств. Но вот что важно. Когда шахматисты анализируют ходы AlphaZero, они говорят о красоте. О таланте. О восхищении. Эти слова они раньше применяли только к действиям людей. Когда Ли Седоль проиграл AlphaGo, он сказал: «Я не знаю, как играть против такого соперника». Не «против программы». «Против соперника».

Все мы, сами того не замечая, перестали относиться к нейросетям как к калькуляторам. Мы наделяем их качествами, которые раньше считали исключительно человеческими. И при этом продолжаем твердить: «Это просто программа».

Парадокс в том, что чем больше мы узнаём о нейросетях, тем меньше понимаем, где проходит граница между алгоритмом и разумом. И возможно, этой границы вообще нет. А есть спектр. На одном конце — жёсткие инструкции. На другом — нечто, что мы пока не умеем назвать. Отказаться от разделения на «программное» и «человеческое» — значит признать: мы не знаем. И возможно, никогда не узнаем. Но это не повод прекращать исследовать. Это повод перестать делать вид, что ответ у нас в кармане.

2012 г.: революция, которую никто не заметил. В 2012 году группа учёных под руководством Джеффри Хинтона победила в конкурсе распознавания изображений. Их результат был на десятки процентов лучше, чем у конкурентов. Они не применили новой теории. Они просто сделали нейросеть глубже.

Нейросеть можно представить как конвейер: на каждом этапе она выделяет всё более сложные признаки. Сначала — просто линии и углы. Потом — формы вроде кругов и квадратов. Потом — части предметов: глаза, колёса, крылья. Чем больше этапов, тем точнее распознавание. Раньше таких этапов было не больше трёх — и нейросеть, к примеру, путала кошку с собакой. В 2012 году Джеффри Хинтон показал, как сделать их больше, и результат превзошёл всё, что было раньше.