Не искусственный интеллект

Для понимания. Искусственный интеллект – это не только генеративные нейросети. И даже не только нейросети в целом (если что, в основе поиска по фото тоже лежит технология нейросетей). Это целый класс технологий.

Разумеется, в быту мы употребляем слова искусственный интеллект, нейросети, ИИ, генеративные модели и подобные им как синонимы. Как-то люди из не айтишной среды очень быстро сошлись в том, что нет необходимости разбираться во всех этих терминах. Все равно, как бы и что мы не называли, речь идет именно о хайповой теме генеративных нейросетей. Даже я в книге использую все эти слова как синонимы. Но с точки зрения профессионалов есть огромная разница, и генеративные нейросети – это лишь кусочек нейросетей, которые лишь кусочек искусственного интеллекта. И вот это мнение профессионалов прямо сейчас объяснит, почему мы боимся не того.

Дело в том, что рекомендательные алгоритмы поисковых систем и социальных сетей… Да! Это тоже искусственный интеллект. И вот они-то давно управляют всеми нами, нашим сознанием, мировосприятием и границами интеллектуального развития.

Попробуйте найти в интернете, а еще лучше в соцсетях, что-то прям принципиально новое для вас. Никак совсем не связанное с вашими интересами. Если и получилось, то только по четкому прямому запросу, верно? Причем все равно есть подвязка к вашим интересам.

Условно, если любители почитать светскую хронику захотят разобраться в том, что такое квантовая физика, скорее всего после кристализированного встроенной в поисковик нейросетью четкого академического определения будут идти статьи условной Марьи Вселеновны о том, что мебель в ее новой квартире расставлена с учетом принципов квантовой физики. Или что именно на них базируется ее новый ретрит по дыханию. И не важно, что это полная чушь. Важно, что эта чушь делает квантовую физику максимально релевантной вашим интересам.

Если что, именно здесь должно стать жутко. Да, генеративный ИИ – это рок-звезда, которая у всех на слуху и о которой не говорит только ленивый. Но за ней стоят, посмеиваясь, рекомендательные алгоритмы – эдакие продюсеры с миллионами в саквояжах, которые на самом деле управляют всей информационной сферой человечества.

Так что, глобально, мы остаемся в мире один на один со своей крошечной точкой зрения на всю окружающую нас реальность. Со своим узеньким представлением. Жалким пятнышком бледно-зеленого фонарика, который делает зелеными все объекты, на которые падает луч его света.

И это действительно проблема. Возможности для интеллектуального роста взрослого человека сконцентрированы в зоне его ближайшего развития. Это ребенку достаточно просто усваивать абсолютно новую информацию о мире. Взрослый уже имеет свое представление обо всем на свете, некую картину мира, в которую эту новую информацию нужно встроить. И встраивается она только если есть возможность «зацепиться» за какие-то уже существующие знания. Чем уже область интересов человека, тем меньше у него возможности «подцепить» что-то, что его интеллектуально разовьет. При этом не важно, насколько детально он уходит вглубь вопроса. Даже если новая информация попадет к нему, он рискует ее или не понять из-за отсутствия достаточной базы знаний и аналогий или забыть из-за нехватки тематических «полочек» в голове, куда их можно положить.

Рекомендательные алгоритмы, стремясь максимально точно попасть в интересы человека, с каждым днем все сильнее и сильнее сужают темы контента, которые ему выдают. Условно, сегодня они поняли, что ему нравится что-то про людей, начали выдавать информацию про людей. Завтра – что про людей ему нравится именно психология. Послезавтра – что из психологии именно психология отношений. И вот уже спустя неделю вся его лента как на подбор состоит из статей «Через сколько после окончания прошлых отношений стоит идти в новые, когда тебе больше 35», просто с разными названиями. Потому что до алгоритма дошло, что именно интересует человека.

Естественно, сам человек из-за этого не может взглянуть на свою проблему объемно. Статьи о том, что иногда стоит налаживать старые отношения, а не кидаться в новые, до него просто не дойдут. Как и о том, какие вопросы задать себе в этот период, чтобы осознать произошедшее. И чем кроме отношений важно наполнить свою жизнь. Потому что алгоритм понял не просто какая сфера нравится пользователю – он определил, какая точка зрения удерживает его внимание максимально долго. И пользуется этим. А человек начинает думать, что есть лишь один правильный сценарий, ведь все вокруг пишут лишь о нем.

Но сужение зоны ближайшего развития и формирование искаженной картины мира – это не все последствия захвата человечества искусственным интеллектом. Есть и еще одна. Потеря связи с реальностью. В том числе разобщенность с другими людьми.

Изначально социальные сети создавались для поддержания связи между людьми, обмена информацией и общения. Но постепенно сформировалась витринная модель коммуникации, по аналогии со СМИ. Транслятор – потребители контента. С той лишь разницей, что потребители могут в комментариях пообщаться с транслятором. Но глобально контекст задают создатели контента, коммуникация строится вокруг их точки зрения, а не фактов объективной реальности.

Давайте попроще. В нулевые вы не могли не слышать про «Фабрику звезд», «Последнего героя» и «Поле чудес». Даже если никогда не смотрели ничего из этого, сам факт, что вы были среди людей, давал вам представление об этих программах. Это были некие общие части актуального на тот момент культурного кода, о которых так или иначе знали все. Ровно как и про культовых звезд, актеров, певцов. Про значимые фигуры и события в области спорта. Избегать того, что не входит в зону твоих интересов, было сложно. Как минимум, в любимой программе была рекламная вставка другой программы, о которой вы иначе никогда бы не узнали. Да, молодежь и пенсионеры, работающие и домохозяйки, семейные и холостяки могли посмеиваться над вкусами друг друга, но они в общих чертах представляли те самые вкусы и интересы. Сейчас это почти исчезло.

Массовой культуры будто бы не существует. Рекомендательные алгоритмы и переход медиа в интернет создали среду, в которой каждый может сидеть в своем информационном пузыре и не иметь ни малейшего представления о том, что на самом деле происходит в мире. Чем живут и как общаются другие люди. Даже шутки про бумеров, миллениалов и зумеров во многом построены на том, что возможность информационной изоляции усилила наши различия. Ведь интернет-медиа показывают лишь похожих на нас людей и подтверждают нашу точку зрения. И никакой режим инкогнито от этого не спасет.

Мы застряли в идеально герметичных информационных пузырях, созданных рекомендательными системами. И без любопытства, намерения понять многообразие мира и взглядов на него, без усилий по преодолению этого пузыря не то что выбраться, а хотя бы проделать в нем крошечное отверстие просто невозможно. Только общаться точечно с настоящими, отличающимися от вас людьми. Только намеренно их искать. Только открывать книги и фильмы, которые ты никогда бы не посмотрел. Искать намерено онлайн витрины, журналы, порталы, аккаунты с другой точкой зрения, а еще лучше – с несколькими разными. Прикладывать усилия, чтобы расширять свой пузырь изнутри, заполняя новой разнообразной информацией. Осознанно подходить к его формированию.

Бороться с порабощением нас рекомендательным искусственным интеллектом. Который на самом деле делает нас глупее, если не сказать скудоумными. Отрывает нас от реальности. Формирует не выдерживающее никакой критики узкое и однобокое представление о мире, людях и обществе. И прикладывать для этого все усилия. Осознанно простраивая свою стратегию развития. Даже неформального. Просто как человека мыслящего. Просто как Человека.

Глава 3. Как создавать тексты с ИИ?

В каком-то смысле генеративный ИИ не так уж плох. Да, он может галлюцинировать и очень часто делает это. Придумывает факты и события, книги и фильмы. Ошибается при расчетах и попытке дать совет. Но в каком-то смысле он прямая противоположность рекомендательных алгоритмов. Хотя сложно сказать, что хуже – личные заблуждения или коллективные.

Коллективные заблуждения – это то, что по своей сути составляет базу обучения искусственного интеллекта и что он воспроизводит в каждом своем ответе. Кстати, именно из-за этого многие активисты борются против внедрения моделей искусственного интеллекта в жизненно важных сферах. Чтобы не дать ему множить расовые и гендерные стереотипы в судебной сфере или опираться на распространенные ошибки врачей при постановке диагнозов. Потому что даже идеально обученный ИИ, который будет точно воспроизводить именно нужные ответы и никогда не станет сбиваться, будет действовать не исходя из объективной реальности (он ничего о ней не знает), а опираясь на некое усредненное коллективное представление о ней.

Потому что во время обучения ИИ не запоминает факты. Это не гигантский поисковик по заложенной в него библиотеке. Это программа, которая выявила общие закономерности в текстах определенного типа или тематики и теперь воспроизводит их, когда запрос пользователя так или иначе касается этой области. Знать она ничего не знает.

Это как если бы вам предложили сыграть в игру. Вам будут задавать вопросы, а вы обязаны на них ответить, при чем отвечать «не знаю» нельзя.

Первый вопрос: объясните суть и принципы квантовой физики. У вас в голове начнет всплывать какая-то информация про мельчайшие частицы, что они существуют по другими законам, не как макро объекты и что-то подобное. Вы даже можете не сказать ничего прямо противоречащего истине. Но у профессионального физика наверняка от вашего объяснения волосы встанут дыбом. Потому что эта тема редкая и информации у вас в жизни по ней было не так уж много.