Цифра и мы. Истории о нашем прошлом, настоящем и будущем

Жизнь в окружении постоянных хайпов, в ожидании или поиске очередного вирусного ролика отрицательно влияет на критическое мышление человека. С ним сегодня и без этого много проблем. Погружение человека в примитивный, но забавный и популярный цифровой контент, снижает критическое мышление до нуля.

Изменения на рынке поставщиков контента. Здесь мы наблюдаем два интересных процесса.

Во-первых, все больше людей втягивается в создание и публикацию цифрового контента. И это не только девушки, снимающие себя на фоне достопримечательностей. И не только операторы-любители, снимающие жизнь своего кота или скандал в магазине. Это миллионы редакторов сайтов организаций, государственных, коммерческих, общественных. «Если тебя нет в интернете, тебя нет вообще!» – говорят ИТ-революционеры. Это не такое большое преувеличение.

С учетом перспектив роста безработицы в цифровом мире это можно считать положительной тенденцией. Но в отдаленной перспективе ситуация может дойти до абсурда.

В автобиографической повести «Республика ШКИД» авторы, бывшие беспризорники, рассказывают о том, как в детском доме воспитанники начали выпускать стенгазеты. Сначала это делало несколько энтузиастов. Но постепенно в выпуск своих стенгазет втянулись все. На финальном этапе количество издателей стало равно количеству воспитанников. Издатели бегали по детскому дому и предлагали друг другу почитать свои творения. Долго дурдом не продлился и выпускать стали одну газету – коллективную.

В мире повальной безработицы выпуском цифрового контента займутся люди, получающие базовый доход и страдающие от безделья. Что будет с их психикой, когда они не найдут для своего контента заинтересованных потребителей?

Во-вторых, на рынок поставщиков цифрового контента уверенно и даже агрессивно входят генеративные нейросети. Они способны генерировать прозу и поэзию, научно-популярные тексты и новости, статичные и динамичные изображения, презентации под заказ, краткие выжимки из сложных трактатов и многое другое. Это есть уже прямо сейчас, не завтра или послезавтра.

Нейросетям сегодня нашли еще одно применение, достаточно страшное по своей сути. Известно, что многие вместо новостей читают комментарии к ним. По ним формируют позицию, присоединяясь к той или иной группе комментаторов.

Нейросети способны сегодня уверенно участвовать в таких обсуждениях, генерируя комментарии. Они легко создают иллюзию массовости обсуждений, способны направить мысли читателя комментариев в нужное направление. Это тоже реальность уже сегодня.

Социальный рейтинг: от теории к практике

Как поступать?

Молчит твое сердце.

Рейтинг рулит.

В этой истории рассмотрим понятие, которое появилось в XXI веке и с каждым годом вызывают все больше и больше споров. Это понятие «социального рейтинга». Одни эксперты утверждают, что социальный рейтинг спасет человечество от множества угроз цифрового мира. Другие считают, что внедрение социального рейтинга только усугубит риски, возникающие на пути развития человечества.

Идеи, которые легли в основу концепции социального рейтинга, одним из первых изложил французский писатель, экономист, политический деятель Жак Аттали в футуристической книге «Краткая история будущего». В книге автор дает прогноз развития человеческой цивилизации на 50 лет.

Прошло 20 лет с момента выхода этого, талантливого и интересного исследования. Сегодня читать эту книгу даже интереснее, чем сразу после написания. В книге приводится много прогнозов. Это и судьбы отдельных стран, и трансформация институтов человеческой цивилизации, и роль различных технологических новшеств. Как часто бывает в футуристических произведениях, некоторые прогнозы сбылись с высокой точностью, некоторые не сбылись или сбылись с точностью «до наоборот».

В книге Аттали вводит термин «гипернаблюдение». По его мнению, значительная часть функций государства перейдет к частным структурам, в первую очередь – к страховым компаниям. К этому времени на высочайшем уровне будут развиты средства наблюдения за жизнью человека. Потребности частных структур в информации о людях станут определяющими. Они и внедрят систему, которую Аттали назвал гипернаблюдением. Далее в тексте книги:

…Они станут наказывать курильщиков, пьяниц, лиц, страдающих ожирением, безработных, незащищенных, агрессивных, рассеянных, опрометчивых, растяп, мотов. Невежество, уязвимость и расточительность будут считаться болезнями.

Этот прогноз сбывается с пугающей точностью. Весь мир бьет тревогу: цифровые гиганты Amazon, Google, Meta и корпорации поменьше собирают о нас огромные массивы данных. Технологии больших данных и искусственный интеллект помогают их обрабатывать и использовать для извлечения прибыли.

О социальном рейтинге как концепции заговорили в 2014 году. Это было вызвано опубликованными планами китайского правительства по внедрению «системы социального кредита». Определение из соответствующей статьи в Википедии:

Система социального кредита – система оценки отдельных граждан или организаций на основе множества критериев, получаемых с помощью инструментов массового наблюдения и обрабатываемых с помощью технологий анализа больших данных.

В русскоязычном сегменте интернета чаще используются синонимы: «система социального рейтинга» или «социальный рейтинг»

Публикации в интернете о китайском социальном рейтинге можно разделить на несколько частей. В одних рассказывается об ужасах концлагеря, который строят коммунисты в Китае. В других просто рассказывается о пилотных проектах в некторых китайских регионах. Люди, живущие в других регионах Китая, пишут, что социальный рейтинг не могут найти, как ни стараются. А еще есть те, кто пытается взвесить плюсы и минусы этого явления, анализируя заявленную в Википедии модель.

Авторы не являются специалистами по Китаю. Мы не можем подтвердить или опровергнуть полярные точки зрения о происходящих там событиях, связанных с внедрением социального рейтинга. Однозначно планы у китайского правительства были и эксперименты проводились. Но никакого общегосударственного социального рейтинга в Китае пока нет, все эксперименты носят региональный характер. Драконовские меры по отношению к людям с низким социальным рейтингом не применяются.

Для нашего исследования не важно текущее состояние экспериментов по внедрению социального рейтинга. Нам важно разобраться в сути того, что под этим понимается, взвесить плюсы и минусы. Поэтому далее кратко изложим содержание статьи в Википедии, посвященной китайскому эксперименту. Не как достоверную информацию, а как возможную, хорошо проработанную теоретическую модель.

14 июля 2014 года правительство Китая впервые опубликовало план и цели внедрения системы социального рейтинга. Основная цель внедрения – «построение гармоничного социалистического общества». Для координации выполнения поставленных задач была создана специальная комиссия при Политбюро ЦК КПК .

Суть эксперимента в следующем. Каждому гражданину начисляют стартовые 1000 баллов. Они постоянно изменяются по единым алгоритмам на основании показателей, поступающих из государственных учреждений, компаний и банков. В основе показателей лежат 160 тысяч критериев.

Баллы начисляются за участие в благотворительной деятельности; заботу о пожилых членах семьи; хорошие отношения с соседями; сдачу донорской крови; поддержку правительства в социальных сетях; наличие хорошей финансовой кредитной истории…

Баллы списываются за нарушение правил дорожного движения; участие в протестах; размещение антиправительственных сообщений в социальных сетях; недостаточную помощь стареющим родителям; распространение недостоверных данных в интернете; участие в деятельности сект; жульничество в онлайн-играх…

Владелец социального рейтинга больше 1050 баллов считается гражданином категории ААА. С 1000 баллов можно рассчитывать на категорию А+, с 900 — на категорию B. Если рейтинг упал ниже 850 – человек относится к категории C. Это уже кандидат на увольнение из государственных структур. Те, у кого социальный рейтинг ниже 600 баллов, попадают в категорию D. Таким людям трудно устроиться на нормальную работу, им не дают кредиты.

В этой модели особо стоит отметить 160 тысяч критериев, по которым алгоритмы будут принимать решение об изменении социального рейтинга. Это важный фактор, но не обязательный. Есть другой пример теоретической модели социального рейтинга.

В 2016 году в 3-м сезоне британского научно-фантастического сериала «Черное зеркало» вышла серия о социальном рейтинге. Прежде чем перейдем к ее рассмотрению, несколько слов о самом сериале. Он посвящен влиянию цифровых технологий на человеческие взаимоотношения, на перспективы нашей цивилизации. Каждая серия не связана с предыдущими ни сюжетом, ни актёрами, ни временем и ни местом повествования. Все сюжеты объединяет гротескное изображение сценариев, которые могут реализоваться в цифровом мире. Это сериал-предостережение, который рекомендуем посмотреть каждому.

Серия о том, как девушка с хорошим социальным рейтингом, мечтающая попасть на свадьбу подруги-кумира, после череды неудачных общений скатывается к состоянию изгоя. Авторы фильма предвосхитили появление культуры отмены, о которой мы уже писали.

В предыдущей модели алгоритмы использовали 160 тысяч критериев. В фильме социальный рейтинг высчитывается по одному критерию. Это оценка по 5-балльной шкале, которую любой человек может выставить любому другому человеку. Улыбнулся тебе человек на улице, навел на него смартфон и ставишь «5». Его рейтинг тут же немного подрастает. Не понравилось обслуживание в баре – ставишь официанту «2» или «3». Его рейтинг тут же понижается. Не понравилось официанту поведение посетителя – он тоже может поставить свою оценку.

Люди видят рейтинги друг друга и, соответственно, учитывают их в общении. Звезды с рейтингом близким к «5» – это кумиры, общаться с ними – мечта каждого. Рейтинг стал меньше «4» – начинаются ограничения, а окружающие стараются избегать общения с тобой. Рейтинг меньше «3» – это изгои общества.

Эти две модели дают представление о том, каким может быть социальный рейтинг. Субъективным, основанным исключительно на эмоциональных оценках окружающих, или предельно объективным, оценивающим практически каждый шаг человека.

Поэтому, на наш взгляд, уместно следующее определение.

Социальный рейтинг – это интегрированная оценка членов общества, получаемая по единым алгоритмам с помощью цифровых технологий.

Положительный эффект от внедрения социального рейтинга есть.

Старушек через дорогу будут чаще переводить, с соседями меньше ругаться. Неважно по какой модели. Ожидая положительной оценки от окружающих или точно зная, что любой поступок попадет на камеру. Этот пример приводим в шутку. Есть и более интересные плюсы, которые отмечают эксперты.

По прогнозам должно уменьшиться количество правонарушений. Снизится количество бытовых скандалов и конфликтов. Людей можно мотивировать вести здоровый образ жизни. Энтузиасты наверняка приведут еще немало положительных эффектов.

Но минусы, на наш взгляд, перевешивают.

Жизнь при тотальном контроле по множеству критериев превратится в постоянный стресс. Задумался над решением задачи и перешел улицу на красный свет. О задаче никто не узнает, а рейтинг упадет. 160 тысяч критериев – это уровень контроля, выходящий за рамки человеческих возможностей. Понимание, что не можешь контролировать свою жизнь, провоцирует стресс сильнее других факторов.

Жизнь в ожидании оценок окружающих людей превратится в постоянное шоу, где нужно всегда улыбаться на публику. Одно дело улыбаться зрителям в зале, где обратная связь – это аплодисменты. Другое дело постоянно контролировать себя в сотнях ежедневных контактах, даже мимолетных. В итоге – тот же самый стресс.

Вряд ли человечество, живущее в таком стрессе, способно на межзвездные полеты. Разве что, это будет единственным способом сбежать от тотального контроля. И вряд ли люди при тотальном контроле будут способны построить красивое гипердемократическое общество, о котором писал Жак Аттали в заключительной части своей книги.

Снижение социального рейтинга – процесс с неизбежным ускорением. Чем ниже рейтинг, тем сложнее его восстановить. В какой-то момент психологически проще уйти к изгоям, которым на рейтинг плевать. Это точно психологически подмечено в «Черном зеркале».

Если жизнь изгоев будет относительно комфортна, например, на уровне современных бомжей, то их число будет расти. Чтобы реально напугать людей низким рейтингом, недостаточно просто лишать его привилегий. Нужны жесткие карательные методы подавления. Без них общегосударственная система социального рейтинга превратится в профанацию.

Нормальный человек должен различать «что такое хорошо и что такое плохо» на уровне базовых основ воспитания и мировоззрения. Именно такой подход формирует баланс между свободой и ограничениями. Только такие люди могут построить нормальную цивилизацию, вышедшую из цивилизационных тупиков.

Хорошее поведение, основанное на постоянном страхе, стратегических преимуществ не даст. В краткосрочной перспективе можно добиться и снижения преступности, и увеличения числа «хороших поступков». Однако такое общество будет напоминать пружину, которую постоянно сжимают. Примеров в человеческой истории хватает.

Подводим итоги. На наш взгляд, концепция всеобщего социального рейтинга на уровне государства – порочна и в цивилизационном аспекте бесперспективна. По крайней мере до тех пор, пока государства не отринули постоянную конкуренцию и не объединились для решения общечеловеческих задач.

При определении критериев модель социального рейтинга неизбежно будет опираться не текущее представление элиты страны о том, что такое хорошо и что такое плохо. Элиты не готовы сейчас и вряд ли будут готовы в ближайшем будущем смещать приоритеты от интересов своих и своего государства к общим интересам человеческой цивилизации.

Элементы социального рейтинга уже внедряются и будут внедряться в будущем. Например, большинство банков сегодня не выдают кредиты людям с плохой кредитной историей. Для этого они разрабатывают единые системы мониторинга надежности клиентов.

Какие-то из этих элементов полезны и относительно безобидны. Какие-то предельно опасны. В Канаде планируют увязать банковские системы по выдаче кредитов с разнообразной информацией о гражданах. Это позволит, например, ограничить выдачу кредитов людям, которые замечены в выступлениях против правительства. Правозащитники Канады бьют тревогу, но цели то благие!

Эту тему продолжим в истории о цифровых профилях.

Трансгуманизм или сказка с ужасным концом

Трансгуманизм –

Какая красивая сказка.

В конце – Людоед.

Перед разговором о трансгуманизме поговорим о гуманизме.

Гуманизм – этическая позиция, утверждающая, что люди имеют право в свободной форме определять смысл и форму своей жизни.

Гуманизм – система построения общества, где высшая ценность –жизнь человека, а материальные и нематериальные ресурсы направлены на то, чтобы сделать эту жизнь комфортной и безопасной.

Звучит просто прекрасно.

Проповедником гуманизма считают Юваля Харари, футуролога, автора бестселлеров о прошлом, настоящем и будущем человечества. В книге «Краткая история будущего» оно пишет:

Веками гуманизм внушал нам, что главный источник смысла – мы сами и поэтому наша свободная воля и является высшим авторитетом. Вместо того чтобы ждать, когда какая-то высшая сущность разъяснит нам, что есть хорошо, и что есть плохо, мы можем полагаться на наши чувства и желания.

И далее в той же книге:

Гуманизм внушил нам: плохо только то, от чего кому-то плохо … если поступок никого не задевает, то в нем не может быть ничего плохого.

Харари признает, что самые интересные и острые дискуссии по гуманистической этике разгораются вокруг ситуаций, которые приводят к столкновению человеческих чувств.

В качестве примера он разбирает ситуацию, когда 7 января 2015 года исламские фанатики расстреляли сотрудников французского журнала «Шарли Эбдо». Журнал до этого опубликовал карикатуры на пророка Мухаммеда. Справедливо осуждая фанатиков, Харари считает оправданными действия журналистов. Ну что тут такого – захотели и опубликовали. Все в русле гуманистического мировоззрения. Вот еще выдержка из книги:

… либеральная этика советует: нравится – делай!

Только либеральный гуманизм Харари определяет, как настоящий гуманизм. Социалистический и эволюционный гуманизм считает ущербными версиями. Они, признавая ценность человека, отрицают его полную свободу в желаниях и поступках.

Интересно было бы задать автору «Краткой истории будущего» вопрос. Чем тогда виновата с точки зрения либеральных гуманистов Джоан Роулинг, автор «Гарри Поттера»? В социальных сетях она написала, что пол является реальностью. Что существует два пола: мужской и женский. Захотела – и написала. Никого не толкала, не била, не убивала. Даже никого конкретно не обзывала. Все в соответствии с гуманистическим мировоззрением. И гуманистическая общественность принялась дружно травить и отменять знаменитую писательницу. Бомбу обещали подложить, но вмешалась полиция.

Поступай с другими так, как хочешь, чтобы поступали с тобой. Тезис, который близок многим людям на Земле. Но либеральный гуманизм его не признает. Поступай с другими так, как хочешь… Физического насилия только избегай. И будешь настоящим гуманистом.

Гуманизм – слово многозначное. Гуманизм – человеколюбие, человечность, уважение к человеку. Это определение из православного источника. Но такая трактовка – не в духе времени. В нашей истории речь идет о том гуманизме, который принял просвещенный мир.

Из этого гуманизма органично вырастает трансгуманизм.

Вот выдержка из Википедии:

Трансгуманизм – общественный строй, политическая позиция и философская концепция, продвигающие использование достижений науки и технологии для улучшения умственных и физических возможностей человека. Целью является устранение тех аспектов человеческого существования, которые трансгуманисты считают нежелательными – страданий, болезней, старения и смерти.

Трансгуманисты изучают возможности и последствия применения технологий, опасности и преимущества их использования.

В первом приближении звучит как красивая сказка.

В современном смысле слово «трансгуманизм» впервые встречается у биолога-эволюциониста Джулиана Хаксли в работе «Религия без откровения» (1927). Крах надежд на появление реальных способов радикального изменения биологической природы человека привёл к угасанию интереса к идеям в этой области.

Послевоенная волна научно-технической революции возрождает интерес к идеям трансгуманизма. Хаксли снова обращается к этой теме в 1957 году. Этот год принято считать датой официального рождения термина «трансгуманизм». В 1998 году философы Ник Бостром и Дэвид Пирс основали Всемирную ассоциацию трансгуманистов.

В настоящее время трансгуманизм – международное движение, провозглашающее, что с помощью научно-технического прогресса удастся добиться фундаментальных изменений в человеке. Значительно увеличить его умственные, физические и психологические возможности, радикально уменьшить страдания и увеличить уровень счастья человека, ликвидировать старение, достичь бессмертия.

Интересны цели этого движения. Вот некоторые из них:

всеми силами поддерживать техническое развитие;

предотвращать опасности и нравственные проблемы, которые сопутствуют внедрению научно-технических достижений;

расширять свободу каждого отдельно взятого человека, используя научно-технические достижения;

противостоять учениям и организациям с целями, противоположные идеям трансгуманизма;

противостоять государственным инициативам, ограничивающим передовые научные исследования и запрещающим использование отдельных новейших технологий (запреты на клонирование человека, психотропные препараты, эмбриональные стволовые клетки).

Их осмысление вызывает чувство когнитивного диссонанса. Как пункт о предотвращении опасностей и нравственных проблем согласуется с остальными пунктами? Уместнее было бы написать «предотвращение разговоров об опасностях и нравственных проблемах». Тогда все было бы целостно и логично.

Понятно, что это пункт – не серьезное намерение, а дань общественному мнению. Все-таки движение трансгуманистов хоть и массовое, но имеет больше критиков и противников, чем сторонников.

Трансгуманизм основанна предпосылке, что человеческий вид представляет собой не конец нашего развития, а сравнительно раннюю фазу. Приверженцы трансгуманизма стремятся к ускорению эволюции разумной жизни за пределами нынешней человеческой формы с помощью научно-технического прогресса. Эта концепция предполагает, что измененные люди эволюционируют в улучшенный вид – и станут «постлюдьми» или «сверхлюдьми».

Улучшать человека трансгуманисты предполагают по двум направлениям. Первое – редактирование генома человека. Второе – внедрение в тело и мозг человека технических устройств.

Технологических препятствий для вмешательства в геном человека практически не осталось. Из запретной зоны тематика мигрирует в зону разрешенных исследований. По крайней мере в области борьбы с фатальными генетическими отклонениями.

Уместно ли редактировать гены, которые провоцируют смертельную болезнь? Сложно ответить «нет». Ответ человечества: да!

Уместно ли редактировать гены, которые помогут противостоять болезням и иным сложностям окружающего мира? Если можно предыдущее, то почему нельзя это? Ответ человечества: да!

Уместно ли редактировать гены, которые усилят возможности интеллекта? Это будет справедливо и перспективно – всем людям IQ под 150 и феноменальную память. С учетом предыдущих ответов новый ответ человечества однозначен: да!

Уместно ли редактировать гены, которые позволят людям быть красивыми, стройными? Понятно, что человечество скажет: да!

А чем плохо внедрить в геном человека фрагмент ДНК иного организма, который помогает переносить радиацию? Человечеству еще осваивать ближний и дальний космос. И тоже ответ: да!

А значит и остальные эксперименты с геномом человека вполне оправданны. Хвост себе для экзотики вырастить или еще что похлеще. С хвостом мы перегнули? Ничуть. Межвидовое скрещивание – рядовое явление в генетике. Выращивание овощей с генами бактерий, умеющих побеждать вредителей, есть уже сегодня. А гуманистический лозунг «Хочешь – делай!» никто не отменял.

Пока непонятно, как будут наследоваться внедренные и отредактированные признаки. Пока на пути вмешательства в геном человека стоит проблема иммунного ответа. Так называют реакцию иммунной системы человека на появление инородных объектов. К таким инородным объектам человеческий организм относит не только вирусы гриппа, но и измененные фрагменты генов. Но генетики над проблемой работают, и непреодолимым препятствием не считают.

Внедрение в тело и мозг человека технических устройств – второе направление улучшения человеческих возможностей. Таких людей принято называть киборгами. Вот здесь стоит развеять эйфорию, которая владеет умами цифровых революционеров-энтузиастов.

Для обсуждения уточним понятия.

Замена у людей любых органов кроме мозга к созданию полноценного киборга не приводит. Уже сейчас индустрия протезов, замещающих утраченные конечности, успешно развивается. Создаются нейроинтерфейсы, позволяющие управлять протезами при помощи импульсов мозга. Это реальность, которая будет развиваться, и прогресс в этом направлении не остановить.

Сегодня спортсмен без ног, со специальными протезами, обгоняет арабских скакунов. Но вряд ли в обозримом будущем появится много желающих заменить ноги такими протезами. Человеку привычнее достигать таких скоростей с помощью внешних устройств. Например, с помощь экзоскелета.