Код и человек: жизнь в мире цифровых решений

Инга Каменская

Код и человек: жизнь в мире цифровых решений

Глава 1

«Код и человек: жизнь в мире цифровых решений»

Обращение к читателю

Дорогой мой читатель!

Я не знаю, как вы держите эту книгу в руках — в метро, в тишине кухни, или, быть может, слушаете аудиоверсию по дороге на работу. Но я знаю точно: вы здесь, потому что чувствуете то же, что и я. Тревогу и любопытство одновременно. Желание разобраться, кто на самом деле управляет нашей жизнью, и не перестать при этом быть человеком.

Я не эксперт, который смотрит на вас сверху. Я такая же, как вы. Я тоже нажимаю «Принять все» на сайтах, потому что лень разбираться. Я тоже сравниваю свою жизнь с чужими блистательными постами в соцсетях. Я тоже иногда боюсь, что мои профессиональные навыки устареют быстрее, чем я успею их обновить. Но я ещё и тот человек, который однажды потерял почти всё, искал работу месяцами, сидел без денег и не знал, что будет завтра. И именно тогда я поняла: единственное, что нельзя отдать машинам — это способность задавать вопросы.

Поэтому я приглашаю вас в это путешествие. Будем искать вместе. Иногда нам будет тревожно, иногда — смешно от собственной наивности, иногда — грустно от правды. Но мы будем идти вперёд — от внешнего к внутреннему, от алгоритмов к душе.

Обещаю вам: я не буду использовать сложные термины без объяснения. Я не буду вас поучать. Я буду рассказывать, как для близкого друга, и вместе с вами удивляться, как быстро мир меняется, и как важно в этом меняющемся мире не потерять себя.

Готовы? Тогда начнём.

Введение. Когда за тебя уже решили

Вы когда‑нибудь чувствовали, что кто‑то принял решение о вас, даже не познакомившись? Что ваша судьба на пару секунд зависла в недрах чужого кода, а вы даже не знали, какое правило сработало?

Представьте: утро. Вы открываете почту — и видите отказ от банка. «К сожалению, по результатам скоринговой модели мы не можем одобрить вам кредит». Вы перечитываете строчку, пытаясь понять: что не так? Зарплата белая, стаж — десять лет, ни одной просрочки. Но машина, которая даже не видела вашего лица, уже решила. И ответа «почему» она не даст. Только сухая формулировка: «решение принято алгоритмом».

Или другой сценарий. Вы отправляете резюме в крупную компанию — идеально подходите, опыт релевантный, рекомендации — лучше некуда. А через день приходит автоматический ответ: «Благодарим за участие, но мы выбрали другого кандидата». И вы никогда не узнаете, что ваше резюме даже не дошло до человека — его отсеял скрипт за долю секунды, потому что в нём не оказалось нужного ключевого слова. Или потому, что система «научилась» на предыдущих наймах, где предпочитали мужчин, и теперь просто отметает женские фамилии, даже не моргнув.

Это не фантастика. Это реальность, в которой мы живём уже сегодня.

Я хорошо помню, как сама впервые столкнулась с этой безличной силой — не в теории, а в собственной жизни. Родители мои были преподавателями вузов: мама — филолог, папа — экономист. Оба защитили кандидатские, оба верили, что знания и труд всегда будут вознаграждены. А потом наступили девяностые. Экономические преобразования, о которых так красиво говорили с экранов, обернулись для нашей семьи тем, что мы потеряли практически все накопления. «Яйца в одной корзине» — эту горькую истину я усвоила тогда, ещё подростком.

Я пошла по стопам отца — изучала экономику, финансы. Начала с преподавания английского (мамино наследство), но быстро поняла: мне нужно не учить других говорить, а самой понимать, как устроены деньги, как они движутся, как их сохранить и приумножить. К счастью, в те годы в Россию понаехало много иностранных специалистов, экономистов, и я стала переводить, консультировать, а потом и работать в международных компаниях. Я оказалась в числе первых российских специалистов по управленческому учёту. Работала в крупных транснациональных корпорациях — финансы, планирование, прогнозирование, руководство проектами. Мне казалось, я на коне, я всё контролирую, я — профессионал высочайшего уровня.

А потом грянул 2014 год. Я ушла по собственному желанию из крупной французской компании — условия существенно ухудшились, атмосфера стала токсичной. Я была уверена, что с моим опытом найду новое место за месяц, максимум за два. Но рынок сжался, вакансий стало меньше, конкуренция — жестче. Месяц, второй, третий… Я рассылала резюме десятками, получала отказы или, что ещё обиднее, полное молчание. Тогда я решила: пока ищу работу, попробую инвестировать сбережения. Ведь я же экономист, я знаю, как считать риски.

Я ошиблась. Я потеряла почти всё, что накопила за годы работы. Не по глупости, не по незнанию — я просто не учла одного: мои собственные деньги оказались игрушкой в руках глобальной системы, которую я не контролировала. Тогда я впервые по‑настоящему осознала, что такое личная финансовая безопасность — и как легко она рушится, когда ты полагаешься на то, что кто‑то другой (банк, брокер, алгоритм) уже всё за тебя решил.

Долгие месяцы я жила в тревоге, чувствуя себя не просто безработной, а фактически уничтоженной. Потеря денег оказалась меньшим злом. Главное — я потеряла уверенность в завтрашнем дне, веру в то, что могу управлять своей жизнью. Мне пришлось заново учиться доверять себе, своему опыту, своему чутью. И именно тогда я начала заниматься персональным финансовым консультированием — не как «продавец инвестиционных продуктов», а как человек, который прошёл через это сам. Я помогаю людям не просто зарабатывать, а выстраивать личные финансовые стратегии, выбирать надёжные инструменты, распределять риски так, чтобы ни одна «цифровая модель» не решила за них их судьбу.

И всё чаще я стала замечать: мои клиенты боятся не только инфляции или обвала рынка. Они боятся «непоняток». Когда банк отказывает в ипотеке — почему? Когда страховка растёт вдвое — на каком основании? Когда платформа рекомендует одни активы, а не другие — кто стоит за этой рекомендацией? Мы передаём машинам всё больше прав, даже не осознавая, что те начинают не просто помогать, а решать за нас.

Вот о чём эта книга. Не о том, как работают нейросети или что такое глубокое обучение. Я не программист, я — экономист и исследователь. Мне интересно другое: что происходит с нами, когда код становится судьёй, учителем, психологом и даже хранителем наших воспоминаний. Я смотрю на технологии через призму справедливости распределения, доверия, репутации, капитала. И я пишу не сухие отчёты — я работаю с метафорами. Блокчейн для меня — не майнинг, а «цифровая тетрадь доверия». Соцсети — не платформы, а «кривые зеркала», где мы тонем или учимся отражать звёзды. ИИ-психотерапевты — не программы, а «поддержка без присутствия», которая может оказаться либо спасением, либо величайшей подменой.

Книга построена как путешествие от внешнего к внутреннему. В первой части мы разберём, как алгоритмы перекраивают общество — кредитуют, нанимают, страхуют, судят. Увидим, что алгоритм не нейтрален: он — зеркало наших прошлых ошибок, предрассудков и структурного неравенства. Поговорим о том, может ли децентрализованное доверие (блокчейн) стать альтернативой, и что такое экономика репутации, где главная валюта — не деньги, а поведение.

Вторая часть — наша повседневность. Те самые куки-файлы, которые мы принимаем, не глядя. Лайки, которые стали валютой самооценки. Цифровые отражения, в которых мы сравниваем свой «черновик» с чужой «финальной версией». Мы разберём, как удобство становится платой за наблюдение и как соцсети незаметно меняют наше отношение к себе.

Третья часть — самая сокровенная. Что происходит, когда мы доверяем машинам своё одиночество, тревогу, боль? Где проходит грань между помощью и дегуманизацией? Когда ИИ говорит: «Звучит так, будто вам сейчас тяжело» — это утешение или просто шаблон? И главное: если алгоритмы знают о нас больше, чем мы сами, если душевная боль превращается в «данные», а личность — в профиль, — что из нашего человеческого остаётся неприкосновенным?

В конце каждой главы я задаю вопросы. Не для того, чтобы вы ответили мне, — для того, чтобы вы остановились и спросили себя. Потому что эта книга — не инструкция и не готовая истина. Это приглашение к диалогу. Я хочу, чтобы, закрыв последнюю страницу, вы почувствовали: вы не одни в этом мире цифрового шума. У вас есть голос, есть выбор, есть способность не быть просто «данными» для чужого алгоритма.

Часть

I

Глава 1. Кто решает, что честно? Алгоритм как зеркало наших ошибок

1. Невидимый судья

Ваше утро начинается не с кофе. Оно начинается с решения, которое за вас уже принято.

Будильник на смартфоне сработал на пять минут раньше — потому что алгоритм сна «посчитал» фазу вашего цикла оптимальной для пробуждения. Пока вы моргаете спросонья, лента соцсетей уже подсунула новость, которая гарантированно вызовет эмоцию: гнев или страх, радость или зависть — неважно, главное, чтобы вы задержались. Вы открываете карту, и приложение предлагает маршрут, объезжая пробки, — но оно не знает, что вы сегодня не торопитесь, вам хочется пройтись пешком. Вы заказываете еду, и доставка рекомендует именно то, что вы ели в прошлый раз, — потому что «так удобнее». Вы заходите в онлайн-банк, а он уже подготовил предложение по кредиту — «только для вас», хотя вы не просили. Вы листаете вакансии, и система показывает те, которые соответствуют «профилю», составленному по вашим прошлым откликам, даже если вы мечтаете о чём-то совершенно другом.

Всё это — как тысячи маленьких шестерёнок, которые вращаются без вашего ведома. Они не спрашивают разрешения. Они не объясняют, почему выбрали именно это. Они просто работают. И вы принимаете их решения как данность, потому что они кажутся разумными, удобными, даже заботливыми.

Но есть и другая сторона. Та, где решения алгоритмов касаются не того, что посмотреть или съесть, а того, давать ли вам шанс.

Когда банк отказывает в ипотеке — не потому, что вы плохой плательщик, а потому, что модель посчитала ваш район «рискованным». Когда работодатель даже не рассматривает ваше резюме — потому что система отсеяла его по возрасту или по тому, что в нём не было слова «лидерство» в нужном месте. Когда страховка резко дорожает — потому что алгоритм выявил «повышенный риск», связанный с вашим адресом, профессией или тем, что вы на днях гуглили симптомы болезни.

Мы живём в мире, где код стал судьёй. Но мы не видели его лица. Мы не знаем, по каким законам он судит. И, самое страшное, мы не можем обжаловать приговор.

Мне хорошо знакомо это чувство — когда решение принимают за тебя, а ты стоишь в растерянности, потому что не понимаешь, что пошло не так. В 2014 году я ушла из большой западной компании. Уверенная, опытная, востребованная — я считала, что рынок труда сам найдёт меня. Прошёл месяц — тишина. Два — редкие отклики на мои резюме, и все с формулировкой «мы выбрали другого кандидата». Три — я уже не просто искала работу, я пыталась понять: что в моём профиле не так? Я переделывала резюме раз за разом, переставляла слова, добавляла проекты, убирала даты, чтобы не выдать возраст. Но в ответ — сухие уведомления, и ни одного живого объяснения.

Тогда я не знала, что многие мои отказы, возможно, были результатом автоматической фильтрации. Система искала ключевые слова, которые я неудачно сформулировала. Или, что ещё обиднее, моё резюме даже не дошло до рекрутера, потому что скрипт «решил», что я не подхожу. Я чувствовала себя не просто безработной — я чувствовала себя невидимкой.

Вот она, главная опасность цифрового судьи: он не злой. Он не предвзят в том смысле, в каком предвзят человек, который вас невзлюбил. Он просто безразличен. Он выполняет инструкции, которые когда‑то написали другие люди, и эти инструкции основаны на статистике, которая, в свою очередь, основана на нашем прошлом. Прошлом, полном ошибок, несправедливости и предрассудков.

А мы даже не знаем, как апеллировать к безликой машине. Мы можем только гадать: «Почему мне отказали?» — и слышать в ответ: «Извините, алгоритм не разглашает причину».

2. Миф о нейтральности

Существует устойчивая иллюзия: алгоритм — это математика, а математика, как известно, нейтральна. Дважды два — четыре, точка. Ошибка — она и в Африке ошибка. Но если алгоритм ошибается, мы склонны винить не его, а данные: «недостаточно качественно обучили», «выборка была неполной». Или, что ещё удобнее, «сам человек что‑то не так сделал».

Этот миф — один из самых коварных в наше время. Потому что он позволяет нам перекладывать ответственность на «объективность» кода, тогда как на самом деле код — это всего лишь увеличительное стекло, которое делает видимыми наши собственные трещины.

Как работает машинное обучение? На пальцах: вы даёте машине тысячи, миллионы примеров — кто получил кредит, а кому отказали; кого приняли на работу, а кого нет; кто совершал преступления, а кто был оправдан. Алгоритм ищет закономерности: какие признаки чаще сопровождают положительный исход? И когда приходит новый человек, машина примеряет на него эти закономерности.

Всё было бы хорошо, если бы те «исторические данные», на которых учится алгоритм, не были пропитаны нашими человеческими слабостями. Представьте, что вы даёте ребёнку учебник истории, написанный в стране, где десятилетиями угнетали женщин и меньшинства. И просите его предсказывать будущее. Что он предскажет? Он предскажет то же, что было в учебнике: что женщины — слабые, что люди с тёмной кожей — опасны, что бедные — ленивы. Он просто воспроизведёт прошлое. Он не скажет: «Давайте пересмотрим, а правильно ли мы относились к этим группам?»