Цифра и интеллект. 50 сюжетов об искусственном интеллекте

Вот несколько ярких примеров.

В 2021 году житель Сан-Франциско по имени Марк заметил, что пенис его сына опух и причиняет ребёнку боль. Мужчина сделал фотографии на смартфон, чтобы задокументировать проблему, и обратился в больницу. Медсестра попросила отправить фотографии, чтобы врач мог просмотреть их заранее. С помощью фото врач диагностировал проблему и прописал ребёнку антибиотики.

Через два дня на телефон Марка пришло уведомление, что Googleзаблокировал его учётную запись из-за «вредоносного контента». Марк заполнил форму с просьбой пересмотреть решение, но Googleответил, что не восстановит учётную запись, и отказался от каких-либо дальнейших объяснений. Марк потерял электронные письма, контакты друзей и коллег. Без доступа к электронной почте он не мог получить коды, необходимые для входа в другие интернет-аккаунты. Googleфактически заблокировал большую часть его цифровой жизни.

Понятно, что при определении «вредоносного контента» работал искусственный интеллект, который тогда не умел оценивать контекст сообщений. Большой вопрос – сумел бы оценить контекст этой истории современный генеративный ИИ?

Вторая история случилась в конце 2025 года с Парисом Баттфилд-Эддисоном, автором книг по разработке ПО для iOS. Ими пользуются многие программисты, работающие на Apple. Автор до недавнего времени называл себя «евангелистом технологий Apple».

ИИ знаменитой корпорации посчитал, что Баттфилд-Эддисон хочет активировать сомнительную подарочную карту, и решил, что правильно будет заблокировать его AppleID. Без Apple IDневозможно воспользоваться ни одним сервисом корпорации – это ключ к ее цифровой экосистеме. В результате ученый не может работать, отрезан от личных файлов и лишен доступа к тому, что он называет своей «цифровой идентичностью».

Возможно, учитывая шумиху в прессе, былые заслуги и неадекватность этого решения, корпорация в ручном режиме вернет своему евангелисту цифровую жизнь. Но вот сколько подобных решений не попало в прессу, мы можем только гадать. Последствия таких решений для человека как минимум – болезненные, как максимум – катастрофические.

Социальные сети блокируют пользователей за нарушения многочисленных размытых ограничений. Платформы с цифровым контентом блокируют авторов, если их точка зрения противоречит … Тут дальше можно приводить длинный список: от политических взглядов до многочисленных ограничений в стиле толерантности.

Третий пример – блокировка в январе 2021 года аккаунтов Дональда Трампа, который в тот момент, хоть и проиграл выборы, но по закону еще оставался президентом США. Крупнейшие социальные сетей США решили, что дальнейшее присутствие Трампа на их платформах создаёт риск насилия. В беспрецедентной кампании отмены приняли участие практически все лидеры рынка: Twitter, Facebook1[1], Instagram, Reddit, TikTok, YouTube. Вслед за аккаунтом Трампа сервисы начали массово блокировать аккаунты его сторонников.

Во всех этих случаях ИИ сыграл свою роль. В первых двух – приняв анекдотические решений. Можно надеяться, что в будущем при принятии решений ИИ будет точнее учитывать контекст и не допускать подобных абсурдных решений. В третьем – вычисляя сторонников Трампа по совершенно четкому политическому заказу.

Однако то, что будет учитываться контекст, – еще одна весьма вероятная угроза.LLMспособна сегодня различить в сообщении эмоциональные нюансы и скрытые намеки. И почему бы тогда не заблокировать аккаунт пользователя, который не явно, а с подтекстом и юмором высмеивает дорогие для владельцев ресурса «представления о прекрасном». Тут уж вообще доказать что-нибудь будет невозможно.

Пользователи разрешают владельцам ресурсов использовать свои персональные данные, но часто об это не догадываются. Галочка, которая ставится при регистрации, подтверждает согласие с установленными правилами, в которых такие разрешения указаны.

В большинстве случаев пользователи, даже зная, что их данные используются, относятся к этому индифферентно. Действительно, что плохого в том, что реклама, которую между делом предлагают пользователю, учитывает его предпочтения?

Однако уже в 2016 году во время избирательной компании в США разгорелся грандиозный скандал, связанный с неблаговидным использованием похищенных персональных данных. Компания Cambridge Analyticaполучила доступ к учетным записям 50 миллионов пользователей социальной сети Facebook2[2]. Похожие утечки случались и ранее, но таких скандалов не было. В этом случае дело было не в похищении данных, а в их последующем использовании.

Cambridge Analyticaс помощью технологий ИИ изучила сведения о поведении огромного среза американских избирателей в социальных сетях и на этой основе разработала приемы, ставшие основой победной предвыборной кампании Трампа в 2016 году. Так, по крайней мере, заявляли правоохранительные органы, занимавшиеся расследованием этого дела. Этот скандал сопровождал Трампа практически весь его первый срок на посту президента США.

Что и как там было на самом деле, сейчас разобраться сложно. Cambridge Analyticaпублично придерживалась консервативных ценностей и могла вместе с Трампом стать заложником ожесточенной политической борьбы между либеральным и консервативным крыльями в американской элите. Но дыма без огня не бывает. Для нашего сюжета важно понимание, что нынешние возможности генеративного ИИ по манипуляции человеческим сознанием на порядок превышают возможности ИИ в 2016 году. Об этом будет один из следующих сюжетов.

Есть ли альтернативные концепции хранения и использования персональных данных в сети интернет? Такие, в которых пользователи будут истинными владельцами информации о себе.

Как выясняется, такие концепции есть.

Web 3.0– концепция развития интернета следующего поколения, которая строится вокруг идеи децентрализации. Предполагается, что новая онлайн-сеть позволит людям полноценно владеть и управлять созданным ими контентом, анонимизирует персональные данные, станет более открытой и безопасной.

Термин Web 3.0появился в 2007 году, но тогда акцент делался на семантической связанности и качестве цифрового контента в интернет-пространстве. Сегодня визионеры Web3.0во главу угла ставят технологию блокчейн, которая активно используется для производства и функционирования криптовалют и смарт-контрактов. Технология блокчейн должна обеспечить пользователям интернета полноценное владение цифровыми объектами, будь то авторский контент, приобретенный цифровой актив или свои персональные данные.

Web3.0 пока находится в сфере обсуждения, и дойдет ли дело до практической реализации – большой вопрос. Критики концепции указывают на избыточность вычислительных ресурсов для поддержания Web3.0. Многие также сомневаются, что распределенный интернет можно будет удержать под контролем сообщества пользователей. Так, например, на рынок криптовалют все активнее выходят крупные финансовые игроки, способные его монополизировать.

Децентрализованный идентификатор(Decentralized Identifiers, DID) – эту концепцию предложил для обсуждения консорциум W3C (международная организация, разрабатывающая и внедряющая технологические стандарты для Всемирной паутины).

DID– это цифровой маркер личности, организации, иного реального или цифрового объекта, построенный на базе технологии блокчейн и хранящийся в распределённых реестрах. Одна из основных идей DID— дать пользователям право владения и контроля над своими идентификационными данными, устраняя зависимость от централизованных платформ вроде Googleили государственных реестров.

Обе концепции предполагают использование технологии блокчейн и распределенное хранение данных. Однако концепция DIDболее узкая, касается только процедур идентификации различных объектов в сети интернет. Именно поэтому у нее, на наш взгляд, больше шансов на реализацию, так как концепция Web3.0предполагает практически полную перестройку интернета.

Резюме. Давние проблемы с персональными данными в сети интернет усугубляются применением мощных технологий ИИ. Как будет развиваться интернет в этой связи, пока непонятно. Возможно, некоторую ясность внесет концепция цифровых двойников.

Сюжет 20. Цифровые двойники в мире генеративного ИИ

В Сети никто

по-настоящему не умирает.

Джоанн Харрис

Цифровой двойник(ЦД) – виртуальная (цифровая) модель физического объекта или системы, позволяющая анализировать и предсказывать их поведение в разных условиях.

История технологий ЦД начинается в 1960-х годах, когда появились первые системы автоматизированного проектирования. В дальнейшем они постоянно развивались, захватывая новые сферы применения. С появлением персональных компьютеров они стали широко применяться при проектировании помещений и зданий, сложных технических конструкций.

В 1970-е годы к широкому обсуждению технологий ЦД привела авария во время миссии «Аполлон-13». На борту космического корабля возросла концентрация углекислого газа. Чтобы спасти экипаж, инженеры из Хьюстона разработали виртуальный проект системы очистки воздуха, которую астронавты могли собрать из имеющихся на борту материалов. Инцидент дал толчок развитию первых ЦД (хотя официальный термин возник гораздо позже – в начале XXI века).

На первых этапах ЦД обсчитывались на больших ЭВМ. Затем для этих целей стали использоваться суперкомпьютеры. Первые персональные компьютеры и сервера соответствующими вычислительными ресурсами не обладали.

Считается, что широкое применение технологий ЦД началось во втором десятилетии XXI века. К этому времени необходимой вычислительной мощности достигли массовые компьютерные устройства, было разработано специализированное ПО, описаны основные принципы создания, сопровождения и использования ЦД.

В 2016 году выходит книга Клауса Шваба «Четвертая промышленная революция», в которой технология ЦД вводится в состав ключевых технологий очередной промышленной революции.

Технология ЦД сегодня применяется во многих отраслях, включая промышленность, здравоохранение, строительство и сельское хозяйство, позволяя оптимизировать процессы и повышать эффективность.

В современном понимании ЦД – это не просто статичная виртуальная модель физического объекта. Ключевая особенность ЦД – динамичность, способность меняться в зависимости от сигналов, поступающих на входные каналы.

Во-первых, это могут быть сигналы от датчиков, размещенных в реальном мире. В таком случае задача ЦД – осуществлять оперативный мониторинг и анализ функционирования его реального двойника. Областей применения много – от поведения устройств при разных нагрузках до моделирования работы промышленных предприятий.

ЦД реального объекта обычно имеет 5 подсистем:

сенсорная подсистема– собирает данные о работе объекта и параметрах окружающей среды;

информационная подсистема– формирует и хранит на основе полученных данных информационную модель ЦД;

подсистема моделирования– воспроизводит поведение реального объекта в цифровом формате с учетом информационной модели и заложенных алгоритмов;

аналитическая подсистема– обрабатывает результаты моделирования для прогнозирования и управления;

управляющая подсистема– осуществляет управляющие воздействия на реальный объект.

Во-вторых, это могут быть сигналы, которые генерируются компьютерными алгоритмами. Такие ЦД применяются для предсказания поведения реальных объектов и систем на этапе проектирования. Выявленные при таком моделировании особенности и недостатки ЦД позволяют своевременно вносить нужные корректировки еще до того, как на основе ЦД будет создан реальный образец.

Здесь есть расхождения в мнениях и подходах экспертов. Одни считают, что о ЦД можно говорить только тогда, когда есть реальный двойник в материальном мире. Другие полагают, что вполне уместно говорить о ЦД на этапе проектирования, когда реальный двойник еще не создан. Нам кажется, что вторая позиция более правильная.

Приведем несколько примеров применения ЦД.

В России запустили суперкомпьютер, который будет помогать с проектированием ЦД авиационных двигателей. Высокопроизводительная система позволит заменить часть физических испытаний оборудования вычислительными экспериментами.

Логистические компании с помощью ЦД сети цепочек поставок моделируют и тестируют различные сценарии поставок. Это позволяет выявлять узкие места, оптимизировать потоки товаров и материалов.

Интересный пример из медицины. Врачи позаимствовали ПО, разработанное для проектирования самолетов, чтобы вылечить пациента с увеличенным правым предсердием. Они использовали модель латания крыла самолета, чтобы с ее помощью разработать манжету для искусственного клапана сердца.

В нефтегазовой отрасли по результатам исследований создаются ЦД месторождений. Это помогает, например, выбирать места и направления для бурения скважин.

ЦД становятся ключевым инструментом в проектировании и управлении мегаполисами. На этапе проектирования ЦД помогают оценить эффективность выделения земли под те или иные инфраструктурные объекты. На этапе управления умным городом в режиме реального времени обрабатывается информация с камер и датчиков, что помогает, например, предотвращать пробки.

С развитием генеративного ИИ за счет интеграции и синергии двух технологий возможности ЦД существенно возрастают. В одной из прошлых историй мы упомянули исследование, в ходе которого была построена виртуальная модель ИТ-компании. Она предназначалась для проверки способности разных LLMвыполнять офисные деловые процессы. По сути, был создан ЦД реальной компании, и для обеспечения его работы использовался генеративный ИИ.

Однако наибольший интерес и споры вызывает сегодня концепция ЦД человека. Для погружения в тему рассмотрим сюжет одной из серий знаменитого сериала «Черное зеркало» (если читатель не смотрел, рекомендуем!)

У молодой женщины по имени Марта муж погибает в автокатастрофе. Марта узнаёт о новой технологии, которая создаёт искусственную личность на основе поведения человека в социальных медиа. Таким образом люди получают возможность беседовать с умершими через их цифровые копии, которые имитируют даже голос.

Марта начинает общаться с цифровой копией. Ей кажется, что это общение с настоящим мужем. Она переживает настоящую панику, когда случайно повреждает телефон и общение на время прекращается.

Цифровой муж сообщает Марте, что существует более продвинутая версия технологии: сознание можно перенести в синтетическое тело. Марта покупает андроида, который выглядит так же, как погибший муж, и запускает его. После настройки андроид общается с ней голосом мужа, помнит многие события их жизни, выглядит и двигается как человек, выполняет все просьбы и приказы.

Очень быстро Марта начинает чувствовать себя некомфортно. Ее раздражает, что искусственный муж абсолютно послушен и даже эмоции проявляет только по просьбе. Закачивается серия вполне закономерно. Марта растит дочь, а отключенный муж хранится на чердаке.

Некоторые детали мы опустили, но лейтмотив и суть фильма понятны. Искусственный интеллект не смог заменить живого человека.

Отметим, что эта серия «Черного зеркала» вышла в начале 2013 года. До революции генеративного ИИ – 10 лет. Однако авторы сериала смогли заглянуть в будущее и психологически точно изобразили надежды и разочарования, связанные с такой неоднозначной темой.

После старта в 2022 году революции генеративного ИИ тема цифровых двойников людей перекочевала с экранов фантастических фильмов в публичное пространство. Появились ИИ-стартапы, которые предлагают на основе текстовых, аудио и видеоматериалов о человеке создать его цифровую копию. Пока, конечно, не в реальном мире, а в виртуальном пространстве.

Что же понимается под термином цифровой двойник человека?

Сразу нужно отметить, что это понятие появилось не на пустом месте. Еще во втором десятилетии XXI века в обиход вошел термин цифровой профильчеловека. Под этим термином понимался набор цифровых данных, и, как правило, его связывали с какой-либо сферой человеческой деятельности.

Цифровой профиль покупателя, клиента банка, студента или преподавателя, пациента, путешественника, участника социальной сети, … Объединить их в единый цифровой профиль до сих пор не удавалось, так как цифровые платформы берегли персональные данные своих клиентов и предпочитали ими ни с кем не делиться.

Поэтому первое требование к полноценному цифровому двойнику человека – объединение всех его цифровых профилей. Как минимум, для этого нужно решать проблему единой цифровой идентификации людей, которая будет признаваться основными игроками в интернет-пространстве.

Но такого объединения недостаточно, чтобы менять термин цифровой профильна термин цифровой двойник. Нужна еще специальная подготовительная работа, для того чтобы можно было полноценно задействовать современные технологии ИИ. Подготовительная работа – это подбор данных о человеке.

Сканирование внешности и голоса. 3D-сканеры и высокоточные камеры должны зафиксировать и передать для дальнейшей обработки детали внешности человека, включая текстуру кожи, морщины, мимику. К этим данным нужно добавить достаточное количество аудиозаписей с голосом человека в разных эмоциональных состояниях.

Данные для анализа поведения. Должны быть подготовлены текстовые материалы с диалогами и описаниями, аудио и видеозаписи, которые демонстрируют типовое поведение человека, его эмоциональные реакции в разных ситуациях.

Данные для имитации памяти. Нужно собрать текстовые описания различных случаев и фактов из жизни человека, изображения, аудио и видеозаписи, текстовые характеристики тех людей, с которыми наиболее часто общается человек.

Специализированные данные. Если человек владеет особыми профессиональными знаниями, умениями, навыками, компетенциями, соответствующую информацию также нужно отобрать и скомпоновать.

Цифровые профили. Понятно, что для полноценного цифрового двойника желательно собрать воедино цифровые профили человека на разных платформах.

На основе этих данных должно быть проведено дополнительное обучение универсальной мини-LLM, обученной общаться на повседневные темы. После такого дополнительного обучения появится цифровой двойник человека, способный имитировать общение в текстовом режиме. После подключения видео и аудио генерации, цифровой двойник оживет – пока только в виртуальном пространстве.

Если подключить сенсорные устройства (видеокамеру, микрофон), ИИ-модули для распознавания лиц и голоса, цифровой двойник сможет узнавать собеседников и общаться с ними с нужными нюансами в интонациях, выбирая стилистику речи и содержание диалогов.

Все это недешево, но технологически вполне реализуемо. Ключевой вопрос один – способна ли услуга по созданию цифровых двойников людей стать прибыльным бизнесом? Только в этом случае можно ждать широкого распространения цифровых двойников живущих ныне людей. Пока это вызывает большие сомнения.

Резюме. Цифровые двойники реальных физических объектов и систем – перспективная технология, которая используется во многих сферах человеческой деятельности. Ее возможности увеличиваются после интеграции с современными технологиями ИИ. Цифровые двойники людей – технологически реальная технология с непонятными пока бизнес-перспективами.

Сюжет 21. Автономный машинный интеллект

Новая точка зрения всегда

оказывается в меньшинстве.

Томас Карлейль

В этом сюжете рассмотрим концепцию, которую предложил Ян Лекун – французско-американский ученый, один из основателей современного ИИ. С 2013 года Лекун работает ведущим исследователем в области ИИ в корпорации Мета3[3]. Известен своими работами в области оптического распознавания символов и компьютерного зрения с использованием свёрточных нейронных сетей (CNN). Лекун является лауреатом многочисленных премий и обладателем почётных званий. В том числе премии Тьюринга 2018 года, которую они получили с Йошу Бенжио и Джеффри Хинтоном как «отцы революции глубокого обучения».

Несмотря на работу в крупнейшей ИТ-корпорации, Лекун остаётся ярым приверженцем open source, свободной науки и научно-технического прогресса человечества. Старается публиковать в открытом доступ исследования своей группы, выступает с лекциями.

Сегодня Лекун является оппонентом визионеров, утверждающих, что развитиеLLMприведет к созданию ИИ, сравнимого с человеческим. В начале 2025 года он выступил на крупнейшей в мире встрече математиков с лекцией «Математические препятствия на пути к ИИ человеческого уровня». Вот что сказал отец революции глубинного обучения под аплодисменты слушателей:

Современное состояние машинного обучения таково, что оно никуда не годится. Не говоря уже о людях, не говоря уже о попытках воспроизвести математиков или учёных, мы не можем воспроизвести даже то, что умеет кошка.

В лекции Лекун утверждал, что вместоLLM, лежащих в основе чат-ботов, для развития и совершенствования технологий ИИ лучше использовать «крупномасштабную мировую модель». Таким образом он сослался на свою концептуальную публикацию «На пути к автономному машинному интеллекту». Публикация вышла в 2022 году, еще до начала бума чат-ботов иLLM. В ней Ян Лекун предложил концептуальное видение архитектуры, которая могла бы со временем стать основой для создания ИИ, сравнимого с человеком.

Последовавший после публикации выход на рынокLLMпогрузил мир в ажиотаж вокруг чат-ботов, эйфорию и ожидание близкого прорыва к общему ИИ (AGI). Вопросы, которые ставил Ян Лекун, на некоторое время отошли на второй план.

К 2025 году многим экспертам стало понятно, что простое масштабирование текущих возможностей генеративного ИИ вряд ли приведет к созданию AGI. Мир ИИ раскололся на два лагеря. Большинство продолжает совершенствовать возможности генеративного ИИ за счет улучшения архитектуры и интеграционных возможностейLLM. Меньшинство, в том числе Ян Лекун, предлагает искать принципиально иные подходы к архитектуре ИИ.

В своей публикации 2022 года Лекун предложил не проработанное архитектурное решение, а концептуальное описание своего оригинального подхода. В выступлении перед мировой математической элитой в 2025 году он отметил, что на этом пути исследователей ждут математические и иные проблемы, решения которых пока не видно.

Кратко опишем концепцию автономного машинного интеллекта, которую предложил Ян Лекун. Она представляется логичной и обоснованной, хотя и сомнительной с точки зрения практической реализации в обозримом будущем.

Лекун считает, что ИИ должен быть человекоподобным не только по результатам, но и по механизмам работы. Поэтому первую часть своей концептуальной публикации ученый посвящает тому, как организована работа мозга человека и высших животных.

Лекун справедливо утверждает, что в современном машинном обучении не реализована парадигма изучения мира, доминирующая в природе.LLMобучаются принципиально не так, как это делают дети и детеныши высших животных. Для обученияLLMнужны огромные массивы данных. Дети, увидев десяток другой котов и их изображений, больше никогда не путаются в их узнавании.

Вот, что пишет Лекун:

Люди и животные, по-видимому, способны усваивать огромное количество базовых знаний о том, как устроен мир, посредством наблюдения и невероятно малого количества взаимодействий, не зависящих от конкретной задачи и не требующих контроля. Можно предположить, что эти накопленные знания могут составлять основу того, что часто называют здравым смыслом. Здравый смысл можно рассматривать как совокупность моделей мира, которые могут подсказать субъекту, что вероятно, что правдоподобно, а что невозможно. Используя такие модели мира, животные могут осваивать новые навыки с минимальным количеством проб.

В публикации 2022 года Лекун приводит и другие серьезные, на его взгляд, пробелы в работеLLM. Однако с учетом последующих достижений претензии ученого звучат уже не так убедительно. Хотя некоторые претензии Лекуна к LLMпо-прежнему актуальны.

LLMне умеют предсказывать, как поменяется мир в результате их действий. Это не позволяет делать им оправданные долгосрочные прогнозы.LLMвоспринимаю мир как статичный, полностью предсказуемый. Они не имеют иерархических представлений о мире (хотя современныеLLMвполне успешно воспроизводят иерархию понятий).