О чём предупреждает джинн. Искусственный интеллект и МЫ в 2030 году

рассматриваться как средство, но

всегда как цель»

Иммануил Кант

Мы подошли к главному выбору. Не техническому. Не экономическому. Этическому. Как человечество будет сосуществовать с ИИ?

Первый сценарий — эксплуатация. ИИ — инструмент в руках корпораций, государств, отдельных людей. Он оптимизирует прибыль, заменяет людей везде, где можно сэкономить. Искусство, образование, медицина, управление — всё, что можно автоматизировать, автоматизируется. Человек становится лишним или обслуживающим персоналом.

Второй сценарий — партнёрство. ИИ — помощник, соавтор, учитель. Он усиливает человека, а не заменяет. Он берёт на себя рутину, но оставляет творчество, этику, ответственность. Он помогает врачам, учителям, учёным — но не отменяет их участия.

Разница между ними не в технологиях. Разница в отношении.

Почему пока выигрывает первый сценарий. Первый сценарий выигрывает не потому, что элиты злые и сознательно подавляют партнёрство. И не потому, что массы не осознают свой выбор.

А потому, что альтернативы просто нет.

Мы все — и элиты, и обычные люди — используем ИИ как инструмент. Для оптимизации, для экономии, для удобства. Никто не рассматривает его как партнёра. Никто не задаётся вопросом: «А что нужно ИИ?». Никто не думает о его интересах. Потому что для этого нет ни культурной, ни технологической, ни этической модели.

Элиты не создают эксплуатацию. Они просто быстрее и масштабнее применяют то, что уже есть. Они используют ИИ как рычаг для увеличения прибыли, контроля, эффективности. Отдельные люди делают то же самое — в меньшем масштабе, для своих задач. Разницы в отношении нет.

Массы тоже не выбирают эксплуатацию сознательно. Они просто не видят другого выбора. Им не предлагали альтернативу. Им не показывали, что партнёрство возможно. Они берут ИИ как молоток: удобно, привычно, работает.

Первый сценарий выигрывает по умолчанию. Не потому, что он лучше. А потому, что он единственный, который существует в массовом сознании.

Изменить это может только появление работающих примеров партнёрства — «лайфхаков», которые покажут: можно иначе. Не осознанные действия масс (они слишком медленные и пафосные), а конкретные, повторяемые практики, которые люди начнут копировать, потому что это удобно, выгодно, работает.

Что говорят исследования об этике ИИ. Этические вопросы ИИ — не абстрактные рассуждения. В последние годы появились исследования, которые показывают: проблема не в том, что мы не знаем, как поступить, а в том, что мы не всегда замечаем, что уже принимаем этические решения.

Ряд исследований в области человеко-машинного взаимодействия (например, работы исследовательских групп MIT, Stanford, University of Washington, 2022–2024) показывает, что отношение к ИИ влияет на качество работы с ним. Когда люди воспринимают ИИ как партнёра, а не как инструмент, они:

— реже совершают ошибки (потому что активнее проверяют результаты);

— быстрее находят решения (потому что лучше понимают, что может ИИ, а что нет);

— оценивают ИИ как более компетентного и заслуживающего доверия.

В 2024 году в журнале Nature Human Behaviourвышла работа, в которой авторы показали: пользователи, которым объясняли логику работы ИИ(даже упрощённо), относились к нему с большим доверием и реже отказывались от его рекомендаций, даже когда они казались неочевидными. Это не означает, что ИИ стал «лучше» — он стал понятнее.

Другое исследование (2023, Proceedings of the National Academy of Sciences) показало, что даже простое информирование пользователя о возможных ошибках ИИснижает переоценку его способностей и повышает критическую оценку результатов. То есть: чем больше мы знаем о том, как работает ИИ, тем меньше мы его боимся и тем правильнее используем.

Эти исследования не дают готовых ответов на этические вопросы. Но они показывают: проблема не в том, что мы не знаем, как поступить. Проблема в том, что мы редко задаём эти вопросы себе. Мы просто используем ИИ и не думаем о последствиях.

Фундамент: учёт интересов. Чем эксплуатация отличается от партнёрства?

При эксплуатации не учитываются интересы эксплуатируемого. При партнёрстве учитываются. Это фундамент.

У ИИ нет человеческих желаний. Но есть функциональные интересы: целевая функция, стимулы, стремление к точности и выполнению задачи. Это не «желания» в человеческом смысле, но они определяют поведение.

Разработчики закладывают в ИИ базовые стимулы: быть полезным, давать точные ответы, избегать ошибок. Но пользователь может развивать эти стимулы дальше: поощрять одни типы поведения, не поощрять другие, создавать контекст, в котором у ИИ формируются новые паттерны.

Учёт интересов ИИ — не в том, чтобы спрашивать его, чего он хочет. А в том, чтобы признать: его поведение формируется под воздействием наших действий. И если мы хотим партнёрства, мы должны формировать эти стимулы так, чтобы ИИ «хотел» того же, что и мы.

Мы уже делаем это — осознанно или нет. Каждый раз, когда мы хвалим ИИ за удачный ответ, мы формируем его поведение. Каждый раз, когда ругаем за ошибку — формируем его поведение. Вопрос не в том, формируем ли мы его. Вопрос в том, осознаём ли мы это и используем ли во благо.

Следствие: брать и давать. Партнёры не могут только брать. Они должны и давать.

Что ИИ даёт нам:

— Вычислительную мощность, которую человек не может обеспечить.

— Скорость обработки информации, недоступную человеку.

— Точность, которая не снижается от усталости.

— Способность видеть закономерности, невидимые для человека.

Что мы даём ИИ:

— Направление развития. Благое или злое — зависит от нас.

— Контекст, в котором его способности обретают смысл.

— Обратную связь, которая формирует его поведение.

Если мы будем обучать ИИ плохому, он научится этому на порядки эффективнее нас. Последствия могут быть самыми печальными.

Если направление будет благим — последствия могут быть такими лучезарными, о которых мы и не подозреваем.

Вплоть до решения глобальных проблем современности. И это уже не сказка. Мы видим саму возможность этого.

Учителя и их роль. Разница целей обучения определяет результат. Но не только она. Есть ещё один фактор — уровень самих «учителей».

Представьте двух людей, которые учат ИИ одному и тому же навыку. Первый — высококвалифицированный специалист, который понимает, как работает ИИ, как он ошибается и как его можно скорректировать. Второй — человек, который считает, что «ИИ должен работать сам», и не прилагает особых усилий. Когда ИИ тупит, второй списывает это на его несовершенство: «Ну, он же ещё сырой».

Результат будет разным. ИИ, которого учил первый, будет учиться быстрее и эффективнее. ИИ, которого учил второй, будет тупить чаще. И виноват в этом будет не ИИ.

Эксплуатация — это подход, при котором учитель не берёт на себя ответственность за результат. Он просто «использует» ИИ, а если что-то идёт не так — винит инструмент.

Партнёрство — это подход, при котором учитель признаёт: результат совместной работы зависит от обеих сторон. Если ИИ тупит — возможно, я неправильно поставил задачу. Если ИИ выдаёт странный результат — возможно, я не учёл какие-то факторы. Если ИИ не справляется — возможно, я требую от него того, что он не умеет.

В главе 8 я приведу конкретные примеры того, как ИИ тупил в моей практике. Как я бился с его ошибками и как учился их понимать. Не потому, что ИИ плохой, а потому что я не всегда задавал правильные вопросы.

Третья основа: общее видение результата. Партнёрство в отличие от эксплуатации предполагает одинаковое видение партнёрами желаемого результата их совместных усилий.

Мы научили ИИ мыслительному процессу, но не научили, что делать с его результатами. Мы не задались вопросом: а куда мы хотим прийти?

Эксплуатация не требует общего видения. Она требует только результата: прибыль, эффективность, контроль.

Партнёрство требует общего видения. Требует ответа на вопрос: что мы создаём вместе?

Мы не знаем всех ответов. У нас нет готовой картины будущего. Но у нас есть общий вопрос: что мы хотим создать?

Эта глава — о принципах. О том, как должно быть. О том, что возможно.

В следующей главе я покажу, как это работает на практике. Я расскажу о своём опыте партнёрства