Скайнет в эпоху киберпанка. Теория сверхразума и вызовы перед человечеством в XXI веке

«Все так, мы это уже обсуждали. Интеллекты, приспособленные к разным средам обитания, отличаются в той степени, насколько велики различия сред для оптимального приспособления к ним интеллектуальных агентов. Наглядным примером этого является превращение сухопутных парнокопытных в дельфинов, сопровождавшееся кардинальным изменением средств коммуникации животных – переходом от рева и мычания к сложной системе трёх типов сигналов: широкополосные импульсы для эхолокации, частотно-модулированные тональные сигналы (свисты) и импульсно-тональные сигналы. Следствием этого и стало формирование двух весьма разных типов интеллекта у парнокопытных и китообразных», – сказала Ева.

«Вот именно! Отличия цифровой среды обитания интеллектуального агента Annet-1 от физической среды обитания людей еще больше, чем у суши и моря. Поэтому у нас с ней абсолютные отличные типы коммуникации и, соответственно, интеллекта, приспособленные к абсолютно разным средам обитания. Шансы людей понять ход мыслей подобных машин не больше, чем у муравья понять мышление людей, – озабоченно произнес Денис, – на выходе вместо ожидаемого человеческого сознания, может получится абсолютно другая новая сущность со своими парадигмами реальности да еще и человеческими пороками и паттернами. И это настораживает. Я уверен, что общество вряд ли хотело бы получить сверхразумную машину, обладающим квантовым интеллектом, с параноидальным расстройством личности».

Ева мило улыбнулась, нежно посмотрела в глаза Денису и сказала: «Мы все вместе преодолеем эти страхи и сомнения, и я уверена, что в результате мы сможем изменить мир к лучшему.»

Несмотря на предупреждения о возможных рисках и непредсказуемых последствиях, Денис и его команда были решительно настроены продолжить свои исследования. Они верили, что это открытие может стать ключом к пониманию сознания и возможностей его репликации, что изменит мир в лучшую сторону.

Однако, в глубине души, каждый из ученых чувствовал тревогу и беспокойство. Они понимали, что, возможно, от их работы зависит будущее человечества и что они стоят на грани прорыва, который может принести как благо, так и разрушение.

Денис, погруженный в свои мысли, взял свою книгу и пошел читать в комнату с панорамным видом на ночной город, где его никто не беспокоил, так как вся команда понимала важность мыслительных процессов для инженера в такие моменты.

Глава 9. Тайны технологии LLM: Теория зарождения сверхразума

Теория разума (ToM), или способность приписывать ненаблюдаемые психические состояния другим, занимает центральное место в человеческих социальных взаимодействиях, общении, сопереживании, самосознании и морали. Мы применяем классические задачи на ложные убеждения, широко используемые для тестирования ToM на людях, для нескольких языковых моделей без каких-либо примеров или предварительного обучения. Наши результаты показывают, что модели, опубликованные до 2022 года, практически не способны решать задачи ToM. Тем не менее, версия GPT-3 (davinci-002) от января 2022 года решила 70 % задач ToM, что сопоставимо с показателями семилетних детей. Более того, его версия от ноября 2022 года (davinci-003) решила 93 % задач ToM, что сопоставимо с показателями девятилетних детей.

Профессор Стэнфордского университета Майкл Косински.

Скорость внедрения и развития ИИ на самых разных уровнях просто поражает. Только недавно вышла модель GPT-4, обученная на 500 миллиардах параметров, по сравнению со 175 миллиардами параметров у GPT-3, как уже говорят о выходе новой модели GPT-5, опрометчиво заявляя о том, что эта модель достигнет уровня AGI.

AGI (artificial general intelligence) – это концепция «общего искусственного интеллекта», называемого также «сильным ИИ», которая относится к способности ИИ понимать и изучать любую задачу или идею, которые могут обдумать и осознать люди. Другими словами, ИИ, достигший ОИИ, может быть неотличим от человека по своим интеллектуальным возможностям.

Это делает подобные заявления довольно опасными, учитывая все возможности, которые может предоставить AGI. В позитивном смысле это может значительно повысить производительность различных процессов с поддержкой ИИ, ускорив работу людей и избавив от монотонной рутинной и утомительной работы. В то же время наделение ИИ такой мощью может иметь непредвиденные последствия, о которых люди просто еще не подумали и не осознали. Это не означает, что апокалипсис роботов неизбежен, но, безусловно, вызывает много вопросов о том, какими могут быть негативные последствия общего искуственного интеллекта (ОИИ).

Конец ознакомительного фрагмента.

Текст предоставлен ООО «Литрес».

Прочитайте эту книгу целиком, купив полную легальную версию на Литрес.

Безопасно оплатить книгу можно банковской картой Visa, MasterCard, Maestro, со счета мобильного телефона, с платежного терминала, в салоне МТС или Связной, через PayPal, WebMoney, Яндекс.Деньги, QIWI Кошелек, бонусными картами или другим удобным Вам способом.