Цифра и интеллект. 50 сюжетов об искусственном интеллекте

Цифра и интеллект. 50 сюжетов об искусственном интеллекте

Предисловие

Исследования в области искусственного интеллекта (ИИ) начались в 1950-х годах и сразу вызвали волну интереса и надежд. Однако эйфория быстро прошла, тема ИИ долго находилась на периферии общественного внимания. Ею занимались ученые, но практические результаты были малоубедительны. ИИ перекочевал на страницы научно-фантастических романов и фильмов. Публика во время их прочтения и просмотра содержанием впечатлялась, но затем быстро его забывала.

С 2010-х годов в исследованиях нейросетей накапливались прорывные решения. Об ИИ снова заговорили, примеров его применения становилось все больше. ИТ-общественность понимала – что-то грядет.

Революцию генеративного ИИ ждали, но началась она неожиданно. В ноябре 2022 году компания OpenAIпредъявила общественности ChatGPT3.5. Чат-бот за два месяца набрал 100 миллионов пользователей – непревзойденный рекорд. На удивленное, восхищенное и испуганное человечество как из рога изобилия посыпались все новые и новые возможности генеративного ИИ от разных компаний.

Генеративный ИИ имеет огромный трансформирующий потенциал. Он стремительно меняет окружающий мир. Генеративный ИИ – это уникальный по своим возможностям инструмент, с которым придется иметь дела каждому. Генеративный ИИ несет множество угроз, и это не угрозы захвата мира в стиле фантастических произведений. Все реальнее – генеративный ИИ учится решать многие наши задачи.

И он их будет решать – либо вместо с нами, либо вместе нас.

Мы не раз в книгах серии «Цифра на марше» повторяли:

ИИ делает сильного – сильнее, а слабого – слабее.

Эта книга для тех, кто хочет быть сильным в гонке века между человеком и его творением. А для этого нужно понимать, что такое генеративный ИИ. Какие у него сильные и слабые стороны. Как его можно и нужно использовать, как минимизировать риски и избегать угроз.

Часть 1. Вместо введения

Сюжет 1. Кратко об эволюции биологического интеллекта

Труд создал

из обезьяны человека.

Фридрих Энгельс

Если не вдаваться в детали классификации, жизнь на планете Земля представлена простейшими организмами, животным и растительным миром. В биологии относительно недавно из растительного мира стали выделять царство грибов, которые имеют отдельные характеристики животного мира. Для нашего контекста это несущественно. Тем более, что сбор ягод и грибов – привычное нашему пониманию занятие, легко объединяющее эти два царства.

К животному миру относят простейшие организмы вроде инфузорий; многоклеточные организмы вроде медуз, моллюсков и червей; насекомые и ракообразные, земноводные и пресмыкающиеся, рыбы и птицы, млекопитающие. На вершине этого перечисления гордо воцарился homosapiens– человек разумный, живой организм, но уже не животное.

Нашему уху непривычно называть животнымкакую-нибудь инфузорию. Обычно под этим термином мы понимаем млекопитающих и птиц. Даже рыб, лягушек, ящериц и змей, не говоря уже о медузах и червях, в нашем повседневном общении мы животными не называем. Наберите в поисковой строке «красивые животные» и перейдите в раздел картинок. Найти там завораживающую медузу или красивую, раскрашенную во все цвета радуги рыбу практически невозможно. А ведь это тоже представители животного мира, с точки зрения науки – полноценные животные.

Это лирическое отступление мы сделали для того, чтобы расширить термин животное, который далее будет использоваться, до его научного, а не общепринятого понимания.

Все животные перемещаются, добывают пищу, приспосабливаются к окружающей среде, размножаются, стареют и умирают. Это касается невидимых глазу инфузорий, парящих в небе орлов, глубоководных рыб и так похожих на нас шимпанзе. Одна часть этих действий обусловлена врожденными инстинктами и контролируется физиологическими механизмами. Другая часть является результатом адаптации индивидуального опыта к условиям среды обитания. Эта способность животных обусловлена зачатками интеллекта.

Чем выше стоит животное на эволюционной лестнице, тем больше значение в его жизни имеет деятельность, основанная на личном опыте. И тем более развита его нервная система, которая постепенно трансформировалась в уникальный биологический объект – мозг. Ученые-биологи уверены сами и уверяют всех остальных, что мозг человека – самый сложный объект во Вселенной.

Нервная система обеспечивает быструю реакцию животного на изменения окружающей среды. Чем эффективнее работает этот механизм, тем меньше животное находится в неблагоприятных условиях. Неблагоприятными считают условия, при которых животное начинает необратимо и безвозвратно терять энергию.

Рассмотрим эволюцию нервной системы в животном мире.

Представители растительного мира не имеют нервной системы, но у них есть ее аналоги. Они основаны на универсальной способности клеток реагировать на химический состав окружающей среды, механические воздействия и электромагнитные излучения (солнечный свет). Этих аналогов достаточно для осуществления сложных адаптационных реакций и перестроек. Недаром говорят, что борьба за место под Солнцем растительности в дебрях Амазонки напоминает борьбу за выживание между животными в насыщенных жизнью экосистемах.

Простейшие одноклеточные организмы в этом плане отличаются от растений тем, что способны перемещением реагировать на химические, механические и электромагнитные воздействия. Например, в растворах простейшие организмы передвигаются в сторону более благоприятной среды, стараются избегать опасных для себя участков.

Нервная система стала формироваться у многоклеточных организмов, жизнь которых проходила в постоянном движении. Именно необходимость эффективного движения в окружающей среде считается главной эволюционной причиной появления нервной системы.

Понятно, почему нервной системы нет у растений. Но ее нет и у некоторых животных, которые живут в чудесном месте, где в избытке пища, тепло, нет опасностей. Речь идет о солитере – виде ленточного червя, который живет в организмах некоторых высших животных и человека. Нервная система солитера предельно редуцирована – можно считать, что ее просто нет. Хотя его собрат – дождевой червь – обладает зачатками нервной системы, в которой около 300 нейронов.

Нервная система малоподвижных многоклеточных организмов вроде актиний и моллюсков с крупной раковиной решает самые простейшие задачи. Ей нужно идентифицировать проплывающую мимо пищу и успеть захватить ее. Для этого хватает рецепторов и механизмов захвата пищи. Первые искусственные нейросети в середине XX века имитировали примерно такое поведение.

Повторим – нервная система нужно была животным, которые быстро двигались, активно вступали в контакт с разнообразными условиями внешнего мира. В борьбе за выживание такие животные должны были постоянно приспосабливаться. В рамках одного вида лучше это получалось у тех, кто имел улучшенную (более сложную) версию нервной системы.

Уникальность нервной системы заключается в том, что она предназначена для интеграции активности других органов и систем животного. Она должна получать сигналы, в первую очередь – от разных источников внешнего мира, дифференцировать и анализировать эти сигналы и на этой основе строить свое поведение.

Для получения сигналов нервной системе нужны специальные сенсорные подсистемы – органы чувств. В основе работы самых разных органов чувств лежат уже известные нам рецепторы, которые способны воспринимать химические, физические и электромагнитные воздействия. Из них эволюция создала большое разнообразие органов чувств в животном мире.

Механические воздействия в виде звуковых колебаний воспринимаются органами слуха. Другие примеры механических воздействий – тактильные ощущения и восприятие гравитации. Химическая чувствительность лежит в основе обоняния, вкусовых ощущений, дыхания. Животные реагируют на солнечный свет, способны воспринимать магнитное поле Земли и электромагнитное излучение Солнца.

Большинство внешних сигналов быстротечны, поэтому нервной системе нужно быстро использовать полученные данные. Для этого их нужно сравнивать, выделять приоритеты и в соответствии с приоритетами реагировать. Сигнал об опасности отключает чувство голода – приоритетом становятся реакции «бороться» или «бежать».

Координация такого сложного поведения требует устройства, к которому должны быть подключены все используемые органы чувств. По сути, речь идет о скоплении нервных клеток, которые получают информацию от разных источников, а затем ее соответствующим образом обрабатывают.

Различные органы чувств и центр обработки полученных сигналов не имеют смысла без связи с органами, осуществляющими ответные реакции организма. Животное может ответить на внешний сигнал сокращением или расслаблением самых разных мышц, активизацией или подавлением выброса биохимических сигналов. Поэтому скопление нервных клеток, претендующих на роль центра обработки поступивших сигналов, должно быть связано с органами, отвечающими за разнообразные реакции организма. Будем называть такие органы исполнительными, а центр обработки – координационным органом.

Органы чувств должны быть приближены к источникам информационных сигналов, поэтому их рецепторы обычно расположены на границе тела и внешней среды. Исполнительные органы распределены по всему организму. Координационный орган должен связываться и с органами чувств, и с исполнительными органами.

Исходя из вышесказанного, эволюция решала две противоречивые задачи. С одной стороны, координационный орган, нужно было сделать максимально защищенным. С другой стороны, он должен был быть представлен практически во всех уголках организма.

Решение было найдено для позвоночных животных – рыб, земноводных и пресмыкающихся, птиц и млекопитающих. Координационный орган разделился на две части. Одна часть – головной мозг, защищенный костями черепа. Именно его мы и называем мозгом. Здесь сконцентрирована та часть координационного органа, которая способна проявлять интеллектуальные способности. Вторая часть – это нервные пути, по которым в мозг поступают сигналы от органов чувств, и по которым мозг передает управляющие сигналы исполнительным органам.

Далее эволюция в основном занималась совершенствованием и развитием головного мозга. Именно на этом пути мозг рептилий, доминировавших на Земле сотни миллионов лет назад, трансформировался в мозг вершины эволюции – человека.

Не будем останавливаться на рыбах, лягушках, ящерицах и змеях. Их головной мозг относительно прост и, главное, они никогда не демонстрировали сколько-нибудь сложные проявления интеллекта. В отличии от птиц и млекопитающих.

О выдающихся интеллектуальных способностях отдельных представителей воронов, попугаев, крыс и мышей, собак, дельфинов и приматов слышали все. Выдающихся, естественно, на фоне остального животного мира. О них и поговорим.

Птицы не раз демонстрировали неплохие когнитивные способности. Ворóны считают и пользуются инструментами, какаду открывают хитро закрытые контейнеры с мусором, гаички запоминают десятки тысяч тайников с семенами. Африканский серый попугай Алекс, которого исследовали в трех университетах, обладал способностью заучивать названия отдельных предметов, опознавать предметы и их цвета.

Но самое интересное не в этом. По структуре мозг птиц сильно отличается от мозга млекопитающих. У млекопитающих проявления интеллектуальной деятельности связывают с областью мозга, которую называют неокортекс. У птиц такой области в головном мозге нет, а ее функции выполняют другие области птичьего мозга с очень мудреным названием. Эти области и меньше, и проще по структуре, чем неокортекс, но позволяют некоторым птицам демонстрировать способности, сравнимые со способностями приматов.

То есть, птица с мозгом весом в 10 грамм способна делать то, что делает шимпанзе с мозгом в 400 грамм. Может быть, человек, как высший представитель отряда приматов, не так уж совершенен? Может быть, на примере птиц эволюция получила более экономичные модели построения инструмента для интеллектуальной деятельности? Вот только отсутствие нужных исполнительных органов (рук) затормозило эти эволюционные эксперименты.

Птицы птицами, но ступенькой эволюции, предшествующей человеку, являются млекопитающие. Именно их головной мозг и его интеллектуальные способности исследуют ученые. Новая кора головного мозга – неокортекс– это эволюционное приобретение класса млекопитающих. Самые разумные из них – высшие приматы.

Неокортекс у низших млекопитающих только намечен, а у человека составляют основную часть коры головного мозга. Неокортекс располагается в верхнем слое полушарий мозга и отвечает за высшие нервные функции — сенсорное восприятие, выполнение моторных команд, осознанное мышление, речь (у людей).

Размер неокортекса линейно коррелирует с количеством поддерживаемых социальных связей, выражаемых числом Данбара. Поддержание таких связей предполагает знание отличительных черт конкретного индивида, связь с которым необходимо поддерживать. Например, характера, поведенческих моделей, социального положения в сообществе. Это требует наличия определённых мыслительных способностей и затрат значительных интеллектуальных ресурсов.

В неокортексе хранятся зачатки морали, которыми, как показали исследования, обладают высшие приматы и некоторые другие млекопитающие. Например, приматам присуще чувство справедливости. В эксперименте обезьяны с удовольствием выполняли задания ученых за кусочки огурца. Потом им показали, что другие приматы получают в награду виноград. Обезьяны, получавшие в награду огурцы, пришли в возбуждение, побросали свои овощи и устроили забастовку. Похожие эксперименты с аналогичными результатами проводились на собаках.

Резюме. Эволюции потребовалось сотни миллионов лет, чтобы сформировать координационный орган, способный управлять всем организмом. Он принимает сигналы внешнего мира, обрабатывает их и на выходе выдает управляющие сигналы для исполнительных органов. Ключевой элемент этого органа у позвоночных животных – головной мозг. Новая кора головного мозга – венец эволюционного развития. Ее формирование помогло человеку осознать себя субъектом интеллектуальной деятельности.

Сюжет 2. Кратко об устройстве и работе мозга человека

Мозг бесконечно сложнее того,

в ком он находится.

Татьяна Черниговская

Ученым многое стало известно о деталях физиологических механизмов здорового мозга. Они выяснили, как развиваются болезни мозга. Удалось разработать немало методов диагностики и лечения таких болезней.

Однако, как и раньше, точно не известно, какие механизмы лежат в основе внимания или памяти. Ученые мало что могут сказать о том, как работает логическое мышление, где накапливается субъективный опыт, как устроено сознание. Мы можем лишь гадать, обеспечивает мозг свободу воли на самом деле или лишь создает ее иллюзию.

Во все времена мозг сравнивали с самыми сложными конструкциями. В XVII веке Рене Декарт сравнивал его со сложной машиной. В XIX веке мозг сравнивали с телефонной станцией, передающей сигналы из разных областей организма. В XXI его чаще сравнивают с компьютером. Мозг принимает, обрабатывает и хранит информацию, управляет устройствами вывода в человеческом организме. Однако мозг не обладает точностью компьютера. Это скорее прогностическое устройство, которое воспринимает внешний мир и выстраивает поведение человека на основе прогнозирования.

Мозг – это наши мысли, эмоции и желания. Он хранит наши воспоминания, дает возможность мечтать, представлять и планировать ближайшееи далекое будущее. Мозг отвечает за осознанные и непроизвольные действия человека.

Мозг человека состоит из нескольких частей. Продолговатый мозгуправляет частями организма, работу которых мы практически не замечаем. Он отвечает, например, за биение сердца и дыхание. Средний мозготвечает за зрение, слух, моторику и внимание. Мозжечокпозволяет двигаться и держать равновесие, запоминает двигательные программы. Гипоталамуспринимает сигналы от органов и анализирует множество химических реакций в организме. От него зависят голод, жажда, родительское поведение, а также реакции на страх и агрессию.

За восприятие и анализ речи, за решение логических и иных интеллектуальных задач, за творчество, за озарения отвечает новая кора головного мозга, покрывающая поверхность правого и левого полушария. Это самое позднее эволюционное приобретение человека.

При решение логических и творческих задач левое и правое полушария постоянно обмениваются информацией. Например, основная роль в обработке речи принадлежит левому полушарию, но правое тоже принимает в этом участие, занимаясь обработкой интонации.

Для простых реакций мозга на внешние раздражители удается более-менее четко локализовать задействованные участки. Сложные мыслительные действия вызывают многочисленные и не всегда предсказуемые потоки сигналов в сложнейшей нейронной сети мозга. При этом исследования показывают, что функции поврежденных участков мозга со временем принимают на себя соседние участки.

По мере эволюции человека объем мозга постепенно увеличивался. У человека умелого (homo habilis), жившего более миллиона лет назад, он составлял 600 кубических сантиметров. У человека разумного (homosapiens) объем мозга – около 1250 кубических сантиметров, вес около 1400 грамм. Считается, что объем мозга и интеллектуальные способности связаны. Однако «небольшой» размер мозга homosapiensне помешал ему выиграть эволюционную гонку у конкурента – неандертальцев, мозг которых составлял около 1500 кубических сантиметров.

1250 кубических сантиметров и 1400 грамм – это средние величины объема и массы мозга современного человека. Понятно, что в природе существуют значительные отклонения от этих величин. Мозг русского писателя Ивана Тургенева весил около 2 килограмм, а мозг французского писателя Анатоля Франса – чуть более 1 килограмма. Это не помешало им стать великими литераторами.

Статистика говорит о том, что мозги выдающихся представителей человечества несколько больше и тяжелее средних показателей. Однако общепризнанным считается иной факт – интеллектуальные способности определяются развитостью нейронной сети мозга. Даже небольшой по объему, но великолепно развитый мозг даст сто очков форы огромному по объему мозгу, который не утруждал себя когнитивным развитием.

Поговорим теперь о нейронной сети, скрытой в нашей голове.

Главная клетка мозга – нейрон. Количество нейронов у человека оценивается в 80-100 миллиардов. Нейроны с помощью отростков связаны между собой в сеть. Нейрон может иметь от одного до сотен отростков. У некоторых нейронов длина отростка составляет десятки сантиметров. Примерная длина нейронной сети головного мозга человека – три миллиона километров.

Сложность нейронной сети не линейная. В ней квадриллион соединений между нейронами. Квадриллион – единица с пятнадцатью нулями. Вариантов «путешествия» электрических сигналов по нейронной сети… Для оценки вот цитата академика Петра Анохина:

Число степеней свободы нервных клеток с учетом всех переменных … может быть выражено числом с таким количеством нулей, что они могут уместиться на ленте длиной в 9 500 000 километров.

Основная работа мозга – это передача сигналов между нейронами. Место передачи сигнала между двумя нейронами или между нейроном и управляемой им мышечной или иной клеткой называется синапсом. Синапсы бывают электрические и химические.

Электрический синапс— это место тесного контакта двух нейронов, в котором ток перетекает из клетки в клетку в двух направлениях. При этом сигнал не модифицируется, не «осмысляется». Область применения довольно узка — только те нервные пути, по которым сигнал надо передавать быстро и без изменений (например, для двигательной реакции на раздражитель).

Химический синапс устроен гораздо сложнее, хотя действует только в одном направлении. Он имеет несколько механизмов, которые управляют его работой. В результате одинаковый сигнал, пришедший из передающего нейрона, приводит к разным исходам в принимающем нейроне. Эта огромная вариативность еще более усложняет человеческий мозг.

Ключевую роль в химических синапсах играют вещества, которые называются нейромедиаторами. Вырабатываются нейромедиаторы в разных частях человеческого организма: в нейронах головного мозга, в надпочечниках, в кишечнике. От того, какие нейромедиаторы вырабатывает организм, зависит человеческое состояние, в том числе – готовность к интеллектуальной работе.

Перечислим наиболее важные и интересные нейромедиаторы.

Серотонин, который иногда называют «гормоном удовольствия». Он вызывает состояние мозга, описываемое как ощущение гармонии, умиротворения, удовольствия и спокойной радости.

Дофамин, который иногда называют «гормоном вознаграждения». Он начинает вырабатываться сразу после положительного опыта либо приятных событий. Именно дофамину принадлежит ключевая роль в формировании зависимостей у человека.

Действие эндорфинанаправлено на устранение болевых ощущений и улучшение настроения. Он положительно влияет на регуляцию работы организма. Количество эндорфина увеличивается от занятий спортом, прослушивания любимой музыки, занятий сексом, воссоздания ситуаций, приносящих приятные ощущения.

Постоянный уровень окситоцинав организме повышает доверие, снижает страх и тревогу, обеспечивает спокойствие в присутствии объекта симпатии. Поэтому окситоцин часто называют гормоном доверия.

Выработка нейромедиаторов происходит в организме человека постоянно. Она зависит от многих факторов. От пищи, солнечного света, режима сна и бодрствования, физической активности, решаемых задач, намерений, желаний и волнений, страхов и тревог.

Для каждой ситуации, в которой находится человек, нужен свой баланс нейромедиаторов. В условиях опасности организм усиливает выработку одних веществ, при творческом порыве – других. Переизбыток или недостаток нейромедиаторов, нужных в данный момент, приводит к самым различным проблемам. Мозг требует от человека привычной порции дофамина, и он покорно садится за любимую игру. Избыток кортизолав организме приводит к стрессам и депрессиям.

Одним из важнейших достижений науки о человеческом мозге признается возможность медикаментозного влияния на выработку нейромедиаторов. Список наук, изучающих человеческий мозг, пополнила нейрофармакология.

На Западе широкое применение получили антидепрессанты. Они оказывают влияние на уровень серотонина, норадреналина и дофамина. У депрессивного больного они улучшают настроение, уменьшают или снимают тоску, вялость, апатию, тревогу, беспокойство, раздражительность и эмоциональное напряжение. Повышают психическую активность, нормализуют продолжительность сна, аппетит.

В 1954 году американскими учеными был обнаружен центр удовольствия у крыс. Так впоследствии назвали найденную зону в головном мозге подопытных грызунов. Крысы с имплантированными в мозг металлическими электродами снова и снова нажимали на рычаг, который активировал найденную зону. В результате забывали о принятии пищи и воды и умирали от истощения.

До сих пор циркулируют сведения о том, что подобные эксперименты с тем же результатом проводились на людях. Официально они не подтверждены и не опровергнуты.

Действия нейромедиаторов, вызывающих эйфорию, и наркотиков практически одинаковое. Они искусственно вызывают у человека чувства, которые близки к общепринятому пониманию счастья. Беззаботность, радость, предвкушение чего-то необычного и чудесного. При этом – без активного движения, в искусственно созданной благоприятной среде.

Этот фактор еще больше усугубляет главную угрозу, которую приписывают искусственному интеллекту (ИИ). Эксперты справедливо опасаются, что повсеместное внедрение и использование технологий ИИ приведет к интеллектуальной деградации и постепенному исчезновению человечества.

Вспомним, что интеллект появился как необходимость реагировать на внешнюю среду при активном образе жизни. И задумаемся, что будет, когда за нас все будет делать ИИ. А для стимуляции размышлений посоветуем найти в интернете или прочитать в нашей книге «Цифра и человек» описание эксперимента «Вселенная 25». Очень поучительно чтение.

Исследования человеческого мозга уже несколько десятилетий находятся в фокусе внимания научной общественности. Основных целей здесь несколько. Наиболее понятная и очевидная – лечение психических заболеваний и отклонений. Две другие цели в определенном смысле противоречат друг другу, но при этом легко уживаются в головах исследователей.