Белые пятна искусственного интеллекта

В середине ХХ века произошло то, к чему человечество шло столетиями: появился реальный материальный но- ситель искусственного интеллекта (ИИ) – ЭВМ, электрон- ная вычислительная машина, или компьютер (вычисли- тель). И, главное, выросшие из вычислительной техники электронные нейронные сети.

Небольшой экскурс в прошлое. На закате XVIII века математику Гаспару де Прони, работавшему над создани- ем длинных логарифмических таблиц, пришла в голову идея создать социальный алгоритм [Там же. С. 19]. То есть мысленно представить реальную производственную ие- рархическую организацию, состоящую из реальных жи-

вых людей, которые осуществляют свою часть расчетов. А в завершение они вместе выводят окончательный ре- зультат. Как догадался, по-видимому, проницательный читатель, Г. де Прони моделировал реальное разделение умственных операций кооперативом работников, то есть их алгоритм умственных действий. Это был не техниче- ский, не машинный алгоритм, а социальный, но связан- ный с производством. Тот самый алгоритм разделения труда, который интуитивно использовал Чарльз Бэббидж (1791–1871) при изобретении своей вычислительной ма- шины. И хотя его аналитическая машина состояла из … 25 тысяч механических деталей и представляла из себя грандиозный калькулятор с механическим приводом, для своей работы этот «вычислитель» уже требовал програм- му. И такую математическую программу – алгоритм по- следовательных вычислений – в 1843 году составила Ада Лавлейс (1815–1852), дочь знаменитого лорда Байрона, поэта и борца за справедливость. Неслучайно день рож- дения Ады Лавлейс – 11 декабря – англосаксонский мир отмечает как день программиста. А детище Ч. Бэббиджа, хоть и не было окончательно завершено и работало от энергии… парового двигателя, по праву считается реаль- ным прообразом вычислительных машин на электриче- ских, а затем и на электронных лампах 40–60-х годов про- шлого века.

Процессор (от лат. prоcеssus – «продвижение вперед») –

центральное звено при выполнении счетных или фор- мально-логических операций. Когда человек считает уст- но, этот процессор находится у homo sapiens сугубо в его голове. Но с изобретением абака-счет, арифмометров, на- конец, компьютеров человек «процессорные», т. е. сугубо стереотипные, алгоритмические функции «выносит» из головы и передает техническим устройствам. Далее. Одно дело, когда земляне при копании передают эту физиче-

скую работу от «лопата-землекоп» экскаватору, но каче- ственно другое, когда они функцию мозга, пусть и три- виальную, механическую по исчислениям, по перебору вариантов поручают механизмам. Однако мозг вообще, а человеческий мозг в особенности, это сложнейший ком- плекс процессоров, получающих задания-информацию от наших органов чувств. К тому же, как подчеркивает академик С. В. Медведев, «сегодня число чувств не огра- ничивают пятью. Ведь есть температурная чувствитель- ность, чувство равновесия, чувство времени и т. д.» [4. Т. 1, с. 14]. Человек же как социальное существо имеет и такие

«органы» чувств, которых по определению нет в биоло- гическом (животном) мире: чувства гордости, вдохнове- ния, гнева, стыда, боли от утрат. Наконец, общечеловече- ское свойство – сознание, породившее такой уникальный процессор, как мозг человека, отвечающий за мышление. Мышление – это ядро сознания, это умственный труд. У индивидуума он расположен в основном в лобных до- лях. Мозг человека – это не многослойный «рулет» из се- тей искусственных нейронов, а единый процессор из не поддающихся (пока) учету функциональных процессоров, которые, взаимодействуя, дополняют друг друга. Челове- ческий мозг – это, в конечном счете, не биологическая, а (на заметку конструкторам ИИ) социальная субстанция со всеми вытекающими последствиями. Но вернемся на технико-вычислительную тропу к ИИ.

1 сентября 1939 года грянула Вторая мировая война. И в эти же грозные годы неслучайно появляются первые вычислительные (математические) машины: октябрь 1939 года – американский компьютер Атанасова – Берри; май 1941 года – немецкий Z3; декабрь 1943 года – британ- ский «Колосс». Справедливости ради надо сказать, что первую модель вычислительных машин на энергии элек- тричества создал немецкий изобретатель К. Цузе. В его

машину были заложены: двоичная система исчисления; форма представления чисел с «плавающей» запятой; трехадресная система программирования; наконец, ис- пользование перфокарты, изобретенной еще Ч. Бэббид- жем. Правда, его модели либо не были полностью элек- трическими, либо имели узкое назначение.

Картина качественно изменилась с появлением в 1946 году в США ЭНИАКа – «электронного числового интеграто- ра и вычислителя». ЭНИАК был разработан и смоделиро- ван американскими учеными Джоном Мокли (1907–1980) и Джоном Эккертом (1919–1995). Об этом интерпретаторе и вычислителе следует рассказать подробнее. В нем были использованы и последние достижения математической логики, и новейшие разработки по электронным вычис- лительным машинам. В основу функционирования ЭВМ легли принципы, сформулированные еще в 1945 году Джоном фон Нейманом (1903–1957), американским фи- зиком и математиком венгерского происхождения. Раз- вивая идеи Ч. Бэббиджа, Нейман обосновал, что компью- тер – это совокупность, система, т. е. единство частей по работе с информацией: ввод ее, накопление информации в памяти, обработка ее и вывод для дальнейшего исполь- зования переработанных сведений1.

Клиффорд Пиковер (род. в 1957 году), ученый, изо- бретатель, популяризатор науки, автор более 50 науч- ных книг и 700 патентов на изобретения, утверждал, что ЭНИАК как устройство «стало одним из первых элек- тронных перепрограммируемых (курс. наш – О. П.) циф- ровых компьютеров» [5, с. 91]. ЭНИАК с самого начала создавался для нужд армии США, для продолжения работ по совершенствованию ядерного оружия и, в частности, для создания теперь уже водородной бомбы…

1 О материалистической сущности информации, ее вещественно-энерге- тических основах речь пойдет в очерке VI данной книги.

Историческая справка

Ядерное оружие (атомная бомба) впервые было созда- но в США и использовано в августе 1945 года – Хиросима и Нагасаки. Но США продолжают работать над созданием еще более разрушительной водородной сверхбомбы, хотя Вторая мировая война завершилась победой «союзников». 29 августа 1950 года Л. П. Берия, административно-поли- тический куратор советского Атомного проекта, записал в своем дневнике: «Надо немедля активизировать боль- шие работы по электронным Математическим машинам. Мне докладывают, в США есть уже 8 действующих боль- ших вычислительных Математических машин и они ко- лоссально увеличивают скорость вычислений. Дело новое (для советской прикладной математики того времени – О. П.), но ясно, что надо его немедля двигать, мы уже и так отстали… Говорят, это настоящая революция в прикладной математике, очень упрощает работу физиков» [6, с. 117]. В усилиях, заметим, по «обузданию» ядерной энергии.

Надо сказать, что в нашей стране реальные работы по созданию отечественных ЭВМ (компьютеров) начались еще в 1948 году в Энергетическом институте АН СССР и в Институте электротехники Украинской ССР под ру- ководством академика С. А. Лебедева (1902–1974). Уже 4 декабря 1948 года в Советском Союзе появилась «авто- матическая цифровая электронная машина», созданная ученым И. С. Бруком (1902–1987) и инженером Б. И. Раме- евым, которая получила личный регистрационный номер. Это был компьютер «Агат-4» с монитором на базе телевизо- ра «Шилялис» [7]. В 1949 году Совмин СССР принимает по- становление о разработке двух ЭВМ: быстродействующей электронной вычислительной машины Лебедева (БЭВМ) и параллельно ЭВМ Базилевского–Рамеева «Стрела». А с 1952 года малая электронная счетная машина (МЭСМ) Лебеде- ва уже помогала советским физикам в их расчетах по соз-

данию уже водородной бомбы и использованию ядерной энергии в мирных целях: атомная электростанция (1954 год), атомный ледокол «Ленин» (1959 год).

Но вернемся к ЭНИАКу. Машина состояла из 17 тысяч электронных ламп и почти пяти миллионов соединений, спаянных… вручную. ЭНИАК проработал с 1946 до октя- бря 1955 года. Для ввода и вывода данных использова- лись устройства для считывания перфокарт и карточный перфоратор. Весило это чудо науки и техники… 30 тонн… (Через полвека, в 1995 году, группа студентов-инженеров под руководством профессора Яна ван дер Шпигеля вос- создала его на одной интегральной схеме).

В начале пятидесятых годов вокруг ЭНИАКа развер- нулась шумная пиар-кампания: «Механический мозг расширяет человеческие горизонты»; «Калькулятор по- срамил человека»; «Новая эпоха в сфере человеческой мысли». Другими словами, журналисты подталкивали об- щественное мнение в русле новых практических возмож- ностей будущего ИИ [5, с. 91]. И одновременно, заметим,

«акулы пера» уводили, часто этого не подозревая, в сторо- ну от мыслей хозяев ЭНИАКа.

Механический мозг. Во второй половине ХХ века это словосочетание не шокировало ни ученых-электронщи- ков, ни специалистов-айтишников, ни маститых мате- матиков и даже биологов. В 1963 году академик Сергей Львович Соболев (1908–1989), крупный специалист по теории упругих волн (звука), уравнениям математиче- ской физики, функциональному анализу, вычислитель- ной математике, утверждал: «Человек действительно не может мыслить без мозга, но может создать мозг, кото- рый будет мыслить без человека» [8, с. 87]. И таких вос- торженных почитателей будущего искусственного раз- ума были тысячи. Мыслящий мозг без человека. Многие естественники были, а некоторые до сих пор убеждены,

что мозг как орган человека самостоятельно мыслит, как руки сами работают, ноги сами ходят. Разум, мышление, думали они, – это то, что происходит сугубо внутри мозга, это процессы «общения» между нейронами. Тем более что в середине ХХ века произошли события, которые многие историки ИИ назвали «рубиконом», перейдя который, че- ловечество пошло к своему искусственному помощнику в умственных усилиях с нарастающим ускорением. Речь идет об открытиях Алана Тьюринга.

Биографическая справка

Алан Мэтисон Тьюринг (1912–1954), английский уче- ный-математик; научные интересы по вычислительной математике и математической логике. С юности был влю- блен в великую эвристическую силу математики, в ее воз- можности. В 1936 году в статье «О вычислимых числах» доказал, что в математической науке универсального ме- тода установления истины нет и не может быть. Математи- ка всегда будет содержать не поддающиеся (в конкретный момент? – О. П.) задачи [9, с. 4]. Тьюринг еще в 1936–1937 годах предложил концепцию «вычислительной машины», т. н. «машину Тьюринга». Его концепция была основана на открытом им «абстрактном (математическом) эквивален- те алгоритма»2. Разработал несколько типов цифровых вычислительных машин (ЦВМ), или логических вычисли- тельных машин (ЛВМ). Во время Второй мировой войны работал шифровальщиком, создал дешифровальную ма- шину. Она помогла англичанам взломать секретный код основной шифровальной машины «Энигма» гитлеровской Германии. Это, как утверждают английские источники,

«изменило весь ход Второй мировой войны» [9, с. 4]. (За- метим мимоходом, что на Западном фронте фашистская

2 Логическая эквивалентность – логическая (умственная) операция над высказываниями А и Б, обозначаемая А~Б; ее результат есть высказывание, которое истинно тогда и только тогда, когда А и Б оба истинны или оба ложны [11, с. 177].

Германия потеряла 178 дивизий, в то время как на Совет- ском – 606 дивизий, или в 3,3 больше). Но мы нисколько не умаляем личный вклад Алана Тьюринга в победу над фашизмом в 1939–1945 годах.

Алан Мэтисон Тьюринг умер в 42 года. Бытует легенда, что причиной ранней смерти стало надкушенное яблоко, отравленное цианидом [10. Ч. 1, с. 289].

Тьюринг уже в 24 года убедился, что для автоматизации процедур исчислений необходим алгоритм3, т. е. такой способ движения математической мысли, который тре- бует строгой последовательности решения задачи, чтобы получить искомый результат на основе однозначных ис- ходных данных. Алгоритм в какой-то степени лежал еще и в основе комбинаторики Луллия (XIII век). Тьюринг по- шел дальше числового алгоритма. Он открыл, что и логи- ческие размышления можно с помощью ЭВМ и на основе алгоритма автоматизировать, можно сымитировать ход человеческой мысли. Но не всякой!..

В 1950 году в журнале «Mind» («Разум») была опу- бликована статья Тьюринга «Computing Machinery and Intelligence» – дословно «Вычислительные машины и ум; понятливость». На русский язык заголовок был пе- реведен как «Вычислительные машины и интеллект», хотя английское «Intelligence», как справедливо полагает Т. П. Гаврилова (Петербург), означает «способность рас- суждать разумно» [12, с. 26]. Но способность еще не есть действительность. Рассуждать разумно, мыслить, т. е. ум-

3 Ср.-азиатский ученый аль Хорезми (787–850) в своем сочинении «Об индийском числе» изложил позиционную систему арифметики. Латинский перевод начинался словами: «Dixit Algoritmi» (сказал аль Хорезми); отсюда и произошел термин, означающий (по Лейбницу) всякий порядок действий или правила для получения искомого результата. В русском языке это сло- во впервые появилось в 1835 году. Современное понятие алгоритма уста- новилось в середине 30-х годов ХХ века в работах Геделя (30–31 гг.), Черча (36–41 гг.), Тьюринга (36 г.), Поста (36 г.), Маркова А. А. (47–51 гг.) [2, с. 10].

ственно трудиться, – это прерогатива ЧЕЛОВЕЧЕСТВА. Интеллект – это показатель способности к мышлению, индикатор его уровня, начальная ступень. Кстати, само словосочетание «искусственный интеллект» появилось впервые в 1956 году. Но мы отвлеклись… Как бы там ни было, в русскоязычную литературу «Intelligence» вошло не как «понятливость», «рассудок», а как «интеллект», что до сих пор приводит к терминологической путанице. Правда, сам Тьюринг писал в 1950 году: «Я убежден, что к концу нашего века … можно будет говорить о мыслящих машинах» [9, с. 27].

Итак, может ли машина (ЭВМ) продемонстрировать разумные (человеческие) способности. Чтобы проверить это, Тьюринг предложил (1950 год) провести оригиналь- ный тест – т. н. «игру в имитацию». Смысл ее в следую- щем: человек-экзаменатор через печатное устройство (голосовой компьютерной связи еще не было) тестирует… компьютер и другого человека. Своеобразный экзамен по определенной теме: «Искусство», «Спорт», и через во- просы-ответы нужно определить или профессию, или пол тестируемых. Все они, и «экзаменатор», и «студенты», на- ходятся в разных помещениях. Получая ответы и от испы- туемого человека, и от испытуемого компьютера, который

«прикинулся человеком», экзаменатор должен опреде- лить, где отвечал компьютер, а где человек. Правда, чтобы компьютер мог «беседовать», в него – самое главное – за- кладывается программа по заранее обговоренной теме, и, главное, такая программа, чтобы компьютер мог, как «ис- пуганный» студент, специально ошибаться.

Вывод! Если после изучения ответов экзаменатор-че- ловек не сможет отличить ответы разумного человека и ответы «разумного» компьютера (who is who), то маши- на прошла экзамен и показала себя человеком. К. Пико- вер не без иронии приводит высказывание французско-

го философа Дени Дидро (1713–1784): «Если бы нашелся попугай, способный отвечать на любые вопросы, я без колебаний назвал бы его разумным существом» [5, с. 95]. Попугаи могут имитировать, воспроизводить человече- ский голос, подражать тембру человека-хозяина. У наших друзей, Анатолия и Люды Керсельян, был кроха-попугай. Чика гордо сообщал гостям: «Чика хороший», а также:

«Клеточка – дом родной»; хозяйку встречал: «Людочка пришла. Красавица пришла». К. Пиковер по поводу го- ворящих компьютеров спрашивает: «Можно ли считать разумными создания, способными «думать», запрограм- мированные должным образом». Компьютер прикидыва- ется человеком. Но если прогресс поднимет электронное устройство выше человека в умственных усилиях, то ком- пьютеру, размышляет ученый, «придется прикинуться менее «умным», поскольку тест предполагает имитацию человеческого поведения» [Там же, с. 95]. А имитирую- щий не может быть рáзвитее того, кого копирует4. Тем бо- лее выше того, кто его создал! Тест Тьюринга до сих пор вдохновляет одержимых идеей машинного мышления. И в XXI веке проводятся т. н. «конкурсы на премию Леб- нера». Специалисты состязаются в разработке программ, чтобы наилучшим образом представить их … человеком. Не обходится и без курьезов. Айтишники-программисты используют неожиданные хитрые приемы, свойственные живым людям: опечатки, вопросы судьям, шутки, даже изменение темы беседы. К. Пиковер приводит пример, как в 2014 году разработанный специалистами из России и Украины робот-собеседник прошел тест и был признан живым тринадцатилетним мальчиком Женей Густманом [5, с. 95]. А Женя Густман – это виртуальный «ребенок» трех

4 Правомерно польский ученый Д. Емельняк предложил к трем законам робототехники Айзека Азимова четвертый закон: «Робот или ИИ не могут об- манывать человека, выдавая себя за человеческое существо» [13, с. 90].

программистов: Владислава Веселова (россиянин, США), Евгения Демченко (Украина), Сергея Уласеня (Россия). На- чал разрабатываться еще в 2001 году в Санкт-Петербурге. И все-таки идеи Тьюринга о наделении машин «раз- умом» оказались достаточно живучими и плодотворны- ми для все новых и новых открытий в области техноло- гии ИИ. Еще в 1947–1948 гг. А. Тьюринг размышлял, «как оценить число переключательных и соединительных элементов человеческого мозга (курс. наш – О. П.), чтобы получить требования к простейшему моделированию» [9, с. 147]. Прошло 70 лет. В 2014 году американские уче- ные Д. Черч и Р. Юсте в духе Тьюринга писали: «Мы воз- лагаем большие надежды на новые разработки по реги- страции, управлению и расшифровке языка мозга (курс. наш – О. П.) – электрических импульсов, которыми об- мениваются нейроны» [14, с. 12]. Нам важно отметить, что, погружаясь в творческую лабораторию А. Тьюринга, британский исследователь ИИ Дональд Мичи считает, что мысли ученого гораздо глубже решения чисто меха- нических компьютерных задач и выходят к положитель- ному решению пусть менее важного (по представлениям Д. Мичи – О. П.) «чисто философского вопроса: при каких обстоятельствах пришлось бы вообще согласиться с при- тязаниями машины на мышление» [Цит. по 9, с. 147–148]. Сам Тьюринг, «голосуя» за способность машин мыс- лить, добросовестно рассматривает возможные возра- жения против этой точки зрения: теологические; страх перед «думающими» машинами; математические; с точ- ки зрения сознания; машина не все может выполнять; ма- шина не может создавать действительно новое; сравнение с человеком (который неформал, сверхчувствительный и т. п.). [9, с. 26–56]. Как видим, Тьюринг, как подлинный ученый, привел солидные контраргументы против ма- шинного мышления, оставаясь при своем убеждении.

На одном контраргументе есть смысл остановиться. Он пишет: «Я вовсе не думаю, что загадки, связанные с со- знанием, непременно должны быть разъяснены прежде, чем мы окажемся в состоянии ответить на вопрос» – смо- жет ли машина мыслить? [Там же, с. 36]. Что можно ска- зать по этому поводу? Пока Наука не доказала, что идея perpetuum mobile противоречит фундаментальным зако- нам физики: закону сохранения и превращения энергии и второму закону термодинамики – закону возрастания энтропии, фанаты-изобретатели работали над вечным двигателем, но попутно создавая массу полезных вещей. А появление «сознания» у технического тела – искус- ственной нейронной сети, – работающего по физическим законам, противоречит фундаментальным законам появ- ления и функционирования социальной формы материи. О «машинных притязаниях» на мышление или хотя бы на самостоятельный интеллект речь пойдет во второй части книги. А пока вновь перенесемся в середину прошедшего столетия.

1948 год. В свет выходит знаменитая работа Норбер-

та Винера (1894–1964) «Кибернетика, или Управление и связь в животном и машине». Кто такой Н. Винер?

Биографическая справка

Норберт родился в 1894 году в еврейской семье. На- стоящий «вундеркинд». В семь лет свободно читал. В де- вять лет увлекся дарвинизмом; школу закончил, когда ему было 11 лет, а в 14 лет – институт. Девятнадцатилетним юношей защитил диссертацию по философии математики, точнее – по математической логике. Учился у Дж. Сантая- ны, Дж. Ройса, Э. Гусельра, Б. Рассела. С последним много работал по вопросам использования логики в математи- ческих исчислениях. В годы Второй мировой войны откры- то занял антифашистскую позицию; разрабатывал осно- вы науки управления реактивными снарядами; часть его

работ по Абердинскому испытательному полигону была засекречена. Труды Винера отражают фундаментальность, энциклопедичность, стремление к междисциплинарно- му синтезу, связи теоретических построений с практикой. В последние годы обратился к проблемам взаимодей- ствия человека с информационными вычислительными устройствами. Выступал за ответственность ученых перед человечеством.

С 1948 года Н. Винер с головой окунулся в главную тему своей насыщенной научной жизни. Именно тог- да вышел в свет его капитальный труд «Кибернетика». Ученый опирался на теорию автоматического регули- рования в системах с обратной связью, разработанную Д. К. Максвеллом (1857–1918), однако, как подчеркивает профессор В. И. Кашперский, придал кибернетике фило- софско-методологическое звучание [15, с. 303]. Почему? Винер полагал, что «все разумное поведение – следствие работы механизмов обратной связи; возможно, и разум как таковой – результат получения и обработки инфор- мации» [цит. по 5, с. 97]. Отсюда убеждение ученого, что мозг человека функционирует подобно ЭВМ, причем с двоичной системой исчисления. Забегая вперед, заме- тим, что если компьютер оперирует битами (электрон- ный), кубитами (квантовый), т. е. цифрами, символами, то человек с помощью своего социального мозга познает мир с помощью образов, смыслов, содержательности ин- формации [16, с. 38–44].

Оставим пока за скобками убеждение ученого, что информация (материальный поток отражения) сама по себе, без влияния целого комплекса факторов, порождает разум. Ведь разум – это разовый ум человека, т. е. произво- дное, единичное от общего, от УМА ЧЕЛОВЕЧЕСТВА. Нам важно подчеркнуть, что перспективной для технологии ИИ оказалась идея Винера о том, что для эффективного

управления важна работа с информацией, с возможно- стью считать ее, с реакцией на нее.

Откуда же появился термин (идея) «кибернетика»? Для этого есть смысл на машине времени переместиться в V век до н. э., чтобы встретиться с гением Античности Пла- тоном. Именно Платон использовал слово «кибернетика», что означает «искусство кормчего». Именно кормчий, ру- левой, штурвальный, получая и перерабатывая информа- цию (сведения) о положении судна на море, принимает соответствующее решение. Кибернетика в устах Плато- на – искусство управления. В 1834 году вышла работа Ан- дре-Мари Ампера (1775–1836) «Опыт о философии наук, или Аналитическое изложение естественной классифика- ции всех человеческих знаний». В своем теоретико-миро- воззренческом труде основоположник электродинами- ки назвал кибернетику наукой о текущей политике и об управлении человеческим обществом. Но ведал ли Ви- нер о «кибернетике Ампера»? Г. Н. Поваров полагает, что