Информационный Завет. Основы. Футурологическое исследование

В термодинамической системе, описанной Больцманом, молекулы, сталкиваясь и передавая друг другу энергию, могут это делать так, что их неупорядоченность будет убывать. Т.е. вместо того, чтобы равномерно распределиться в полном беспорядке, они возьмут и выстроятся, например, в форме конуса. Почему? Потому что могут. Потому что существует, опять-таки ничтожно малая вероятность такого развития событий. И тогда «универсальный» закон возрастания энтропии будет нарушен. Гипотетическое существо, которое могло бы учинить сие безобразие, назвали «демоном Лошмидта».

Парадоксы множились, а удовлетворительного их объяснения не находилось. Больцман попросту отмахнулся от критики. Ему приходилось отражать атаки и на других научных фронтах.

Великий французский математик Жюль Анри Пуанкаре (Jules Henri Poincare) в 1890 году сформулировал теорему о возвращении. Одним из её следствий был вывод о том, что в закрытой системе через очень большой промежуток времени молекулы газа, находившиеся вначале в упорядоченном состоянии, а потом (согласно Второму началу термодинамики) – в хаотическом состоянии, в итоге снова выстроятся в упорядоченную структуру.

Другой великий математик Эрнст Цермело (Ernst Zermelo), опираясь на эту теорему, предположил, что энтропия в замкнутой системе подчинена периодическому закону33. В таком случае Второе начало термодинамики – универсальное правило для всего и вся, в т.ч. и для Вселенной. Получалось, что Клаузиус был прав: нас всех неминуемо ждёт глобальная «тепловая смерть».

Людвигу Больцману крайне не нравилась идея монотонного дрейфа к всеобщему термодинамическому армагеддону. Но, с другой стороны, сам он был автором «универсального» закона возрастания энтропии. «Демон Лошмидта», безусловно, тревожил его.

Учёный выдвинул альтернативную концепцию. Он, как и все в то время, разделял мнение, что обратимость природных процессов – непреложный закон (на что указал Лошмидт, критикуя его H-теорему). Но, если большинство учёных считали, что вся Вселенная катится к естественному и закономерному концу, то Больцман предположил, что конец уже наступил.

Вселенная мертва: она находится в состоянии термодинамического равновесия. В текущем состоянии, утверждал Больцман, система мироздания обладает в среднем очень высоким уровнем энтропии. А мелкие островки упорядоченности (например, планета «Земля») – просто-напросто случайность. Жизнь – незначительная в масштабе Вселенной флуктуация, которая компенсируется где-то в другом месте. Где энтропия выше среднего. У нас – Порядок и «нормальное» течение времени. А там – наоборот: Хаос и стрела времени, обращённая вспять.

Если такая картина миропорядка покажется вам чересчур… экстравагантной, то надо сказать, что примерно то же представление о Вселенной имели, например, Макс Планк и Альберт Эйнштейн. Почему? Потому что концепция многое объясняла.

Космологическая теория Больцмана преследовала важную цель. Не опровергая, ставшее почти священным, Второе начало термодинамики, учесть неудобные статистические вероятности, неизбежно возникающие в такой сложной динамической системе, как Вселенная.

Замысловатая концепция Больцмана не могла не породить очередной парадокс.

В XX веке большинство физиков пришло к мнению, что пространство Вселенной евклидово, т.е. имеет нулевую кривизну. Переводя на человеческий язык, это означает, что расширение Вселенной будет продолжаться бесконечно, постоянно при этом замедляясь. Короче говоря, Вселенная будет существовать вечно.

«Вечно» – это как-то очень долго, не так ли? За этот период времени, согласно интерпретации Больцмана, может произойти бесконечное число флуктуаций. Включая разумную жизнь. Такой объект полуиронично назвали «больцмановский мозг» (boltzmann brain) 12.

Если мы с вами решим прогуляться по вечной Вселенной, то постоянно будем натыкаться на плавающие повсюду «больцмановские мозги», поглядывающие на нас свысока. Ведь мы – продукт нудной эволюции и единственные в своём роде (этакие «белые вороны»), а они – результат бессчетного числа случайностей (по их мнению, закономерностей) и их много. Уверен, «супер-мозги» непременно устроили бы нам серьёзную взбучку.

Сегодня благодаря достижениям квантовой физики и солидному багажу научных фактов противоречивые концепции прошлого, казалось бы, забыты. Однако для становления научного понимания информации идеи Людвига Больцмана имели огромное значение.

Формула Больцмана, абсолютно верная для описания поведения молекул газа или жидкости, но всё же не абсолютный закон всего – это черновой набросок формулы вычисления информации. Основная мысль здесь: связать степень упорядоченности системы со статистической вероятностью обнаружения её элементов. Идею подхватили другие учёные: Джозайя Гиббс (1902 год) и Макс Планк (1925 год), опубликовавшие работы, в которых догадка Больцмана обрела строгую математическую форму8,18.

Для того, чтобы сделать логический переход – от термодинамики к информационному обмену – надо было вообразить, что частица является не только носителем энергии, но и информации. Такой шаг был сделан создателями математической теории информации полвека спустя.

«Демон Лошмидта», спор Больцмана и Цермело, заострил внимание других математиков на проблеме статистической меры информации. Заставил размышлять – при каких условиях сохраняется смысл информации, а в каких – наступает информационный хаос?

Борелевская обезьяна

Эмиль Борель (Emile Borel) – блестящий учёный, основные труды которого посвящены проблеме меры в математике и теории вероятностей. Он решил разобраться, какие факты, с т. зр. математики, можно считать возможными и какие – иллюзорными. Его интерес был не только академическим, но и вполне практическим (Борель занимался политикой). Когда, например, следует учитывать мнение людей по тому или иному вопросу, а когда этим можно пренебречь.

Борель полагал, что существует настолько маловероятные события, что со всей категоричностью их можно назвать невозможными. В качестве одного из примеров таких событий он в 1913 году предложил т.н. «дактилографическое чудо»10.

Допустим, обезьяна оказалась за пишущей машинкой. Она начинает в беспорядке ударять по клавишам устройства, и на белом листе бумаги появляется некая последовательность знаков. Возможно ли, что когда-нибудь обезьяна напечатает что-нибудь стоящее? Научное или литературное произведение? Например, текст трагедии Уильяма Шекспира «Гамлет»?

Возможно. Хотя вероятность данного события чрезвычайно мала.

Пример с борелевской обезьяной растиражирован во многих художественных и научных публикациях, и я не буду утомлять читателя собственными подсчётами. Сошлюсь на профессора Массачусетского технологического института Сета Ллойда (Seth Lloyd). В своей книге «Программирование Вселенной» (Programming the Universe, 2006 год) он рассказывает – чтобы «дактилографическое чудо» произошло, необходимо выполнение ряда условий. Во-первых, обезьян должно быть 1018 штук. Во-вторых, их нужно тщательно подготовить: скорость печатания должна быть не менее 10 букв в секунду. В-третьих, период деятельности трудолюбивых обезьян-машинисток должен составить чуть больше 30 миллиардов лет (напомню, что уточнённая к настоящему продолжительность существования Вселенной составляет около 13,5 миллиардов лет). Это без учёта времени, которое им следует выделить на заслуженное поедание бананов и сон. Но даже в случае успешной реализации перечисленных условий, всё, что смогут напечатать обезьяны (точнее говоря – только одна из всех), будут слова: «Гамлет. Акт I. Сцена 1».

Пример, приведённый Борелем, можно с легкостью интерпретировать неправильно. Не увидев истинной предпосылки, сделать поспешные выводы.

Кажется, что самоотверженный труд обезьян показывает нам, насколько сложна Вселенная, жизнь, человеческий разум, и чтобы создать такую сложность, нужна, как минимум, такая же сложная структура.

Отсюда два традиционных умозаключения:

1. Идеалистического характера: здесь потрудился Сверх-Разум (бог, зелёные человечки и т.д.).

2. Материалистического свойства: всё сущее – результат случайной флуктуации (космологическая концепция Больцмана).

Оба ответа не верны. Потому что ошибочна начальная предпосылка. Механизм создания Вселенной – не пишущая машинка. Он одновременно проще и сложнее. И более напоминает компьютер. Простое устройство, способное делать сложные вещи. А с чем работает компьютер? Он работает с информацией.

В таком случае «дактилографическое чудо» всего лишь демонстрирует неэффективный способ переработки информации.

Борель показал ничтожную вероятность некоторых событий в реальной жизни. Ту же мысль он пояснял, рассуждая о неограниченном информационном запасе в алфавитных разложениях. Любой алфавит – набор знаков – содержит потенциально огромное количество информации14. Ряды знаков, напечатанных обезьянами-машинистками, практически бесконечны. В груде бесполезных текстов (превышающих объём известной нам Вселенной) есть только крупица смысла. Ради этой капли организованной информации десятки миллиардов лет трудятся квинтиллион героических обезьян.

Можно ли облегчить их работу? Как быть с кипами бумажных листов, содержащих абракадабру вместо бессмертных строчек Шекспира? Как отделить полезное от бесполезного? Можно ли не эмпирически, не «на глазок», а математически описать меру информации, имеющей смысл?

Как видим, размышление о борелевской обезьяне вплотную подводит к законам информационного обмена. Ещё немного, и они были сформулированы.

Частота Найквиста и формула Хартли

История открытий в области теории информации удивительно напоминает эволюцию взглядов на происхождение человека. Как известно, сначала доминировала идеалистическая точка зрения, затем – материалистическое понимание. Применительно к динамике осмысления информации заметно, что вслед за блужданием в почти мистическом тумане («демоны» и «супер-мозги») наступил «естественно-научный» (борелевская обезьяна), а затем и строго научный этап4. Пришло время для прояснения объективных закономерностей, выраженных математическими формулами, и создания полезных устройств.

Замечательный инженер, прекрасно разбиравшийся в математике, Гарри Найквист (Harry Nyquist) в середине 20х гг. прошлого века опубликовал ряд специальных работ, посвященных проблемам телеграфной связи. Найквиста интересовало, каким образом можно быстро и точно передавать информацию.

Поскольку потоки информации в естественных (природных) условиях непрерывны, то хорошо бы их разделить на части – отдельные порции. Для этого надо выбрать определённую частоту, которая будет обозначать границы информационных порций. Найквист обнаружил: эта частота должна составлять не более половины частоты работы передающего и принимающего устройства. В противном случае информация может быть искажена или потеряна25,26. Данную величину впоследствии предложено назвать «частотой Найквиста» (Nyquist rate).

Ральф Хартли (Ralph Hartley), не менее талантливый инженер и более сильный математик, в 1928 году представил научную работу, где предложил формулу для количественной оценки информации20.

С первых строк статьи автор призвал очистить понятие информации от психологического содержания. Информация – физическая величина и точка.

Хартли указывал, что во время коммуникации каждый последующий выбор символа в цепочке делает сообщение более точным. Например, в предложении «Apples are red» первое слово исключает из нашего представления какие-либо другие фрукты («говорю о яблоках»), второе – заостряет внимание на свойствах данной категории фруктов («говорю о свойствах яблок»), третье – накладывает ограничение на мысль о других цветах и оттенках («говорю о красных яблоках»). Таким образом, чтобы высказывание обрело смысл, который мы хотим передать, надо сделать три последовательных шага. Взять первое слово, затем – второе и потом – третье. Если использовать только одно слово или расставить все слова в неправильном порядке, смысл исказится. Алгоритм нарушать нельзя.

Это общее рассуждение. Можно ли к этой логике применить математику? Хартли посчитал, что можно. Количество информации (мера Хартли) – это число последовательных шагов, которое нужно предпринять, чтобы сообщение обрело нужный смысл:

I = log2N

(здесь I – количество информации, N – количество всех возможных комбинаций).

Под «всеми возможными комбинациями» в приведённом выше примере понимается сочетание слов apples, are, red в любом порядке и в любом долевом количестве. Т.е. сообщение может быть таким: red are apples. Или: apples apples apples. Число возможных комбинаций – 27. И только одно из них обладает тем смыслом, который мы хотим передать. Напоминает творчество борелевских обезьян, не так ли?

Сыграем в игру. Она похожа на игру «да-нет» (вариант – «съедобное-несъедобное»), когда продвигаешься к ответу, отсекая лишние варианты.

У нас есть три слова (are, red, apples). Это заданная длина сообщения. Нам нужно найти фразу, имеющую смысл. Сделаем допущение: мы немного разбираемся в английском языке, и знаем, что сначала должно стоять подлежащее, затем – сказуемое, и замыкает фразу определение. И ещё одно допущение: фразы с повторяющимися словами не отражают нужный нам смысл.

Итак,

1. убрать варианты, где слова повторяются. Таких 21. Остаётся 6;

2. убрать варианты, где первое слово не apples. Таких 4. Остаётся 2;

3. убрать вариант, где второе слово не are. Остаётся один вариант.

Сравним с результатом вычислений по формуле Хартли. I = logN = log27, т.е. округленно 4,8 единиц информации. Или почти пять последовательных операций для преобразования информации из абракадабры в имеющую смысл. Но в нашей игре «да-нет» нам для этого понадобилось всего три шага. Формула Хартли неточна?

Да, это так. Но это не значит, что идея ошибочна. Напомню, что в примере со словами мы сделали несколько допущений, облегчив себе поиск истины.

Возьмём числа (с ними всегда проще и понятнее, чем с буквами и словами) и снова подвергнем формулу проверке.

Допустим, некто загадал число от 1 до 100. Я должен его угадать, использовав минимальное количество вопросов. Согласно формуле Хартли: I = logN = log100, т.е. примерно 6,6 шагов-вопросов мне понадобится. Округлим до 7.

Итак,

1. число больше 50? Ответ: нет.

2. число больше 25? Ответ: нет.

3. число больше 12? Ответ: нет.

4. число больше 6? Ответ: нет.

5. число больше 3? Ответ: да.

6. число больше 5? Ответ: нет.

7. это число 5? Ответ: нет. Значит, загаданное число: 4.

Теоретическое вычисление и практический результат совпали. Формула Хартли доказала свою состоятельность.

Надеюсь, читатель обратил внимание на то, что формула Хартли удивительно напоминает формулу Больцмана для определения величины энтропии термодинамической системы. Это не случайно.

Смысл меры Хартли состоит в том, что она отражает затраты, которые необходимо предпринять, чтобы перевести информацию из неупорядоченной в упорядоченную. И не просто затраты, а затраты минимальные.

И в примере с яблоками, и в примере с числами мы могли бы просто перебирать варианты. В первом случае нам понадобилось бы 27, во втором – 100 шагов (представьте, сколько бы сил и времени занял поиск текста «Гамлета» в творческой куче, которую сотворили обезьяны-машинистки!).

Мы поступили по-другому. Оказалось, что для любой информации есть короткий путь измерения её смысла или ценности, какой бы объёмной они ни была. У всякой информации есть цена. Формула Хартли вычисляет её.

По сути, теоретические работы Найквиста и Хартли – начала информационной теории. Информация, «очищенная от психологических факторов», становится физическим явлением, для которого впервые предложен математический способ измерения.

Машина Тьюринга

Широкой публике гениальный математик Алан Тьюринг (Alan Turing) известен, вероятно, как человек, разгадавший шифр «Энигмы»21. Благодаря чему цивилизованный мир победил нацистов. Если даже это и правда, то не вся. Главная заслуга Алана Тьюринга перед человечеством состоит в другом. В своих работах он описал то, что сегодня мы называем компьютером.

В год, когда Ральф Хартли предложил свою формулу для вычисления меры информации, великий математик Давид Гильберт (David Hilbert) сформулировал проблему разрешения (Entscheidungsproblem). Её суть сводится к тому, что у любой задачи (которую можно выразить с помощью букв или цифр) должен существовать алгоритм (порядок шагов для её решения). Если алгоритма нет (никто не может придумать), то задача не является разрешимой. Однако это не означает, что задача не может быть решена в принципе11.

Поясним сказанное на примере. Возьмём два числа: 25 и 100. Каков их наибольший общий делитель? Пойдём не интуитивно, а строго математически. От большего числа будем отнимать меньшее. В результате трёх последовательных вычитаний получим число, которое соответствует наименьшему числу, выбранному изначально (25). Тогда можно сказать, что наибольший общий делитель для 100 и 25 есть число 25. Или: 25 – наибольшая общая мера выбранных чисел. Принято говорить, что 100 и 25 – соизмеримые величины.

Приведённый порядок вычисления – известный ещё со времен Евклида (Euclid) алгоритм для поиска наибольшего общего делителя. Но что, если существуют задачи, для которых алгоритм указать нельзя?

Вообразим два других числа. Очень больших. Длиною в миллиарды миллиардов знаков. Попробуем найти их наибольший общий делитель. (Представляю, как вы чертыхаетесь).

Ну, хорошо – предоставим это компьютеру. Пусть попотеет. Сможет ли он выполнить порученную работу? Допустим, что сможет. Возникает вопрос: сколько времени это займёт? Ответ: неизвестно.

Это так называемая «проблема остановки». Мы не знаем, как долго будет работать вычислитель (человек или машина) над решением некоторых (математически сложных) проблем. Другими словами, мы не можем для них предложить алгоритм – порядок шагов, которые нужно предпринять, чтобы получить точный ответ.

В 1931 году математик Курт Гёдель (Kurt Gödel) доказал, что во всякой сложной (с т. зр. логики и математики) умозрительной системе есть недоказуемые утверждения9. Т.е. они содержат такие величины, для которых невозможно придумать алгоритм. Это невычислимые величины.

При этом теория может быть верной. И величину можно вычислить в принципе. Но указать алгоритм вычисления нельзя. Способ Евклида для очень больших чисел работает плохо. Не исключено, что результата придётся ждать вечность.

Все эти математические ухищрения кажутся играми разума. Однако, критерий вычислимости (или, как говорят математики, алгоритмической неразрешимости) крайне важен в обычной жизни. Его существование позволяет метеорологам сохранять лицо и надёжно защищать персональные данные7.

Алан Тьюринг много размышлял над точным определением понятия «алгоритм». Ведь на проблемы, поставленные Гильбертом и Гёделем, можно посмотреть под другим углом6. Что такое вообще «алгоритм»? Можно ли его точно описать? И какие задачи можно решить с его помощью?

В 1936 году Тьюринг в работе «О вычислимых величинах применительно к проблеме разрешения» (On Computable Numbers, with an Application to the Entscheidungsproblem) описал универсальное вычислительное устройство (universal computing machine) 31. Подробная схема работы этого гипотетического устройства есть во многих книгах по математике13. Я расскажу о сути.

Допустим, вы располагаете какой-либо информацией. Её можно представить в форме последовательности знаков (букв или цифр). Вам нужно преобразовать информацию – что-то вычислить или сделать так, чтобы эту информацию было удобно передать. Тьюринг показал, что, получив от нас алгоритм (или, выражаясь современным языком, «компьютерную программу»), его устройство сделает эту работу.

Например, укажем универсальному вычислительному устройству, как переводить буквы английского алфавита в числа в двоичной системе счисления (напишем команды «Переведи a в 110 0001», «Переведи p в 111 0000» и т.д.). Т.е. дадим машине алгоритм. Если на входе у нас слово apples, то на выходе устройство выдаст: 110 0001_111 0000_111 0000_110 1100_110 0101_111 0011.

Теоретически существует алгоритм для любой задачи, какую только мы способны вообразить. Перемножить 100-значные числа. Предсказать завтрашнюю погоду. Выиграть в рулетку.

Однако «способны» не значит «можем».

То, что может, и есть «машина Тьюринга» (Turing machine). Абстрактная математическая модель, описывающая, тем не менее, реальный способ отделить вычислимость от невычислимости.

Позже был сформулирован тезис (принцип) Тьюринга-Чёрча (Church-Turing thesis or principle): всякая вычислимая функция вычислима машиной Тьюринга. Иначе говоря: если для определенной задачи можно создать алгоритм, по которому машина Тьюринга будет работать, то задача выполнима17.

Последствия конструирования схемы универсального компьютера были огромны. Математики получили точное представление об алгоритме как об универсальном способе преобразования информации. Инженеры могли перейти к созданию практических устройств, способных решить любую вычислительную задачу. А машины, пользуясь единым языком, могли бы не только обрабатывать данные, но и «общаться» между собой. Т.е. обмениваться информацией.

Архитектура фон Неймана

Джон фон Нейман (John von Neumann) – один из крупнейших математиков XX века. К его достижениям, например, принадлежит строгая математическая формулировка принципа неопределённости – базового тезиса квантовой теории. Формулировки Вернера Гейзенберга (Werner Heisenberg) и Эрвина Шрёдингера (Erwin Schrödinger) – гуру квантовой механики – стали частными случаями интерпретации фон Неймана24.

Если Тьюринг подробно описал, что такое компьютер, то фон Нейман придумал, как именно он должен работать. Он предложил законы, по которым должно существовать современное вычислительное устройство.

В 1946 году в небольшой брошюре «Предварительное рассмотрение логической конструкции электронного вычислительного устройства» (Preliminary Discussion of the Logical Design of an Electronic Computing Instrument), написанной совместно Артуром Бёрксом (Arthur Burks), Германом Голдстайном (Herman Goldstine) и Джоном фон Нейманом, были изложены принципы компьютерной архитектуры (или, как говорили тогда, машинной организации) 15:

1. «Языком» компьютера является двоичная система счисления (0 и 1).

2. Компьютер работает по программе – алгоритму указаний или команд.

3. И команды, и данные хранятся на одних и тех же элементах машины – т.е. информация, записанная в двоичном коде, может использоваться и в качестве указаний, и в качестве памяти для компьютера.

4. Наличие «внутренней классификации» – информация (команды и данные) разбита на единицы, каждая из которых пронумерована и доступна для извлечения в любой момент времени.

5. Команды исполняются строго последовательно – нельзя перейти к следующей команде, пока не выполнена предыдущая.

6. Алгоритм необязательно должен быть линейным – в зависимости от входных данных последовательность выполнения команд может меняться.

Фактически первый электронный цифровой компьютер был сконструирован за несколько месяцев до выхода упомянутой брошюры – в конце 1945 года. Его назвали «ENIAC» (Electronic Numerical Integrator and Computer).

В 1950 году при непосредственном участии фон Неймана группа метеорологов произвела на ENIAC первый успешный численный прогноз погоды. Всего на сутки, и вычисления заняли почти 24 часа, так что практическая польза от такого прогноза оказалась невелика16. Но лиха беда начало.

Летом 1951 году было презентовано новое устройство – IAS-машина или «машина фон Неймана» (учёный возглавлял проект). Размер памяти этого компьютера вмещал 1024 слова. Однако, «машина фон Неймана» работала в 240 раз быстрее, чем ENIAC. Эволюция современных компьютеров началась.