Интеллект-стек 2023

Конечно, можно выделить много серых зон, где размыта граница между широким интеллектом как «мастерством во всём» («талантливый человек талантлив во всём» – это как раз про интеллект) и прикладным мастерством как узким/прикладным интеллектом.

Бытовой язык по поводу любых рассуждений/вычислений говорит «мышление», при этом часто ещё и ограничиваясь только человеческими вычислениями в мозге и исключая компьютерную часть. Мы постоянно подчёркиваем, что современный человек по факту никогда не мыслит только «внутри головы», всегда используется экзокортекс, всегда идёт коммуникация с другими людьми!

Бытовое использование терминов, которые мы использовали при рассказе об интеллекте и мышлении

Предложенные понятия и термины для них в нашем рассказе об интеллекте и мышлении, мастерстве и рассуждениях более-менее совпадают с традиционным «бытовым» словоупотреблением, они как-то представлены в культуре. Но это не означает, что с этой терминологией не будет ошибок. Нужно всегда помнить, что в словарях недаром у каждого слова приводится множество значений в разных словарных гнёздах, и смысл говоримого приходится уточнять не по словарям, а исходя из каждой ситуации использования в тексте или речи тех или иных слов. Смысл в использовании слов, а не в словарях!

Например, «познание» цепляет где-то в памяти ассоциации с когда-то (обычно много лет назад) читанными представлениями об эпистемологии/научном мышлении (а то и гносеологии, включающей ещё и религиозное, и художественное «познание»), «вывод» и «рассуждения по правилам» цепляет логику (и даже не современную математическую, а Аристотелевскую, с силлогизмами и всеми её уже сотню лет известными ограничениями). И ещё отечественные «знатоки русской научной терминологии» обязательно проявятся со своими претензиями на термины и их значения – причём они все будут предлагать каждый разное, приводя самые разные обоснования, ссылки на самые разные авторитеты. Но это нормально, мы всё равно будем использовать описанный тут набор понятий и терминов для обсуждения интеллекта и мышления: лучше иметь универсальный и маленький набор понятий, который позволяет делать объяснения/модели мира, чем много самых разных несовместимых друг с другом и никак не соотносящихся понятий из слабо связанных друг с другом объяснений/теорий/дисциплин/моделей. Универсальность и компактность объяснений рулят, в том числе в трансдисциплинах. Универсальность как свойство хороших объяснений особо подчёркивал Дэвид Дойч.

Затруднения обычно возникают, когда мы говорим о частях общего интеллекта как вычислителя и частях мышления как частях функциональности общего интеллекта: о трансдисциплинарных практиках. Проблема с трансдисциплинами в том, что они используются для объяснений как в прикладных предметных областях, так и для объяснений самих себя! Условно можно считать эти трансдициплины выстроенными в некоторое подобие «стека» (stack, «стопка»). Описанию современного состояния этих трансдициплин и посвящён наш курс. Вот эти трансдициплины, которые расположены в очень приблизительном порядке задействования объяснений, «чтобы объяснить как-то дисциплины, стоящие выше, нужно использовать знание дисциплины, стоящей в стеке ниже»:

• Системная инженерия

• Методология

• Риторика

•  Этика

• Эстетика

• Исследования

• Рациональность

• Логика

• Алгоритмика

• Онтология

• Теория понятий

• Физика

• Математика

• Семантика

• Собранность

• Понятизация

Конечно, все понятия и отношения из этих дисциплин никак не выстраиваются в такой «стек», это очень тесно связанный граф, никак не раскладывающийся в «последовательное объяснение вышестоящего на основе нижестоящего». Мы сделали этот стек, существенно огрубив все взаимосвязи в этом графе. Неминуемо приходится обращаться при объяснении физики к математике, но и при объяснении математики приходится обращаться к физике, но и при обсуждении семантики тоже приходится обращаться к физике, равно как и при обсуждении физики к семантике – и так буквально со всеми перечисленными трансдисциплинами. Как с этим справляться? Чтобы по последовательному описанию разобраться с графом, неминуемо содержащим «ссылки вперёд», надо просто прочесть описание два раза. В первый раз будут встречаться некоторые понятия, которые используются, но ещё не объяснены. Даже сразу можно и не сообразить, что какое-то понятие используется как термин, а не как отсылка к бытовому знанию. После первого прочтения окажется, что вычитаны из текста все объяснения. Тогда при повторном чтении текста будет уже понятно всё (хотя уверенность тут надо бы сильно понизить, люди не логические компьютеры, и нейронные сетки могут не справиться с полноценным пониманием через два последовательных чтения).

В любом случае, не надо относиться к предлагаемым в нашем курсе классификациям как к чему-то окончательному. Например, мы определяем, что мышление – это задействование рассуждений с использованием трансдисциплин (объяснительных теорий/моделей, использующихся для ускорения познания). Вопрос: если дан набор понятий и их отношений из учебника кулинарии, можем ли мы считать это «кулинарным интеллектом»? Если вы знаете про различие общего/сильного и узкого/слабого интеллекта, то можно. Если речь идёт о каком-то кулинарном трудовом кругозоре, общем понимании, как связаны друг с другом разные кулинарные практики (варка, жарка, приготовление десертов и т.д.), то тут можно допустить, что говорим о кулинарной трансдисциплине как основе для кулинарного познания – и тогда смело используем слова «кулинарный интеллект» и даже производимое им «кулинарное мышление» в ходе различных экспериментов по получению новых вкусов или новых более простых способов кулинарной обработки продуктов при сохранении прежних вкусов.

Так, для обзорных трансдисциплин, объясняющих происходящее в практиках менеджмента и инженерии, мы вполне можем говорить об менеджерском и инженерном интеллекте или мастерстве, менеджерском и инженерном мышлении как функции этого интеллекта или мастерства. Но в целом, если говорить, например, о менеджерском интеллекте, то речь идёт больше об умении разобраться с новыми проблемами в менеджменте (продвинуть мастерство менеджмента), а если говорить о менеджерском мастерстве, то речь идёт об опыте разбирательства с типовыми ситуациями, «умение не делать новичковых ошибок менеджера».

Есть ещё примеры, как люди определяют «мышления». Программисты могут вспомнить Дейкстру, который вводил виды мышления (его интересовало программистское мышление/мастерство в его отличии от физического и математического мастерства) на примерах: «Хотя во времена, к которым относится наша история, человечество не знало ЭВМ, неизвестный, нашедший это решение, был первым в мире компетентным программистом. Я рассказывал эту историю разным людям. Программистам, как правило, она нравилась, а их начальники обычно сердились все больше и больше по мере ее развития. Hастоящие математики, однако, не могли понять, в чем соль.» – это знаменитая история о туалетах58.

Помним, что «программирование» – это для Дейкстры практика «структурного программирования», то есть дисциплина/теория алгоритмики на императивном языке с простыми структурами данных. Но вот это «чем мышление программиста отличается от мышления математика» – это оказывается важно, Дейкстра пытался разобраться, чем рассуждения с объектами программистского интереса/внимания отличаются от таковых для математиков и физиков. «Хвост коровы Маргариты – это часть стада» для системного мыслителя неправильное высказывание (нет осмысленных операций в жизни для хвоста в стаде, а вот для «хвоста у коровы»/«хвоста в корове» и для коровы в стаде – есть! Системные уровни важны, через них нельзя прыгать в мышлении!), а для математика, логика, физика – правильное. Системное мастерство по сравнению с математическим, логическим или даже физическим мастерством будут рассуждать по-разному, давать разные ответы на даже простые вопросы! Системный интеллект и математический/логический или даже физический интеллект породят разные варианты какого-то прикладного мастерства, ибо они мыслят по-разному!

Тут произошёл незаметный, но важный сдвиг в онтологическое трансдисциплинарное разбирательство: мы говорим уже не об интеллекте и мышлении, а также мастерстве и рассуждениях как таковых, а об их видах (специализациях), их экземплярах и примерах (классификациях), об их частях (композициях, именно это отношение между объектами-системами на разных системных уровнях), создании и развитии (один объект как-то создаёт и развивает другой объект, часто по цепочке создания). Мы задаёмся вопросом отношений, в которых разные экземпляры и целые множества «интеллекта», «мышления», «мастерства», «рассуждений» могут находиться друг с другом. В онтологии вопрос выбора типа отношения в трудных случаях (например, выбор специализации, классификации или даже композиции) для создания компактной теории/модели/объяснений/онтологического описания зависит от тех проблем, которые вы пытаетесь решить. Для решения каких-то проблем удобно выбрать мир состоящим из одних объектов и отношений между ними, для других проблем – выбрать по-другому. Так что пока не будем обсуждать этот вопрос более подробно, пока вы сами не займётесь исследованиями интеллекта и мышления, мастерства и рассуждения. В любом случае помним, что речь идёт о работающих вычислителях (интеллекте, мастерстве, которые реализуются работающими мозгами, компьютерами и линиями связи) и разворачивающихся во времени в них физических процессах вычисления (мышлении, рассуждениях). Так что интеллект, мастерство выделяются в окружающих людях и их компьютерах и других инструментах вниманием, равно как происходящие в ходе протекания процессов мышления и рассуждений изменения/поведение тоже выделяются изо всех изменений в окружающем мире тоже вниманием. А вот куда направлено это внимание, это и определяется трансдисциплинами, занимающимися интеллектом и мастерством, мышлением и рассуждениями.

И, конечно, познание и рассуждение тесно связаны ещё и тем, что в машинном интеллекте обсуждается как «обучение/познание всю жизнь»/lifelong learning: все рассуждения оцениваются на предмет того, насколько они оказались успешными в реальной жизни, и эта успешность или неуспешность тоже идёт как входной материал для мышления. При этом времени на мышление (познание и обучение) не хватает в живой природе, и по итогам рассуждений при действиях во время бодрствования познание идёт ещё и во сне (мозг пересматривает записи того, что там происходило в ходе практики и использованных в практике рассуждений и доучивается: перестраивает мастерство, улучшает его).

Так же рассматриваем мышление и рассуждение в ходе творчества и импровизации (помним, что там обычно участвует какой-то генератор случайностей, меняющий рассуждения), познание с подкреплением, познание на основе принципа свободной энергии (есть и такие объяснения познания живыми существами)59.

Конечно, мышление в его SoTA варианте (с выходом на осознанность в использовании каких-то новых понятий из новых полученных обучением или исследованиями объяснений/теорий/моделей) в мире встречается сильно реже, чем простые рассуждения. СМД-методологи любят говорить, что «чистое мышление» так же часто встречается в мире, как танцы лошадей. А как же люди занимаются какой-то деятельностью? Они мыследействуют!

Вычислений интеллекта, то есть мышления у человечества по объёму не так много. Это главным образом рассуждения с использованием трансдисциплин (логики, онтологии, системного мышления и т.д.). Но эти вычисления таки бывают. Основной объём «думания», прикладных рассуждений на планете – это мыследействование/вывод/рассуждение по правилам с использованием плодов интеллекта: обеспеченного/enabled интеллектом мастерства как прикладных теорий/дисциплин/моделей/объяснений по решению каких-то классов задач, для которых понятна понятийная структура. Нет затыков в (мысле) деятельности – мозг работает в режиме автомата, лёгкий режим с использованием быстрого интуитивного режима работы мозга-вычислителя S1 (как это было описано в книге Д. Канемана «Думай медленно… решай быстро»60). Случился затык, найдена проблема – включается медленный режим работы мозга S2, который за счёт падения скорости и вывода рассуждения в сознание (помним, что сознание управляет вниманием!) гарантирует выполнение правил рассуждения, то есть использование заведомо известных операций с заведомо известными объектами, которые определяются какой-то дисциплиной. Или же такое медленное осознанное рассуждение с использованием трансдисциплин будет в рамках мышления, занимающегося поиском правил для какой-то прикладной дисциплины, которую должен создать интеллект.

У мыслителей, которые главным образом вырабатывают новые понятия (наука, да и существенная часть инженерии) познания/мышления/learning много. А вот у каких-нибудь клерков среднего звена – понятийной работы ноль, сплошные «рассуждения на полном автомате», вот их и списывают за ненадобностью, заменяют компьютерами, это легко. Пока ещё плохо понятно, как заставлять заниматься мышлением компьютер, поэтому интеллект тут берётся у разработчиков софта со всем их искусством исследования рассуждений в ходе выполнения каких-то прикладных практик (методологическая работа) и пересадки найденных правил рассуждений в компьютер (программная инженерия). Но хорошо известно, как потом заставить рассуждать компьютер, когда его уже научили делать рассуждения (то есть «разработали софт»). Софт типа Bing, Bart, прочие «нейросетевые ассистенты» как-то пытаются решать эту проблему полноценного компьютерного мышления, но это ещё не слишком надёжно и плохо работает для ответственных приложений. Из компьютеров пока получаются плохие методологи, они плохо описывают новые деятельности, плохо предлагают новые понятия. В любом случае, ситуация быстро меняется, ибо человеческий и машинный интеллект задействуются не по одиночке, а совместно – и вот эта связка работает уже много надёжней.

Бесконечное развитие требует интеллекта

Эволюция заключается в бесконечном развитии, open endedness61, в выходящем на множество различных масштабов вещества и масштабов времени непрерывном познании62. Эволюция глубоко физична, по мере эволюции растёт сложность эволюционирующих систем63 и появляется всё более и более сильный интеллект.

Умность/интеллектуальность появляется в ходе эволюции как раз как средство для ускорения бесконечного развития, для бесконечного прироста видов мастерства агентов (животных, людей, а дальше технических систем и гибридных коллективов из людей и оборудования, включая датацентры с AI), бесконечного прироста в классах проблем, которые научилось решать человечество как коллективный агент. Интеллект невозможные ранее задачи (типа полёт по орбите в космосе вокруг Земли или общение по видеосвязи) превращает во вполне решаемые.

Проекты, где требовались наборы старых навыков и умений большинства людей, старое мастерство, стремительно теряют актуальность – к ним прилетают «сбоку» (из других отраслей) подрывные технологии, и эти проекты заканчиваются. Телеграф вдруг исчезает, и людям с мастерством телеграфиста нужно вписываться в новые проекты, отращивать себе новое современное мастерство – самое разное, часто никак с телеграфом не связанное. В этот момент никакой интеллект им не будет лишним, ибо сила интеллекта определяет скорость обучения новому мастерству. Если интеллект низкий, то к моменту достижения нужного уровня мастерства нужда в этом виде деятельности может отпасть. Если интеллект у человека высокий, то обучение новой деятельности пройдёт быстро, и останется ещё время это мастерство использовать (а потом всё равно нужда в этом виде деятельности отпадёт).

Интеллект тем самым проявляется на задачах, которые не встречались в момент его создания – неизвестны ни самому интеллекту, ни создателю или этого интеллекта (если речь идёт об аппаратуре – мозге людей или программно-аппаратном комплексе AI), ни учителю этого интеллекта (если речь идёт о предобучении аппаратуры – и людей, и AI). Родители не знают, с какими проблемами в ходе бесконечного развития столкнётся их ребёнок, учителя не знают, с какими проблемами столкнётся их ученик, разработчики робота не знает, с какими проблемами столкнётся их робот.

Замерять решение человеком или компьютером (или многими людьми со многими компьютерами) задач какого-то одного узкого класса, чтобы определить силу их интеллекта – неправильно. Нужно замерять способности (broad abilities) к освоению новых предметных областей, то есть скорость приобретения мастерства/skills в решении проблем в этих предметных областях.

Беря за основу вот эту диаграмму, François Chollet предлагает определять следующие уровни интеллекта по линии универсальности проблем/задач, которые он может научиться решать:

• полное отсутствие интеллекта: точно заданные образцы задачи. Заполнение точно известной компьютерной формы значениями, которые берутся из точно известных мест. Переноска заготовок от одного определённого станка к другому определённому станку.

• локальная генерализация aka robustness: обработка точки в более-менее плотно заданном вероятностном распределении задач – adaptation to known unknowns within a single task or well-defined set of tasks. Заполнение анкет разной формы (все возможные формы анкет известны заранее). Переноска заготовок между разными станками (между какими – известно заранее). Это подмастерье.

• широкая генерализация aka flexibility: разработчик/учитель этого не предвидел, решение широкого класса задач – adaptation to unknown unknowns across a broad category of related tasks. Заполнение анкет как таковое, самых разных форм и содержания. Переноска заготовок между всевозможными станками, и не только станками, по потребности. Это мастер, он сориентируется по обстоятельствам.

• экстремальная генерализация aka generality: как у человека – adaptation to unknown unknowns across an unknown range of tasks and domains. Умею заполнять анкеты, переносить заготовки. Вдруг потребовалось управлять синхрофазотроном – это не «задача», это уже проблема! Попотел, но смог научиться. Это талантливый человек, «интеллектуал» (у него сильный интеллект, если научился быстро! Или не очень сильный, если научился, но медленно).

• универсальность: генерализация на уровне большем, чем человек – any task that could be practically tackled within our universe. Во вселенной есть много проблем, которые человеку и в голову не придут, он с ними не столкнётся. Но интеллект уровня выше человеческого сможет научиться решать и эти задачи, сможет выработать нужные для этого знания, умения, навыки, скиллы, мастерство. Это люди со всеми их компьютерами, а потом сверхлюди (мы не знаем, как люди смогут модифицировать себя, когда они решат текущие проблемы биологического старения и смерти, ограничений в биологическом восприятии текущих органов чувств, ограничений в ловкости и силе текущего человеческого тела).

Машинный/искусственный/компьютерный интеллект сегодня в целом решает задачи локальой генерализации/robustness, то есть разбирается в узких предметных областях. Это огромный прорыв по сравнению с тупым роботом, выполняющим заданные операции в заданной последовательности только с определёнными предметами, и даже не классами этих предметов.

Chollet (и ещё множество лидеров AI) призывает решать проблемы, появляющиеся при широкой генерализации/flexibility.

Примерно это же имеют в виду люди, когда говорят о каком-то классе человеческого интеллекта: эмоциональный интеллект (интеллект, разбирающийся с самыми разными проблемами, связанными с эмоциями – что вы будете делать, когда вас захватывает эмоция, с которой ранее вы не встречались?), коммуникационный интеллект (интеллект, который может справиться с огромным разнообразием проблем, встречающихся в коммуникации – будь то в переговорах трёх конфликтующих групп, или даже в разговоре с самим собой), математический интеллект (интеллект, который способен справиться со всевозможными математическими проблемами), и так далее. По факту, это не столько «проблемы» (которые никто не знает, как решать), сколько задачи, которые можно успешно решать, если использовать уже известные людям сегодня знания. Ну, и это бытовая речь: мало что изменится, если заменить «интеллект» на «мастерство»: эмоциональное мастерство, коммуникационное мастерство, хотя вот математическое мастерство уже попадает в серую зону: профессиональные математики, конечно, имеют прикладное математическое мастерство (значительная часть выпуска университетских математиков уходит работать в страховые компании и банки, где они занимаются актуарными расчётами64), но всё-таки математики формулируют проблемы и находят новые способы их решать, речь всё-таки идёт именно о математическом интеллекте как решателе проблем (интеллект находит способ решения какого-то класса задач, который непонятно как решать – умение/мастерство решения этих задач является результатом его работы). Так что в случае математического интеллекта наше онтологическое чутьё подсказывает, что это всё-таки что-то другое, чем математическое мастерство. В случае кулинарного или эмоционального мастерства наше онтологическое чутьё молчит, мы понимаем, что бытовой язык тут волен использовать какие угодно слова «для красивого словца».

AGI (artificial general intelligence, искусственный универсальный интеллект) – так называют дисциплину инженерной практики создания небиологического вычислителя для мышления. Нынешняя цель AGI – создать интеллект широкой генерализации/flexibility, в котором он потенциально может выработать мастерство в решении тех же проблем, которые мог бы научиться решать биологический человек, а не кошка или какое другое животное. Обратите внимание на формулировку, включающую в себя возможность относительно бесконечного развития: речь идёт не об умении специализированного на каком-то классе задач «искусственного мастерства» решать задачи так же, как обученный этому человек. Эта формулировка про «такое же решение задач» не включает в себя развития. Формулировка про «мог бы научиться решать человек» включает в себя бесконечное развитие, есть ещё множество проблем, которые люди ещё не научились решать, и о которых, возможно, ещё они не знают – но можно ожидать, что они это делать научатся (с помощью компьютеров, или без них).

Насколько это развитие бесконечно? Понятно, что человек сам по себе может научиться решать только конечное число классов задач. Но вместе с AI он может изменить и свою биологическую природу, и техническую природу AI (скажем, сегодня ожидается резкий скачок в скорости вычислений при переходе к универсальным алгоритмам на квантовых компьютерах). Плюс учиться решать задачи может человек не только в одиночку, но и целой группой, а хоть и целым человечеством – наука и производство сегодня глобальны, в них участвуют люди по всей планете плюс огромное количество оборудования/аппаратуры и компьютеров.

Статья о бозоне Хиггса вышла с 5154 авторами65, столько людей приняло участие в решении этой задачи. Статьи, в которых расшифровывается геном каких-то организмов, у биологов выходят с числом авторов больше тысячи. Интеллект как свойство научиться что-то делать новое/решать новые классы/виды задач существует не только у отдельных людей, но и у каких-то коллективов, в том числе включающих в себя людей и компьютеры, в том числе и у всей цивилизации в целом вместе со всем возможным оборудованием. Да, если брать все вычисления человечества, то можно говорить о совокупном интеллекте человечества! Интернет позволяет легко собрать вычислительные мощности и людей, и компьютеров, а потом после решения проблемы предоставить результаты огромному числу других людей и компьютеров, вновь найденное мастерство быстро распространится по планете.

Цель всей деятельности по усилению интеллекта как людей, так и машин – создать сверхчеловеческий универсальный интеллект за пределами человеческой экстремальной силы/универсальности/генерализации/generality. Такой интеллект сможет решить те классы задач, которые человечество пока не научилось решать. Такой интеллект экстремальной силы/универсальности не только сможет помочь людям стать биологически бессмертными, наладить межпланетные и межзвёздные путешествия (это задачи, которые нам могут прийти в голову прямо сейчас), но и в рамках бесконечного развития сможет поставить интересные проблемы, чтобы их решать и тем самым продолжить эволюцию за пределы чисто человеческой мечты. Особо обратим тут внимание, что универсальный машинный интеллект тут не представляется обязательно антропоморфным/парохиальным/земным, также не предполагается «видовое противостояние» между «биологическим видом человека» и «технологическим видом AGI». Нет, мы считаем, что люди друг с другом, а теперь и с компьютерами живут в симбиозе. Но оставим эти рассуждения философам.