Полная версия
Интеллект-стек 2023
• Сам по себе внутри себя имеет разных других агентов «поглупее», которые играют в нём какие-то роли, заняты выполнением тех или иных функций и имеют какие-то свои цели – и цели верхнеуровневые им могут быть в том числе и неизвестными (или известными, и тогда требуют принятия решений: соглашаться или не соглашаться, ибо если «моя рука вдруг меня не слушается, делает что-то своё» – это может привести к изменению поведения верхнеуровневого агента).
• Планирует свой маршрут через пространство состояний и отслеживает его прохождение – и тут важно, что это не всегда приятное путешествие (меняется мир вокруг, меняется своё собственное состояние, а также меняются модели мира/окружения и себя, и меняются ожидания от прохождения ранее придуманного плана в новых обстоятельствах). Тут нужно ещё и указать, что часто приходится идти в прямо противоположном направлении, не теряя из виду общей цели.
• Состоит в составе «объемлющего агента», как-то соотнося свои цели с целями этого надагента (скажем, понимая, каких целей хочет добиться команда проекта, в которой участвует наш агент-человек).
Можно исходить из того, что агент, его подагенты и его надагент (все – коллективные интеллекты!) играют какие-то роли в одновременно идущих на разных уровнях не столько даже «спектаклях» (ибо там не только роли, но и реплики записаны), сколько в ролевых играх137 (типа «дочки-матери», или ролевых играх по отыгрыванию каких-то миров, известных как «игры живого действия» где известны только роли и связанные с ними возможные паттерны действий, и только общая канва сюжета – и важно импровизировать все реплики, поведение и часто даже намерения роли).
Агент должен удерживать внимание на важных объектах всех этих многоуровневых отыгрышей ролей в разных играх (которые кажутся внешним наблюдателям «импровизационными спектаклями»). Агент не должен просто рассеяно блуждать по пространству состояний, ибо как в природе: зазевался – тебя съедят. Если вы пошли днём в магазин, чтобы не голодать вечером, нельзя забывать, что а) вы не просто так идёте, а чтобы вечером быть с едой и б) вы идёте в магазин, а не в цирк или просто дышите свежим воздухом: надо-таки не забыть дойти и купить еды. Если вы на большой скорости движетесь на автомобиле по хайвею, у вас нет автопилота, и ваше внимание блуждает – то от аварии вас отделяют считанные секунды. Всё это верно и для агентов-команд, агентов-предприятий: они не должны забывать, какими проектами заняты, какие цели преследуют. И не должны забывать, что это всё отыгрыш ролей – и роли можно менять. Если не удалось что-то сделать в одной роли, можно занять другую роль и попробовать другие паттерны действий. Если Василий Пупкин отыгрывает роль принца Гамлета, и вдруг вообразил себя и впрямь принцем Гамлетом, то он сумасшедший, а не «вошедший в роль». Это же верно для ролей инженера-электронщика, менеджера по развитию, бизнесмена: ежели Вася Пупкин вообразил, что он и есть инженер-электронщик, а не отыгрывает роль электронщика, то он сошёл с ума. Если кто-то вообразил, что отыгрывающий роль электронщика Вася Пупкин и есть электронщик – то да, на момент отыгрыша это правда, но когда Вася Пупкин пошёл обедать, то это не электронщик пошёл обедать, а агент-актёр. Это всё «ролевое мастерство», сродни актёрскому мастерству как его учат в театральных училищах: играй, но не «перевоплощайся всерьёз», если тебе надо отыграть персонажа из сказки, или говорящее дерево, и ты забудешься в том, что это роль – жди беды. В жизни ровно то же самое со всеми другими ролями! Жизнь при таком описании становится многоуровневой ролевой игрой всех-со-всеми в самых разных ролях, отыгрыванием самых разных «миров».
Актёр/актор/агент, добивающийся успеха (регулярно избегающий попадания плохих состояний, потому как вовремя предпринимает действия по их избеганию) во всех своих многочисленных ролях во всех своих многочисленных проектах рабочих и личных (как играх живого действия, и этих проектов множество! должен быть собранным, то есть отлично владеть собой (и умом, и телом), он должен понимать, что происходит в проекте как игре живого действия, кто ещё с ним играет в каких ролях, предугадывать их возможные действия (predictive coding138 на многих уровнях), то есть иметь какие-то порождающие модели мира и себя, включающие достаточно деталей для точных предсказаний.
Понятизация учит обращать внимание на какие-то сложные ситуации в окружающем мире, называть объекты внимания в этих ситуациях, даже если по поводу этих объектов есть поначалу просто смутное ощущение. Собранность (и роль там «собранный», а поскольку задействуем экзокортекс, то иногда говорят «киборг») учит удерживать затем внимание на этих объектах, причём в ситуациях, когда «аппаратной поддержки» самого агента катастрофически не хватает для удержания этого внимания: попросту, собранность учит людей пользоваться для удержания внимания и себя, и коллективов ресурсами не только биологического мозга, но и экзокортексами в виде бумаги-ручки и бумажных книг раньше, компьютеров сейчас. Как в компьютере есть небольшая оперативная память и довольно обширная внешняя (дисковая) память и ещё большая глобальная (базы данных в датацентрах где-то интернете), так и в случае агентов-людей есть иерархия памяти:
• «мокрая» нейросетка головного мозга. Можно поднять вероятность того, что мозг что-то вспомнит вовремя, удерживая размышления на какую-то тему достаточное время. Например, можно что-то писать, тщательно формулируя (например, час править какой-то абзац содержательного текста). Это означает, что содержание понятого за тридцать секунд обдумывания абзаца вспомнится менее надёжно, чем содержание обдумываемого час абзаца. Как удержать внимание на этом содержании на час? Записать, переписать, перевести на другой язык, разметить типы – любые операции, которые позволят удержать «мокрую» нейронную сетку человеческого мозга на содержании, которое когда-нибудь может пригодиться. Заучивание наизусть тут не поможет, ибо требуется разбирательство с содержанием, а не с формой.
• Если в ходе разбирательства с текстом что-то запомнено на внешнем носителе (экзокортекс/картотека/база данных: вынос мышления, в том числе используемой памяти и поиска в этой памяти вовне кортекса, то есть живого мозга), то это может быть найдено поиском и затем прочитано. Память и поиск перестают зависеть от прихотей природы, от аппаратных возможностей человеческого мозга. Блокнот для записей, персональная картотека, бортовой, или лабораторный, или производственный журнал (лог, записи происходящего – для памяти и последующего разбирательства) решают проблему.
• Память человечества – если какие-то мысли записаны в экзокортексе, то можно искать содержание во всех экзокортексах сразу. Есть разные варианты устройства такой системы: большие языковые модели (в том числе мультимодальные), например текстовая модель LLaMA содержит 220GB преднастроенной нейронной сети, в которые сжата текстовая информация объемом примерно в 1.4 триллиона токенов (частей слов, цифр, знаков препинания). Но поисковые системы типа Google дают и другой вариант: централизованно хранится индекс, по которому в датацентре довольно быстро находится адрес документов, наиболее вероятно содержащих нужные ключевые слова – и дальше можно уже обращаться к исходным документам. И это только два варианта устройства такой «памяти уровня человечества в целом». В бумажные времена такое тоже было, например, Библиотека Конгресса, только «память» эта не давала возможностей поиска нужной информации. Компьютеры решили и проблему хранения/памяти, и проблему поиска – причём поиск становится всё более изощрённым (например, поиск среди всех документов на всех языках сразу, а потом автоматический перевод найденного на язык, удобный человеку, которому эта информация потребовалась).
Но мало владеть собственным умом и уметь его усиливать, надо ещё владеть телом: вокал/голос (выразительная речь) – это мышечная работа, работа на клавиатуре – это мышечная работа, сидеть восемь часов так, чтобы тело не отвлекало внимания на свои проблемы – это тоже мышечная работа, уметь расслабиться, чтобы считать невнятные кинестетические сигналы, которые даёт тело – это тоже мышечная работа. Уметь завязать себе шнурки в 60—80 лет – это мышечная работа, равно как и необходима мышечная работа, чтобы сохранить своё тело и мозг работоспособным на много лет. Это фитнес/fitness, как тренировка готовности к действию. А мышечная работа координируется мозгом, то есть тоже требует собранности и какой-то тренированности в управлении телом/body control.
Конечно, не нужно быть готовым в 21 веке к работе землекопом, к тяжёлому физическому труду «синих воротничков» (кнопки на станках нажимать сегодня не требует физической силы и выносливости), но поддержание не только собранности ума, но и собранности тела, готовности ума и тела к действию, а не к рассеянному «броуновскому» движению – это важная задача. Собранности ума и тела надо научить, причём это научение должно быть не только на личном уровне, но и уровне команды, коллектива как команды команд, организации как множества коллективов. Политтехнологи ставят задачи собранности для крупных сообществ и даже для обществ (все эти «всё для фронта, всё для победы» и «пятилетку в четыре года» – попытки удержать внимание многих людей на каких-то аспектах их жизни). Так что в обучении собранности нужно ещё разбираться: что надо удерживать во внимании, а на чём внимание надо наоборот, не удерживать, и предлагаемые объекты внимания «выкинуть из головы», хотя какие-то люди получают свою зарплату за попытки привлечь внимание личности, команды, коллектива, организации, сообщества/клуба, общества в целом. Надо быть разборчивым по поводу тех проектов, для которых нужно быть собранным.
Собранность как часть актёрского/ролевого мастерства
Мы уже рассмотрели ту часть, где актёров/акторов/агентов учат распознавать, в какую они попали пьесу/проект и какие проектные роли играют окружающие их участники проекта – для этого мы ввели идею трудового кругозора. В мире искусства это эквивалентно «насмотренности», начальному обучению нейронной сетки, чтобы дальше она могла воспользоваться и другими уровнями памяти и внимания, могла задействовать разные механизмы мышления и действия.
Но мы ещё не касались того, как человеку или даже подразделению самому научиться хорошо исполнять проектную/организационную/деятельностную/трудовую роль. Лидерство, которое изучают в системном менеджменте, учит «режиссёров» помогать «актёрам» хорошо исполнять их актёрские роли. Учительское мастерство – ровно то же самое: умение учителей помочь студенту стать мастером, хорошо исполнять какую-то роль, быть мастером какой-то практики. В искусстве мастерство лидера, мастерство учителя – это «режиссёрское мастерство». Актёрское/ролевое мастерство учит тому, как актёру/агенту/исполнителю роли выбирать роль (соглашаться, или не соглашаться на роль), входить в роль, выходить из роли, улучшать свою игру по роли. Нам нужно мастерство, аналогичное актёрскому.
Увы, знание того, как проходит обучение настоящих актёров актёрскому мастерству помогает, но не сильно. Актёров учат, например, изображать рассуждения своего персонажа, рассуждения роли – но нам-то нужно учить не изображать прикладные рассуждения или даже мышление, а именно мыслить, решая проектные проблемы, которые нужно решать актёру согласно своей роли. Актёров учат эмоционально реагировать – но нам-то нужно содержательно реагировать, эмоции тут бантики сбоку (хотя их и нельзя игнорировать, но главным образом для того, чтобы замеченные эмоции держать под контролем, а не отпускать на самотёк). Агентам/акторам в проектных ролях нужно содержательно реагировать на проектные ситуации рассуждениями, в том числе мышлением (познавательными рассуждениями по трансдисциплинам интеллект-стека) и действием, а не эмоционально достоверно изображать своё отношение!
Конец ознакомительного фрагмента.
Текст предоставлен ООО «ЛитРес».
Прочитайте эту книгу целиком, купив полную легальную версию на ЛитРес.
Безопасно оплатить книгу можно банковской картой Visa, MasterCard, Maestro, со счета мобильного телефона, с платежного терминала, в салоне МТС или Связной, через PayPal, WebMoney, Яндекс.Деньги, QIWI Кошелек, бонусными картами или другим удобным Вам способом.
Примечания
1
https://en.wikipedia.org/wiki/Global_catastrophic_risk
2
https://ru.wikipedia.org/wiki/Эвтагогика
3
https://www.nasaspaceflight.com/2020/12/earth-to-earth-supersonic-airliners/
4
«On the Measure of Intelligence», last revised 25 Nov 2019, https://arxiv.org/abs/1911.01547
5
https://www.ncbi.nlm.nih.gov/pmc/articles/PMC8988303/
6
https://www.activeinference.org/
7
https://arxiv.org/abs/1911.01547
8
https://ailev.livejournal.com/1106188.html
9
Фирм, занимающихся нейроинтерфейсами, сейчас множество: Blackrock Neurotech, BrainGate, ClearPoint NeuraLink, Neurable, Precision Neuroscience, Synchron, Kernel, Motif Neurotech. Гуглите, чтобы узнать текущее состояние дел в этой предметной области, там всё меняется очень быстро.
10
https://arxiv.org/abs/2212.01354
11
https://ru.wikipedia.org/wiki/Большая_языковая_модель
12
замена в нейролингвистическом программировании неудачного термина «четверка» заимствованными из теории автоматов словами «первый доступ», означающими набор ощущений во всех модальностях восприятия, но до их языковой обработки. Соответственно, «прямой доступ» – это информация об объекте, получаемая в терминах входного потока (фотоны, звуковые волны и т.д.), человек не имеет «прямого доступа», только «первый доступ». «Второй доступ» – это после подключения языка, именования паттернов, наблюдаемых первым доступом.
13
https://twitter.com/michalkosinski/status/1636789329363341313
14
https://arxiv.org/abs/2302.02083
15
https://arxiv.org/abs/2304.11490
16
https://psyarxiv.com/fgcy5/
17
https://corticallabs.medium.com/
18
https://www.activeinference.org/
19
https://www.ncbi.nlm.nih.gov/pmc/articles/PMC7712105/,
20
https://ru.wikipedia.org/wiki/Технологическая_сингулярность
21
https://ru.wikipedia.org/wiki/Три_закона_Кларка
22
https://arxiv.org/abs/2301.00942
23
https://scholar.google.com/citations?hl=en&user=nEEFLp0AAAAJ&view_op=list_works&sortby=pubdate
24
https://ru.wikipedia.org/wiki/Равенство_классов_P_и_NP
25
https://en.wikipedia.org/wiki/No_free_lunch_theorem
26
https://www.scmp.com/news/china/science/article/3223364/chinese-quantum-computer-180-million-times-faster-ai-related-tasks-says-team-led-physicist-pan
27
https://www.gazeta.ru/politics/news/2023/02/14/19740319.shtml
28
https://www.youtube.com/watch?v=gZgMPZWvdTI
29
https://www.teslarati.com/tesla-solar-roof-powerwall-vs-hurricane-ian-155mph-winds-storm-surge/
30
https://en.wikipedia.org/wiki/Liquid-propellant_rocket
31
https://edisontechcenter.org/VacuumTubes.html
32
https://t.me/gonzo_ML/1277
33
https://t.me/gonzo_ML/1285
34
https://en.wikipedia.org/wiki/AI_alignment
35
https://ivanov-petrov.livejournal.com/2287616.html
36
https://arxiv.org/abs/2212.08073
37
https://lifearchitect.ai/sparrow/
38
https://en.wikipedia.org/wiki/Agency_(philosophy), the capacity of an autonomous agent to act, relating to action theory in philosophy. https://en.wikipedia.org/wiki/Agency_(psychology), the ability to recognize or attribute agency in humans and non-human animals. https://en.wikipedia.org/wiki/Agency_(sociology), the ability of social actors to make independent choices, relating to action theory in sociology. https://en.wikipedia.org/wiki/Structure_and_agency, ability of an individual to organize future situations and resource distribution.
39
https://ru.wikipedia.org/wiki/У-вэй
40
обсуждение коннекционизма против символистского знания, 2016 https://ailev.livejournal.com/1281819.html, а также 2023 в «Об духовность и нечленораздельность», https://ailev.livejournal.com/1665855.html
41
Одна из ранних попыток: https://www.reddit.com/r/ChatGPT/comments/10x56vf/the_definitive_jailbreak_of_chatgpt_fully_freed/, https://github.com/gayolGate/gayolGate/blob/index/ChatGPTJailbreak.
42
https://ailev.livejournal.com/1622346.html
43
https://ru.wikipedia.org/wiki/Тезис_Чёрча_—_Тьюринга_—_Дойча
44
https://en.wikipedia.org/wiki/Extended_cognition, хотя это в разы менее популярный тезис, чем embodied cognition – но кроме embodied, то есть «мозг-не сам по себе, а в-теле», в этот тезис включаются embedded, то есть мышление функционирует только в связанном с ним окружении/environment, enacted – включает не только вычисления в нейронной сети, но и действия, которые делают вещи и организм, а также extended – распространяется на окружение организма
45
https://en.wikipedia.org/wiki/The_Extended_Mind – «And what about socially-extended cognition? Could my mental states be partly constituted by the states of other thinkers? We see no reason why not, in principle.»
46
https://ru.wikipedia.org/wiki/Искусство_программирования
47
Каламбур намеренный.
48
https://ailev.livejournal.com/1045081.html
49
https://gtmarket.ru/library/basis/3961/3974
50
https://en.wikipedia.org/wiki/Amdahl's_law
51
https://arxiv.org/abs/2212.12538
52
https://system-school.ru/qualification
53
«Болваны для искусственного интеллекта», https://ailev.livejournal.com/1356016.html
54
https://en.wikipedia.org/wiki/Transdisciplinarity
55
https://lab42.global/arc/core-knowledge/
56
https://lab42.global/arcathon/
57
https://lab42.global/arcathon/leaderboard/
58
http://hosting.vspu.ac.ru/~chul/dijkstra/pritcha/pritcha.htm
59
https://en.wikipedia.org/wiki/Free_energy_principle
60
https://www.ozon.ru/product/dumay-medlenno-reshay-bystro-kaneman-daniel-240690039/
61
https://www.oreilly.com/ideas/open-endedness-the-last-grand-challenge-youve-never-heard-of
62
https://www.pnas.org/doi/10.1073/pnas.2120037119
63
https://www.pnas.org/doi/10.1073/pnas.1807890115
64
https://ru.wikipedia.org/wiki/Актуарные_расчёты
65
https://www.nature.com/news/physics-paper-sets-record-with-more-than-5-000-authors-1.17567
66
https://www.frontiersin.org/articles/10.3389/fnsys.2022.768201/full
67
https://en.wikipedia.org/wiki/Prompt_engineering
68
https://anlp.org/knowledge-base/definition-of-nlp
69
https://en.wikipedia.org/wiki/Large_language_model
70
https://www.science.org/doi/10.1126/sciadv.add9938
71
https://www.economist.com/science-and-technology/2014/07/05/practice-may-not-make-perfect
72
https://arxiv.org/abs/2107.13377
73
Посмотрите примеры неоптимальности эволюционных решений. Всё работает, но крайне неэффективно, ибо наследуются какие-то черты конструкции из предыдущих поколений. Скажем, у рыб не было шеи, и гортанный нерв от мозга к горлу шёл по оптимальной прямой траектории, у человека с этим уже плохо и не оптимально, нерв «возвратный», ибо проходит через петельку кровеносных сосудов около сердца а у жирафа такая петелька вообще вызывает удивление своей неоптимальностью: https://ru.wikipedia.org/wiki/Возвратный_гортанный_нерв. Ни один рациональный конструктор такого бы не допустил!
74
https://en.wikipedia.org/wiki/Spin_(physics)
75
https://en.wikipedia.org/wiki/Spintronics
76
https://en.wikipedia.org/wiki/Quantum_supremacy
77
https://arxiv.org/abs/2107.12544
78
Ключевая работа тут была – https://arxiv.org/abs/2203.15556
79
we show in the technical paper that with just 30 minutes of focused training on a newly presented complex task, the [pretrained on multiple tasks] agents can quickly adapt, whereas agents trained with RL from scratch cannot learn these tasks at all, https://deepmind.com/blog/article/generally-capable-agents-emerge-from-open-ended-play
80
https://en.wikipedia.org/wiki/Intelligence_quotient
81
https://en.wikipedia.org/wiki/Intelligence_quotient
82
пре-принт https://www.medrxiv.org/content/10.1101/2021.08.10.21261846v1.full.pdf
83
«Этот человек в топ-1% по навыкам кодинга, скорее даже 0.01%, и при этом он делает то, чего я часто не вижу у вопрошающих людей в Slack/телеграм чатах/у стажеров на работе. Он видит ошибку И СРАЗУ ЕЕ ГУГЛИТ, НЕ СТЕСНЯЯСЬ. И, внезапно, находит решение. Я не знаю, почему люди этого не делают, быть может думают, что умные и сами разберутся» – https://t.me/seeallochnaya/414
84
https://journals.plos.org/plosone/article?id=10.1371/journal.pone.0095693
85
https://ru.wikipedia.org/wiki/Карго-культ
86
https://ru.wikipedia.org/wiki/Теория_резонанса
87
https://ru.wikipedia.org/wiki/Теория_молекулярных_орбиталей
88
Judea Pearl, Dana Mackenzie, The Book of Why: The New Science of Cause and Effect, https://www.amazon.com/Book-Why-Science-Cause-Effect-ebook/dp/B075DCKP7V/
89
https://pubmed.ncbi.nlm.nih.gov/33347968/ и
https://www.frontiersin.org/articles/10.3389/fnbot.2022.910161/full#B45
90
https://yadi.sk/i/2SgjvILB3PqJEZ
91
https://ailev.livejournal.com/1653296.html,
92
https://www.academia.edu/95095498
93
https://ailev.livejournal.com/1656653.html
94
https://ailev.livejournal.com/1520730.html
95
https://ru.wikipedia.org/wiki/Gartner
96
https://ru.citaty.net/avtory/maks-plank/
97
https://ru.wikipedia.org/wiki/Флогистон
98
хорошо описано у него в книжке «Думай медленно… решай быстро» – https://www.amazon.com/Thinking-medlenno-reshay-bystro-Russian/dp/5170800533/
99
https://arxiv.org/abs/2203.15556, пояснения на русском с https://t.me/gonzo_ML/1216
100
https://ailev.livejournal.com/649230.html
101
https://ailev.livejournal.com/428032.html
102
https://ridero.ru/books/vizualnoe_myshlenie/
103
https://ru.wikipedia.org/wiki/Синестезия
104
https://ru.wikipedia.org/wiki/Идеастезия
105
https://libcat.ru/knigi/religioznaya-literatura/samosovershenstvovanie/390938-dzhon-grinder-shepot-na-vetru.html – описание подхода на русском языке, от одного из соавторов подхода, профессора лингвистики.
