Текст книги "Интеллект-стек 2023"

Нейросемиотика. Нейросемиотическое программирование

Понятийное мышление вполне синестезийно в части представления его результатов как доступного восприятию, то есть которые можно выделить вниманием, но абстрактно/внемодально в части понятийной работы, не привязано к каким-то определённым модальностям. Понятия представляются как некоторые области многомерного пространства, отвечающего всем возможным понятиям. И эти понятия могут затем отображаться как картины (или даже «фильмы/гифки»), звуки (или даже «речь»), ощущения (или «кинестетические гифки»), и т.д., или даже «всё это вместе и одновременно, тесно переплетённое», то есть синестезийно103103
  https://ru.wikipedia.org/wiki/Синестезия


[Закрыть] и идеастезийно104104
  https://ru.wikipedia.org/wiki/Идеастезия


[Закрыть].

В машинном интеллекте те же тренды: языковые модели получают уже и для визуальных наборов данных, и наборов данных из подписанных картинок. Всё больше и больше исследователей замечают, что есть огромное сходство старого нейролингвистического программирования (NLP, neuro-linguistic programming)105105
  https://libcat.ru/knigi/religioznaya-literatura/samosovershenstvovanie/390938-dzhon-grinder-shepot-na-vetru.html – описание подхода на русском языке, от одного из соавторов подхода, профессора лингвистики.


[Закрыть] и современной работы с нейронными сетками в части естественного языка (NLP, natural language processing, сводимого сегодня к «пониманию человеческой речи на естественных языках»). Но так же, как понятийное мышление не визуально (ну, или «и визуально тоже», можно визуализировать результаты), оно не аудиально, то есть необязательно идёт «словами». Поэтому один из подходов тут может считаться нейросемиотическим/neurosemiotic106106
  The Routledge Handbook of Semiosis and the Brain, 2022: Neurosemiotics aims to identify and explain the neural processes and mechanisms that manifest as sign-relations in the animal kingdom, thereby supplying semiotic models to neurobiological accounts.


[Закрыть] – это про то, каким образом формируются понятия и знаки в нейронных сетях, в том числе человеческом мозге, но и не только – компьютерные нейронные сети сюда тоже попадают, а ещё можно рассматривать и другие варианты вычислителей (семиотика – это наука знаках).

Модель мира отражается в многомерном ментальном пространстве понятий, а потом как-то становится доступной сознанию (иногда причудливым образом: уши слышат, как наш рот проговаривает какие-то слова – одна часть мозга генерирует речь, а вторая часть мозга обеспечивает восприятие этой речи как бы извне, но вот сама понятийная работа, само мышление как поиск решений проблем остаются «невоспринимаемыми» – я специально не употребляю тут модально-окрашенных слов «невидимыми», «неслышимыми», «не унюхиваемыми»).

Понятизация занимается тем, как соотносятся объект, его знак, понятие, значение, смысл в нейросети живой или не очень живой, или даже другом вычислительном субстрате с позиции восприятия этого вычислителя («я работаю с понятиями»), как вообще идёт означкование в каком-то вычислителе, какие алгоритмы можно применить в этом вычислителе для работы с понятиями. Нейросемиотика – это про понятизацию в нейровычислителях (в том числе человеческом мозге, но это могут быть и сообщества, и общества). Семантика занимается соотношениями между знаками, стоящими за ними понятиями и объектами, которые эти понятия отражают, причём с внешней позиции восприятия субстрата вычислителя («он работает с понятиями», а не «я работаю с понятиями»), вычислитель и его природа тут не так важны, сколько важно, с чем этот вычислитель должен работать – с отношениями знаков, понятий, объектов. Как в обычном программировании/информатике можно выделить алгоритмику (качественные алгоритмы, выдающие правильный результат за минимальное время) и семантику как вопрос о смысле вычислений, так и в нейролингвистическом/словесном или нейросемиотическом/знаковом в любой форме программировании можно тоже выделить понятизацию/алгоритмику (что делать, чтобы быстро и правильно думать о понятиях, знаках и предметах и как-то устанавливать между ними соотношениями) и семантику (каковы должны быть соотношения между знаками, понятиями и объектами, чтобы они имели смысл). Программирование/обучение/преднастройка на контекст может быть как живого человеческого мозга (трудно представить мозг кошки, хорошо работающий со знаками), так это может быть программирование/обучение/преднастройка на контекст нейронной сети в «неживых» вычислителях, «разговаривающий компьютер» уже вполне существует.

В какой-то мере самые разные последовательности не только букв, но и фонем в речи, нот в музыке, паттернов в чём угодно можно (и, наверное, нужно) считать текстом, следуя известной максиме Jacques Derrida107107
  https://ru.wikipedia.org/wiki/Деррида,_Жак


[Закрыть] «всё есть текст». Если вам пару веков назад бросили перчатку, то это такой «динамический знак» (жест), означающий вызов на дуэль. Это «словарное значение» знака, но их может быть и несколько разных («косил косой косой косой»). Вокруг текста как последовательности знаков (или даже одного знака) есть контекст, который уточняет значение текста (или даже одного знака) – ту область пространства понятий, куда мы попадаем. А то, зачем мы вообще занимаемся вычислениями с этим текстом, задаёт смысл: какое отношение к изменениям в физическом мире имеют эти вычисления.

Пространство понятий в знаках выражается квантованно/дискретизовано, ибо часто значение находится где-то там, где нет подходящего знака для его выражения («между точками дискретизации пространства понятий»), и приходится работать с пространством понятий через грубый язык, через знаки, а иногда и изобретать знаки – быть поэтом. Вот это и есть предмет понятизации. Представьте себе 100 оттенков синего цвета, и слова-знаки «синий» и «голубой» (при этом в некоторых языках даже может не быть слова «голубой»). Вот это типичная ситуация: требуется довольно много слов, чтобы выразить некоторые понятия. Потом их можно означковать, но это если они часто встречаются. Большинство понятий не имеют каких-то своих значков, но вполне выразимы на естественном языке.

Нейролингвистические программисты влед за Хомским говорят о поверхностной структуре языка (выразимой знаками, как изображение пикселями, а звук отсчётами амплитуды в какие-то дискреты во времени) и глубокой структуре (понятия, кодируемые нейросеткой, эти понятия обычно «промеж пикселей, результат вычислений», не точно соответствуют каким-то знакам). Знаки (поверхностная структура) тем самым представляют какие-то вехи, обозначающие места в понятийном пространстве (глубокая структура), поэтому иногда говорят о знаковой координатной сетке/grid (скажем, понятия разных синих цветов вам или больше доступны, если есть слова/знаки «голубой» и «синий», или менее доступны – вы хорошо можете различать голубой и синий цвет, но не сможете это хорошо выразить. Чем больше развит язык, тем точнее можно высказываться на нём. Ньютон писал свои трактаты на латыни, ибо тогдашний английский был как язык довольно убог).

Представьте себе, что у вас есть мир Майнкрафта и слова для каждого его объекта. А потом вам предлагают описать ваше реальное рабочее место только этими словами. Трудно, да? В этот момент вам захочется и как-то аллегорически или метафорически заговорить на этом языке, а иногда и новые слова в этот язык внести, а иногда переопределить значение уже имеющихся слов. По большому счёту, с естественным языком происходит ровно вот это: выражение на языке знаков (без разницы, синестетических, визуальных, аудиальных, динамических/жестов, кинестетических и т.д.) – это дискретизация, что-то типа АЦП, аналого-цифрового преобразования, а понимание выраженного знаками – обратный процесс, «цифро-аналоговое преобразование» со всеми вытекающими особенностями аналогового представления (например, невозможность многократного точного копирования, ибо при аналоговом копировании накапливается ошибка).

По большому счёту, значительная часть работы человеческого и машиннного (Bing, ChatGPT, Bard, ERNIE Bot и множество других систем AI на базе современных нейронных сетей) мыслительного мастерства сегодня проходит в простом и лёгком режиме S1 по Канеману. Из экспериментов в AI известно, что способности нейронной сети к научению растут с размером этой сети, и при достаточных размерах даже наблюдается рост способности к обобщению, а потом и возможность рассуждать108108
  https://ai.googleblog.com/2022/04/pathways-language-model-palm-scaling-to.html


[Закрыть]:

Человек в этом плане лучше, чем муравей или кошка. В мозгу человека множество разных нейронных сетей в разных частях мозга причудливо связаны друг с другом так, что появляется и понимание языка, и понимание шуток. А в мозгу кошки нейроны связаны друг с другом так, что понимание языка и шуток не появляются. А вот в искусственных нейронных сетях это всё появляется, но эти сети тоже должны быть не любыми, а специально устроенными.

Сами по себе проверки на ошибки в каких-то представлениях в нейронной сети не появляются, и огромные нейронные сети страшно ошибаются, если решаемые ими задачи вдруг становятся проблемами, то есть требуют разбирательства с новой предметной областью. Ребёнок, у которого не удерживается внимание, который не владеет логикой, но который много чего повидал и почитал – вот это и есть человек с хорошо развитым мастерством понятизации и отсутствием разных других видов мастерства. Это поэт, который легко отождествляет морскую звезду из монографии по биологии морских безпозвоночных и Патрика из мультильма Спанчбоб. Поэтому в его рассуждении морская звезда со дна моря вполне может сказать несколько слов и иметь друзей. Это поэзия, склеивание миров. В мире поэзии граф Дракула – вампир, а высказывание «вампиров не существует» заставляет графа Дракулу смеяться. Поэт интуитивно может расклеить разные миры, но может и не расклеить – ибо устранение ошибок смешивания рассуждений из разных контекстов делается обычно логическими проверками.

Мы начинаем учиться тогда, когда уже умеем выделить какую-то фигуру из фона: выделить объект (ментальный или во внешнем восприятии) и обнаружить сходство его с другим каким-то объектом, который вынимаем из нашей памяти. Начинаем с врождённого умения выделять объекты и обобщать способ, которым мы эти объекты выделяем (находим в объектах похожести). Это и есть понятизация – работа с понятиями, их ассоциирование/сопоставление друг с другом на предмет нахождения похожестей.

О том, что мышление человека существенно опирается на аналогии, на нахождение паттернов/закономерностей/связей/шаблонов/ритмов хорошо написано в книге Дугласа Хофштадтера «Гёдель, Эшер, Бах. Эта бесконечная гирлянда»109109
  https://ru.wikipedia.org/wiki/Гёдель,_Эшер,_Бах


[Закрыть]. Это книжка аж 1979 года (написана сорок два года назад), поэтому она давно уже неактуальна как «передовое знание человечества», но она являет собой хороший сборник примеров причудливости проявления аналогий и ассоциаций, хорошее введение в саму проблематику понятизации. За сорок с лишним лет после издания этой книги она перестала быть «передовой», и человечество существенно продвинулось в объяснении того, что в этой книге описано. Но главное – у человечества появилось машинное обучение, а в рамках машинного обучения появились большие языковые модели (large language models), которые показывают, каким образом появляется понятизация, дают возможность экспериментировать и возможности инженерной разработки устройств, которые выполняют понятизацию.

Всевозможные детские упражнения на «логику» типа «какой тут предмет лишний» – это, по большому счёту, упражнения не на логику, а на классификацию (отнесение предмета к какому-то типу на основании его похожести по каким-то критериям). Это как раз про понятизацию. Логика нужна была бы только в том случае, если нужно было бы объяснить, почему было принято то или иное решение по поводу отнесения объекта к типу, но для этого объяснения нужно будет много чего ещё уметь, кроме как выдать догадку, что же в ряду лишнее или что на что похоже.

Классические тесты на IQ – это тесты на часть понятизации, связанные с определением паттернов. Это хорошо показано в работе François Chollet «On the Measure of Intelligence»110110
  https://arxiv.org/abs/1911.01547


[Закрыть] (2019). По большей части это тесты, которые не требуют даже владения естественным языком111111
  https://lab42.global/arc/core-knowledge/


[Закрыть] (хотя там для людей бывают и лингвистические тесты, но это не главное там тестируемое, и компьютерные варианты этих тестов не обращаются к знанию языка для тестируемых на интеллект алгоритмов112112
  https://lab42.global/arcathon/


[Закрыть]).

IQ тесты мало тестируют мастерство в других практиках интеллект-стека, хотя они и связаны тесно с собранностью (если у вас внимание отсутствует, то вы просто не помните, какой паттерн уже видели – и ничего повторяющегося в мире у вас нет. То есть для понятизации уже нужна собранность! Деление на отдельные практики интеллект-стека и выстраивание в последовательность довольно условно). И хоть понятизация лежит в основе интеллект-стека, это не самая большая его часть. Так что IQ не слишком коррелирует с успешностью в науке или бизнесе, хотя некоторая связь, конечно, есть. Но не такая прямая, как это обычно представляется. Люди со средним IQ могут получить хорошее образование и добиться больших успехов в науке. А люди с высоким IQ вполне могут иметь мастерство в других практиках интеллект-стека похуже, и не достичь особых результатов. Интеллект не определяется полностью качеством именно понятизации или собранности. Интеллект определяется совокупным мастерством мышления по дисциплинам всех практик интеллект-стека в целом.

⠀

⠀

Психопрактики для понятизации: внимание к кинестетике

Помощь в понятизации людям может прийти со стороны психопрактик фокусирования/focusing (вытаскивание инсайтов из телесных/кинестетических ощущений)113113
  https://www.b17.ru/article/46839/


[Закрыть] и вытекающих из них практик концептуализации этих инсайтов thinking at the edge (TAE)114114
  http://previous.focusing.org/tae-intro.html


[Закрыть]. По своим идеям эти практики очень близки к нейролингвистическому программированию, но выходят за классические рамки НЛП в том, что не работают чисто с «процессом», оставляя «содержание» где-то в глубинах нейросетки. Нет, это практика понятизации как работы с содержанием: «процесс» как раз вытаскивает содержание из нейросетки, вытаскивает субъективный опыт (первый доступ «внутри головы») – и пытается передать его другим людям, найти выражение для этого опыта.

TAE как практика начинает с внимания к ощущениям тела (это тоже знаки! Всё есть текст!), затем эти ощущения стабилизируются, затем они выводятся на уровень понятий (осознание того, что эти ощущения могут означать), затем этим понятиям даются имена.

TAE заходит довольно далеко и в практики интеллект-стека, которые находятся после понятизации, ибо кроме концептуализации/формализации/моделирования на поздних этапах там включается и логика тоже. Focusing и TAE продолжают линию метафора-ориентированной психотерапии, выводя терапию с пациентами (ремонт поломанных людей) за пределы терапии, превращая её в инженерию с клиентами (не поломанными!), обучение с учениками (не поломанными!). Авторы TAE пишут, что все «шаги» их процедур нужны только для того, чтобы научить. А потом «немые обретают язык, и выражают свою интуицию быстро и понятно». Это ровно то, что нам нужно на этапе осознания: из синестезии по линии либо визуальной (образы, всякие техники «ответа на экране»), либо кинестетической (как в психопрактике фокусирования, предтече TAE) получить какие-то тексты, характеризующие содержание пространства смыслов – для той его области, в которой часто и слов-то нет для обозначения новых, пока безымянных концептов. В TAE оговаривается, что даже при отсутствии слов для концептов можно использовать всю полноту естественного языка для выражения этих новых концептов, так что это тоже не препятствие.

Аналогичные TAE практики легко представить и в других модальностях (визуальной, аудиальной), не только кинестетической, как в оригинальном методе. В принципе, такое можно делать и в синестезии, это ведь тоже тренируется. Безмодальное/внемодальное пространство смыслов отражается в сознании синестезийно, и потом только осознаётся разными модальностями – ощущениями в теле, мелькающими перед внутренним взором картинками, слышимыми внутренним слухом звуками и т. д. Вот и использовать всё это богатство внутреннего представления мира. Модели мира внутри себя сознанием ощущаются ведь ровно так же, как мир снаружи: видео, аудио, ощущения и т. д. – только это «внутри головы». И даже пространство «внутри головы» такое же, четырёхмерное (3D и время).

Классическое нейролингвистическое программирование115115
  https://en.wikipedia.org/wiki/Neuro-linguistic_programming


[Закрыть] жёстко критикуется психотерапевтами (почти всё содержание статьи в Википедии – это критика со стороны психотерапии), и часть этой критики верна. В том числе верна и в том, что это – не терапия, а больше инженерия. То, что предлагало NLP для людей, очень напоминает prompt engineering116116
  https://en.wikipedia.org/wiki/Prompt_engineering


[Закрыть] для современный нейросетей: настройка/дообучение вычислений нейросети в мозгу (S1) с понятиями в контексте, задаваемом «подсказками»/промптами/prompts, причём без особого соотнесения с S2 (особо на это «программируем непосредственно S1, прямо обращаемся к вычислителю для S1, не трогаем S2» были направлены паттерны так называемого «нового кода»117117
  https://www.newcodenlp.org/


[Закрыть] NLP). Многие сотни известных приёмов и практики (паттернов) нейролингвистического программирования118118
  Shlomo Vaknin, «The Big Book of NLP, Expanded: 350+ Techniques, Patterns & Strategies of Neuro Linguistic Programming», 2010, 828 страниц


[Закрыть] вполне получают объяснение в свете современных воззрений на работу нейронных сетей, хотя как и с любым знанием, за почти полвека с момента появления тамошних практик их набор надо существенно чистить (напомним, это инженерия, а не «чистая наука о мозге», но инженерные практики меняются едва ли не быстрее, чем научные теории, к нейролингвистическому программированию это тоже относится в полной мере). Причём это «программирование»: в NLP это называется «работа по процессу, а не по содержанию» (внимание уделяются тому, «как думать», алгоритму, а не «о чём думаем» – ровно как в компьютерных программах на традиционных языках программирования внимание уделяется алгоритму, а не содержимому переменных, оно будет определяться потом, в ходе работы, когда входные данные определят значения переменных программы). Как ни странно, это не самая простая идея: в мире программирования разделение алгоритма (в NLP – процесса) и данных (в NLP – содержания), работа с алгоритмом как данными и данными как алгоритмами появилось не сразу и эти идеи могут принимать множество самых различных форм, учитывая и размытость между софтом и аппаратурой. Это верно и для людей: кошку и ребёнка можно научить каким-то условным рефлексам, но людей потом можно учить, просто сообщая им какие-то фразы, например, «не влезай – убьёт» (но для этого надо сначала людей научить языку, а кошку нельзя научить языку в силу плохой аппаратуры её мозга).

Оригинальное НЛП из 80х годов содержит некоторое количество инженерных решений в части моделирования «языковой модели внутри человека», а затем и в части обучения человека практикам программирования такой модели (обучения мозга, про плохую привычку: «как ваш мозг сумел это выучить?» – это не терапевтический, а инженерный вопрос!). НЛП было озабочено пониманием того, как работают результаты словесного программирования нейронных сеток людей, нейро (мозг) лингвистического (словами) программирования. А в современных искусственных нейросетках даже нет такого аспекта «работы с человеком, но не пациентом». Так что современная понятизация как-то должна объединить находки нетерапевтической/инженерной работы по моделированию человеческого совершенства (human excellence, предмет НЛП) и моделированию компьютерного совершенства (computer excellence, предмет computer science, hardware and software engineering и отдельных дисциплин типа artificial intelligenсe, deep learning и т. д. – всё, что работает с нейро-вычислителями).

3. Собранность

Агенты

Всё больше и больше физиков, которые вдруг занялись физичностью жизни, включая физичность интеллектуальной жизни, прибегают к использованию физики частиц119119
  https://arxiv.org/abs/2210.12761 от Friston со товарищи, https://arxiv.org/abs/2301.10077 от Ванчурин со товарищи, https://www.mdpi.com/1099-4300/25/1/129 вот от от Hoffman со товарищи, https://writings.stephenwolfram.com/2023/02/computational-foundations-for-the-second-law-of-thermodynamics/ от Wolfram, constructor theory https://www.constructortheory.org/ по факту про то же.


[Закрыть]. Частицы/particles – это с одной стороны части, с другой стороны – «что-то особенное, обособленное от остального». В физике такие объекты обычно называют системами/systems: они состоят из чего-то внутри себя (подсистем, частей систем) и находятся в окружении/среде (environment), которое тоже состоит из систем – и имеют границу, которая различает их и окружение (то есть не расплываются в среде, а как-то поддерживают свою «самость», отдельность, автономность).

Физики описывают состояния этих систем, давая эти состояния как точки в пространстве состояний (не только точка положения частицы в 3D пространстве, но и температура, цвет, даже структура их строения из подсистем, а также какие-то характеристики производных по времени – скорость, ускорение и т.д., всё это может быть размерностями пространства состояний). И вот дальше частицы могут быть инертными по отношению к изменению своих состояний и активными – и некоторые частицы настолько «странны», что планируют изменения своих состояний, ставя целью достижение выгодных для них состояний и при этом намеренно проходя состояния, которые для них менее выгодны, чем исходные – ожидая в конечном итоге получить результат лучше, чем у них сейчас. Грубо говоря, эти частицы имеют межвременные предпочтения и готовы чем-то пожертвовать сейчас, чтобы получить результат потом. По факту это поведение деятеля – он планирует путь через пространство состояний, предполагающий достижение конечной потенциально выгодной точки, хотя на этом пути могут встречаться и какие-то отдельные ухудшения. Такие «странные» автономные частицы, способные к планированию, называют агентами120120
  https://arxiv.org/abs/2210.12761


[Закрыть].

По сути дела, в таком подходе победили панпсихисты121121
  https://plato.stanford.edu/entries/panpsychism/


[Закрыть] в той их ветви, где живое и неживое, а потом сознательное и несознательное представляют собой некоторый континуум, а не противоположности122122
  https://arxiv.org/abs/2112.15242


[Закрыть]. То есть в природе существует «нечто», которое как-то ухитряется поддерживать свою отдельность по отношению к окружению – хоть атом, который довольно долго живёт не распадаясь, хоть капля масла в воде, хоть инфузория туфелька, хоть кошка, хоть человек в батискафе на дне Марианской впадины. Частица, или чувствующее (sentient) существо, или даже разумное существо с сознанием.

Примерно та же линия рассуждения об эволюции у Виталия Ванчурина123123
  https://scholar.google.com/citations?hl=en&user=nEEFLp0AAAAJ&view_op=list_works&sortby=pubdate


[Закрыть] со товарищи, но там чуть другие слова: про многомасштабную/multiscale эволюцию и IPU/information processing unit как «единицы информационной обработки». Астрофизики (они и сами вполне себе физические объекты, IPU) всполошились, что системная (в том числе инопланетная) жизнь проходит мимо них, и выдали статью про планетарный интеллект124124
  https://www.cambridge.org/core/journals/international-journal-of-astrobiology/article/intelligence-as-a-planetary-scale-process/5077C784D7FAC55F96072F7A7772C5E5


[Закрыть]. Это продолжение линии рассуждений Вернадского и гипотезы Гайи125125
  https://en.wikipedia.org/wiki/Gaia_hypothesis


[Закрыть] (при всей её критике), работ Varela и Maturana по autopoiesis126126
  https://en.wikipedia.org/wiki/Autopoiesis


[Закрыть], идеи complex adaptive systems (CAS) /complexity science127127
  https://en.wikipedia.org/wiki/Complex_adaptive_system


[Закрыть]. Статья приходит к странным выводам о том, что в атмосфере цивилизация проявляется в запрещении выпуска фреонов и прочему влиянию на атмосферу (для астрофизики это важно: состав атмосферы можно измерить!). To conclude, an exploration of an exploration of planetary intelligence can draw together three domains of study: the evolution and function of Earth’s biosphere; the current emergence of the technosphere in the Anthropocene; and the astrobiology of worlds inhabited by technologically capable exo-civilizations.

Такого сорта статьи о Земле-существе физически вполне осмыслены, хотя вполне могут быть поставлены на одну полку с текстом о специальном компьютере Deep Thought, который в результате семи с половиной миллионов лет непрерывных вычислений наконец-то выдал ответ на ultimate question of life, the universe, and everything: «42». Deep Thought предложил создать другой, ещё более великий компьютер, который будет включать в себя живых существ как часть вычислительной системы, чтобы узнать, в чём, собственно, состоит Вопрос. Этот компьютер был назван Земля и был настолько огромен, что некоторыми по ошибке воспринимался как планета. Сами исследователи, которые управляли программами, выглядели как обычные мыши. Так что астрофизики в своём тексте просто начали догадываться о том, что давно было уже известно даже мышам128128
  https://en.wikipedia.org/wiki/List_of_The_Hitchhiker%27s_Guide_to_the_Galaxy_characters#Deep_Thought


[Закрыть]!

Вообще, в этом направлении «агенты в физике» типичны статьи типа написанных Artemy Kolchinsky129129
  https://scholar.google.ru/citations?hl=en&user=RmRwJJIAAAAJ&view_op=list_works&sortby=pubdate


[Закрыть] «Semantic information, autonomous agency and non-equilibrium statistical physics» и «A thermodynamic threshold for Darwinian evolution». Все эти статьи говорят об одном: понятие агента вполне физично, оно не требует какой-то теории витализма130130
  https://ru.wikipedia.org/wiki/Витализм


[Закрыть], признания особости живых разумных существ как агентов в части описаниях их поведения как чего-то, не укладывающегося в законы физики, существование каких-то трансцедентных (по ту сторону физического мира) свойств агентов.

Есть множество самых разных определений для агентов, но все они сводятся к тому, что речь идёт частицах, которые ставят целью улучшить своё состояние, активно влияя как на себя, так и на окружающий мир – и для этого они имеют модели себя, модели окружающего мира и занимаются постановкой целей и планированием достижения этих целей. И, конечно, сразу заходит речь о том, что агенты могут быть разной степени разумности. И вслед за этим приходится обсуждать самые разные смежные с агентностью системы понятия. Вот глоссарий технологического подхода к вездесущости разума TAME (Technological Approach to Mind Everywhere)131131
  https://www.frontiersin.org/articles/10.3389/fnsys.2022.768201/full


[Закрыть], там всё крутится вокруг понятия «Я»/Самость/Self, как некоторой автономной сущности (частицы) с различными свойствами, и в самом глоссарном определении видно, что это «Я» имеет тип «система», то есть что-то более-менее устойчивое, отделяемое от окружающей среды, и далее мы будем постепенно разбираться с этими понятиями в самых разных практиках интеллект-стека:

• Агентность/agency – набор свойств системы, тесно связанных с принятием решений и действиями по приспособлению к обстоятельствам. Агентность определяет степень, в которой оптимальные способы взаимодействия с этой системой (в терминах коммуникации, предсказания и контроля параметров состояния) требуют моделей все более высокого уровня, определенных в терминах масштаба целей, стрессов, возможностей и предпочтений этой системы как воплощенного в ней «Я», действующего в различных проблемных пространствах. Это представление об агентности связано с представлениями о том, что некоторые системы могут перестраивать себя (autopoiesis, «создание себя»)132132
  https://en.wikipedia.org/wiki/Autopoiesis


[Закрыть] и они могут предвосхищать изменения в себе и окружении (anticipatory systems)133133
  https://en.wikipedia.org/wiki/Anticipation_(artificial_intelligence)


[Закрыть].

• Сознание/consciousness – феноменальный опыт от первого лица любого «Я» – то, что делает мою зубную боль несводимо отличной для меня от зубной боли любого другого человека или описания зубной боли от третьего лица. Степень и содержание сознания – это «каково это» быть этим «Я», в отличие от изучения его извне, независимо от того, достаточно ли развито это «Я», чтобы быть в состоянии что-то об этом сказать или даже как-то об этом думать. Сознание здесь не обязательно означает развитое, рефлексивное, вербальное самосознание, а скорее как чувство из цикла «чувство-обработка/вычисление-ответ», которое рассматривается как что-то непрерывное от самых примитивных проявлений у клеток или даже компьютерного AI до полноценного сознания, каким оно известно у человека. А поскольку все мыслящие/cognitive агенты неизбежно состоят из частей, то и любой человек тем самым будет коллективным интеллектом – то, каково быть «Я-человеком», в точности соответствует тому, каково быть «Я-хитро организованный коллектив не очень осознанных клеток».

• Мышление/cognition – вся деятельность (включая действия не только «ума», но и «тела» – в кавычках тут только потому, что это необязательно мышление человека!), осуществляемая «Я» любого масштаба и варианта материального воплощения, которая лежит в основе сбора, обработки и действия с информацией в целях приспособлений к условиям окружения и по возможности превентивной защиты от рассеивания (буквально: рассеивания молекул, смерти) системы этого «Я» в окружающей среде. Мышление включает активное (то есть с возможным включением операций с телом и окружающими предметами, меняющее ситуацию) умозаключение, познание/learning/обучение и базовую целенаправленную деятельность по изменению себя, мира, моделей себя и мира, а также сложные мыслительные навыки, такие как символические рассуждения, составление концепций, язык и мета-познание (познание того, что такое познание).

• Решение/decision – событие во время прохождения состояния системы через некоторое релевантное пространство (помним, что это не только 3D пространство, но обобщённое пространство каких-то состояний, каждое из которых может быть описано многомерным вектором в пространстве состояний), которое эффективно моделируется как выбор между различными вариантами целевого состояния. Степень «принятия решения» любой данной системы пропорциональна пространственно-временному (в 4D) и сложному (с учётом других характеристик пространства состояний, не только пространства-времени) расстоянию между событиями, которые в конечном итоге приведут к определенному результату, и самим результатом. Продвинутые «Я» учитывают в их механизме принятия решений контрфактические будущие состояния. Речь идёт прежде всего об опоре в решениях на объяснения.

• Разум/ум/mind – функциональный, динамический аспект «Я», являющийся результатом всех его мыслительных и соматических (сома – тело, как оно ощущается «Я» изнутри этого тела) действий, который представляет собой склонность к определенным типам действий в перспективе от первого лица, и эта разумность сохраняется при изменениях тела. То есть это определённого сорта «вычислитель» (хотя в эти вычисления может входить и тело!).

• Интеллект/intelligence – функциональная способность «Я» решать проблемы в различных пространствах состояний (не обязательно в трехмерном пространстве), не привязанная к конкретным реализациям «Я», анатомическим структурам или временным шкалам. Сила интеллекта пропорциональна умелости в ориентировании и перемещениях по этим пространствам, включая, в частности, способность определять пути, которые временно ведут дальше от состояния цели, но в конечном итоге позволяют достичь лучших результатов. Сила интеллекта оказывается несводима к результатам простых классических IQ-тестов на обнаружение паттернов и удержание внимания на паттернах, она отражает не только наличие адекватной «аппаратуры» (фактор G) для вычислений интеллекта, но и результаты познания агентом окружающего мира и познания агентом себя. Продвинутый интеллект использует дополнительные уровни самомоделирования, что позволяет осуществлять многоуровневое самомоделирование «Я» и внешнего мира в его возможных будущих состояниях (контрфактическое мышление), а также включает тревожность и креативность (выявление возможных проблем, в отличие от решения только существующих сейчас проблем). Интеллект тоже «безмасштабный», ибо не существует разумного агента/системы, который не состоит из частей, поэтому интеллект всегда коллективный, и нет отдельного вида «Я» во многих системных уровнях, который только и будет обладать интеллектом.