Текст книги "Интеллект-стек 2023"

Сознательный присмотр за вниманием

«Cобраться» обычно означает поставить своё внимание под присмотр/governance сознания, хотя надо признать, что внимание может управляться и мимо сознания: внимание беседующего по телефону водителя разделено между разговором и дорогой – но вполне может быть, что управление автомобилем идёт «на автомате», пока не возникает какой-то предаварийной ситуации, пока сознание удерживает внимание на разговоре и не обращает внимание на дорожную обстановку. Но легко представить себе какую-то ситуацию «разговора во сне», где разговор идёт, внимания агента хватает поддерживать его тему и не очень отвлекаться, отвечать на вопросы – но осознанности в разговоре нет никакой. Это обычная ситуация для присмотра/governance: когда всё хорошо, то и хорошо, а когда не очень хорошо – включается жёсткий механизм исправления ситуации: «Я» осознанно разбирается с вниманием.

Вопрос о том, что же такое «сознание» тут сложный, связанных с «сознанием» теорий множество. Мы говорим о «сознании» как характеристике «Я», это умение думать о том, как ощущается это существование «Я» изнутри тела, думать о том, как управлять своим телом, думать о том, как принимать решения – а не делать это всё автоматически, без размышлений. Конечно, тут довольно много степеней осознанности как характеристики «Я», это тоже «спектр», а не «вот эти агенты обладают сознанием, а вот эти нет, а вот эти спят – следовательно сейчас не обладают сознанием, но будут им обладать, когда проснутся».

Важнейшая характеристика сознания – это не просто моделирование каких-то вероятностей, связанных с прошлыми и текущими (могли ведь что-то неверно воспринять, «показалось», или просто не знать чего-то) и будущими (будущее не так-то просто предсказать) событиями, но оценка уверенности в этой вероятности: возможность иметь модели для работы с моделями мира и себя (работы с собственными убеждениями). И речь необязательно о рефлексии (рефлексия – это взгляд на происходящее «назад во времени», оценка того, что уже прошло, «разбор полётов»), речь об осознанности происходящего в том числе «здесь и сейчас» и осознанности о том, что и как мы думаем о возможности каких-то событий в будущем. Главное, что сознание работает не просто с суждениями о мире, но с убеждениями/beliefs: вместо суждения «земля плоская» делается суждение «я верю, что Земля плоская, и никакие объяснения со стороны науки меня не убедят, я буду им противиться, уж сколько смогу, игнорировать логику и аргументы, полагаться на ощущение правды, рассуждать сердцем» или «я верю, что Земля плоская, но готов поменять эту веру, если мне дать какие-то аргументы в пользу других объяснений того, какая Земля». При осознанности в рассуждениях/суждениях о мире начинает участвовать рассуждение/суждение и о себе, рассуждающем о мире: кроме вычислений по модели мира ещё есть и вычисления по модели моделей мира.

Одна из важнейших характеристик сознания – это вменяемость/persuadability, насколько просто поменять поведение какой-то системы. Если это часы, то надо физически изменить конструкцию. Если кошка, то можно задействовать её мозг: выработать условный рефлекс, перепрограммировать (и это будет «мимо сознания», автоматическая реакция, «рефлекс»). Если это существо с высоким уровнем сознания, например, человек, то можно просто сообщить какую-то мысль – и поведение будет поменяно, например, вместо одной теории будет принята в качестве основы действия другая теория: вместо теории «очевидно плоской Земли», базирующейся на личном опыте агента, будет взята на вооружение теория «очевидно шарообразной Земли» – и это будет сделано агентом осознанно. Вот такой подход позволяет не слишком разбираться, каково это – менять собственные убеждения.

Дальше можно разбираться в том, как агенты моделируют сознание других агентов, ибо для совместных действий агентов им нужно уметь отмоделировать друг друга, чтобы предсказать их действия. Это приводит нас к «теории ума»/theory of mind139139
  https://en.wikipedia.org/wiki/Theory_of_mind


[Закрыть]: теории, которая обсуждает то, как агенты (прежде всего люди) понимают, что и как чувствуют другие агенты (прежде всего люди), включая те самые убеждения/beliefs по поводу используемых ими моделей/теорий мира и себя. Дети у людей рождаются, не демонстрируя никаких подобных свойств моделирования других людей, но по мере взросления всё больше и больше могут сопоставить то, что происходит с ними (их личный субъективный опыт) с субъективным опытом, переживаемым другими людьми, могут «влезть в шкуру» собеседника. Как раз сейчас очень интересный момент: большие языковые модели, которые начали использоваться с 2017 года (изобретение архитектуры Transformer в области нейронных сетей) до 2022 года показывали нулевые способности компьютеров отмоделировать субъективный опыт других людей (включая моделирование их убеждений/теорий о том, какие теории предпочтительны в использовании их как основы для действия), но в январе 2022 года эти языковые модели показали на примере GPT-3, что они проходят тесты теории ума на уровне семилетнего ребёнка, а в ноябре 2022 года GPT-3.5 – на уровне девятилетнего ребёнка140140
  https://arxiv.org/abs/2302.02083


[Закрыть].

В любом случае, необходимо уметь:

• Осознавать, на какие объекты направлено сейчас твоё внимание, куда и как дрейфует это внимание. Мало осознавать, надо ещё уметь и исправить ситуацию! И делать это в ситуациях, когда часть внимания обеспечивается работой кортекса (живого мозга), а часть внимания обеспечивается экзокортексом (это тоже надо осознавать, с этим как-то работать! В том числе обращать внимание живого мозга на экзокортекс, чтобы сработать как-то с объединённым вниманием).

• Осознавать, почему твоё внимание выбрало эти объекты (какими моделями мира оно руководствовалось, чтобы объявить эти объекты внимания важными). Это не так просто. Помним про вменяемость/persuadability141141
  https://www.frontiersin.org/articles/10.3389/fnsys.2022.768201/full


[Закрыть]: эта характеристика агента у людей с их аппаратурой мозга самая высокая на сегодняшний день изо всех видов агентов (хотя prompt engineering для LLM вроде GPT-4 показывает, что тут возможно уже какое-то обсуждение и нечеловеческой вменяемости высокого уровня). После рождения человека с «чистым мозгом» каким-то образом происходит «запудривание мозгов» самыми разными знаниями (например, что в мире есть Деды Морозы в их самой разной форме – происхождение этой веры дети не могут отследить, боги из различных мировых религий прошлого и настоящего тоже относятся к этой категории, почему уверуют в бога не обсуждается, психотехники изменённых состояний сознания и как они связаны с распространённой вокруг уверовавшего агента верой других агентов не обсуждаются), но в какой-то момент убеждения в верности этих теорий исчезают (взрослые люди перестают верить в Дедов Морозов, а также в других персонажей легенд, например, богов), то есть происходит «промывка мозгов» – сам человек себе промыл мозги, или кто-то ему промыл мозги, не имеет тут значения. Главное тут: признавать, что в любой момент «мозги запудрены» (в момент рождения они чисты, а далее нейронная сетка как-то прихватывает убеждения, в том числе несознательно), признавать возможность и важность «промывки мозгов» (сознательного отказа от каких-то важных ранее убеждений, если они признаются неадекватными) и важность «запудривания мозгов» новыми теориями. Умение задавать себе вопросы «откуда я это знаю?», «почему я это делаю?», «что сейчас происходит, как я в этом оказался?», «почему я принял такое решение, какие были аргументы?» – важнейшее умение человека. И это должно быть не только в ходе «рефлексии» после мышления и действия, это должно быть в том числе во время мышления и действия, надо мыслить и действовать осознанно. Пример с богами тут выбран сознательно: по поводу многих теорий люди имеют довольно крепкие предубеждения и надо уметь рационально мыслить как раз в условиях таких сильных предубеждений, вызывающих сильный эмоциональный отклик: не терять осознанности, не допускать полной автоматичности ответов по таким поводам, уметь заметить свои убеждения, понимать их происхождение, понимать их преходящесть, понимать их связь с сильными эмоциями.

• Уметь себя нейролингвистически перепрограммировать, удерживая этот процесс в сознании, не терять осознанности: если я понял, что Деда Мороза не существует, следует пересмотреть и другие связанные с этим убеждения. Образно говоря, надо уметь не только понять, что «мозги всегда как-то запудрены» и отследить это, но и уметь как «промыть себе мозги», так и «запудрить себе мозги». Надо чётко понимать, как работает человеческая нейронная сетка, а также как работает в этом плане AI, как работает объединённая эко-система агентов (какое-то сообщество людей, поддерживающих убеждения друг друга, например, секта, или компания с её корпоративной культурой) уметь об этом думать, принимать по этому поводу решения, уметь это делать по своей воле – по итогам размышления.

Присмотр за вниманием

Если наше внимание должно направляться какими-то важными для роли объектами, то это должно происходить свободно, но если происходит какое-то отвлечение, то «Я» должно отслеживать это отвлечение – и ещё «Я» должно уметь на эти темы общаться. Например, «Я» может организовать какой-то коллектив из частей личности, выделив им в вычислительном субстрате (мозге) какие-то части. Понятно, что это будут более-менее убогие личности (у них не все вычислительные ресурсы), и даже разговаривать они не все смогут в полной мере, и вменяемость у них будет похуже, но как минимум, можно будет устроить общение их между собой – обсудить происходящее. Но оставим тут вопрос, какова концепция личности, до момента обсуждения инженерии личности: того момента, как мы начнём эту личность «изготавливать»/развивать/«выращивать». Обратимся к описанию одной из важнейших функций личности: присмотр за вниманием, без которого собранность реализовать нельзя.

Внимание – это как супер-видеокамеры, направленные на какие-то предметы из бесчисленного числа окружающих нас предметов. Они передают к нам в мозг на обработку изображение, звук, запах, вкус, ощущения. Эти камеры выдают в мозг некоторый мультимодальный (все пять модальностей восприятия – видео, звук, запах, вкус, ощущения) поток информации, называемый «поток внимания». Интересно, что эти камеры внимания могут быть направлены на мир и использовать аппаратные датчики (смотреть через глаза, слушать через уши, и так далее), но могут смотреть и прямо внутрь мозга и брать какую-то информацию из памяти или даже из промежуточных вычислений нейросети мозга.

Камеры всегда куда-то направлены, и от них всегда идёт какой-то поток информации. Внимание всегда есть, оно всегда выхватывает из мира и даже из самого мозга какие-то потоки, и мы реагируем на них, безо всякого сознания или с сознанием. Но агент с высоким уровнем сознания может управлять этими камерами осознанно – люди могут обратить внимание на какие-то объекты вовне или внутри мозга и воспринимать главным образом эти объекты, игнорируя все остальные. То же относится к современным система AI: вы можете сказать чат-боту, каких ответов о каких объектах какой предметной области вы от него ожидаете, после чего вы будете получать именно такие ответы, остальное чат-ботом будет проигнорировано.

Что можно настраивать в камере? Куда смотреть: в мир, или в мозг/нейронную сетку/хранилище информации (картинки внутри головы, внутренние голоса, какие-то неясные ощущения дискомфорта в теле – всё это от внимания, направленного внутрь. Конечно, увиденное может быть и галлюцинациями (причём и у искусственных нейросетей тоже142142
  https://en.wikipedia.org/wiki/Hallucination_(artificial_intelligence)


[Закрыть]): положительными (увидели, или услышали, или почувствовали то, чего в мире или даже мозге/нейросети нет), или отрицательными (не увидели, или не услышали, или не почувствовали того, что есть).

Какие характеристики внимания? Прежде всего – это его сфокусированность. Вот прямо сейчас посмотрите на вот эту букву «а» и подумайте, из русского она или английского шрифта? Поток вашего внимания передавал в мозг ровно эту букву, остальной мир был вне сознания, вы его не видели. Камера внимания показывала вашему мозгу главным образом эту букву, а не остальной мир. Это концентрация внимания, один из режимов его работы. А теперь не сводите глаз с вот этой буквы «б», но постарайтесь охватить при этом максимальное изображение, на которое вы способны – в том числе и боковым зрением. Там всё статично? Что-нибудь шевелится? Есть ли яркие точки? Это деконцентрация внимания, когда передаваемым в мозг для обработки объектом становятся не целевые объекты, а фон! Это другой режим сфокусированности, и он едва ли не более важный, чем концентрация внимания.

Деконцентрация – передача воспринимаемого мира камерами внимания максимально широкого поля восприятия во всех его модальностях (видео, аудио, и т.п.), удержание от появления в нём любых фигур/паттернов, кроме необходимых (например, когда прислушиваешься, или когда ищешь ошибку в тексте: игнорируешь все помехи и ждёшь прихода сигнала с любой стороны, в любом месте. Сигнал как бы всплывает из однородного фона). Противоположность: концентрация внимания, когда рассматриваешь детали фигуры в очень узком поле восприятия и игнорируешь фон как таковой.

Деконцентрация нужна при любой поисковой активности. Есть ли у вас сейчас перенапряжённые мышцы, не нужные для удержания позы? Деконцентрируйте ваше внимание к телесным ощущениям по всему телу (ощутите всё тело одновременно, охватите его всё камерой ощущений), чтобы найти эти перенапряжённые мышцы. Не нашли? А они ведь есть! Просто они оказались вне вашего внимания, вряд ли вы без специальных тренировок сможете их обнаружить, вы просто не знакомы с этими ощущениями, не знаете, как их обнаружить среди множества самых разных ощущений, которые генерирует тело. Мы говорим тем самым о деконцентрации внимания в телесной/чувственной/кинестетической модальности восприятия. А теперь прислушайтесь ко всем звукам, что вас окружают – и близким, и далёким. Что это за звуки? Это деконцентрация внимания в аудиальной модальности. Концентрируйтесь на одном из звуков, игнорируйте остальные – и вы поменяли деконцентрацию внимания на концентрацию.

А теперь обратите ваше внимание на содержимое ваших мыслей (повторим: внутри головы вы можете получить тоже изображения, звуки, вкусы, запахи, ощущения – и ничего такого, что не могли бы получить от окружающего мира). О чём они? Сможете ли вы заметить, как предмет ваших размышлений убежал – рассуждения чтения текста вдруг заменяются рассуждениями по поводу текста, вдруг заменяются рассуждениями о чём-то другом (например, о каких-то срочных делах, или приходит мысль, что нужно срочно потупить в сериал или ВКонтакте?).

Можно даже сознательно навести камеру на пульт управления камерами, чтобы разобраться с их настройками. Сознательно отслеживать, контролируете ли вы ваше внимание, или оно гуляет само по себе.

Вычисления/размышления/рассуждения (даже «интуитивные», недоступные сознательному вниманию вычисления нейросетки) – это дорогой ресурс, его надо экономить. Вычисления/размышления/рассуждения не могут производиться сразу со всей информацией от всех возможных мультимодальных камер внимания. Поэтому люди обычно в состоянии отслеживать только несколько потоков внимания, несколько аудиовидеопотоков от его камер – и всячески стараются уменьшить это число.

Надо быть собранным: помнить о том, что камеры внимания в нашей власти, не позволять этим камерам беспорядочно показывать вам то, на что они случайно навелись и случайно сконцентрировались или деконцентрировались. Управляйте вниманием, не довольствуйтесь случайным блужданием вашего внимания! И не забывайте не только про внимание к внешнему окружению, но и про внимание к происходящему у вас в мозгу! И не забывайте, что биологический мозг несовершенен: используйте экзокортекс, хотя бы удерживайте пальцем места, где нужно удерживать внимание, чтобы меньше его терять. Как шахматист думает над доской, а не «в уме», используйте внешние опорные предметы, позволяющие удержать внимание! Но ещё лучше – всё записывайте, чтобы потом было легче вспомнить! Лёгкость вспоминания будет за счёт двух факторов:

• Вы напряжёте ваш мозг для записи, потратите время на то, чтобы подобрать слова, как-то ясно выразиться. Пишите не как для себя, а как для других (например, опубликуйте запись в публичном блоге, чтобы уж наверняка быть внятным). Если вам придётся читать эту запись не буквально завтра, а хотя бы через месяц, то вы сможете прочесть её и вспомнить, что вы имели в виду. Тут важно то, что при таком подходе вам достаточно долго придётся удерживать внимание на материале записи, это обучит вашу нейронную сеть в мозгу143143
  https://www.youtube.com/watch?v=MnCV3sOkVVw


[Закрыть].

• Вы будете иметь запись, которую сможете передать другим людям, эту запись сможет прочесть AI (ваш персональный ассистент), эту запись сможет прочесть поисковая машина – и вы потом сможете её найти. Экзокортекс интересен тем, что он частично личный (записи для себя), но всегда можно его развернуть в сторону коллективного экзокортекса: совместного с вашим или даже не вашим AI и другими людьми.

Во многих психотехнических традициях речь идёт о Свидетеле/witness, наблюдателе. Собранность/осознанность там пассивная, мысли как бы «саморастворяются» при внимании к ним, останавливаются. У нас совсем не так, у нас собранность с волевым началом, и включающая действия в физическом мире – «Я», живущее в теле и обладающее сознанием не только позволяет увидеть кроме предметов, передаваемых в потоке информации с камеры внимания и саму камеру с её настройками, но и позволяет покрутить камеру, поиграться с её настройками и даже поглядеть через эту камеру внутрь проводящихся мозгом вычислений или запросить воспроизвести что-то из памяти. Воспринимать – это активная операция измерения с использованием датчиков, ибо датчики надо подтащить к измеряемому объекту (заранее понимать, что будешь измерять!), настроить и откалибровать, затем как-то обработать результаты измерения, возможно, подстроить измерительную аппаратуру: опять совершить действия, например, подойти поближе, или использовать «зондирование» – то есть вызвать какие-то изменения в объекте наблюдения, чтобы пронаблюдать эти изменения в их сравнении с ожидаемыми.

Современный вариант рассказа об управлении характеристиками внимания – это то, как вы управляете современным фотоаппаратом. В этой метафоре нам важна характеристика зума.

Зум – это насколько широкую панораму вы охватываете в кадре. Если у вас широкоугольный объектив, то угол зрения у него будет 52° до 82°, если больше 90°, то это сверхширокоугольный объектив, а бывает ещё и панорамный объектив (до 180°), это соответствует «деконцентрации», а длиннофокусный объектив (наше «концентрированное внимание») может иметь угол зрения всего в десяток градусов. Что не попадает в поле зрения объектива – то не замечается. Как мы рассматривали бы мир через фотоаппарат с зумом, которым можно управлять этим углом зрения? Мы бы искали какие-то интересные объекты на неинтересном нам фоне в режиме панорамы, а когда находили бы объект, то заполняли бы им полный кадр, а если нужно было бы подробней/внимательней рассмотреть какую-то часть этого объекта, то мы бы добавляли ещё «увеличения», то есть уменьшали бы угол обзора. И нас бы при этом не волновало, что из кадра исчезает вся панорама! А когда нужно найти другой объект для рассмотрения? Мы бы опять увеличивали бы поле зрения, наш кадр бы захватывал всё больше и больше окружающего мира, пока не нашли бы новый объект – и тогда наше внимание было бы на нём, мы зуммировали бы наш объектив так, чтобы в кадре остался только интересующий нас объект. Идея в том, что с нашим вниманием нужно работать точно так же: не только направлять его на что-то, но и отслеживать его концентрацию/широту охвата/зуммирование. И это влияет на рассмотрение не меньше, чем направленность. Вот два кадра аппарата, снятого с десятикратным зумом, и направленного на одно и то же:

Когда вы направляете ваше внимание на какой-то объект, то вы точно так же зуммируете это внимание: концентрируете его или деконцентрируете. Поисковая активность – вам важен фон, вы панорамируете в деконцентрации, изучение найденного при деконцентрации – зуммируете и дальше у вас во внимании кроме найденного на уже не нужном вам фоне объекта нет больше ничего.

Внимание работает всегда, оно всегда на что-нибудь направлено и что-тор выхватывает из окружающего мира (и в этом участвует даже тело: надо подойти к какому-то месту и повернуть туда голову, и довернуть глаза, чтобы что-то заметить зрением – это мышечная работа! Она может проводиться осознанно, и не осознанно), или выхватывает из «внутреннего мира» (но при этом рефлекторно тоже могут отрабатывать мышцы глаз, хотя этого и не требуется). Даже когда луч/поле зрения вашего внимания рассеян вовне и/или внутри нас, это просто деконцентрация внимания. Вы не натыкаетесь на улице на столбы, не спотыкаетесь, ибо внимания хватает для жизни и без осознанности в его отношении. Но вот если вам таки нужно, чтобы внимание не убегало куда-то и было в нужном режиме (например, при сложных размышлениях о рабочем проекте), вам придётся присматривать за ним.

У нас собранность связана с функцией governance/присмотр/надзор «Я» за вниманием. Это не просто «управление вниманием», это больше как присмотр за детьми: пока дети играют в центре комнаты, ничего не происходит, кроме наблюдения. Но когда один из присматриваемых лезет на окно, присматривающий активно вмешивается и принимает меры – он ни разу не просто «наблюдатель», он деятель! Присмотр идёт всегда, а управление в порядке присмотра – только когда что-то идёт не так.

Собранность связана прежде всего с «недреманной волей», агентностью по отношению к себе, это не просто «недреманное око», которое видит ужас происходящего с «Я», но ничего поделать с этим не может. Так, именно эта воля действует, чтобы актёр/агент/человек/личность не слился с ролью и не начал жить как роль, забыв, что это всего лишь роль. Нет, жить в целом агенту нужно как человеку (и не просто человеку, а члену разных команд, а ещё самому быть усиленным разными инструментами, в том числе искусственным интеллектом), а в проекте заниматься трудом по роли. И вовремя менять эти роли, если нужно: мастерство собранности позволяет развить осознанность, чтобы внимание в ходе игры по роли не дрейфовало на какие-то другие дела.