Читать книгу "Иной разум. Как «думает» искусственный интеллект?"

То, что можно показать, нельзя сказать.

Людвиг Витгенштейн

Понимание, хоть это и кажется парадоксальным, нельзя высказать. В лучшем случае его можно продемонстрировать – в конкретном своём поведении, в решении конкретных задач, в реальных обстоятельствах. Впрочем, ведь именно так мы и проверяем – понимает человек то, о чём говорит, или только прикидывается.

Однако наглядная демонстрация понимания и то, как мы на сознательном уровне выражаем это наше понимание в словах, концепциях, понятиях, абстрактных теориях, – это вовсе не одно и то же. Если приглядеться внимательно, то и вовсе оказывается, что одно с другим вообще связано очень и очень условно.

Причём в когнитивной психологии есть даже такой парадокс – чем лучше человек что-то действительно понимает, тем тяжелее ему это объяснить. Феномен был описан в 1989 году экономистами Колином Камерером, Джорджем Левенштейном и Мартином Вебером и получил название «проклятие знания»[48]48
  Camerer C., Loewenstein G., Weber M. The curse of knowledge in economic settings: An experimental analysis // Journal of Political Economy. 1989. Vol. 97(5). P. 1232–1254. DOI:10.1086/261651.


[Закрыть].

Представьте такой эксперимент – он и в самом деле был проведён в Стэнфорде в 1990 году[49]49
  Newton E. L. The rocky road from actions to intentions: Doctoral dissertation. Stanford University, 1990.


[Закрыть]: психолог Элизабет Ньютон посадила людей парами, и один должен был отстукивать пальцем по столу мелодию какой-нибудь известной песни – скажем, «Happy Birthday», а второй – угадывать, что это за песня.

Перед началом сессии каждого из «перкуссионистов» спрашивали, сколько, на их взгляд, мелодий угадают их визави. Те уверенно ответили, что примерно половину, ведь это совсем «очевидные» песни – каждая на слуху! Но результат показал, что из 120 мелодий было угадано только три (что можно считать случайным совпадением).

Почему так? Потому что, когда вы выстукиваете ритм «Happy Birthday», у вас в голове играет вся песня – мелодия, слова, вплоть до аранжировки. А ваш напарник слышит только… тук-тук-тук по столу. Это и есть «проклятие знания»: если вы знаете что-то на уровне субъективного переживания, вам трудно представить, что кто-то может этого не знать.

Причём, как показали уже другие исследования, чем лучше человек что-то знает, тем он сильнее уверен в осведомлённости других. Причём не помогает даже объяснение феномена «проклятие знания» – эффект сохраняется[50]50
  Tullis J. G., Feder B. The “curse of knowledge” when predicting others' knowledge // Memory & cognition. 2023. Vol. 51(5). P. 1214–1234. DOI: 10.3758/s13421–022–01382–3.


[Закрыть]. Да, если какое-то знание стало частью нас, мы просто не можем вообразить, как этим знанием можно не обладать.

Наши примеры с арифметическим счётом, чтением и любым действием (велосипед – это ведь только пример, мы точно так же «знаем», как ходить, сидеть и поворачиваться с боку на бок в положении лёжа) – всё это как раз то самое «проклятие знания». Мы не понимаем: что тут может быть непонятного?

Но посмотрите на младенца – он точно не знает ни счёта, ни чтения, он-то и передвигается с трудом. А когда-то мы все были детьми, так что и у нас этого знания не было. Но после того, как оно у нас возникло, мы уже не можем вспомнить, как мы этого не знали.

То есть гипотетически вы, конечно, можете представить – мол, да, раньше я не умел ни читать, ни писать, ни даже ходить (примерно до года с момента рождения). Но представить и вспомнить, каково это… Мы не можем.

По той же причине мы раздражаемся, когда другой человек не может понять «очевидных», на наш взгляд, вещей. Допустим, мы планируем поездку или покупку – делаем внутри головы массу сложных расчётов, но ведь кто-то ничего этого не учитывает. Понятно, что мы смотрим на него, как на клинического идиота: мол, тут же столько всего нужно предусмотреть – как ты не понимаешь?!

Но если всё так «очевидно» – давайте возьмём и объясним… И тут, понятное дело, случается коллапс. То, что нам казалось «таким очевидным», требует трёхчасовой лекции, да и она вряд ли приведёт к желаемому результату. То есть мы как бы и знаем, и показать можем, но «знаем» словно бы изнутри, на уровне чувства, ощущения, «внутреннего понимания».

Как говорит по этому поводу Стивен Пинкер: «проклятие знания» – это «главный виновник непонятного письма»[51]51
  Pinker S. The sense of style: The thinking person's guide to writing in the 21^st century. N. Y.: Penguin Books, 2014. 368 p.


[Закрыть]. И думаю, что вам приходилось сталкиваться с текстами, которые, если разбирать их по словам, вроде бы и понятны, но при этом уловить мысль автора невозможно (не исключаю, что это касается и моего текста, но поверьте, я делаю всё, что в моих силах).

Да, автору просто не приходит в голову, что его читатель может не знать всего того, что крутится – причём уже на подсознательном уровне – у него в голове. Его мозг уже столько раз прокручивал эти идеи, укоренённые, к тому же, в его личном опыте, что это «понимание» буквально записалось в нейронных связях. Мы же со своими нейронными связями разотождествиться никак не можем.

Но критиковать художника всякий умеет… А потому оглянемся на самих себя – мы все с вами такие «авторы»: постоянно сообщаем окружающему миру о своих знаниях и пониманиях, но фактически лишь говорим что-то «по теме», говорим «о», а не «это самое».

Мы физически не можем высказать свои понимания, потому что мы и есть – они, наши собственные понимания (то есть нейронные связи нашего мозга, в которых наше знание и заключено). Это как с глазом, который может увидеть всё что угодно, но только не самого себя.

Нам обычно кажется, что проблема в других – они нас не понимают. Но проблема в том, что, чтобы нас понять, надо быть нами – нашим мозгом, этими его нейронными связями. В лучшем случае другой человек поймёт что-то своё – своими мозгами, своими нервными связями.

Немаловажно, впрочем, и то, что эти связи благодаря пресловутой нейропластичности постоянно меняются и перестраиваются. То есть в процессе самого высказывания своего понимания мы влияем на то, как мы что-то понимаем. Неслучайно лучший способ разобраться в сложном вопросе – это объяснить его кому-то другому.

Проблема в том, что объяснить-то как раз и не получится, но твои собственные нейронные связи, пока ты объясняешь, начнут перестраиваться, и да – у тебя появится новое «понимание». Но ты опять-таки не сможешь его выявить, а самое интересное, что благодаря когнитивному искажению «проклятие знания» скоро ты даже не будешь знать, что когда-то у тебя этого понимания не было.

Мы начали с самых простых вещей – математика, чтение, езда на велосипеде. Казалось бы, именно здесь мы твёрдо стоим на ногах: я точно знаю, что такое «понимать». Однако, как выясняется, наше «понимание» вовсе не совпадает с тем, что мы о нём думаем.

Зачастую мы даже действуем правильно, но вот объяснить, в чём, собственно, это наше знание состоит, мы не можем.

• Мы способны осуществить разные математические операции, но не понимаем, как именно мы это делаем.

• Мы читаем текст и не знаем, как наш мозг производит смысл из чернильных пятен.

• Мы держим равновесие на велосипеде, но любое объяснение нашего воплощённого знания оказывается грубой карикатурой на то, что реально делает наше тело.

Получается, что наше подлинное понимание живёт не в словах, не в объяснениях и не в теориях, а в самой ткани нашей нервной системы – в автоматизмах, в телесных схемах, в миллиардах связей, которые мы даже не замечаем.

И ведь именно об этом нам пытались сказать когнитивисты и нейробиологи! То, что мы называем «пониманием», – это лишь грубая оболочка, поверхностное представление о том, что реально делает и понимает наш мозг.

Так что, судя по всему, именно в этом скрытом измерении – в «понимании без понимания» – лежит ключ к следующему шагу. Ведь если наше собственное понимание так устроено, то, может быть, оно не столь уж отличается от того, что мы называем «пониманием» искусственного интеллекта?

Глава третья
Иллюзия понимания

Каждый субъект плетёт вокруг себя свои отношения с вещами, как паук паутину, и живёт в этом самостоятельно сотканном мире. Это и есть его умвельт.

Якоб фон Икскюль

Мы приблизились к ключевой теме этой части книги – к иллюзии понимания. Начиная с «Красной таблетки» и заканчивая «Историей твоего „я“», я пытался последовательно развенчать миф о том, что у человека есть некое «я» в том виде, в котором мы его в себе ощущаем.

• У нас есть разнообразные представления о себе и есть некое знание себя («я-концепция», «сознательное я»).

• У нас есть множество социальных ролей, которые мы отыгрываем, даже не замечая этого (множество наших «социальных я»).

• Наконец, у нас есть наше «животное я» – то есть та самая самость, которая приходит в ужас, когда оказывается перед реальной физической угрозой (например, в момент автомобильной аварии), или в неописуемый восторг, когда ей предлагается испытать страстное удовольствие (от калорийной еды, страстного секса или безоговорочной победы над противником).

Но это не какой-то отдельный «субъект», не «личность», а целая «толпа» нейрофизиологических доминант. По сути – неких центров силы, с которыми мы отождествляемся в тот или иной момент времени, в зависимости от внешних обстоятельств и собственных внутренних состояний.

У нашего воображаемого «субъекта», у нашей «личности» нет ни подлинной власти над нашим мозгом, ни даже какого-то конкретного места в нём.

Более того, мы всё больше убеждаемся в том, что и гипотезы Зигмунда Фрейда были, по сути, верны, и данные экспериментов Бенджамина Либета не так уж плохи, и исследования Майкла Газзаниги[52]52
  Газзанига М. Кто за главного? Свобода воли с точки зрения нейробиологии / пер. с англ., под ред. А. Якименко. М.: АСТ, CORPUS, 2017. 366 с. (Corpus scientificum).


[Закрыть] вполне заслуживали хотя бы части Нобелевской премии, доставшейся Роджеру Сперри…

Да, самые что ни есть современные исследования мозга подтверждают: наше сознание – лишь фантом, который бежит вприпрыжку за теми решениями (пониманиями), которые возникают – в некотором смысле, сами собой, естественным образом – в сложных нейронно-сетевых структурах нашего мозга.

Наше сознание создаёт «легенду» – объяснение или даже оправдание нашим решениям постфактум, а затем и вовсе присваивает эти решения себе. С какой целью? Просто для того, чтобы мы сохранили иллюзорное «единство и целостность нашей личности» – то есть делает это для поддержания самого себя.

Чем же в таком случае является наше «понимание»? Наверное, трудно представить какое-то «понимание» без понимающего – того, кто этим пониманием обладает… И в этом, собственно, заключается парадокс: мы чувствуем, что что-то понимаем, а потому нам нужен кто-то, кто будет этим пониманием обладать. Соответственно, нам до зарезу нужен этот самый «субъект» в самих себе.

Мы можем сколько угодно убеждать себя различными научными доводами, но, даже усвоив их все от корки до корки, как «Отче наш», мы вернёмся к тому, с чего начали, – к тому, что нам нужен этот понимающий – «субъект», «личность», «душа». Поэтому я и назвал в «Истории твоего „я“» эту странную игру нашего мышления в поддавки с самим собой – «петлёй Уробороса».

Удивительно ли с учётом всего этого, что мы на самом деле не понимаем того, что мы в действительности понимаем? Нет, не удивительно. Удивительно ли, что мы всеми силами пытаемся объяснить себе своё понимание, высказать «то, что мы понимаем»? Нет, не удивительно. Удивительно ли, что само – наше собственное – «понимание» остаётся скрытым от нас? Нет, и тут удивляться нечему.

Я знаю то, что ничего не знаю.

Но другие не знают даже этого.

Сократ

Предлагаю сделать небольшую экскурсию… И отправимся мы не в стерильную научную лабораторию, где мерно жужжит аппарат МРТ, а на залитую солнцем рыночную площадь древних Афин. Здесь, среди торговцев, политиков и самопровозглашённых мудрецов, 2 500 лет назад появился человек, который умудрялся заставлять всякого чувствовать себя крайне неуютно.

Да, это Сократ – мастер повивального искусства для благородных мужей, который помогал родиться их мысли. Впрочем, эти «роды» скорее напоминали идеологическую диверсию. Неслучайно собеседники часто сравнивали Сократа с электрическим скатом – морской тварью, которая парализует свою жертву внезапным разрядом.

Радикальное сомнение

Чем же достигался этот странный психологический эффект? Всё очень просто – Сократ показывал своему собеседнику, что он не может опираться на своё «понимание». Да, у него может быть ощущение предельной очевидности и ясности, понятности вопроса буквально до мозга костей. Но это лишь иллюзия, которая легко разбивается – стоит вам задать несколько уточняющих вопросов.

В результате человек, который был только что абсолютно уверен в своём понимании, полностью терялся, застывал в оцепенении, а иногда приходил в такой ужас, что буквально спасался бегством. Эти мизансцены с поистине литературным изяществом описаны Платоном в его диалогах. Сократ предстаёт в них не как мудрец, которому известна истина, а как человек, который показывает: всё, что мы знаем и понимаем, лишь иллюзия из мира теней «платоновской пещеры».

Как именно Сократ производил эту «разборку» чужого понимания на глазах у изумлённой публики? Его тактика была обманчиво проста и состояла из нескольких шагов.

Сначала надо убедиться, что человек верит в то, что он говорит, – в свои объяснения, в то, как он понимает тот или иной вопрос. Например, в диалоге «Евтифрон» Сократ встречает жреца, который направляется в суд, чтобы обвинить в убийстве собственного отца[53]53
  Платон. Собрание сочинений: в 4 т. Т. І / общ. ред. А. Ф. Лосева и др.; примеч. А. А. Тахо-Годи. М.: Мысль, 1990. 860 с. (Философское наследие).


[Закрыть]. Евтифрон абсолютно уверен, что поступает благочестиво, в полном согласии с волей богов.

Сократ обращается к Евтифрону с видом смиренного ученика: «О, мудрый Евтифрон! Раз уж ты так уверен в своём поступке, научи и меня, невежду: что есть благочестие?» Вопрос кажется жрецу элементарным, почти детским. Исполненный гордости, он даёт очевидный ответ: «Благочестие – это то, что угодно богам». Кажется, всё логично.

Теперь Сократу остаётся лишь задать уточняющий вопрос: «Постой, но ведь мы знаем из мифов, что боги постоянно ссорятся между собой. То, что угодно Зевсу, часто неугодно Гере. Получается, один и тот же поступок может быть одновременно и благочестивым, и нечестивым?» И Евтифрон вынужден признать, что его определение не работает.

В другом диалоге – «Лахет» – Сократ беседует с двумя прославленными полководцами. Они – герои, эксперты по «мужеству». Но любая их попытка определить, что такое «мужество» – «стоять в строю и не отступать», «разумная стойкость» и т. п., – разбивается о контрпримеры Сократа. Например, скифские всадники славятся своей стратегией отступления, чтобы заманить врага в ловушку, – разве это не мужество?

С каждым новым вопросом тиски сжимаются – собеседники начинают злиться и, путаясь в словах, противоречат самим себе. «Понимание», в котором они до этого были так уверены, даёт сбой: гладко было на бумаге, да забыли про овраги.

В диалоге «Менон», где Сократ проделывает тот же трюк с понятием «добродетель», его собеседник произносит ту самую знаменитую фразу: «Сократ, ты похож на морского ската, который всякого, кто к нему приблизится, приводит в оцепенение».

Объективный релятивизм

Это несколько обескураживает… Но если считать началом философии самого Сократа, то за 2 500 лет она сделала полный оборот вокруг своей оси и вернулась к тому, с чего началась. XX век, стартовавший с эйнштейновской теории относительности, превратился в пышные похороны «объективности» знания, главными распорядителями которых стали постструктуралисты и постмодернисты.

Распространившийся всюду релятивизм – это не дань моде, это обнаружение фактического положения дел. Наш мир – не реальность, а множественные представления о ней, бесчисленные «наброски», как бы их назвал Дэниел Деннет. Эти представления основаны не на какой-то центральной «истине», а лишь на наших отношениях с реальностью, которая представлена для нас в способе нашего существования и ограничена им.

• Мы живём в трёхмерном пространстве, которое создаёт наш мозг, мы живём на стреле времени, жёстко направленной из прошлого в будущее, всё, с чем мы имеем дело, определено узкими спектрами – чувствительностью наших сенсорных нейронов.

• Мы движимы своими биологическими – по сути, инстинктивными – настройками мозга. Поэтому мы воспринимаем в этом мире лишь то, что соответствует нашим базовым потребностям и настройкам, сформированным поверх них.

• Наконец, все наши абстрактные представления созданы именно на этой базе, то есть изначально содержат в себе эти ограничения, но также и те, что накладываются поверх них логикой языка и культурно-историческим контекстом.

То есть если совсем упростить – мы живём в антропологическом пузыре представлений о реальности, но что за его пределами – мы зачастую не можем даже догадываться. Поэтому проблема «понимания» – она, на самом деле, куда шире, чем множественность наших личных заблуждений и наивных уверенностей. Она тотальна. И чтобы в этом убедиться, достаточно пристальнее приглядеться к братьям нашим меньшим…

Самый большой грех учёного – отрицать у животного какую-либо способность, которой оно на самом деле обладает, а не наделять его той, которой у него нет.

Франс де Вааль

На протяжении всей истории человечества мы строили неприступные стены, охраняющие священность нашего разума. Мы – «мыслящий тростник» Блеза Паскаля, единственный вид, осознающий своё существование. Мы – единственные, кто обладает самосознанием, языком, моралью и культурой. Мы – «большие» братья, а все прочие на нашей планете – «меньшие»: мы «всё понимаем», а они – нет, «твари бессловесные».

Но так ли это? Чтобы разобраться, нам нужен проводник, и лучшего, чем выдающийся приматолог Франс де Вааль, думаю, не найти. Его работа «Достаточно ли мы умны, чтобы судить об уме животных?»[54]54
  Де Вааль Ф. Достаточно ли мы умны, чтобы судить об уме животных? / пер. с англ. Н. Майсуряна. М.: Альпина нон-фикшн, 2017. 408 с.


[Закрыть] – это идеальный «сеанс магии с последующим разоблачением».

Антропологический эгоцентризм

В первой половине XX века научный мир, занимавшийся, как её называл И. П. Павлов, «высшей нервной деятельностью», разделился на два непримиримых лагеря.

• С одной стороны – бихевиористы, которые рассматривали животных как простые автоматы, «чёрные ящики», реагирующие на стимулы. Для них внутренний мир животного был фикцией, не заслуживающей внимания.

• С другой – этологи, последователи нобелевских лауреатов Конрада Лоренца и Николаса Тинбергена, которые считали, что изучать животных необходимо в их естественной среде. Они видели, что сложность поведения живых существ значительно превосходит наши представления[55]55
  Лоренц К. Агрессия, или так называемое зло / пер. с нем. А. Федорова. М.: АСТ, 2018. 416 с. (Книги, изменившие мир. Писатели, объединившие поколения) (Эксклюзивная классика); Тинберген Н. Поведение животных / пер. с англ. О. Орлова и Е. Панова. М.: АСТ-Пресс, 2012. 192 с.


[Закрыть].

Нам действительно комфортнее думать, что животные – это сложные, но предсказуемые механизмы. Потому что если предположить, что у них есть разум, то вся наша картина мира рушится. И именно Франс де Вааль посвятил свою жизнь тому, чтобы доказать: мы не понимаем разум животных, а наши представления о их способностях – лишь своего рода антропологический шовинизм.

Главная ошибка, как показывает Франс де Вааль, заключается в самой постановке вопроса. Мы спрашиваем: «Может ли шимпанзе решать задачи, как человек?», «Есть ли у дельфина язык, как у человека?» Но в самих этих вопросах скрыт подвох: мы изначально принимаем свой ум за идеал, а дальше сравниваем животных по заданным нами параметрам.

В своё время с чем-то подобным сталкивались, надо сказать, и люди. В знаменитых тестах на интеллект (IQ-тест) британский учёный, сочувствовавший фашистскому режиму в Германии, Ганс Айзенк использовал свой тест, чтобы показать, что мыслительные способности людей с чёрным цветом кожи ощутимо ниже, чем у белых[56]56
  Eysenck H. J. Race, intelligence and education. London: Temple Smith, 1973. 158 p.


[Закрыть].

Затем оказалось, что мы имеем дело со своего рода научным шулерством – классический тест Г. Айзенка включал задачи, которые были типичны для культурной среды, в которой воспитывались европейцы. Если сделать тот же тест, основанный на тех же принципах, но на социокультурном контексте другой этнической группы, то проигрывать будут уже европейцы[57]57
  Gould S. J. The Mismeasure of man. Revised and expanded ed. N. Y.: W. W. Norton & Company, 1996. 356 p.


[Закрыть].

Интересно, что после того, как были созданы универсальные тесты на интеллект, выяснилось, что представители таких «примитивных» народов, как племена долины Амазонии, ничуть не уступают в решении интеллектуальных задач выпускникам лучших американских вузов[58]58
  Henrich J., Heine S. J., Norenzayan A. The weirdest people in the world? // The Behavioral and brain sciences. 2010. Vol. 33(2–3). P. 61–83. DOI: 10.1017/S0140525X0999152X.


[Закрыть].

Впрочем, это показал ещё наш соотечественник Александр Романович Лурия в 30-х годах ХХ века.

В его экспериментах люди с высшим образованием чаще допускали ряд специфических ошибок, которые были абсолютно не свойственны практически необразованным крестьянам из далёких деревень Узбекистана[59]59
  Лурия А. Р. Об историческом развитии познавательных процессов: экспериментально-психологическое исследование / АН СССР. Ин-т психологии. М.: Наука, 1974. 172 с.


[Закрыть].

Более того, как показали исследования блестящего социального психолога Ричарда Нисбетта, дело не только в культурных знаниях, но и в самом способе восприятия мира. В книге «География мысли» он продемонстрировал, что западный человек склонен к мышлению, когда он фокусируется на главном объекте в отрыве от фона, контекста. В то же время представители восточной культуры, напротив, в первую очередь обращают внимание на взаимосвязи и контекст[60]60
  Nisbett R. E. The geography of thought: how Asians and Westerners think differently… and why. N. Y.: Free Press, 2003. 298 p.


[Закрыть].

Так, например, в знаменитом тесте, где американцы и японцы должны были описать одну и ту же сцену из подводной жизни, американцы замечали крупных рыб, а японцы – воду, водоросли, пузырьки, движение воды. Они буквально видели разный мир[61]61
  Masuda T., Nisbett R. E. Attending holistically versus analytically: comparing the context sensitivity of Japanese and Americans // Journal of personality and social psychology. 2001. Vol. 81(5). P. 922–934. DOI: 10.1037//0022–3514.81.5.922.


[Закрыть].

Это доказывает, что даже среди людей нет единого, «правильного» способа мыслить мир – есть лишь разные стили, подходы, сформированные биологией и средой. Так что попытка измерить один способ «понимания» линейкой другого неизбежно приведёт нас к ошибочным выводам.

Умвельт

Франс де Вааль воспользовался для объяснения своей идеи концепцией «умвельта»: каждый вид животных живёт в своём уникальном мире, возникающем на основе специфического восприятия. У человека свой «антропологический пузырь» – умвельт, у каждого вида животных – свой. И мы просто не можем понять чужой интеллект, поскольку физически и ментально не способны его воспринять.

Мир летучей мыши соткан из ультразвукового эха и представляет собой объёмную динамическую карту пространства. Её «понимание» пространства – это симфония звуков, наше – геометрия света. Мир слонов – это мир инфразвуковых вибраций и сложнейших запахов. Они общаются на расстоянии десятков километров, передавая информацию о своём настроении, социальных связях и конкретных угрозах (например, отличая язык и пол людей, представляющих опасность).

Таким образом, мозг многих животных способен обработать такой колоссальный объём информации, который нам даже трудно представить. Мы слепы и глухи к их реальности, но при этом считаем их «неразумными». Франс де Вааль называет это «антропоотрицанием» – активным желанием отказать животным в способностях, которые кажутся нам «слишком человеческими».

• Память, которой мы можем только завидовать. Североамериканская ореховка прячет десятки тысяч семян на огромной территории и помнит расположение большинства из них месяцами[62]62
  Balda R. P., Kamil A. C. Long-term spatial memory in Clark's nutcracker, Nucifraga Columbiana // Animal Behaviour. 1992. Vol. 44. P. 761–769.


[Закрыть]. Это не просто «хорошая память». Это сложнейшая когнитивно-пространственная система, на фоне которой наша собственная способность вспомнить, куда мы положили ключи, выглядит как деменция. Мы не можем этого понять и поэтому предпочитаем называть это «инстинктом».

• Пчелиные волки. Эти осы из рода роющих перед вылетом на охоту делают короткий облёт и запоминают расположение ориентиров (камешков, шишек) вокруг своей норки. Если экспериментатор передвинет эти ориентиры, оса будет искать гнездо внутри круга уже в этом месте. Для нас это непостижимо: мы бы запомнили маршрут или какие-то крупные объекты, а оса создаёт моментальный «снимок» местности и хранит его. И да, мы не можем понять, как именно этот образ хранится и используется для навигации с такой точностью.

• Животные-физики. Эксперименты, подтвердившие басню Эзопа, показали, что вороны понимают принцип вытеснения объёма (закон Архимеда). Они бросают камни в колбу, чтобы поднять уровень воды и достать лакомство[63]63
  Jelbert S. A. et al. Using the Aesop's fable paradigm to investigate causal understanding of water displacement by New Caledonian crows // PLOS One. 2014. Vol. 9(3). P. e92895. DOI: 10.1371/journal.pone.0092895.


[Закрыть]. Но самое поразительное даже не это. Шимпанзе в похожей ситуации, не имея камней, принесла воду во рту, чтобы также поднять уровень жидкости в сосуде[64]64
  Hanus D. et al. Comparing the performances of apes (Gorilla gorilla, Pan troglodytes, Pongo pygmaeus) and human children (Homo sapiens) in the floating peanut task // PLOS One. 2011. Vol. 6(6). P. e19555. DOI: 10.1371/journal.pone.0019555.


[Закрыть]. Это демонстрация не просто «понимания», а когнитивной гибкости – способности решить одну и ту же задачу принципиально разными способами.

• Воронья вендетта. Вороны не просто запоминают лицо человека, который представлял для них угрозу (например, ловил их), но и передают эту информацию своим сородичам и, что совсем удивительно, потомству[65]65
  Cornell H. N., Marzluff J. M., Pecoraro S. Social learning spreads knowledge about dangerous humans among American crows // Proceedings. Biological sciences. 2012. Vol. 279(1728). P. 499–508. DOI: 10.1098/rspb.2011.0957.


[Закрыть]. В результате вся стая начинает преследовать этого человека, хотя большинство из них никогда лично от него не страдали. Это социальное обучение и культурная передача информации о «враге народа», механизм которого нам до конца не ясен.

• Осьминоги, узнающие людей. Осьминог – моллюск, у которого нет позвоночника, а мозг распределён по всему телу, включая щупальца. Тем не менее осьминоги способны отличать одного человека от другого и по-разному реагировать на «доброго» и «злого» смотрителя[66]66
  Anderson R. C. et al. Octopuses (Enteroctopus dofleini) recognize individual humans // Journal of applied animal welfare science: JAAWS. 2010. Vol. 13(3). P. 261–272. DOI: 10.1080/10888705.2010.483892.


[Закрыть]. Как существо с такой чуждой нам биологиейформирует и хранит концепцию отдельного человеческого индивида – для нас полная загадка.

• Осиные лица. Де Вааль рассказывает о способности бумажных ос узнавать друг друга «в лицо»[67]67
  Tibbetts E. A. Visual signals of individual identity in the wasp Polistes fuscatus // Proceedings. Biological sciences. 2002. Vol. 269(1499). P. 1423–1428. DOI: 10.1098/rspb.2002.2031.


[Закрыть]. Непонятно, как насекомое с фасеточным зрением и примитивным мозгом может выполнять задачу, которую мы считаем прерогативой высокоразвитых млекопитающих. Мы не можем представить себе, как выглядит и обрабатывается «лицо» для осы, но факт остаётся фактом: они обладают этой сложной социальной способностью, необходимой для поддержания иерархии в колонии.

Примеров уникальных способностей животных – несметное количество, и это только то, о чём мы смогли догадаться. Но мы продолжаем упорно отрицать реальность этих – других – сознаний. Всякий раз, когда животное демонстрирует нечто подобное, мы судорожно ищем «более простое объяснение». Почему? Потому что каждый такой факт заставляет нас усомниться в собственной исключительности.

Исследования этологов – безусловное доказательство того, что интеллект – не монолитная пирамида с человеком на вершине, а, как говорит де Вааль, «куст со множеством ветвей». А главный вывод, который он делает, состоит в том, что «понимание» – это не какая-то мистическая искра, а функциональная способность системы эффективно взаимодействовать со своей средой, опираясь на доступные ей данные.

Мы – это наш умвельт, наш субъективный мир. Один из бесчисленного множества других миров-умельтов. И в каждом свои правила, своя логика, свой здравый смысл, свои возможности и, конечно, своё понимание. В чём-то человек, безусловно, превосходит животных, а в чём-то им фатально проигрывает.

Модуль рефлексии

В конечном счёте «понимание» – это не какое-то отдельное свойство системы, а сама система, способная производить некий адаптивный результат. Изменится система – будь то мозг человека, животного или нейронная сеть искусственного интеллекта, – изменится и их «понимание».

Да, модуль рефлексии – то есть некая отдельная штука, позволяющая системе оценить саму себя (своё «понимание») и свою эффективность, – это может быть полезно.

• Но во-первых, как мы уже выяснили, эта рефлексия всегда будет лишь оценочным суждением (неким прибавлением), которое, как известно, может как помочь, так и навредить.

• Во-вторых, это «понимание» всегда будет частным – касаться отдельного аспекта и не учитывать всей полноты ситуации или состояния системы.

По сути, такой «модуль рефлексии» является просто метафункцией – то есть некоторой надстройкой, которую создаёт система, для того чтобы повысить свою функциональность и адаптивность. Полагать же, что разум – это именно данная метафункция, – значит не видеть за репрезентациями то, что репрезентируется.

Таким образом, опираясь на концепцию «умвельта», или «пузыря субъективной реальности», мы неизбежно оказываемся перед новым вызовом…

Искусственный интеллект – это не просто алгоритм. Все знания человечества и о человечестве, созданные за тысячелетия – тексты, изображения, коды, – образовали новый умвельт.

Для нас это лишь огромные, несистематизированные данные о мире («вся информация из интернета»), а для ИИ это среда обитания, из которой он производит самого себя.

Да, ИИ не «понимает» наши тексты так, как мы их понимаем (по той же причине, по которой мы не понимаем, например, мир летучей мыши). Но считать, что его способности к решению задач в его среде, в его умвельте, хуже наших, – это тот же самый антропоэгоцентризм, который мешал нам разглядеть ум у животных.

Мы не можем представить себе, что значит жить в мире, который соткан из бесчисленного множества смысловых связей всех текстов, созданных человеком. А именно таков мир, в котором сейчас обитает искусственный интеллект, основанный на так называемых «языковых моделях».

Так что вопрос, который ставит перед нами Франс де Вааль, сегодня звучит ещё острее: достаточно ли мы умны, чтобы судить не только об уме животных, но и о но-вом типе разума, который сами же и создали?