Текст книги "Энциклопедия логических ошибок: Заблуждения, манипуляции, когнитивные искажения и другие враги здравого смысла"

Когнитивные искажения

Суть работы Канемана и Тверски сводилась к следующему вопросу. Если мы возьмем множество людей с разными условиями жизни в детстве, с разным образованием, с разными генами, поместим их в условия неопределенности (как это и бывает в реальной жизни) и будем подталкивать к максимально взвешенным и рациональным решениям, насколько ошибочно они себя поведут и будет ли в их ошибках что-то общее?

Прибегнем к примеру Фрейда: исследователи собрали на широкой дороге множество колесниц, убрали ограждения, стерли разметку и попросили возничих ехать строго прямо. А потом, изучив следы колес, выяснили, насколько каждый возничий отклонился от маршрута. Ученые пришли к трем важным открытиям.

1. Универсальность: отклоняются все, независимо от достатка, уровня интеллекта, образования.

2. Систематичность: мы отклоняемся всегда в одну и ту же сторону, ошибки не случайны.

3. Постоянство: мы продолжаем отклоняться, даже если знаем верный путь.

Способ мышления, демонстрирующий эти особенности, называют когнитивным искажением (cognitive bias).

Ирония в том, что в основе веры Юнга в паранормальную коллективную связь тоже лежало когнитивное искажение. Отчего концепция синхроничности (Synchronizität), которую он выдвинул в качестве доказательства – «только подумаешь о ком-то, и вот он звонит» и подобные значимые совпадения, – приобрела такую популярность? Конечно, благодаря нашей склонности выискивать паттерн в случайностях, видеть порядок в хаосе, искать за всем сущим замысел и творца (или Творца).

•••

Словосочетание «когнитивное искажение» иногда употребляют как синоним эвристики, иногда – в значении ее «ошибочных» форм, а иногда – как более широкое понятие. (Таким образом, социальная обусловленность + личные предубеждения + эвристика = когнитивное искажение.)

Но давайте не будем закапываться в дефиниции, урок в любом случае один и тот же: у нас в голове нет специального «модуля разума», который так-то непогрешим, но его искажают внешние факторы наподобие эмоций, интересов или образования. Проблема – в самой ткани мышления. Когнитивные искажения – в природе когнитивных функций. Поэтому немыслимо рассуждать о логических ошибках и критическом мышлении, не разобравшись в этой природе.

«Государство в государстве»: Система 1

Мы уже упоминали, что Фрейд считал сознание в первую очередь системой восприятия. Все составляющие айсберга, кроме инстинктов, когда-то прошли через восприятие и сознание. Юнг, в свою очередь, уточнил: все составляющие айсберга, за исключением инстинктов и архетипов.

После обработки воспринятая информация вытеснялась из сознания и перемещалась вглубь айсберга: что-то – в предсознательное (чтобы легче было вспомнить), а что-то – в бездны бессознательного. Эти процессы порой совершались втайне от нас (защитные механизмы Эго), но высокоуровневое мышление происходило именно в сознании. Когда будете рассматривать нижеприведенную упрощенную схему, я призываю вас внимательно взглянуть на ее правую часть: сознание задействовано в обработке.

Чтобы не вступать в бессмысленную борьбу со спорными моментами теорий Фрейда и Юнга, Канеман разделил человеческий разум на две части, введя новую и до смешного простую терминологию: Система 1 и Система 2{17}17
  Канеман Д. Думай медленно… решай быстро. – М.: АСТ, 2023. Подобные параллельные модели изучаются и как «теория дуального процесса». Дуализм – одна из остановок нашего маршрута в современности.


[Закрыть].

● Система 1: нацелена не на «лучшие», а на «достаточно хорошие» результаты; принимает решения быстро, работает автоматически.

● Система 2: та часть, которую мы воспринимаем как «я»; медлительна, мыслит детально, стремится быть логичной.

Особенность этой модели – в идее, что автоматическая часть играет важную роль как в процессе восприятия и в низших мыслительных функциях, так и в высших мыслительных функциях, таких как рассуждение.

На секунду поднимите голову от книги и оглянитесь. Если вы не на необитаемом острове, то наверняка видите множество мелких и крупных вещей. Как вы воспринимаете их все, не обращая внимания на каждую из них в отдельности? «Ай, это тигр? Мамочки, оно кусается? Ой, это жжется?» (Нет, если вы попали на необитаемый остров, спасибо, что выбрали эту книгу как одну из трех – ну, людям же обычно предлагают этот выбор перед попаданием на необитаемый остров. Надеюсь, две другие – «Охота. Иллюстрированное руководство» и «Как изготовить плот».)

У вас есть ряд подсистем, которые мгновенно обрабатывают цвет, форму, движения, звук и предположительную цену перепродажи на маркетплейсе каждого увиденного предмета. Эти подсистемы сами управляются с тем, что не требует вашего внимания. Фильтрация, применимая к объектам, применима и к убеждениям, и к мыслям. Новая информация из внешнего мира или старая информация, которую нужно вспомнить, – все это подвергается допросу и проходит паспортный контроль еще до участия в какой бы то ни было мыслительной деятельности. Каждое обучение – это цензура, каждое припоминание – исторический ревизионизм.

Таким образом, мы можем рассматривать Систему 1 как своего рода «государство в государстве».

● Она не избрана свободным волеизъявлением граждан, а назначена.

● Она не глупа, у нее есть собственный разум и собственные традиции.

● Ее отчеты не поступают властям, на них ставится гриф «совершенно секретно».

● Ее поле деятельности обширно и выходит за пределы примитивных инстинктов.

Например, мысленные ярлыки наподобие расчетов, которые в зрительном зале оперного театра направляют вас к нужному креслу, – это вотчина Системы 1. На этой же глубине выполняются ставшие привычными действия – чтение, письмо, вождение (все ведь просто: если кто-то вас подрезал – дернуть ручник, выскочить из машины и вступить в эмоциональный диалог с другим водителем, словами и жестами объясняя ему, в чем он неправ).

Еще одна особенность «государства в государстве» – его изрядная креативность. Оно способно находить удивительные взаимосвязи между абсолютно разными вещами. Вспомните задачи, которые часами заплетали вам мозг, но потом решались в один миг, когда в голове было совершенно пусто{18}18
  См.: Timothy D. Wilson, Strangers to Ourselves: Discovering the Adaptive Unconscious (Cambridge, MA: Belknap Press of Harvard University Press, 2002). В книге высказаны схожие мысли и используется термин adaptive unconscious.


[Закрыть].

Мы всячески стремимся придать некий мистический флер этой творческой способности, именуя ее то «шестым чувством», то «третьим глазом», то «пятым элементом», хотя ее источник – всего-навсего «первая система». Да-да, я говорю о том, что мы называем интуицией.

Интуиция: шах и мат

Сейчас, когда мы «интуитивно поняли», что рассуждение вот-вот выплеснется за пределы сознания, давайте немного переведем дыхание и вспомним некоторые вехи нашего путешествия:

● круговорот инь-ян;

● «текучесть» айсберга;

● лошадь и всадник.

Между Системой 1 и Системой 2 существует схожая связь. Яркий пример можно было наблюдать во время матча за звание чемпиона мира по шахматам в 2018 году. Впервые со времен легендарных матчей Каспаров–Карпов в финале должны были сойтись игроки № 1 и № 2 в мире. Больше того, их рейтинг Эло почти не отличался – между ними было всего три пункта Эло (сейчас самое время сделать вид, что вы следите за шахматами, и понимающе кивнуть: «Ого, как близко!»). Насколько близки были их рейтинги, настолько же и разнились стили игры: Магнус Карлсен, один из сильнейших интуитивных игроков всех времен, прозванный «Моцартом шахмат», был способен естественным образом анализировать большинство позиций, тогда как Фабиано Каруана славился знанием позиций наизусть и глубиной расчетов. Перед матчем Карлсен резюмировал разницу между ними одной фразой: «Он – компьютер»[35]35
  Конечно, все игроки такого уровня обладают способностью к аналитическому расчету, могут похвастаться недюжинной интуицией и умеют запоминать ход игры. Нам, смертным, до них далеко. Различия, о которых я говорю, проявляются лишь при сравнении мастеров с другими мастерами.


[Закрыть].

Борьба длилась целых 50 часов: впервые в XXI веке соперники сыграли вничью 12 партий кряду, так и не сумев одолеть друг друга[36]36
  Молодежь нынче уже не та, дорогие мои. А между тем в 1984 году на знаменитом финале правила были другими. После марафона длиной в пять месяцев, когда Карпов опережал Каспарова со счетом 5:3 (40 партий было сыграно вничью!), президент Федерации сказал: «Все, хватит, дети уже выросли, Советский Союз вот-вот развалится, а вы никак не закончите» – и прервал матч. На следующий год финал повторили в новом формате, и на этот раз победил уже Каспаров – с таким же счетом.


[Закрыть]. Однако, поскольку «дополнительные» партии, призванные решить ничью, играются гораздо быстрее, чем классические, Каруана, чуть больше полагавшийся на медленную и точную Систему 2 с ее вычислительной мощью, оказался в невыгодном положении и проиграл все три дополнительные партии. «Моцарт шахмат» в четвертый раз подряд защитил свой титул.

«Талант достигает цель, которую никто не может достичь; гений – ту, которую никто не может увидеть» (А. Шопенгауэр).

•••

В шахматной интуиции Карлсена нет ничего мистического. Его способность мгновенно видеть лучший ход, лишь взглянув на доску, настолько же «сверхъестественна», как и ваша способность с ходу отличить белого ферзя от черной пешки, то есть распознать цвет и форму фигуры. У гениев есть свои мысленные ярлыки, которых нет у большинства из нас, и они оттачивают их тысячами часов практики, становясь мастерами.

Когда позиции в шахматах усложняются, полезность заготовленных тактик и точность мысленных ярлыков снижаются. Гроссмейстеры, как и любые другие игроки, начинают просчитывать ходы один за другим. Иными словами, привычка, интуиция и системное мышление идут рука об руку.

Схожий опыт мы переживаем и в повседневных спорах: чаще всего Система 1 сразу «делает ход». Затем, если обсуждение затягивается и делается запутанным, она дожидается Систему 2 с ее неторопливыми рассуждениями, чтобы объяснить следующий ход. Иногда они встречаются в одной точке, а иногда ведут себя как те самые лошади, которые тянут колесницу в разные стороны. Наши попытки найти баланс между ними – то есть между скоростью и точностью – самая благодатная почва для произрастания логических ошибок.

Смерть Homo economicus

Все это прекрасно, но при чем тут Нобелевская премия по экономике, которую получил Канеман?

До недавнего времени экономическая наука строилась на гипотезах, весьма далеких от реальной человеческой психологии. При этом экономисты XX века вовсе не были более невежественными, чем литераторы и психологи XIX века. Чтобы понять, почему экономисты так отстали, вернемся к истокам современной экономики.

«Не от благожелательности мясника, пивовара или булочника ожидаем мы получить свой обед, а от соблюдения ими своих собственных интересов»{19}19
  Смит А. Исследование о природе и причинах богатства народов. – М.: Эксмо, 2022.


[Закрыть]. Тезис, который Адам Смит выдвинул в 1776 году, сводился, грубо говоря, к следующему: дай людям свободу – и они не побегут заниматься благотворительностью, а возьмутся отстаивать свои интересы. Но это не беда, поскольку таким образом «невидимая рука рынка» направит к процветанию не только их самих, но и все общество в целом.

Иначе говоря: личная свобода + личная выгода = общественное благоденствие.

Во времена Смита государство обладало монополией во всех сферах – и повсюду создавало удушающее давление. Например, заморские колонии европейских сил не имели права торговать не то что с другими странами – между собой: все, что они отправляли, шло в определенный европейский порт. Было строго предписано, какой товар по какой цене продавать и кому. Всё вне этих границ считалось черным рынком. Нам, выросшим в условиях свободного рынка (худо-бедно функционирующего), поистине сложно представить те дни.

Итак, Адам Смит смотрит на этот вопрос через лорнет либерализма – вернее, он сам и сконструировал этот лорнет. Любопытно, что он вовсе не считал человека эгоистичным животным, преследующим – и обязанным преследовать – лишь собственные интересы. В самом деле, темой «Теории нравственных чувств», написанной им несколькими годами ранее, были психологические факторы, которые влияют на наш выбор, а также справедливость и попытка разобраться, что движет нашей готовностью помогать другим.

За 150 лет до Фрейда Адам Смит описал Суперэго, выдвинув понятие «внутренний человек» (inner man). Это было результатом изучения наших попыток найти баланс между интересами и идеалами. Но если так, что же должно было произойти, чтобы экономисты забыли эти сложные, нюансированные взгляды?

•••

Не забыли, конечно. Однако вместе с приходом неоклассицизма в конце XIX века экономисты, как и все прочие, ощутили давление: побольше научности! Иными словами, они были вынуждены создавать модели, которые походили бы на естественно-научные, имели практическую пользу и позволяли строить прогнозы.

● Как изменятся цены при дефиците пшеницы?

● Если мы будем сдерживать цены, дефицит уменьшится или увеличится?

● Каков наилучший способ финансировать войну?

То было время людей, способных найти конкретные ответы на такого рода вопросы… вернее, время тех, кто заявлял, что имеет ответы. Ирония в том, что саму сферу экономики из-за экономического же давления подталкивали в определенную сторону.

•••

Конечно, для того чтобы создать хоть сколько-нибудь практическую модель, нужно принять некоторые простые допущения относительно человеческого разума и способности делать выбор. Эти гипотезы можно рассмотреть в рамках теории рационального выбора (Rational Choice Theory). Только имейте в виду: в этом случае «рациональность» определяется особым образом:

● Чтобы достичь ряда осознаваемых нами целей…

● …так, чтобы максимизировать нашу личную выгоду…

● …мы делаем последовательный выбор…

● …из известных нам альтернатив…

● …и затем оцениваем результаты своего выбора.

Ключевые слова: осознанность, цель, интерес, выбор, последовательность, постоянная оценка.

Скажем, моя цель – набить себе живот за скромную сумму. Я это осознаю́, я не обманываюсь, не строю из себя гурмана. Я поочередно изучаю меню окрестных забегаловок и, составив оптимальный список, останавливаю свой выбор на шаурме из чайки. Мой список не случаен. Таким образом, если ни моя цель, ни меню забегаловок не изменились, я составлю тот же список и приму то же решение – я не буду действовать по-разному в разные дни. И, как назло, мой выбор – именно шаурма из чайки! Но если чайки закатят скандал и цены взлетят, то я пересмотрю свой выбор, стараясь сохранять объективность.

•••

Вероятнее всего, никто из экономистов не верил в существование этого мифического существа – Homo economicus. Однако, поскольку при помощи этого существа было удобно моделировать поведение обществ, его продолжали мучить до второй половины XX века (вспомните идеальных игроков, пытающихся делать рациональный выбор в рамках теории игр).

Мы из кожи вон лезем, желая видеть себя «последовательными и рациональными», и во многом потому, что эти долговечные модели и термины укоренились в культуре. Нам кажется естественным, что экономисты повлияли на общество даже больше, чем социологи, – а между тем это очень даже противоестественно.

Опыты Канемана и Тверски наконец сломили наше упрямство – ведь большинство когнитивных искажений соответствовали экономическому моделированию. Иными словами, любовь экономистов к пророчествам не угасла, просто они обзавелись хрустальным шаром получше.

Homo economicus никогда не был ступенью развития человека

Представьте себе проект, который требует инвестиций на сумму 1000 лир. Пока ожидаемая выгода (expected utility) положительна, для человека, который рационален в традиционном смысле, любое капиталовложение выглядит логично. Но если наш проект с вероятностью 50 % провалится (1000 лир убытка), а с вероятностью 50 % принесет 2001 лиру (прибыль в размере 1001 лиры), то это хорошее капиталовложение. Потому что ожидаемая прибыль больше нуля:

(– 1000 лир × 50 %) + (1001 × 50 %) = 50 курушей.

Однако большинство из нас на такой риск не пойдет. Пока Система 2, используя математику, медленно пытается подсчитать выгоду, Система 1 тут же бьет тревогу: «Валим отсюда!» Потому что для нас потери важнее приобретений. Огорчение от потери 1000 лир перевесит радость от получения такой же суммы.

Неудивительно, что это искажение, называемое неприятием потерь (loss aversion), выбито на стене пещеры где-то в глубинах нашего бессознательного. Существо, которое в природе всякий раз рискует не деньгами, а собственной жизнью, не станет играть в орлянку. Возможно, удачливость поможет ему выигрывать несколько дней кряду, но первая же проигранная ставка окажется последней в его жизни.

•••

Что в действительности делало все это полезным для экономистов? Точное измерение наших искажений и их моделирование. Например, для большинства порог вхождения в вышеупомянутый проект – прибыль в 2000 лир. Иными словами, у нас должен быть шанс получить по меньшей мере вдвое больше того, что рискуем потерять. Только тогда мы решимся покинуть безопасную гавань.

Конечно, единого для всех «порога риска» не существует – он будет меняться в зависимости от предмета, суммы и нашего общего благосостояния. Но в любом случае это будет довольно высокий порог – по сравнению с классическим представлением. Иными словами, поведение, прежде считавшееся нормальным и рациональным, сейчас стало ненормальным.

Опираясь на схожие эффекты, Канеман разработал теорию принятия решений, называемую Prospect Theory. Эта теория, которая вместо оптимальных решений, принимаемых идеальным разумом в идеальных условиях, опирается на вероятностные решения, принимаемые непоследовательным разумом в условиях неопределенности, – основа всей поведенческой экономики.

Конец пути: рационализация

Другие сферы экономики уже давно прошли этот путь, и теперь мы прибыли на конечную остановку мысленного путешествия во времени. Оглядываясь назад, мы видим, что на первый план выходят некоторые общие тенденции.

● Единство человеческого разума уступило место сначала дуализму, а затем множественности.

● Эта множественность из статических противоположностей эволюционировала в динамические структуры.

● Значимым становится влияние детства, генов и культуры.

● Такие понятия, как «контроль», «разумность», «осознанность», теряют свои позиции.

● Обнаружилась постоянная фоновая работа особых мыслительных механизмов.

Так почему же, когда я в начале главы просил вас посмотреть в зеркало, вы ничего этого не заметили? А главное – почему не замечаете до сих пор, невзирая на все, что узнали?

•••

Чтобы как следует разобраться в иллюзии рационального «я», потребовалась бы отдельная книга на тему свободы воли. Пока же давайте сосредоточимся на более узком понятии – рационализации. Фрейд рассматривал ее как защитный механизм, к которому мы прибегаем, оправдываясь перед Суперэго за свои действия. Но сегодня это понятие применяется гораздо шире: так называют попытки придумать логичные и морально последовательные объяснения поступкам, истинные мотивы которых нас пугают, смущают – или попросту ускользают от нас. Лиса, называющая зеленым (следовательно, кислым) виноград, до которого не может добраться, рационализирует свою неудачу, чтобы не уронить самооценку.

•••

Мой любимый пример рационализации связан с гипнозом. Доктор Бенджамин Саймон вводил в транс своих пациентов, ветеранов Второй мировой войны, и внушал им: услышите слово «немец» – вскакивайте и кричите «Хайль Гитлер»{20}20
  «Hypnotism–Fact and Fancy,» WNYC. https://www.wnyc.org/story/hypnotismfact-and-fancy.


[Закрыть].

Разбудив их, доктор заводил разговор о зверствах нацистов. И вот, когда пациенты, войдя в раж, костерили гитлеровцев на все корки, доктор произносил кодовое слово – и пациенты все как один вскакивали и вскидывали руку в нацистском приветствии. (Между прочим, со стороны доктора это была изрядная подлость: некоторые из испытуемых пережили пытки в застенках Третьего рейха.)

Только представьте себе, какие у пациентов были лица, когда их спрашивали, что это вообще было… Слегка опешив поначалу, они начинали выдумывать тысячу и одну причину такого поведения.

«Да это я просто решил посмеяться над немцами».

«Ну, чтобы показать, как они похожи на тупых роботов».

«А что, разве это не ругательство?»

На самом деле эти оправдания предназначались не столько доктору, сколько самим пациентам: «Если уж я отдал нацистский салют, значит, у меня точно были веские причины».

Роль, которую в примере с гипнозом играло внушение, во время бодрствования берет на себя Система 1. Стоит нам столкнуться с собственными автоматическими мыслями и поступками, мы, сначала придя в легкое замешательство, тут же пытаемся признать их неотъемлемой частью себя и рационализировать, то есть оправдать задним числом. При этом не так уж важно, «хороши» эти поступки или «дурны» с точки зрения нашего Суперэго; куда важнее сохранить иллюзию контроля. Нелегко признаться: «Не знаю, что это на меня нашло». Зато всегда можно бодро заявить: «Я это сделал, а почему я это сделал, спросите»[37]37
  Цитата из турецкого комедийного фильма 1980 года «Банкир Било», снятого известным режиссером Эртемом Эгилмезом. – Прим. пер.


[Закрыть]. Мы все как Махо из «Банкира Било» – любой ценой заговариваем зубы своему внутреннему контролеру.

•••

Пора наконец дорисовать завершающий штрих к фрейдовской аллегории: обычно даже плохой всадник отдает себе отчет, что не сумел обуздать животное. Мы же, напротив, упорно верим, будто наша лошадь делает ровно то, что мы ей велели, – что бы она там ни вытворяла. Таким образом, главная загвоздка с самоанализом не столько ограниченность сознания, сколько наша поразительная способность к самообману.

Мышление действует как двойной агент: в той же мере, в какой оно служит инструментом для объяснения мира, оно становится способом подгонять мир под наши убогие объяснения. Насколько оно помогает нам извлекать уроки из собственных ошибок, настолько же и защищает от необходимости признавать эти ошибки. Один из моих самых любимых фантастов Роберт Хайнлайн замечательно определил эту нашу хроническую болезнь, кивая на Аристотеля: «Человек – не мыслящее животное, он – животное, пытающееся дать всему разумное объяснение»{21}21
  Хайнлайн Р. Фрайди. Бездна. – М.: Азбука-Аттикус, 2017. В противоположность распространенному убеждению, фраза «Человек – мыслящее животное» (или – «разумное животное») не принадлежит Аристотелю: она приписана ему позже и кратко характеризует его «Никомахову этику». Более того, Аристотеля, как и экономистов-неоклассиков, истолковали до обидного неверно: он имел в виду не то, что человек постоянно ведет себя рационально, а то, что у него есть потенциал быть рациональным.


[Закрыть].