Текст книги "Ключевые идеи книги: Рациональность. Что это такое, почему кажется редким явлением и почему дорогого стоит. Стивен Пинкер"

Ключевые идеи книги: Рациональность. Что это такое, почему кажется редким явлением и почему дорогого стоит. Стивен Пинкер

Автор:

Steven Pinker

Оригинальное название:

Rationality: What It Is, Why It Seems Scarce, Why It Matters

www.smartreading.ru

Когда разум подводит нас

Рациональность – не божий дар

Начнем с пары задачек:

1. Теннисная ракетка и мячик вместе стоят $1,10. Ракетка на $1 дороже мячика. Сколько стоит мячик?[1]1
  5 центов.


[Закрыть]

2. Даны два утверждения. А. Аэропорт закрыт, разрешения на полеты не выдаются. Б. Аэропорт закрыт по причине нелетной погоды, разрешения на полеты не выдаются. Какое утверждение более вероятно?[2]2
  Ответ А более вероятен, поскольку ответ Б содержит дополнительное условие, снижающее вероятность события (аэропорт может быть закрыт по причине забастовки, из-за теракта и еще по множеству причин).


[Закрыть]

Предлагая эти задачи в разных аудиториях, ученые вновь и вновь убеждаются: они получат либо быстрые, либо правильные ответы. Рациональные решения – не те, которые мы предлагаем в первую очередь.

С другой стороны, на протяжении истории человечество демонстрировало чудеса рациональности: мы построили египетские пирамиды, полетели в космос, создали интернет и искусственный интеллект. Как объяснить это противоречие?

Популярен аргумент: мол, в эволюционном смысле мы все еще охотники-собиратели, рассчитываем главным образом на спонтанные реакции, что помогали когда-то выжить в джунглях. Но мир вокруг за столетия усложнился самым непостижимым образом, вот мы и делаем ошибки одну за другой. Это не так: сегодняшние наблюдения за первобытными обществами в отдаленных уголках Земли доказывают, что охотники-собиратели ничуть не менее рациональны и предусмотрительны, чем обитатели мегаполисов. Охотясь на зверей и наблюдая за погодой, они делают корректные выводы о причинно-следственных связях, верно оценивают вероятность событий и т. д.

Рациональность – это не божий дар и не редкий навык, которым обладают только счастливчики. Скорее, ее можно сравнить с инструментом, которым обладает каждый, но обращению с которым нужно учиться (а инструкция по применению не прилагается).

Конечно, есть области знания, где рациональность рулит: математика, логика, теория вероятности. Но и тут не все так просто.

«Коварная» математика

Вернемся к задаче про ракетку и мячик. Шейн Фредерик, включивший эту задачку в свой тест когнитивных способностей, заинтересовался, чем участники эксперимента, ответившие верно, отличаются от остальных. Оказалось, это более терпеливые, не склонные к импульсивным поступкам люди, любители «журавля в небе». Участникам был задан еще один вопрос: «Вы бы хотели получить $3400 сейчас или $3800 через месяц?» Люди с низким результатом теста в основном выбирали $3400 сейчас. А те, кто получил высокие результаты, были согласны потерпеть, но получить большую награду через месяц.

Тут кроется и еще одна трудность. Наши умы нечувствительны к нелинейному, экспоненциальному росту. Это неудивительно, ведь в повседневной жизни мы его не наблюдаем. Между тем именно он лежит в основе сложных процентов да и всей экономики в целом.

Психолог Даниэль Канеман[3]3
  Читайте саммари книги Даниэля Канемана «Думай медленно… Решай быстро».


[Закрыть] получил Нобелевскую премию за то, что открыл два типа мышления. Первое – быстрое, спонтанное, второе – логическое, осознанное. Чтобы решить задачу про ракетку или представить рост по экспоненте, нужно включить медленное мышление. Но это куда затратнее с точки зрения ресурсов мозга – и наш ум часто идет коротким, неверным путем.

«Коварная» теория вероятности

Вспомним задачку про аэропорт. Почему большинство полагает, что аэропорт закрыт по причине нелетной погоды, хотя такой ответ менее вероятен? Потому что он детализирован, а наш ум всегда предпочитает конкретные случаи абстрактным положениям, любит связывать одни детали с другими, интересоваться подробностями. Это, вообще говоря, неплохо, просто иногда никак не связано с реальным положением вещей (скажем, мы различаем на небе созвездия, а между тем звезды разбросаны в космосе случайным образом).

Летом 1913 года в одном из казино Монте-Карло шарик в колесе 27 раз подряд выпал на черное поле. Многие игроки пытались поймать шанс и ставили на красное – тщетно. Такова ошибка игрока: вера в некий баланс судьбы. Однако речь идет о независимых друг от друга событиях: откуда шарику знать, сколько раз и на какое поле он ложился?

Мы судим о вероятности событий по множеству факторов, не имеющих отношения к реальности, и неизменно переоцениваем те, которые:

▶ легче приходят на ум (люди боятся торнадо куда больше, чем астмы, хотя последняя в 80 раз смертоноснее – но, увы, не столь фотогенична и потому редко попадает в новости);

▶ имеют антропогенную природу (ГМО кажется опаснее естественных токсинов);

▶ лежат вне нашего контроля (в пассажирском кресле самолета мы нервничаем больше, чем за рулем собственной машины, хотя риск автоаварий в разы выше риска авиакатастроф).

Даже если у нас на руках достаточно фактов, всегда возникает искушение подкорректировать вероятность. Некий ученый проводит трудоемкий эксперимент по испытанию нового лекарства и получает данные, противоречащие его гипотезе. Можно забросить исследование, а можно задаться вопросом: может, эффект есть, но он избирательный? Скажем, лекарство действует только на мужчин? Ну хорошо, только на белых мужчин? Гм, на белых мужчин, голосовавших за Трампа? В конце концов, «польза» лекарства обязательно будет доказана.

Именно поэтому новости так вредят нашему мышлению. Основная их часть – это исключительные, фотогеничные, драматичные события. Журналисты, как правило, ничего не могут сказать ни об их вероятности, ни об истинных причинах произошедшего. Между тем история знает достаточно случаев, когда одно «правильно поданное» событие вызвало неконтролируемые масштабные последствия (как, скажем, пожар рейхстага в 1933 году, способствовавший приходу нацистов к власти).

Читая новости, помните об их предвзятости: изучайте события в контексте долгосрочных тенденций, оценивайте вероятность случившегося.

«Коварная» логика

Логика – высшее проявление человеческого ума. Дедуктивный метод сделал из Шерлока Холмса звезду сыска. Однако и логика нас часто подводит.

Вот классический пример логического рассуждения: «Все женщины смертны. Мэри – женщина. Значит, Мэри смертна». Все в порядке, типичная дедукция. Но вот другой пример: «Все женщины глупы. Мэри – женщина. Значит, Мэри глупа». С точки зрения логики пример безупречен, с точки зрения здравого смысла – ни в какие ворота.

Все дело в том, что логические конструкции всего лишь формы, которые можно наполнить любым содержанием. И если изначальные посылки неверны, сомнительны или противоречат реальности («Все женщины глупы»), то смысла в логически непротиворечивом выводе будет немного.

Кроме того, коллизии нашей жизни очень редко укладываются в такие простые логические конструкции. Вот кандидат в президенты заявляет: «Избавившись от коррупции, мы сможем усовершенствовать налоговую политику и сбалансировать бюджет. Твердо обещаю вам покончить с коррупцией. Голосуйте за меня». Но любой здравомыслящий избиратель задастся вопросом: насколько обоснованно это утверждение?

Мир вокруг нас никогда не будет логически безупречен, поскольку:

1) помимо логических суждений есть суждения эмпирические, которые доказываются только опытом. Утверждение «Все холостяки не женаты» можно обосновать, уточнив значение всех входящих в него слов («холостяк и есть тот, кто не женат»). Утверждение «Все лебеди белые» – эмпирическое: надо посетить Новую Зеландию, чтобы своими глазами убедиться в существовании черных лебедей.[4]4
  Читайте саммари книги Нассима Талеба «Черный лебедь. Под знаком непредсказуемости».


[Закрыть]

2) окружающие нас явления слишком отличаются от предикатов классической логики. Предикат «четное число» может быть исчерпывающе описан условием «Если число можно разделить на два без остатка, оно четное». Ученые в таких случаях говорят, что соблюдены необходимые и достаточные условия. Но попробуем найти необходимые и достаточные условия для такого явления, как «игра». Мы не обнаружим никакого общего знаменателя, к которому можно свести смысл игры. Физическая активность? Тогда шахматы остаются за бортом. Отсутствие материального интереса? А как же Олимпийские игры? Словом, мы увидим множество характерных, легкоузнаваемых признаков, которые складываются в разные подмножества.

Логика компьютера другая?

Кажется, интуитивное представление об игре и прочих жизненных явлениях нисколько не мешает нам жить. На самом деле очень мешает. Насколько, например, широко понятие «материнства»? Участившиеся в последнее время скандалы с суррогатными матерями подчеркивают сложность проблемы.

Это важный вопрос для тех, кто обучает машины.[5]5
  Читайте саммари книги Гэри Маркуса и Эрнеста Дэвиса «Перезагрузка ИИ. Создание искусственного интеллекта, которому можно доверять».


[Закрыть] Сегодня нейросети учатся так: самостоятельно накапливают сотни и тысячи признаков тех или иных явлений, а потом делают вывод на основе степени выраженности того или иного свойства. Скажем, разные овощи удивительно непохожи друг на друга: это и корни (морковь), и стебли (сельдерей), и клубни (картофель). Но чем больше признаков, сходных с овощами, заметит нейросеть, тем точнее будет ее ответ (оранжевый + корень + сладкий вкус = морковь). И чем больше нейронных слоев задействовано в работе, тем обучение эффективнее (отсюда термин «глубокое обучение»).

Проблема, однако, в том, что чем глубже нейросеть, тем более непрозрачен ход ее мысли. А ведь он неидеален: нейросети до сих пор путают кошек и пылесосы. Именно поэтому прогресс искусственного интеллекта многих пугает. Генри Киссинджер даже предвещает конец Просвещения.[6]6
  Читайте саммари книги Эрика Шмидта, Генри Киссинджера, Дэниела Хаттендохера «Эпоха искусственного интеллекта и будущее человечества».


[Закрыть]

Преимущество человеческого ума перед искусственным в том, что мы легко соединяем интуитивное знание, факты и логические обоснования. Однако собственно логика оказывается для большинства из нас слишком утомительной.

Чаще мы предпочитаем:

▶ искать подтверждения уже сложившимся идеям, а все, что им противоречит, игнорировать;

▶ ссылаться на авторитеты, в том числе религиозные.

В статье «Нобелевская патология» Скотт Лилиенфельд перечисляет десятки примеров ложных убеждений всеми уважаемых лауреатов, которые в разные годы поддерживали телепатию, гомеопатию, евгенику, астрологию, расовые законы. С другой стороны, как быть с тем, что порой точные знания добываются людьми со скверной репутацией? Канцерогенность табачного дыма была открыта нацистскими медиками – именно этим аргументом долгие годы защищались табачные компании.

Три «веские» причины быть нелогичным

Допустим, мы учитываем все вышеперечисленные тонкости. Тем не менее наше поведение с большой долей вероятности останется нелогичным – по трем причинам.

1. Наши цели противоречат друг другу. Мэри очень хочет похудеть к лету. А еще она хочет съесть на ужин чизкейк. Вообще говоря, обе цели оправданны с эволюционной точки зрения: стройная фигура = инстинкт размножения, чизкейк = нужные для выживания калории.

Как мы помним, в тесте Шейна Фредерика выигрывали терпеливые. Но не все так просто. Иногда побаловать себя здесь и сейчас рациональнее. Откуда Мэри знать, что завтра ей на голову не упадет кирпич (а она так и не полакомилась чизкейком)? Риск для терпеливых есть всегда. Они должны быть уверены, что в будущем получат больше, чем сейчас.

Это важно не только для каждого отдельного человека, но для всего общества. Насколько высокий налог на углеродные выбросы мы должны платить сегодня? Все зависит от того, насколько мы заботимся о будущих поколениях. Именно поэтому придумана социальная ставка дисконтирования. Проблема лишь в том, что политики ориентируются на краткосрочные циклы своего правления, а не на долгосрочную перспективу.

Как примирить разные цели? Можно тренировать волю, но это не дает гарантии. Лучше воспользоваться способом из древнегреческого мифа. Путешественник Одиссей знал, что сирены очаровывают путников прекрасным пением, но, заманив их на свой остров, пожирают. Одиссею очень хотелось послушать сирен, однако остаться в живых хотелось еще больше. Он приказал морякам заткнуть уши воском, а его самого привязать к мачте. Так Одиссей смог и выжить, и насладиться пением сирен.

В связи с этим нашей Мэри можно посоветовать поужинать здоровой едой, чтобы ночью не хотелось есть. Или ходить в магазин на сытый желудок, чтобы не покупать там вредного.

2. Незнание делает нашу жизнь спокойнее. Знание – сила? Смотря какое. Иногда, в самом деле, лучше заткнуть уши воском: не знать, чем закончится любимый сериал, не узнавать пол ребенка до его рождения. В этих случаях незнание сулит куда большее удовольствие. В конце концов, вы хотели бы знать день собственной смерти? В то же время желание не знать – прямая дорога к предвзятому выбору лишь «приемлемой» информации.

3. Некоторые темы табуированы для рациональных суждений. Как быть с эвтаназией? Или с разрешением здоровым донорам добровольно отдавать свою почку тем, кто в этом нуждается? Мы запрещаем себе даже задумываться над такими вопросами, хотя их рациональное решение было бы не худшим вариантом (например, финансовое вознаграждение за донорство в виде социальных ваучеров, что стало бы барьером для любителей быстрой наживы).

Инструменты рациональности

И все-таки у нас есть неоспоримое преимущество: мы умеем думать о том, как мы думаем. Мы всегда можем сделать шаг назад и посмотреть на ситуацию в целом. Заглянуть в будущее. Просчитать последствия.

В этом нам помогают разнообразные инструменты, оттачивающие нашу рациональность.

«Насколько это вероятно?», или Формула Байеса

Представьте, что вы едете в вагоне поезда. Неожиданно вагон начинает сильно трясти, слышен странный скрежет. Вы начинаете нервничать: неужели сейчас состав сойдет с рельсов?

Есть способ рассчитать это максимально точно.

▶ Допустим, мы знаем статистику катастроф на железной дороге: 1 на 10 млн. Значит, вероятность катастрофы, или P{катастрофа}, равна 1/10 000 000.

▶ Допустим, тряска и скрежет сопутствуют любой катастрофе. Тогда P{тряска|катастрофа} = 1.[7]7
  Вертикальная черта значит «при условии».


[Закрыть]

▶ Важно знать и то, сколько раз поезд трясло при безопасном исходе. Если это ваша сотая поездка, то P{тряска|не катастрофа} = 1/100.

Вам нужна вероятность крушения при тряске, или P{катастрофа|тряска}. Ее можно найти с помощью формулы, выведенной в XVIII веке священником Томасом Байесом.

Ее суть в том, что мы отделяем вероятности (поезд потерпит или не потерпит крушение, обозначим это как В и В—)[8]8
  Черта (—) означает противоположную вероятность: «поезд не потерпит крушение».


[Закрыть] от данных, в которых точно уверены (обозначим их как Д):

Наше уравнение выглядит так:

А с цифрами так:

Ура, шанс катастрофы чрезвычайно мал.

Формула Байеса имеет большое житейское значение: она учит сохранять спокойствие, взвешивая свои шансы в любой ситуации. Но есть пара нюансов.

▶ Для расчетов нужны кое-какие априорные сведения (в нашем случае – статистика катастроф и число ваших поездок). Если мы не верим статистике, то не сможем взвесить реальные шансы.

▶ Байесовская формула лежит в основе компьютерных алгоритмов, но, если исходные данные предвзяты, это грозит проблемами. Так, алгоритмы «профилактической полицейской деятельности», призванные помогать органам правопорядка, выясняя вероятность повторного нарушения закона, объявляют темнокожих подсудимых рецидивистами вдвое чаще, чем белых.

«Выгодно ли мне это?», или Теория рационального выбора

Эта теория восходит к аргументу философа Блеза Паскаля (1623–1662) о том, почему мы должны верить в Бога: если бы мы верили, а после смерти никакого загробного царства не оказалось, мы бы просто потратили некоторое время своей жизни на молитвы; если бы не верили, а Он существует, нас ожидал бы вечный гнев. Словом, мы должны принимать решения исходя из максимальной пользы для самих себя.

Но как в таком случае быть с лотереей или, скажем, игрой в казино? Очевидно, что «пользу» мы понимаем очень своеобразно. Поэтому со временем социологи заменили это широкое понятие более точным – «предельная полезность». Представьте человека, который в одиночку пересекает пустыню без еды и воды. Сколько он отдаст за бутылку минералки? Все что угодно! А за вторую, когда самая страшная жажда утолена? Ну, тут он призадумается. А за третью?.. С каждым глотком воды предельная полезность минералки падает.

Этот принцип касается и прочих материальных благ, в том числе денег. Ученые выяснили: когда годовой доход европейца переваливает за 100 000 евро, эффект от дополнительного дохода падает, в этот момент люди понимают, что не в деньгах счастье.

Привлекательность предложения (а значит, и представление о пользе) очень зависит от того, как оно сформулировано. Маркетологи предлагали тестируемым два типа колбасы на выбор: «без жира на 99 %» и «с 1 % жира». Участники эксперимента сочли первый продукт более полезным, хотя варианты равнозначны. Даже при изменении формулировок – «без жира на 98 %» и «с 1 % жира» большинство предпочли первый вариант.

Иногда мы переоцениваем пользу, причем с фатальными последствиями. У 30 % женщин, получающих в ходе маммографического обследования отрицательный результат, на самом деле есть опухоль. Однако часто и выявленные опухоли не требуют оперативного вмешательства, по крайней мере срочного. Согласно одному британскому исследованию, каждая третья женщина, больная раком груди, переносит операцию, которая приносит ей больше вреда, чем пользы.

Наше представление о пользе чего угодно напрямую зависит от наших ценностей, а еще от того, насколько тщательно мы сопоставляем риск и награду. Сколько стоит минута пути, сэкономленная за счет превышения скорости с риском попасть в аварию и вообще никуда не доехать? А желание заглянуть в телефон в тот момент, когда переходишь проезжую часть?

«Не ошибка ли это?», или Теория сигнала и шума

Любая информация, которую мы получаем из окружающего пространства, может либо быть ценной («сигнал»), либо нет («шум»).[9]9
  Читайте саммари книги Нейта Сильвера «Сигнал и шум. Почему одни прогнозы сбываются, а другие – нет».


[Закрыть] Как отличить одно от другого?

Представим дежурного за пультом военной базы. Посреди ночи он видит вспышку на экране радара. Что это – вражеские бомбардировщики («сигнал») или птицы («шум»)? Цена решения очень высока. Что делают военные для того, чтобы не допустить ошибки? Создают более точные радары, совершенствуют системы тренировки дежурных.

Чем чувствительнее система, тем меньше «шума». И речь не только о военной технике. До появления дактилоскопии и ДНК-анализа множество невинных людей были осуждены на основании очень шатких доказательств. С тех пор как эти методы были введены в обиход, чувствительность судебной системы повысилась. Справедливости ради надо сказать, что не на 100 %. Судебные ошибки все еще не редкость. Вообще говоря, ни один ученый не может гарантировать, что ваши отпечатки пальцев не совпадают с отпечатками пальцев любого из живших или живущих людей. Просто одинаковых еще никто не встречал.

Там, где не хватает доказательных способностей, вступают в силу нормы морали. Поэтому в демократических судах действует презумпция невиновности.

Даниэль Канеман доказал: действие шума[10]10
  «Шум. Изъяны человеческого суждения» (Касс Санстейн, Даниэль Канеман, Оливер Сибони) – саммари на книгу: читать, слушать онлайн на Smart Reading.


[Закрыть] (разницы в суждениях, которые должны быть одинаковыми) малозаметно, но чревато огромными убытками для самых разных сфер жизни: в бизнесе, в медицине, в страховых агентствах. Цель – добиваться большей чувствительности системы: прежде всего проводить более точные, независимые экспертизы.

«Кому выгоднее?», или Теория игр

Как делать рациональный выбор, когда он зависит от кого-то другого? Эту проблему пытается решить теория игр.

Есть игры с нулевой суммой: при любом варианте выигрыш победителя означает убыток для проигравшего. Такова, скажем, игра «Камень, ножницы, бумага». В этой игре лучшая стратегия – разыгрывать каждый ход наугад, минимизируя свои потери при любой стратегии противника.

Куда интереснее игры с ненулевой суммой, требующие координации решений. Есть известная дилемма заключенного. Прокурор заключает соучастников преступления в разные камеры и предлагает сделку. Если один подозреваемый даст показания против другого, то выйдет на свободу, а его подельник сядет на десять лет. Если они выдадут друг друга, то оба получат по шесть лет. Если оба будут молчать, то получат по шесть месяцев.

Идеального решения не существует, большую роль тут играет не только математика, но и психология («доверяю ли я подельнику?»). Оптимальное решение будет достигнуто, если мы изменим правила игры. Пусть преступники до совершения преступления дают клятву верности (как они, судя по криминальным фильмам, и делают). Такой контракт делает обоюдное сотрудничество выгодным.

Собственно, так все мы и поступаем в повседневной жизни: платим налоги, соблюдаем законы, отвечаем добром на добро – заранее заключаем друг с другом гласные и негласные социальные контракты. Такое равновесие действует до тех пор, пока государство обеспечивает законность, пока мы знаем: перед законом отвечает каждый.

Некоторые договоры сложились сами собой, но нарушать их себе дороже (когда все пользуются Microsoft Word, тоже будешь пользоваться Microsoft Word).

Напротив, упорство в координационной игре может иметь скверные последствия, превратиться в гонку вооружений. Каждый шаг в ней выглядит вполне оправданным, но итог всегда печален. Вспомним гонку вооружений США и СССР. Частной жизни это тоже касается: чем популярнее вы в Facebook, тем больше вам приходится там сидеть, отвечать на комменты, лайкать, демонстрировать знаки престижа (кстати, мода – еще одна сфера, где люди живут «гонками вооружений»). Единственно верное решение – как можно быстрее выйти из этой гонки.

«Почему это случилось?», или Регрессионный анализ

Ежечасно в мире происходит множество самых разных событий. Если взглянуть на них с определенной дистанции, неизбежно заметишь какие-то соответствия. Но «одновременно с этим» не значит «по причине этого». Недавно в Германии было обнаружено соответствие между падением рождаемости и уменьшением количества пар у аистов в период 1965–1987 годов. Но разве детей приносят аисты?

Если у двух явлений совсем мало общего (как в нашем примере), то коэффициент их корреляции близок к нулю. При этом всегда будет отмечаться регрессия к средним показателям. Это значит, что при неидеальной корреляции все лучшее со временем ухудшается, а все худшее улучшается – само собой, без очевидных вмешательств извне (хотя порой хочется увидеть в этом причинно-следственную связь).

Даниэль Канеман приводит такой пример: применение энергетиков для лечения депрессии у детей дает значительные улучшения состояния через три месяца. Это выдуманный факт, однако в реальности и правда можно заметить у детей некоторые улучшения. Они, впрочем, настанут и в том случае, если дети три месяца будут гладить кошек или играть в футбол. Любое продолжительное явление рано или поздно опускается/поднимается до уровня средних величин.

На протяжении истории люди довольно плохо справлялись с пониманием причинности. Именно поэтому мы суеверны. К тому же есть реальные причины, а есть эпифеномены, которые сопровождают событие, но не вызывают его. Петух кричит перед рассветом, но его крик не вызывает солнце. Разобраться с некоторыми эпифеноменами непросто и ученым.

Недаром кофе то попадает в черный список вредных продуктов, то исключается из него. Эпифеномен (употребление кофе) сложно отделить от события (болезни сердца) – в дело включено много других переменных (может, любители кофе также заядлые курильщики или пренебрегают физкультурой?).

К счастью, социологи изобрели рандомизированные эксперименты и регрессионный анализ. Суть их в том, что ученые берут большую выборку участников, случайным образом делят их на две группы, к первой группе применяют предполагаемый метод (скажем, дают новое лекарство), а от второй этот метод утаивают (дают плацебо). Ученым важно выявить взаимосвязь между двумя ключевыми переменными (новое лекарство и лечение болезни), учитывая при этом влияние других важных переменных (режим питания, вес участников и пр.). Главная трудность такой аналитики – определить, какие именно переменные следует учитывать.

Регрессионный анализ – лучшее, что можно придумать для объективного исследования. Но «лучшее» не значит «идеальное». Мир не лаборатория. Люди непредсказуемы. Даже максимально схожие между собой в биологическом и социальном плане близнецы демонстрируют очень разные результаты.