Текст книги "Понимать риски. Как выбирать правильный курс"

Предсказания делать трудно, особенно предсказания будущего.

Нильс Бор (эти слова также приписываются Марку Твену, Йоги Берра и многим другим)

Телефоны

В 1876 г. Western Union, крупнейшая американская телеграфная компания, отказалась покупать патент Грэхема Белла за 100 тыс. долларов на том основании, что люди не настолько сообразительны, чтобы самостоятельно пользоваться телефоном: «Белл ожидает, что население будет использовать этот аппарат без помощи специально обученных операторов. Любой инженер-телеграфист сразу поймет ошибочность этого предположения. Людям просто нельзя доверять пользоваться технически сложными устройствами связи»{45}45
  См.: Sherden W. A., 1998, p. 174–175, а также цитату об осветительных лампах; и Süddeutsche Zeitung (T. Fromm, Für die Zukunft nur das Beste, January 28, 2011) о Даймлере. Об Айкене, который часто цитируется неправильно, см.: Cohen I. B., 1998.


[Закрыть].

Группа британских экспертов думала несколько иначе: «Телефон может пригодиться нашим американским братьям, но не нам, потому что у нас имеется достаточное количество мальчиков-посыльных».

Электрические лампы

Несколькими годами позднее комиссия британского парламента оценивала электрическую лампу Томаса Эдисона и пришла к выводу, что она «вполне подойдет для наших заокеанских друзей… но не привлечет внимания деловых людей и ученых».

Радио

«У радио нет будущего». Считается, что эти слова произнес лорд Кельвин, бывший президент Королевского научного общества, приблизительно в 1897 г.

Поезда

«Передвижение по железной дороге с высокой скоростью невозможно, потому что пассажиры не смогут нормально дышать и умрут от асфиксии». Доктор Дионисиус Ларднер (1793–1859), профессор Лондонского университета и автор книги о паровом двигателе, был одним из нескольких врачей, пророчествовавших, что быстрое движение поездов вызовет удушье или умственное расстройство у пассажиров и головокружение у наблюдателей.

Автомобили

Создатель первого автомобиля Готлиб Даймлер (1834–1900) был уверен, что в мире никогда не будет больше одного миллиона автомобилей из-за отсутствия достаточного количества профессиональных водителей. Даймлер основывал свое предсказание на ложном предположении о том, что все автомобили будут управляться наемными шоферами.

Компьютеры

Говард Айкен, создавший компьютер Mark I для IBM в 1943 г., вспоминал: «Первоначально мы думали, что если бы во всей стране появилось полдюжины крупных компьютеров, размещенных в исследовательских лабораториях, то они удовлетворили бы все наши потребности». Это предсказание основывалось на ошибочном предположении о том, что компьютеры будут использовать исключительно для решения научных задач.

Глава 3
Оборонительная позиция при принятии решений

Кельвин: Чем больше вы знаете, тем труднее предпринимать решительные действия.

Хоббс: Ммм…

Кельвин: Как только вы получаете более полную информацию, вы начинаете замечать все сложности и оттенки серого.

Хоббс: Ммм…

Кельвин: Вы начинаете понимать, что не все так ясно и просто, как кажется на первый взгляд. В конце концов знание оказывает парализующее действие.

Хоббс: Ммм…

Кельвин: Будучи человеком действия, я не могу позволить себе идти на такой риск.

Хоббс: Вы невежественный человек, но, по крайней мере, вы действуете, осознавая свое невежество.

Из комикса CALVIN AND HOBBES © Watterson

С неприятием риска тесно связан страх совершить ошибку. Если вы руководитель среднего звена, то, вероятно, вы постоянно опасаетесь сделать что-то не так и что вас обвинят в этом. Такое настроение не способствует инновационному процессу. Продвигаясь по неизведанному пути, приходится принимать на себя риски, а это предполагает возможность совершения ошибок. Нет риска, нет ошибок, нет инноваций. Неприятие риска воспитывается уже в школе, где детей не поощряют самим искать решения математических задач, возможно делая при этом ошибки. Вместо этого им говорят ответ и проверяют, могут ли они запомнить и правильно применять формулу. Имеет значение только то, насколько хорошо ученики подготовились к тесту, и количество ошибок, сделанных при его выполнении. Но таким способом великие умы не воспитать.

Я применяю термин «культура ошибок» к культуре, в которой можно открыто признавать ошибки, чтобы учиться на них и избегать их в будущем. Например, одним из наиболее ценных качеств американской культуры является то, что она поощряет людей действовать методом проб и ошибок и не стыдиться неудач. Для укрепления решимости читателей, которых смущает перспектива совершения ошибок, я расскажу о том, как один из величайших умов неожиданно попал впросак.

Альберт Эйнштейн (1879–1955) и Макс Вертхаймер (1880–1943) были близкими друзьями еще с тех пор, когда оба жили в Берлине, где Эйнштейн возглавлял Физический институт кайзера Вильгельма, а Вертхаймер стал одним из основателей гештальт-психологии. Оба бежали от нацистов в начале 1930-х гг. и нашли прибежище в США: Эйнштейн в Принстоне, а Вертхаймер в Нью-Йорке. Они поддерживали дружеские отношения, обмениваясь письмами, в которых Вертхаймер развлекал своего друга придуманными им задачами.

Вертхаймер применил свои знания и опыт к законам мышления, когда он попытался одурачить Эйнштейна с помощью следующей головоломки{46}46
  Письмо Макса Вертхаймера Альберту Эйнштейну, 1934 г. См. также: Luchins E. H., Luchins A. S., 1979; задачка о старом автомобиле, с. 186, 187. Текст переведен непосредственно с оригинала и отличается от приведенного в данной работе.


[Закрыть]:

Старый дребезжащий автомобиль должен проехать расстояние в 2 км, поднявшись на холм и спустившись с него (рис. 3.1). Так как он очень стар, то не может проехать первый километр – в гору – быстрее чем со средней скоростью 15 км/ч. Вопрос: как быстро он должен проехать второй километр спускаясь вниз, он может, разумеется, двигаться быстрее, – чтобы развить среднюю скорость (на всей дистанции) 30 км/ч?

Рис. 3.1. Иллюстрация к задаче Вертхаймера, решая которую Эйнштейн допустил промах

На первый взгляд кажется, что правильный ответ – 45 или 60 км/ч. Но это не так. Даже если старый автомобиль и смог бы спускаться с холма со скоростью ракеты, ему все равно не удалось бы иметь среднюю скорость на дистанции 30 км/ч. Если вы не догадались об этом сразу, не огорчайтесь, Эйнштейн тоже этого не понял. Он признался другу, что дал маху при решении этой задачи: «Только приступив к расчету, я заметил, что у автомобиля просто нет времени на то, чтобы спуститься вниз!»{47}47
  Эйнштейн написал по-немецки: «Erst durch Rechnung merkte ich, dass für den Herunterweg keine Zeit mehr verfügbar bleibt… Solche Witzchen zeigen einem, wie blöd man ist!» Письма Альберта Эйнштейна к Максу Верхаймеру, Albert Einstein Duplicate Archive, Princeton University Library.


[Закрыть]

В гештальт-психологии способ решения задачи заключается в том, чтобы снова и снова переформулировать вопрос до тех пор, пока ответ не станет ясен. Поясню, как он работает. Сколько времени требуется старому автомобилю, чтобы подняться на холм? Путь вверх равен 1 км. Автомобиль едет со скоростью 15 км/ч, поэтому, чтобы достичь вершины, ему потребуется 4 минуты (1 км разделить на 15 км/ч). Сколько времени потребуется для подъема и спуска с холма со средней скоростью 30 км/ч? Длина пути вверх и вниз составляет 2 км. Чтобы двигаться со средней скоростью 30 км/ч, то есть 2/4 км/мин, потребуется 4 минуты на преодоление всей дистанции. Но эти 4 мин. уже были использованы на подъем на вершину холма.

Ничего позорного в совершении ошибки нет, никто из нас не совершенен.

Гештальт-психологи и их последователи для демонстрации работы нашего восприятия используют зрительные иллюзии. Когда мы смотрим вокруг, мы думаем, что воспринимаем внешний мир. Но это не так. Наш мозг – это не зеркало. Той информации, что к нему поступает, недостаточно, чтобы зеркально отражать мир. Например, мир трехмерен, но его изображение на сетчатке глаза всего лишь двумерно.

В результате мы не можем непосредственно воспринимать расстояния и поэтому должны делать догадки, основанные на неопределенных подсказках, которые дают нам освещение, тени и перспектива. Великий философ Герман ван Гельмгольц назвал эти догадки «бессознательными умозаключениями». Без этих умных догадок мы действовали бы менее удачно. Но наш разум позволяет нам не ограничиваться имеющейся информацией и принимать на себя риски.

Посмотрите на шахматную доску, представленную слева на рис. 3.2. Она состоит из черных и белых квадратов. Так, квадрат, помеченный буквой А, выглядит черным, а квадрат, помеченный буквой В, – белым. Однако в действительности квадраты А и В закрашены одним и тем же оттенком серого. В это трудно поверить, потому что наши глаза видят их окрашенными в два разных цвета. Наш мозг не просто оценивает свет, отраженный от каждого квадрата, он использует соседние квадраты для того, чтобы делать умные выводы. Чтобы убедиться в моей правоте, взгляните на шахматную доску в правой части рисунка, где два квадрата соединены двумя вертикальными полосками одного и того же оттенка серого. Это позволит вам понять, что оба квадрата окрашены в одинаковый цвет. Другой способ убедиться в этом – взять лист бумаги и проделать в нем два отверстия так, чтобы через них вы могли видеть только квадраты А и В. Даже если мы знаем реальную картину, иллюзия все равно остается.

Рис. 3.2. Иллюзия восприятия цвета клеток шахматной доски Приводится с разрешения Эдварда Аделсона

Какая невероятная ошибка! Но задумайтесь на минутку. Если бы наш мозг не совершал такую «ошибку», то мы видели бы много разных оттенков серого, а не шахматную доску с черными и белыми квадратами. Но вместо того, чтобы просто оценить свет, отраженный от каждого квадрата, независимо от всех остальных, наш мозг использует контекстную информацию, чтобы мы могли сделать вывод о том, что мы видим. Тень, отбрасываемая предметом в правой части доски, делает поверхность тусклой, так что белый квадрат в этой тени может отражать еще меньше света, чем черный, целиком находящийся на свету. Зрительные иллюзии – это не грубые ошибки, а побочные продукты умной системы.

Иллюзия восприятия цвета шахматной доски показывает, что интеллект – это не просто способность точно воспроизводить каждую степень силы света, отражаемого от каждого квадрата, или каждый массив информации в целом. Это способность делать обоснованные догадки. Зрительные иллюзии помогают нам понять, как работает наш мозг:

• Наш мозг располагает неполной информацией об окружающем мире.

• Интеллект дает возможность не ограничиваться имеющейся информацией и принимать обоснованные решения о том, что происходит вокруг нас.

• Идя на риск, каждая умная система совершает «полезные» ошибки.

Возможно, вам доводилось читать научно-популярные книги о процессе познания, в которых приводятся длинные перечни ошибок, совершаемых людьми вопреки здравому смыслу. Обычно в таких книгах проводятся прямые аналогии между зрительными и когнитивными иллюзиями. Аргументация сводится к тому, что если наша система восприятия информации уже подвержена систематическим ошибкам, то чего можно ожидать от нашей способности рассуждать и осмысливать. Вот почему образование населения обречено на неудачу, а патерналистские стратегии, побуждающие людей совершать «правильные» поступки, являются единственной жизнеспособной альтернативой. Но в этом умозаключении упускается из виду суть возможностей человеческого интеллекта.

Зрительная система не способна точно измерять силу света, да ей и не нужно это делать. Ее назначение не в этом. Она должна обладать способностью выходить за рамки полученной ею информации и выстраивать предположения о том, что происходит в окружающем нас мире.

Совершение подобных «ошибок» отнюдь не недостаток, в противном случае мы не узнавали бы объекты, существующие вокруг нас. Если система не совершает ошибок, то ее нельзя назвать умной. Зрительные иллюзии фактически демонстрируют скорее успехи, чем неудачи нашей способности к познанию.

Теперь мы знаем: если человек испытывает зрительную иллюзию, то он совершает полезную ошибку. Полезными называются те ошибки, которые нужно делать. Такие ошибки часто совершают дети. Допустим, вы разговариваете с трехлетним ребенком, который говорит «я сидю» вместо «я сижу». Он еще не знает, какие глаголы правильные, а какие неправильные. Так как неправильные глаголы встречаются реже, то ребенок совершенно разумно изначально предполагает, что у используемого им глагола есть правильная форма. И он употребляет ее до тех пор, пока не убедится в обратном. И такие ошибки – полезные, или функциональные, потому что если ребенок выберет более безопасный путь и станет использовать только те глаголы, которые ему уже известны, то он будет учиться говорить более медленными темпами. Учитесь на ошибках, или вы потерпите неудачу в учении.

Серендипность[6]6
  Серендипность (англ. serendipity) – инстинктивная (интуитивная) прозорливость, – термин, происходящий из английского языка и обозначающий способность, делая глубокие выводы из случайных наблюдений, находить то, чего не искал намеренно.


[Закрыть], то есть открытие чего-то такого, чего не собирались обнаруживать, часто оказывается продуктом ошибки. Христофор Колумб хотел найти морской путь в Индию. Он верил, что сможет доплыть до Индии на корабле, потому что допустил ошибку. Он сильно недооценил диаметр земного шара. Другие знали, что он ошибается, и критиковали его план. Они были правы. Но благодаря своей ошибке Колумб открыл нечто другое – Америку. И точно так же некоторые мои открытия тоже никогда не планировались, например открытие эффекта «меньше – значит больше». Вот его история.

Для одного эксперимента нам потребовались два списка вопросов: простых и сложных. Так как участниками эксперимента были немцы, то мы решили подготовить вопросы о населении городов Германии (которые, как мы полагали, окажутся легкими) и о населении городов США (их мы считали трудными). Мы выбрали по 75 крупнейших городов в каждой стране. Наши вопросы звучали, например, так:

«Численность населения какого из городов больше – Детройта или Милуоки?»

«Численность населения какого из городов больше: Билефельда или Ганновера?»

Нас поразили полученные результаты. Ответы немцев на вопросы о городах Германии, о которых они знали много, отнюдь не были более правильными, Более того, они даже немного лучше отвечали на вопросы о городах США, о которых они знали гораздо меньше. Мы совершили ошибку, решив, что знать больше – это значит всегда делать более правильные заключения. Эксперимент оказался неудачным. Но эта ошибка привела нас к открытию чего-то нового, что мы назвали эвристикой узнавания{48}48
  Goldstein D. G., Gigerenzer G., 2002. Историю серендипизма см.: Gigerenzer D. G., Goldstein G., 2011.


[Закрыть].

Если вы узнаете название одного города, но не знаете название другого, то население города, название которого вы знаете, больше.

Многие немцы никогда не слышали о Милуоки и поэтому делали правильный вывод о том, что население Детройта больше. Однако, поскольку они знали о существовании и Билефельда, и Ганновера, то это простое практическое правило в данном случае не срабатывало. Американец, который никогда не слышал о Билефельде, правильно решит, что население Ганновера больше, но немец окажется здесь в затруднительной ситуации. Аналогичные результаты были получены и в другом исследовании: только 60 % американцев правильно указывали, что Детройт больше Милуоки, в то время как немцы верно отвечали на этот вопрос в 90 % случаев. Эвристика узнавания берет верх над мудростью полуневежества.

Это простое практическое правило работает не всегда, а только лишь в тех случаях, когда более крупные объекты действительно оказываются более узнаваемыми. Полезные ошибки помогают нам учиться и делать открытия. Система, которая не делает ошибок, будет меньше обучаться и еще меньше открывать что-то новое.

Преподаватели часто размышляют о том, как можно было бы развить умственные способности молодого поколения, чтобы они в идеале не делали никаких ошибок. Подобные воззрения – не что иное, как пример вредной ошибки. Если людям запретят делать ошибки, то исчезнут интеллект, креативность и инновации. Но это не означает, что каждая ошибка полезна. Распространение СПИДа в Африке были слишком недооценено Всемирной организацией здравоохранения (ВОЗ), в компьютерные модели которой было заложено предположение о том, что вероятность инфицирования повышается с ростом числа половых контактов независимо от числа сексуальных партнеров. Но при десяти контактах с одним партнером вероятность заражения оказывается намного ниже, чем при разовых контактах с десятью разными партнерами{49}49
  Mervyn King: «What fates impose: Facing up to uncertainty». The Eighth British Academy Annual Lecture 2004.


[Закрыть]. Постоянными источниками вредных ошибок являются иллюзия нулевого риска и иллюзия индюка. Например, банки продолжают использовать модели, подобные модели стоимости, подверженной риску, которые предполагают, что риски известны и могут быть точно оценены, даже несмотря на то, что эта иллюзия определенности во многом способствовала финансовому кризису.

Грубые просчеты, подобные этим, не только вызывают недоумение, но и могут иметь катастрофические последствия. Вредные ошибки – это ошибки, не являющиеся функциональными, те, которые следует не допускать каждому из нас.

Профессии, компании и группы лиц имеют свои культуры ошибок. На одном краю спектра находятся негативные культуры ошибок. Люди в таких культурах боятся совершать любые ошибки, независимо от того, полезные они или вредные, и, если ошибка все же случается, они делают все, чтобы ее скрыть. В таких культурах имеется мало шансов на то, что человек будет учиться на ошибках и открывать новые возможности. На другом краю спектра находятся позитивные культуры ошибок, которые не скрывают допущенные ошибки, поощряют полезные ошибки и учатся на вредных ошибках, чтобы создавать более безопасную среду.

Давайте сравним две профессии, культура ошибок в которых различается: коммерческую авиацию и медицину. Культура ошибок пилотов Lufthansa и других международных авиакомпаний становится все более позитивной и способствует дальнейшему повышению безопасности пассажиров. Вместо того чтобы создавать иллюзию определенности, Lufthansa открыто показывает, каков риск крушения ее авиалайнеров: один случай на 10 миллионов полетов. Для достижения этой крайне низкой частоты авиакатастроф применяют несколько простых правил обеспечения безопасности рейсов. Например, запас топлива, который берет с собой каждый самолет, определяется следующим образом:

Минимальный запас топлива складывается из:

1) количества топлива, необходимого для достижения пункта назначения;

2) дополнительного запаса (5 % от основного запаса, определяемого в п. 1. на случай ошибок в расчете основного запаса из-за ошибок прогнозирования силы и направления ветра и т. п.;

3) резерва на случай, если возникнет необходимость совершить несколько дополнительных кругов над целевым аэродромом или уйти на запасной аэродром;

4) резерва топлива на 30 минут полета над запасным аэродромом;

5) резерва топлива на экстренный случай, его запас определяется самим экипажем с учетом возможных непредвиденных обстоятельств, например резкого ухудшения погоды.

Создание дополнительных резервов топлива на самолете стоит Lufthansa денег, потому что перевозка дополнительного веса требует большего расхода топлива. При дальних перелетах около 30 % топлива расходуется на транспортировку самого топлива.

Меры безопасности – это только один аспект культуры ошибок, другим является информирование о реальных ошибках. О серьезных ошибках сообщают те, кто их совершил, а затем подробное описание этих ошибок делается группой специалистов, которые впоследствии беседуют с пилотами и информируют о случившемся общественность. Это дает пилотам возможность учиться на чужих ошибках. Хотя безопасность полетов уже достаточно высока, авиакомпании прикладывают дальнейшие усилия по снижению числа инцидентов, в частности в рамках действующей в США программы «Системное мышление». Все участники этой программы – пилоты, механики, авиадиспетчеры, производители, авиаперевозчики и регуляторы – совместно обсуждают ошибки и учатся тому, как сделать полеты еще более безопасными.

Ничего подобного не наблюдается в больницах. Культура фиксирования и осмысления ошибок в медицине во множестве учреждений не слишком высока, система составления подробных отчетов о критических случаях налажена далеко не везде. Опасаясь возможных судебных тяжб, больницы проводят преимущественно оборонительную политику, при которой врачи рассматривают пациентов как потенциальных истцов, а допущенные в лечении ошибки часто скрывают. Национальные системы отчетности и организации обучения на ошибках, подобные созданным в авиации, встречаются крайне редко. В результате безопасность пациентов больниц – в отличие от безопасности авиапассажиров – представляет собой серьезную проблему.

По оценкам Института медицины, от 44 до 98 тыс. пациентов американских больниц ежегодно погибают в результате медицинских ошибок, которые можно было бы предотвратить{50}50
  Kohn. L. T. et al., 2000.


[Закрыть]. Обратите внимание: это только документально зафиксированные несчастные случаи. А теперь давайте перейдем от сухих цифр статистики и посмотрим, как складывались судьбы некоторых конкретных людей.

Восьмилетний Бен Колб умер во время хирургической операции из-за ошибочного применения одного медицинского препарата вместо другого. 19-летняя Джасмин Грант пришла в лабораторию со своим первым ребенком, где ей по ошибке сделали эпидуральную анестезию. Через 20 минут с ней случился эпилептический припадок, который она не пережила. Медицинский обозреватель Boston Globe Бетси Лехман умерла от передозировки во время сеанса химиотерапии. Диабетику Уилли Кингу ампутировали не ту ногу{51}51
  Emanuel E. J., 2008, p. 2.


[Закрыть]. Такие ошибки случаются даже в лучших американских больницах, а их число год от года растет. ВОЗ сообщала, что здоровью почти каждого 10 пациента причиняется вред при прохождении лечения в самых передовых в технологическом отношении больницах{52}52
  Ten facts on patient safety (2012): www.who.int/features/factfiles/patientsafety/en/index.html.


[Закрыть]. Но мало кому известно о медицинских ошибках за пределами больниц, где людям преимущественно и оказывается медицинская помощь.

Негативная культура ошибок приводит к увеличению числа случаев причинения вреда здоровью пациентов, снижению безопасности и слабо выраженному интересу к эффективным мерам ее повышения. В завершение я приведу слова начальника отдела управления рисками одной международной авиакомпании: «Если бы у нас была такая же культура безопасности, как в больницах, то у нас разбивалось по два самолета в день».