Текст книги "От предвидения к власти. Как ИИ-прогнозирование трансформирует экономику и как использовать его силу в своих целях"

Глава 4. Решать или не решать

Хотите узнать секрет? Экономисты на самом деле не верят в то, что люди абсолютно рациональны. Предполагается, что есть этакие люди-калькуляторы, которые тщательно просчитывают все варианты действий – миллионы вариантов во времени и пространстве, – точно знают, какие цели преследуют, будь то прибыль, счастье или что-то еще, а затем делают выбор и придерживаются тщательно разработанного плана. Именно такой идеально рациональный человек часто изображается в моделях экономистов, если воспринимать их буквально. И экономисты действительно серьезно относятся к прогнозам, полученным на основе этих моделей. Но они знают, хотя бы из собственного опыта, что реальные люди далеко не соответствуют этому представлению о рациональности. Поэтому, слыша расхожую фразу «Экономисты считают, что все люди рациональны», они только закатывают глаза. Это не так. Верить в это было бы совершенно нерационально.

Тем не менее исходить из представления о человеке как о субъекте расчетливом, последовательном и действующем в соответствии с определенными интересами полезно, чтоб понимать поведение тысяч или миллионов людей. Хотите понять, приведут ли налоги на сигареты к сокращению числа курильщиков? Вот одно из последствий: если сигареты будут стоить дороже, то люди станут курить меньше. Насколько меньше и хватит ли этого для достижения поставленных целей – другой вопрос. Потребуется учесть историю, уровень стресса в обществе, его деление на социальные группы, а также маркетинговые приемы, которые используют табачные компании. Но признать, что люди принимают решение рационально, – это отличная отправная точка для многих социальных наук.

Каждый день люди оказываются перед выбором, что надеть. Стив Джобс, как известно, носил фирменную черную водолазку и джинсы независимо от ситуации и погоды. Барак Обама в пору своего президентства носил только серые или синие костюмы и так объяснил это Майклу Льюису из Vanity Fair:

«Как видите, я ношу только серые или синие костюмы, – сказал он. – Я пытаюсь минимизировать необходимость принимать решения. Не хочу задумываться о том, что ем или надеваю, поскольку у меня слишком много других дел». Он упомянул об исследованиях, согласно которым каждая ситуация выбора забирает ресурсы, которых в конце концов может не хватить на дальнейшие решения. Именно поэтому шопинг так утомителен. «Следует поберечь силы для того, что действительно важно, а в остальном следовать рутине. Нельзя в течение дня отвлекаться на мелочи».

Один из нас (Джошуа) однажды скупил весь запас понравившейся модели ботинок (всего шесть пар, если хотите знать), чтобы избавиться от необходимости ходить в обувные магазины в течение следующих десяти лет. Это тоже способ избежать принятия решений. Когда люди следуют привычке или придерживаются правил, они признают, что затраты на поиск оптимального варианта слишком высоки. Поэтому, по сути, они решают не принимать решений. Это происходит повсеместно. Припомните свои последние решения, и вы поймете, что большинство из них не реальные, а скрытые, то есть те, которые вы могли бы принять, но не приняли, положившись на привычку.

Применительно к ИИ мы видим здесь серьезную проблему. Машинные прогнозы полезны только в случае, если вы принимаете решение. Но это еще не все. Мы создаем системы, состоящие из взаимозависимых компонентов, делая упор на надежность. Вы ведь не хотите, чтобы каждый компонент действовал без учета ожиданий или прогнозов остальных? От системы вы ждете надежности, которая обеспечивается правилами. Однако если прогнозирование на основе ИИ устраняет правила, заменяя их решениями, то одним из последствий станет недостаточная надежность существующих систем. Это может привести к нецелесообразности внедрения ИИ, разве что систему удастся перепроектировать так, чтобы она могла принимать решения, предлагаемые машиной.

Именно поэтому мы начнем с выбора, от которого сознательно отказались. Мы хотим понять, почему так поступаем, чтобы оценить, может ли применение ИИ изменить наш образ действий и превратить эти скрытые решения в реальные. Из данной главы вы узнаете, что, по нашему мнению, ИИ способен это сделать, причем с потенциально большими преимуществами и последствиями для организаций.

Реши и забудь

Легче не принимать решения, чем принимать его. То есть легче избежать сбора информации, ее обработки, взвешивания всех вариантов и принятия решения. Экономика в значительной степени строится на том, что за решения отвечают другие люди, даже если мы не вполне верим, что они поступят так, как сделали бы мы. Никто не понимал этого лучше, чем Герберт Саймон, который не только получил Нобелевскую премию по экономике, в том числе за теорию ограниченной рациональности, но и был удостоен премии Тьюринга за одно из первых исследований в области искусственного интеллекта. Уже на своей первой работе в Департаменте парков Милуоки он заметил, что средства на мероприятия распределяются далеко не эффективно; с появлением компьютеров стало ясно, что люди не оптимизируют свою деятельность так, как это моделировали экономисты. В 1950-х годах Саймон пытался запрограммировать новомодные компьютеры на принятие разумных решений, что привело его к мысли об издержках оптимизации. Даже если бы мы понимали суть сложных динамических вычислений, необходимых в трудной ситуации (а мы их не понимаем), вряд ли нам удалось бы уделить достаточное внимание решению вытекающих из них проблем. Имея в своем распоряжении лишь ограниченные вычислительные ресурсы, люди поступали так же, как и Саймон с примитивными компьютерами своего времени, – обходились без них.

Саймон удачно назвал этот подход принципом разумной достаточности: не стоит делать лучшее врагом хорошего. Вместо того чтобы искать наиболее верное решение, люди выбирают приемлемый, то есть достаточно хороший вариант. Вместо попыток разобраться в сложной обстановке они сужают круг рассматриваемых вариантов. Вместо того чтобы постоянно корректировать свой выбор в зависимости от получаемой информации, они принимают правила, регламент и модель поведения, которые невосприимчивы к новой информации и, следовательно, позволяют полностью ее игнорировать.

То, что иногда люди руководствуются правилами, а не принимают решения, это интересное замечание, но для наших целей его недостаточно. Нам необходимо понять, когда принимаются решения. Как отличить проблему, для устранения которой нужно действовать по установленным правилам, от проблемы, которая потребует особого решения?

Незначительные последствия

При принятии решений учитываются два основных обстоятельства: насколько серьезными обещают быть их последствия и насколько дорого обойдется сбор необходимой информации. Об информации мы поговорим немного позже. Пока же рассмотрим последствия. Мысль о том, что не стоит тратить много времени на принятие решения, если его последствия ограниченны, одна из основных в философии. Самый яркий пример – притча французского философа Жана Буридана об осле, который между двумя одинаковыми охапками сена или ведрами воды выберет то, что ближе. А если расстояние до них будет одинаковым, осел не сможет сделать выбор и умрет от голода. Можно представить, что подобная проблема заставит компьютер зависнуть. Для наших целей сформулируем проблему так: время, затрачиваемое на принятие решения, зависит от серьезности его последствий. Вернемся к правилам выбора одежды Джобса и Обамы, призванным избавить от лишней когнитивной нагрузки. Оба понимали, что последствия выбора одного костюма по сравнению с выбором другого невелики. Имея в своем распоряжении целый гардероб, они были бы вынуждены каждый день принимать малозначительное решение. Проще закрыть глаза и взять первую попавшуюся вещь. Но они не полагались на волю случая и поэтому сознательно ограничивали возможности выбора.

Для большинства из нас последствия выбора одежды более серьезны. Конечно, Джобс мог приходить на работу в чем угодно. Конечно, Обаме нужно было носить в основном костюмы – таков протокол, и никого не волновал цвет ткани, ну разве что кроме коричневого. Но остальные не могут себе этого позволить. Вы каждый день перетряхиваете весь гардероб или заранее составляете комплекты, которые используете регулярно? Доводилось ли вам ограничивать возможность выбора, чтобы упростить его? В конечном счете мы стремимся свести последствия выбора к минимуму, чтобы принимать решения было легче. Пример с выбором одежды напоминает решение с потенциально незначительными последствиями и относительно высокой когнитивной нагрузкой в процессе принятия. Однако серьезность последствий и когнитивная нагрузка зависят друг от друга. Представьте, что думаете над тем, стоит ли вам жениться или завести ребенка. В такой ситуации размышления требуют времени и усилий, поскольку неправильный выбор приведет к серьезным последствиям. Здесь вы рассматриваете потенциальное решение как действие, которому надо посвятить время и силы, а не как следование готовым правилам или то, что можно отложить на потом. И чем значительнее последствия, тем сильнее стремление все обдумать – в противовес отказу от принятия решения.

Дорогостоящая информация

Второй фактор, влияющий на принятие активного решения, – наличие необходимой информации или, точнее, ее стоимость. Если данные обходятся дорого, то последствия решения могут быть незначительными. Это побуждает к тому, чтобы принимать его по однажды установленным правилам, а не подолгу размышлять в каждом отдельном случае.

Взять ли сегодня зонтик? Этот выбор не слишком интересен окружающим, но он может иметь большие последствия. Если вы решите не брать с собой зонт и попадете под дождь, будет неприятно. Чтобы этого не случилось, можно носить с собой зонтик, но это связано с определенными издержками. Конечно, имея точную информацию (в частности, о том, пойдет ли дождь и попадете ли вы под него), вы бы взяли зонтик при высокой вероятности осадков, а при низкой – оставили бы его дома. Но что, если шансы – пятьдесят на пятьдесят?

Чтобы оценить ситуацию, равнозначную подбрасыванию монеты, предположим, что ваши личные издержки составят 10 долларов в обоих случаях: 1) если выйдете без зонта и промокнете; 2) если возьмете с собой зонт зря (и весь день будете носить ненужную тяжесть). Ожидаемые издержки в любом случае составят 10 долларов × 0,5 = 5 долларов. В результате не имеет значения, возьмете вы зонтик или нет.

Но прежде чем забивать себе голову расчетами, имеет смысл просто посмотреть прогноз погоды. Если там сказано, что вероятность дождя больше 50 %, то вы берете зонтик, а если меньше 50 % – не берете. Но в данном случае мы упростили проблему и убрали аспекты, делающие недостаточной даже такую информацию. Если известно, что будет сухо с 90 %-ной вероятностью, то все ясно. Однако прогнозы погоды не всегда так однозначны. Мы редко располагаем дополнительной информацией, чтобы сделать выбор при вероятности дождя в 40 или 30 %, то есть менее 50 %. Более того, к тому времени, когда вы уточните данные, скажем изучив розу ветров или барометрическое давление, окажется, что когнитивные затраты превысят эффект от принятия решения – в данном случае снижение затрат максимум на 5 долларов. Процедуру можно представить в виде дерева решений, о котором говорят на всех курсах MBA по экономике и анализу данных. Ветви представляют собой варианты выбора. Например, на рис. 2.1 выбор (в черном кружке) состоит в том, чтобы взять или оставить зонтик. Это решение принимается в условиях неопределенности, представленной двумя вариантами развития событий: 90 % – в пользу дождя, 10 % – в пользу ясной погоды. Если бы не было прогноза, то вероятность наступления любого из этих событий составляла бы 50 %.

Рис. 2.1. Дерево решения: брать или не брать зонт

Однако синоптики предсказывают, что шансы на выпадение осадков – 90 %. Поэтому каждый вариант выбора имеет два исхода. С каждым исходом (всего их четыре: взять зонт + дождь, взять + ясно, оставить + дождь и оставить + ясно) связана сумма затрат в денежном выражении, если исход окажется неблагоприятным. Их величина – это предмет субъективной (в данном случае вашей) оценки. Именно поэтому мы называем эти суммы суждениями. Это важное понятие, которому в нашей книге отведено значительное место. В частности, тот, кто выносит суждение, во многом контролирует решение. Кроме того, прогностические машины позволяют отделить прогноз от суждения, поскольку ЛПР, не прибегая к ИИ, часто формулирует то и другое одновременно. В данном случае мы решили сделать затраты на неблагоприятные исходы одинаковыми, то есть в обоих случаях они равны 10 долларам. Это означает, что при 90 %-ной вероятности дождя вы ожидаете, что затраты составят 1 доллар, если у вас есть зонт, и 9 долларов, если он остался дома. Разумный человек в такой ситуации решит взять зонтик.

Многие вообще отказываются принимать решение, особенно если нет прогноза. Например, вы можете сделать рабочий график гибким, чтобы в случае дождя не оказаться на улице. Тогда по умолчанию можно не носить с собой зонтик. В качестве альтернативы можно купить маленький раскладной зонт, который в итоге обойдется недешево, поскольку прослужит не слишком долго. Зато он легкий и его можно всегда носить с собой, не беспокоясь из-за погоды.

Смысл в том, что для оптимального выбора мы не собираем дорогостоящую информацию, а вырабатываем привычки или правила. Они избавляют нас от необходимости накапливать и анализировать данные. Мы просто каждый раз, не задумываясь, следуем установившейся привычке.

Какие решения покупают

Если вы воздерживаетесь от принятия решений, предпочитая следовать правилам, то на первый взгляд машинные прогнозы вам не пригодятся. Задача ИИ – предоставлять информацию для принятия решений. Если вы не принимаете решения, то эта информация не имеет ценности.

Функция ИИ состоит в обеспечении более точных прогнозов, то есть, по сути, в предоставлении информации, необходимой для принятия более обоснованных решений. Решение брать или не брать с собой зонтик можно принимать, если прогноз погоды надежен и не оставляет места неопределенности. При наличии более качественной информации можно отказаться от правил и счесть целесообразным потратить некоторое время на принятие реального решения.

В примере с зонтом надежная информация освобождает от издержек. Будь они связаны с риском промокнуть или таскать лишнюю тяжесть, но если вы точно знаете, что произойдет, то не понесете никаких потерь. Конечно, придется отказаться, скажем, от привычки всегда носить с собой зонт. Вместо этого вы заглянете в приложение с прогнозом погоды и затем решите, нужен ли он вам. Можно представить, что приложение будет отвечать на вопрос, брать ли зонтик, просто «да» или «нет», никак не обосновывая эту рекомендацию. Это все равно считается переходом от правила к решению, даже если разработчики приложения установили пороговые значения, при превышении которых выдается рекомендация взять зонт. Возможно, в описанной ситуации мы не добрались до этого момента, но вспомните рекомендуемые плейлисты в музыкальных сервисах или новости в социальных сетях. В их основе лежит необходимость принять решение. Выбирая следовать рекомендациям, вы тем самым отказываетесь от правил (например, чтения новостной ленты от начала до конца) и переключаетесь на принятие решений.

В результате перехода к принятию решений на основе прогнозов ИИ можно многое выиграть. Мы имеем представление об этом из опыта «вынужденных экспериментов», знакомых всем, кому так или иначе пришлось работать удаленно во время пандемии COVID-19. Ранее мы не представляли, может ли дистанционная работа быть продуктивной и насколько, но благодаря вынужденной необходимости ее освоить многое узнали об этом. Мы выяснили что-то новое благодаря отказу от прежних представлений. Если после отмены локдауна мы не возвращаемся в офис, это означает, что выбор формы организации труда теперь имеет для нас смысл.

Такая же ситуация сложилась в 2014 году во время двухдневной забастовки работников лондонского метрополитена. Более 60 % станций были закрыты, и пассажиры были вынуждены искать альтернативные маршруты. Многие выяснили, что ближайшая открытая станция находилась ненамного дальше, чем та, с которой они привыкли отправляться в путь. Речь идет об Англии, поэтому неудивительно, что оба дня были дождливыми, а значит, у людей не было никакого желания идти пешком или ехать на велосипеде. Изучение последствий этого события показало, что, несмотря на кратковременность забастовки, более 5 % пассажиров изменили свои маршруты передвижения. С наибольшей вероятностью это сделали те, кто прежде не осознавал искажений на схеме метро – того, что показанные на ней расстояния между станциями существенно отличаются от реальных. Подсчеты показали, что сменившие маршрут экономили на этом более шести минут в день. При среднем времени поездки на работу около получаса экономия составила 20 % – этого времени вполне хватит на размышления о том, что надеть.

Этот пример показывает, что правила не отличаются гибкостью и не обеспечивают оптимального результата. Так, в мае 2015 года в австралийском городе Перте разразилась трехнедельная ценовая война в розничной торговле бензином, которая для многих не прошла незамеченной. Интересно, что с 2001 года в городе существовала интернет-платформа (а затем и приложение), показывающая цены на разных заправках. Во время описываемых событий важность этой информации сразу же возросла. Исследователи выявили любопытный факт: приложение использовалось на 70 % чаще как в период ценовой войны, так и в течение года после ее окончания. Таким образом, ценовая война послужила достаточным стимулом для того, чтобы люди изменили свою прежнюю привычку не искать самое дешевое предложение и сделали это частью процесса принятия решений.

Дело в том, что, следуя правилам, вы можете не осознавать ценности сбора информации и принятия решения. Эти примеры свидетельствуют о том, что процесс принятия решений содержит скрытые и неиспользуемые ранее преимущества. Поэтому можно предположить, что такие же возможности характерны для некоторых форм прогнозирования с помощью ИИ.

Инвестиции в отказ от принятия решения

Действительно ли Джобс или Обама уклонялись от принятия решений о выборе повседневной одежды? Да, если речь идет о конкретном дне, но не о картине в целом. Если вы собираетесь носить одно и то же каждый день, лучше выбрать что-то подходящее для этой цели. Вы не можете позволить себе купить неудобную вещь, не подходящую для большинства ситуаций. Найти такую одежду нелегко. Скорее всего, каждый из них потратил немало времени на то, чтобы сделать окончательный выбор.

С этой точки зрения правила можно считать не столько способом отказа от принятия решения, сколько, наоборот, способом принятия упреждающего решения. Планируя что-то, мы делаем это постоянно. Мало кто решится отправиться в путь, не забронировав предварительно жилье, не выбрав обратный рейс и не потрудившись упаковать вещи. Опытные путешественники снижают когнитивную нагрузку, заранее готовя «дежурный набор» – туалетные принадлежности и зарядные устройства, предназначенные исключительно для поездок. По сути, это практика управления сроками и частотой принятия решений: на предварительную подготовку надо потратить какое-то время, но это заметно сэкономит издержки впоследствии.

Вкладывая деньги в отказ от принятия решения, взамен вы приобретаете привычки, и отказаться от них достаточно тяжело. Если они эффективны, то вы их даже не замечаете, а значит, не можете улучшить результат с помощью решений. Ценность ИИ в том, что он облегчает принятие решений, вместо которых пока действуют привычки и правила, и его разработчикам предстоит нелегкая борьба на этапе внедрения.

Любые инвестиции медийных лиц в привычку следовать определенному стилю в одежде меркнут по сравнению с вложениями, которые делают большинство предприятий и организаций в непринятие решений. Их операционная модель основана на отказе от принятия решений, хотя они стремятся создать себе совсем другую репутацию. В ее основе лежат стандартные операционные процедуры (СОП). Это подробные документы, описывающие порядок действий в организации. Очевидно, что в разных компаниях они различны, но ни один бизнес без них не обходится.

СОП избавляют от необходимости вновь и вновь изобретать колесо в плане принятия решений, тем самым снижая когнитивную нагрузку и ограничивая возможности личного выбора. Однако помимо этого у них есть еще одно преимущество – надежность. Если сотрудники следуют правилам, не приходится без нужды поддерживать затратные коммуникации – например, проводить совещания.

В строительной отрасли производственный процесс часто разбивается на отдельные этапы. Существует график, в котором перечислены все работы в порядке их выполнения. Их результаты планируются заранее. Каждый работник на стройплощадке думает исключительно о поставленной перед ним задаче. Завершив ее, он должен сообщить об этом, поставить галочку – и двигаться дальше. Бывают исключения, требующие изменений графика и пересмотра работ, но в основном все идет по плану. Каждый выполняет то, что должен, и отмечает выполнение.

Соблюдение этих правил гарантирует надежность, снижающую неопределенность и устраняющую необходимость активно координировать работы. По сути, решения принимаются заранее и отражаются в плане. Но само существование плана подразумевает, что изменения по ходу работ обходятся дорого. Пока возникающие проблемы невелики, все может идти своим чередом. Однако большая проблема может привести к общему срыву. А фиксированный набор СОП может затруднить внесение изменений и адаптацию. Как мы увидим далее, добавление ИИ в эту отлаженную систему правил сразу же вызывает проблемы. Смысл ИИ в том, чтобы дать возможность принимать решения, но после этого координировать их реализацию затруднительно.

Новые решения

Прогноз ИИ достаточно значим, поскольку предоставляет информацию, ценность которой оправдывает принятие решений на его основе вместо того, чтобы следовать правилам.

Новые решения заменяют старые правила. Но старые правила существуют не сами по себе. Чтобы оградить их от все еще существующей неопределенности, возводятся сложные сооружения и строительные леса. Это делают целые предприятия и даже отрасли. Таким образом, возможности для принятия новых решений бывают неочевидными. Задача в том, чтобы осознать это, выявить такие возможности и принять новые решения, способные заменить существующие правила. Далее мы рассмотрим, как это делается.

КЛЮЧЕВЫЕ МОМЕНТЫ

• Правила – это решения, принятые заблаговременно. Принятие решения, в отличие от следования правилу, позволяет учитывать информацию, имеющуюся на момент и в момент принятия решения. Поэтому действия на основе принятых решений часто оказываются лучше, чем действия, обусловленные правилами: они приняты с учетом текущей ситуации. Так почему же мы используем правила, а не принимаем решения? Принятие решений требует больших когнитивных затрат. Когда эти затраты оправдывают себя? Когда последствия принятия решений значительны и когда стоимость информации невелика. Внедрение ИИ не меняет последствий, но снижает стоимость информации.

• Выбор между правилами и принятием решений имеет решающее значение в контексте систем ИИ, поскольку основная польза от ИИ заключается в повышении эффективности принятия решений. ИИ бесполезен в системе, основанной на правилах. Его основная функция – генерировать прогнозы, а они, в свою очередь, составляют ключевой информационный ресурс для принятия решений. По мере того как ИИ становится все более мощным, он снижает стоимость информации (прогнозов) и повышает относительную отдачу от принятия решений по сравнению с использованием правил. Таким образом, развитие ИИ позволит переключиться на принятие решений вместо следования правилам.

• Правила не только требуют меньших когнитивных затрат, но и обеспечивают более высокую надежность. Одно решение часто влияет на другие. В контексте системы со взаимозависимыми решениями надежность имеет огромное значение. Например, в большинстве организаций используются СОП, которые представляют собой не что иное, как свод правил. СОП снижают когнитивную нагрузку и повышают надежность. Если вы собираетесь использовать прогнозирование с помощью ИИ для перехода от правил к решениям, то, возможно, придется перепроектировать систему с учетом снижения надежности.