Текст книги "От предвидения к власти. Как ИИ-прогнозирование трансформирует экономику и как использовать его силу в своих целях"

Глава 3. ИИ как технология прогнозирования

В нашей первой книге «Искусственный интеллект на службе бизнеса» мы рассмотрели простую экономику ИИ. Ознакомившись со всеми потенциальными сложностями и шумихой вокруг этой технологии, мы сосредоточились только на одном аспекте – прогнозировании. Сведение захватывающей новинки к ее менее сенсационной сущности – ключевой инструмент экономиста.

Когда люди думают об ИИ, они вспоминают о разумных машинах из массовой культуры. Представляют полезных роботов вроде R2-D2 или ВАЛЛ-И или гениальных помощников, таких как Дейта из «Звездного пути» или Д.Ж.А.Р.В.И.С из «Железного человека». Возможно, кому-то на ум приходят куда менее дружелюбные версии: ЭАЛ из «Космической Одиссеи 2020» или Альтрон из фильма «Мстители: эра Альтрона». Все эти воплощения ИИ, независимо от их особенностей или намерений, объединяет одно: они способны думать, рассуждать и действовать самостоятельно, как и мы.

Возможно, мы разработаем технологию, которой все это окажется под силу, но пока ее не существует. Мы имеем скорее прогресс в статистических методах, чем способный мыслить ИИ, но этот прогресс очень значительный. По мере раскрытия предсказательного потенциала ИИ затраты на прогнозирование неуклонно будут падать. А без прогностики не обойтись в любой сфере человеческой деятельности.

Знаковое событие последних лет в развитии ИИ – появление новых методов машинного обучения. Они доказали свои преимущества и известны как глубокое обучение. В 2012 году группа специалистов из Университета Торонто под руководством Джеффри Хинтона применила эту методику, чтобы значительно улучшить способность машин распознавать изображения. Используя набор данных из миллионов визуальных образов под названием ImageNet, специалисты почти десять лет пытались разработать алгоритмы, позволяющие точно определить объекты на картинке. В ImageNet каждое изображение снабжено аннотацией – словесным описанием. Идея заключалась в том, чтобы взять этот набор данных, использовать его для разработки алгоритма, а затем пропустить через алгоритм новые изображения. Затем между алгоритмом и человеком проводились бы соревнования по распознаванию объектов на картинках. Способности людей в этом деле не отличались совершенством, но до 2012 года значительно превосходили любой алгоритм. В 2012 году ситуация начала меняться.

В глубоком обучении идентификация визуальных образов рассматривается как проблема прогнозирования. Цель в том, чтобы, получив новую картинку, машина умела определить, что на ней изображено с точки зрения человека. Если это фотография щенка, то задача не в том, чтобы понять, действительно ли это щенок. Вместо этого нужно угадать, какая из имеющихся аннотаций точнее всего соответствует этому изображению. Таким образом, машина должна выбрать наиболее вероятное правильное описание, которое становится своего рода прогнозом. Учитывая огромное множество атрибутов и их комбинаций, это сложнейшая вычислительная задача. В своих исследованиях команда из Торонто показала, что глубокое обучение превосходит любой другой прогнозный алгоритм и в конечном счете большинство людей.

Из сказанного можно сделать вывод, что машина угадывает наобум, а не решает задачу. Но если даже и так, то ее способности намного мощнее, чем у человека. Машинное прогнозирование полезно тем, что оно точнее, чем любое другое. А прогноз – это ключевой фактор принятия решений.

Дополняя прогнозирование

Процесс принятия решений основан не только на прогнозировании. Чтобы понять, насколько оно важно, рассмотрим две другие ключевые составляющие этого процесса: суждения и данные.

Объясним на примере, что такое суждение. В фильме «Я, робот» детектив Дел Спунер живет в будущем, где роботы служат людям. Герой ненавидит их, и на этом построена большая часть сюжета. О причине ненависти мы узнаём из предыстории. Когда-то Спунер попал в аварию: его автомобиль и другая машина, в которой ехал мужчина с двенадцатилетней дочерью, сорвались с моста и оказались в воде. Оценив шансы людей на выживание, робот спас Спунера, а не девочку. Детектив считает это решение преступным и с тех пор не доверяет искусственному разуму.

Герой мог проверить ход рассуждений робота, по оценкам которого вероятность выжить составляла 45 % для детектива и лишь 11 % для девочки. Времени хватало на спасение только кого-то одного, и робот выбрал Спунера. Дел же уверен, что 11 % – это более чем достаточно, и человек в такой ситуации попытался бы спасти девочку.

Может быть. Это представление о суждении – процессе, в ходе которого оценивается отдача от конкретного действия в конкретных условиях. Если спасение девочки – правильное решение, то отсюда следует, что, по мнению Спунера, ее жизнь в четыре с лишним раза ценнее, чем его собственная. Даже зная, что у нее было 11 % шансов выбраться, а у него 45 %, человек делал бы выбор, исходя из относительной ценности их жизней. Робот же, по всей видимости, был запрограммирован на то, чтобы считать все человеческие жизни одинаково ценными. Если мы используем прогнозную машину, следует формулировать суждение как можно четче.

Корреляция и причинно-следственные связи

Данные – это информация, на основе которой делается прогноз. Он тем точнее, чем больше высококачественных данных получает ИИ. Под качеством мы понимаем использование данных в контексте разработки прогноза. Статистики называют это необходимостью предугадывать при «поддержке» данных. Если извлечь из массива данных слишком много информации, прогноз может оказаться неточным.

Предсказывать на основе имеющихся данных сложнее, чем собирать информацию из широкого круга источников, ведь вам нужно избежать неоправданной экстраполяции и установить реальный горизонт прогнозирования. Иногда нужных данных не существует вовсе. Именно поэтому, в какой стране мира вы ни проходили бы курс статистики, вас непременно предупредят: корреляция – это не обязательно причинно-следственная связь.

В производстве игрушек в США существует сильная корреляция между рекламой и доходами. Расходы на рекламу резко возрастают к концу ноября и остаются высокими примерно в течение месяца. В этот период игрушки разлетаются с прилавков. Уже только на основании этих данных может возникнуть соблазн увеличить объем рекламы в остальное время года. Например, если в апреле потратить на нее столько же, сколько за месяц до Рождества, доход тоже должен бы вырасти.

Но этого не происходит. Расходы на рекламу игрушек в апреле значительно ниже, чем в декабре. Это означает, что прогнозируемые последствия увеличения рекламных расходов в апреле нельзя подтвердить фактическими данными. Корреляция между помесячной выручкой и вложениями в рекламу не означает, что последние способствуют росту продаж. Что, если близость Рождества влияет и на потребительское поведение, и на рекламную активность? Есть вероятность, что корреляция носит причинно-следственный характер, поэтому с увеличением расходов на рекламу в апреле продажи резко вырастут. Также может быть, что большая часть продаж в декабре обусловлена вовсе не рекламной коммуникацией. Вдруг это предвкушение Рождества стимулирует и рекламу, и продажи? Возможно также, что продажи в декабре действительно возрастают благодаря рекламе, но в апреле ее эффект в любом случае будет незначительным, так как обычно в этом месяце потребители покупают гораздо меньше игрушек.

Другими словами, прогнозные машины сами по себе не дают информации о том, что произойдет с апрельскими продажами игрушек, если изменить рекламную стратегию. Чтобы обнаружить взаимозависимость, необходимо обратиться к другому типу статистических исследований – анализу причинно-следственных связей. Как и в сфере ИИ, в этой области за последние несколько лет также удалось добиться значительного прогресса (подтверждение тому – Нобелевская премия по экономике 2021 года). Все очевиднее, что эти инструменты дополняют ИИ: поставляют ему данные, необходимые для эффективного прогнозирования во многих ситуациях. Это признают ведущие мировые компании в области ИИ. Например, из трех нобелевских лауреатов 2021 года двое работали в компании Amazon. Гвидо Имбенс – не только профессор Стэнфордского университета, но и научный сотрудник команды Core AI, а Дэвид Кард преподает в Калифорнийском университете в Беркли и получает от Amazon финансирование для своих проектов.

Проблемы анализа причинно-следственных связей ограничивают полезность ИИ теми сферами деятельности, где можно собрать соответствующие данные. ИИ очень эффективно справляется с играми, включая шахматы, го и Super Mario Brothers. Правила каждый раз одни и те же, поэтому нет необходимости экстраполировать данные прошлых игр на нынешние. Более того, можно проводить имитационные эксперименты для ранее не встречавшихся сценариев, поскольку игры – это программное обеспечение. Эксперименты позволяют ИИ расширить базу данных, изучить, что произойдет, если нажать другую кнопку или попробовать новую стратегию. Именно так AlphaGo и AlphaGoZero – приложения компании DeepMind – обнаружили выигрышные стратегии в игре го, которых не нашли даже участники соревнований высокого уровня. В DeepMind провели миллионы имитационных экспериментов, и машина научилась предсказывать выигрышные стратегии, моделируя, что произойдет, если попробовать несколько различных подходов.

Во многих ситуациях в бизнесе данные доступны. Если нет, то их часто можно получить из экспериментов. Эксперименты в бизнесе занимают больше времени, чем в играх, поскольку проводятся с учетом быстроты мышления человека, а не скорости проведения симуляции, доступной для компьютера. Тем не менее это мощный инструмент, позволяющий собирать полезные исходные данные для ИИ.

В статистике рандомизированное исследование – основной инструмент выявления причинно-следственных связей. Это золотой стандарт при испытании новых медицинских препаратов и методов лечения. Пациенты случайным образом распределяются по двум группам: одни получают лекарственное средство, другие – плацебо. Хотя группы не идентичны – все люди разные, – различия представляют собой результат случайного отбора. При достаточном количестве участников в каждой группе можно сделать вывод о том, какой результат дало то или иное лечение. Если эксперимент организован правильно, то по собранным данным можно судить о причинно-следственной зависимости, а не просто о корреляции.

Иногда симуляция не позволяет получить рандомизированные или даже квазирандомизированные данные. Крайнее проявление такой ситуации – использование ИИ в военных условиях. Вначале может показаться, что военные условия идеальны для применения машинных средств. Как писал в XIX веке военный теоретик Карл фон Клаузевиц, «Война – это область недостоверного». Прогнозирование уменьшает неопределенность и тем самым обеспечивает существенное боевое преимущество. Однако проблема в том, что в войнах участвуют две противоборствующие стороны: если «ИИ найдет оптимальное решение какой-либо задачи, то у интеллектуального противника появится стимул изменить ее». Противник пересмотрит исходные условия, и данные мирного времени окажутся малопригодными. То же справедливо и для бизнеса. Прогнозы будут работать при отсутствии конкурента, у которого есть стимул опровергнуть ваши прогнозы, или клиента, у которого есть стимул их обойти. Если потребитель может добиться большего, перепроектировав ключевые составляющие вашего ИИ и скормив ему ложную информацию, то машинный интеллект будет служить вашим целям только до тех пор, пока потребитель не узнает, как он работает. Когда прогнозы не подтверждаются данными и возникают проблемы с причинно-следственными связями, то решение, сначала казавшееся точечным, в итоге оказывается системным. Тем не менее для 11 % компаний, которые уже увидели пользу от ИИ, прогнозы опираются на имеющиеся данные, поэтому точечное решение на машинной основе показывает себя просто отлично.

Суть прогнозирования

Рассмотрим решение о проведении или об отказе от финансовой операции. Ключевой момент в его принятии – прогнозирование мошенничества. Именно на этом основана деятельность компании Verafin. Предлагается транзакция, включающая запрос на платеж, то есть перевод средств с одного счета на другой. Если транзакция одобрена, деньги переходят в другие руки, что приводит к обмену реальных товаров и услуг. Если операция отклонена, деньги остаются у владельца, что препятствует перемещению реальных товаров и услуг. Тот факт, что сделка вообще требует одобрения платежа, объясняется тем, что ошибки дорого обходятся. Если разрешить транзакцию, которую проводит человек, не владеющий счетом, это повлечет за собой целый ряд обязательств и проблем. Но отклонение легитимной транзакции нарушит реальный обмен товаров и услуг, лежащий в основе хозяйственной деятельности.

Вероятно, вы решите, что в таком случае нужна система, полностью исключающая ошибки. Однако проблема не в том, чтобы избежать упущений. Проведя тщательный анализ и потратив на это достаточно времени, банк, скорее всего, добьется успеха. Проблема заключается в том, что полное исключение ошибок требует огромных затрат. Транзакции замедлятся, комиссионные за них возрастут, и, кроме того, банковские операции станут неудобными. В конце концов, если так дорого обходится изменение записей на счетах, совершаемое при помощи цифровых сообщений, то не лучше ли вернуться к старым добрым наличным и расплачиваться прямо в момент сделки?

Вместо этого банки играют в угадайку, чтобы заставить систему работать. Им требуется оценить вероятность ошибок. Если слишком жестко подходить к одобрению транзакций, то есть риск отклонить многие законные операции и получить в итоге недовольных клиентов. Если же придерживаться слишком мягкого подхода, это развяжет руки мошенникам. Кроме того, затруднится возврат неправомерно потраченных средств, что напрямую скажется на прибыли банка. Таким образом, необходимы определенные стандарты жесткости, чтобы сбалансировать потенциальные – и неизбежные – ошибки. ИИ – это средство, с помощью которого банки лучше играют в угадайку и сокращают количество ошибок. Как экономисты, изучающие новые разработки в области ИИ за последнее десятилетие, мы видим свою роль в том, чтобы отсечь шумиху. ИИ привлекает внимание философов, кинематографистов, футуристов, предсказателей судьбы и многих других людей, которые могут оживить беседу на званом ужине. Но наша роль состоит в другом. Если отталкиваться от недавних достижений компьютерной науки, то все разработки в области ИИ с такими причудливыми названиями, как нейронные сети, машинное обучение, глубокое обучение или состязательная оптимизация, направлены на достижение прогресса в области статистики, а именно статистики прогнозов. Таким образом, ИИ, по сути, не борется с мошенничеством, а совершенствует способность банков отделять законные операции от мошеннических с гораздо меньшими затратами – то есть с помощью прогнозирования.

ИИ в наши дни – это инструмент прогнозирования, и не более того. Компании Verafin требовалось именно это. Современные системы платежей значительно автоматизированы. Необходима высокая степень уверенности в том, чтобы получить одобрение транзакции. Именно в этой ситуации на помощь приходит искусственный интеллект. Он использует весь имеющийся у банков объем информации о клиентах, моделях поведения, времени и месте проведения операций и вырабатывает на ее основе прогноз законности транзакции. За последние два десятилетия точность прогнозов повысилась. В настоящее время широко распространены инструменты ИИ для выявления мошенничества в сфере банковских и финансовых услуг. По отзывам компаний, точность этих инструментов заметно прогрессирует.

Бизнес Verafin – это прогнозирование, и, поскольку ИИ представляет собой большое достижение в области прогностических технологий, эта и подобные ей компании, несомненно, станут его первыми бенефициарами. Банки и прочие финансовые учреждения также широко используют прогнозирование. Одобрение или отклонение транзакций – суть их бизнеса. Чем эффективнее принимаются такие решения, тем эффективнее деятельность самих организаций, которые задействуют всю доступную им информацию. Как выяснилось, компания Verafin сумела аккумулировать необходимые данные, используя свои техники обучения и совершенствования алгоритмов на основе транзакций, проводимых тысячами финансовых учреждений и их клиентов.

Лидерство на рынке прогнозирования дается непросто. У компании Verafin на это ушло почти два десятилетия. Но суть в том, что прогнозирование всегда было и остается ее бизнесом, а искусственный интеллект открыл перед ней новые возможности его развития.

Прогнозирование – это еще не всё

Эта книга не о таких компаниях, как Verafin. Но мы вспомнили о кейсе потому, что он иллюстрирует скорее исключение, чем правило, в деле внедрения и оценки роли ИИ. В Verafin все сложилось удачно. Во-первых, прогнозирование – главная функция ИИ – стало основой ее бизнеса. Во-вторых, клиенты, то есть финансовые организации, без проблем перешли на продукты Verafin, поскольку бизнес для этих компаний также базируется на прогностике. В-третьих, такие клиенты строят свои решения на прогностике, знают, что с ней делать и как бороться с последствиями ошибок. Таким образом, условия для внедрения ИИ созрели. Банки были готовы к внедрению точечных решений.

В итоге Verafin оказалась в системе, благоприятствующей внедрению ИИ. Чтобы использовать прогнозирование, системный подход не требовался. Не нужно было создавать новый способ принятия решений. Компания уже поставляла свой продукт клиентам, которые знали, что им нужно, как это использовать, и, что особенно важно, умели выбирать дальнейшие действия на основе этих прогнозов.

Verafin – пример бизнеса, успешно добравшегося до последнего этапа процесса, который грозил оказаться наиболее сложным для большинства компаний, способных извлечь выгоду из внедрения ИИ сейчас и в будущем. Если ваш бизнес собирается внедрить ИИ, то, скорее всего, сначала придется выкорчевать заросли, а то и целый лес устаревших функций. В книге мы расскажем, как расчистить место: что необходимо изменить, какие дилеммы и проблемы возникнут в процессе этих изменений. Мы имеем в виду трансформацию на уровне системы, а не точечные или прикладные решения, которые не требуют коренных преобразований. Чтобы решить, связываться ли с внедрением ИИ, следует хорошо понимать, что вам предстоит.

В чем проблема?

Одна из наиболее упоминаемых частей нашей предыдущей книги была написана на основе мысленного эксперимента. Компания Amazon использует ИИ для прогнозирования потребностей конкретных потребителей. Когда вы совершаете покупки на сайте Amazon, выбор рекомендуемых товаров из каталога, насчитывающего десятки миллионов наименований, производится на основе этого прогноза. Вы просматриваете рекомендации и оформляете заказ, который передается в службу доставки. С момента визита на сайт до получения товара проходит несколько дней.

В связи с этим мы задались вопросом: что изменится, если прогнозы покупательских предпочтений станут намного более точными? Что, если Amazon сэкономит вам эти несколько дней? В компании попытаются угадать нужный вам товар и доставят его к вашей двери – вам останется только принять его или отказаться. То есть Amazon отправляет товары на основании собственных прогнозов, а затем вы забираете то, что вам нужно, из коробок, принесенных к вашему порогу. Мы это называем переходом от принципа магазин – доставка к принципу доставка – магазин. Нетрудно представить, насколько это удобно (хотя кому-то может показаться, что внезапно обнаружить за дверью коробку – это несколько жутко).

Переход к системе доставка – магазин мы считаем прикладным вариантом. В этом случае Amazon принимает решение о доставке, а не предоставляет клиенту самому выбирать, отправлять ли товар. Многие люди считают, что ходить по магазинам весьма обременительно, поэтому более точный прогноз позволяет предложить покупателю такую услугу за небольшую плату.

Пока еще Amazon до этого не дошла, но некоторые шаги предприняла. Компания уже запатентовала идею «опережающей доставки», однако ее реализация на практике откладывается. Например, компания регулярно предлагает потребителям не заказывать товар, а подписаться на него. Каким образом? Amazon отслеживает, сколько туалетной бумаги вы закупаете, и обещает поставлять ее через регулярные промежутки времени. В результате компания гарантирует себе спрос, а часть экономии передает потребителям в виде скидок за подписку.

Однако при переходе от идеи к практике становится понятно, почему внедрение системы доставка – магазин сталкивается с серьезными трудностями. Если прогнозы идеальны, то реализовать ее нетрудно. Но прогнозы несовершенны и вряд ли когда-то станут совершенными. Следовательно, Amazon необходимо организовать систему возврата товаров, от которых отказались потребители. Достаточно сложно доставить товар в целости и сохранности, а тем более забрать его обратно. Кроме того, это дополнительные хлопоты для покупателей. Таким образом, не имея системы практически беззатратного возврата товаров, Amazon вряд ли приступит к реализации этой идеи. Действительно, у компании уже сейчас столько проблем с возвратами, что многие поступившие от покупателей товары никогда не перепродаются, а сразу отправляются в мусорный бак. При нынешней организации работы Amazon дешевле их выбросить, чем возвращать на склад. Отсюда вывод: решение доставка – магазин кажется прикладным, но, чтобы оно было экономически выгодным, необходимы изменения в других компонентах системы. Хотя мы не осознавали этого во время работы над книгой «Искусственный интеллект на службе бизнеса», но идея доставка – магазин носит системный характер, поскольку влияет на другие ключевые решения и требует перестройки работы, чтобы Amazon не теряла на возвратах.

Что дальше?

«Хорошо, а что дальше?» Именно этот вопрос задавали нам на многих предприятиях и в организациях, начинающих внедрять технологии ИИ. Эти компании уже слышали о шумихе вокруг машинного интеллекта и воспользовались планом действий, предложенным нами в предыдущей книге. Они собрали команды, которые изучали предстоящие задачи и оценивали пути их решения с помощью прогнозирования – той самой возможности, которую предлагает ИИ. Прогнозирование – это процесс, в ходе которого информация преобразуется из имеющейся в необходимую. Как следует из этой книги, все последние инновации в области ИИ направлены на то, чтобы оно стало более качественным, быстрым и дешевым. Результаты их внедрения настолько широко распространены, что мы уже даже не задумываемся о них. Ваш смартфон оснащен технологиями ИИ. При разблокировании он легко распознает ваше лицо. Вы даже не чувствуете, что смартфон защищен надежным барьером, через который пропускает только вас. На главном экране расположены приложения, отобранные на основе прогноза о том, что вам понадобится в данный момент. Вы находитесь рядом с любимой кофейней и хотите сделать заказ? Вы в машине и хотите составить маршрут поездки? Смартфон все это умеет, но у вас создается впечатление, что он просто удобен. Дело в том, что все находящиеся под рукой возможности применения ИИ уже использованы. Бизнес задается вопросом «И это всё?».

Ответом будет «нет», и мы объясним почему. Несмотря на то что ИИ, как и многие другие прорывные технологии, получил повсеместное распространение, его развитие только начинается. Такие революционные технологии, как электричество, двигатель внутреннего сгорания и полупроводники, внедрялись медленно, десятилетиями. Прогнозирование на основе ИИ ждет такая же судьба, несмотря на чрезмерно оптимистичное мнение, что он якобы представляет собой готовый рецепт ускорения технологических изменений.

Вместо того чтобы кататься на американских горках по прихоти неподвластных нам сил, мы должны осознать, что сейчас – в период межвременья – перед нами открываются новые возможности. Определять путь развития ИИ будут люди и компании, способные ответить на вопрос «Что дальше?».

Мы экономисты, поэтому ищем ответ в своей сфере. Однако мы выходим за рамки простой экономики, где снижение стоимости прогнозирования означает рост количества способов его применения. Вместо этого мы исходим из очевидного факта: способ принятия решений людьми и предприятиями – это не магическое упражнение, позволяющее быстро подобрать оптимальный вариант, это процесс, который предполагает обдумывание, определенную процедуру и затраты. Чтобы воспользоваться преимуществами прогнозирования, необходимо задуматься над тем, для чего его использовать. Также стоит иметь в виду, что лица, принимающие решения (ЛПР), раньше как-то обходились без него. Когда у вас чего-то нет, вам не от чего отказываться. Вы каким-то образом компенсируете это отсутствие. Если нет информации, необходимой для осознанного выбора, вы ограждаете себя от последствий, к которым могут привести действия вслепую. Поэтому неудивительно, что возможности использования ИИ становятся очевидными не сразу после его появления. Те, кто принимает решения, привыкли делать выбор, не имея всей информации.

Все это означает, что для ответа на вопрос «Что дальше?» надо не только тщательно изучить возможности прогнозирования, но и понять, что мешает людям задать этот вопрос. Мы разложим решения по полочкам и предоставим вам набор инструментов, позволяющих распознать не только явные преимущества машинного прогнозирования, но и его скрытые – потенциально более значимые – возможности.

КЛЮЧЕВЫЕ МОМЕНТЫ

• Последние достижения в области ИИ привели к снижению стоимости прогнозирования. Мы используем прогнозы для получения информации из внутренних баз данных (например, о том, встречались ли мошеннические финансовые операции в прошлом) и генерирования данных, которые нам нужны, но отсутствуют (например, является ли текущая финансовая операция мошеннической). Прогнозирование – исходный материал для принятия решений. Когда стоимость исходных данных снижается, мы задействуем их больше. Поэтому по мере удешевления прогнозирования ИИ будет использоваться все интенсивнее и одновременно будет падать стоимость его заменителей – например, ручного прогнозирования. В то же время ценность элементов, дополняющих машинное прогнозирование, будет расти. Два основных дополнения к машинному прогнозированию – данные и суждения. Мы используем данные для обучения моделей ИИ. Для принятия решений мы используем суждения, а также прогнозы. Если прогноз – это оценка вероятности, то суждение – это выражение намерения, то есть того, что мы хотим. Поэтому, принимая решение, мы оцениваем вероятность каждого возможного результата принятия решения (прогноз) и его важность для нас (суждение).

• Возможно, самая большая ошибка в использовании прогнозов ИИ заключается в том, что выявляемые ими корреляции принимаются за причинно-следственные связи. Часто выявления корреляции достаточно для решения прикладных задач. Однако если требуется, чтобы ИИ установил причинно-следственные связи, то приходится использовать рандомизированные эксперименты для сбора соответствующих данных. Такие эксперименты – лучший инструмент для статистиков, позволяющий выяснить, где причина, а где следствие.

• В книге «Искусственный интеллект на службе бизнеса» мы описали мысленный эксперимент, касающийся системы рекомендаций товаров и услуг на Amazon. Мы представили, что произойдет, если точность рекомендаций будет повышаться. Вначале она будет лучше выбирать товары для рекомендации покупателям. Однако затем наступает переломный момент: точность прогнозирования потребностей покупателей возрастает настолько, что сотрудники Amazon задаются вопросом: «Если наши прогнозы настолько точны, то зачем ждать, пока они это закажут? Давайте просто отправим товар». Компания Amazon подала заявку на патент идеи так называемой опережающей доставки, но пока не перешла на эту новую бизнес-модель. Почему? Первоначальное точечное решение – ИИ, обеспечивающий лучшие рекомендации на существующей платформе, – функционирует в рамках имеющейся бизнес-модели Amazon. Новая бизнес-модель потребует от Amazon коренной перестройки, особенно в части обработки возвратов товаров. В настоящее время система возврата настолько затратная, что часто оказывается выгоднее выбросить возвращенный товар, чем везти его на склад для продажи другим покупателям. Достижение переломного момента в нашем мысленном эксперименте требовало перехода от точечного решения к системному. В книге «Искусственный интеллект на службе бизнеса» мы недооценили разницу.