Текст книги "Конец индивидуума. Путешествие философа в страну искусственного интеллекта"

Порой я спрашиваю себя, не могла бы одна строка из Паскаля заменить все эти горы сухой экономической литературы: «Все несчастье людей проистекает из одной-единственной вещи, а именно из неумения оставаться в покое, в своей комнате». Хорошо это или плохо, но нам нужно развлекаться. Мы создаем деятельность. Если бы машина избавила нас от всякого усилия и всякого труда, мы были бы обречены на худшие из метафизических мучений. Чтобы убежать от жгучей мысли о смерти, мы всегда будем находить блага, которые еще нужно произвести, и услуги, которые еще предстоит оказать…

Даже если считать разрушение созидательным, вопрос о его масштабе все равно не исчезает. Пусть безработица всего лишь временная, все же необходимо понять, кто от нее пострадает, чтобы разработать соответствующую государственную программу. Действительно ли ИИ вытеснит всю деятельность, которой мы сегодня заняты? Кто избежит этого, по каким критериям их определять? В моих странствиях по Сан-Франциско мне попалась машина, которая любезно информировала посетителя о вероятности того, что его работу в ближайшие двадцать лет отберет робот. Что касается «писателей и авторов», у нас еще есть время: вероятность составляет всего 3,8 %. Однако наши коллеги судьи, врачи и банкиры должны задуматься: с вероятностью более чем в 50 % им придется менять профессию. Но как обстоит дело в реальности? Как разобраться в фантастических цифрах, которые легко попадают в заголовки газет? Я пообещал своему кузену, радиологу из Руана, вернуться из этого путешествия с четким ответом на вопрос о будущем его профессии, которую часто относят к числу наиболее «автоматизируемых»: говорят, что ИИ скоро сможет сам ставить диагноз, тогда как врач превратится в вежливого гида для пациента. Но дни шли, я читал все больше и больше разных исследований, выслушивал противоречивые объяснения и начал бояться, что не смогу выполнить это обещание.

Однажды вечером, вернувшись со своего ежедневного марафона, я перечитал свои заметки, закапывая себе капли в ухо (возможно, читатель еще помнит о моем отите). Для этого мне пришлось наклонить голову в сторону, а тетрадь повернуть на 90 градусов. Эта необычная поза несколько изменила привычный для меня способ чтения и заставила обратить больше внимания на цифры, написанные на левой странице, где я оставлял ссылки на источники, которые мимоходом упоминали мои собеседники. Именно поэтому меня привлекло краткое упоминание: «Д. Отор, парадокс Поланьи». И тут мне очень повезло… Благодаря этой ссылке я наконец нашел достаточное в концептуальном плане определение того, что значит «автоматизируемый».

Дэвид Отор – экономист из MIT. Несколько лет назад он опубликовал глубокую и вполне понятную научную статью, без уравнений и цитат, которая, как мне показалось, полностью проясняет вопрос автоматизации[69]69
  Autor D.H. Polanyi’s Paradox and the Shape of Employment Growth. 2014. Эта статья представлена в одном из подкастов EconTalk, см. URL: http://www.econtalk.org/david-autor-on-the-future-of-work-and-polanyisparadox


[Закрыть]. Начинает он с внешне вроде бы невинного наблюдения венгерского экономиста Карла Поланьи: «Мы знаем больше, чем можем выразить». Так, нажимая на педали, мы не смогли бы объяснить наши движения, а тем более физические законы, управляющие ими. Наши повседневные действия предполагают едва ли не бесконечную сумму неявных знаний. То есть мы применяем своего рода тайную эвристику, составленную из невидимых правил и бессознательных процедур. Парадокс Поланьи в каком-то смысле равноценен нашему месье Журдену, который говорил прозой, но не знал об этом.

Вот этот парадокс и задает четкие границы автоматизации. В самом деле, как инженеры могут запрограммировать компьютер, который бы моделировал процесс, неизвестный им самим во всех подробностях? Код опирается на представление, данное в явном виде. Чем сложнее разбить определенную задачу на отдельные этапы, тем с меньшей вероятностью ее сможет выполнять робот. Сложная среда с неточными параметрами бросает серьезный вызов алгоритмам, даже когда людям она кажется очевидной и «естественной». Парадокс Поланьи относится, таким образом, к сложным функциям, требующим интуиции и творческих способностей (например, таким как речь адвоката), но также и к более скромным видам деятельности, требующим адаптации к изменчивым ситуациям или к непредсказуемым человеческим взаимодействиям (таким как обслуживание в ресторане).

Для решения этих проблем специалисты по компьютерным наукам могут двигаться в двух направлениях. Первое – это упрощение среды. Если мы не можем окликнуть официанта, а должны занимать очередь нажатием кнопки, если мы больше не имеем возможности заменить картофель фри салатом или сделать из закуски основное блюдо, если, наконец, клиент должен выбирать вино самостоятельно, без долгих объяснений, тогда работу официантов, может быть, и правда автоматизируют. Но зачем вообще ходить в ресторан при таких условиях? Второй вариант, более перспективный, – дать возможность машине самой учиться. К этому и сводится идея «обучения без учителя», то есть техника обучения, при которой алгоритм получает минимальные инструкции и выводит свои собственные правила на основе актуальной среды. Так, в MIT я видел программу, которая учится говорить «как ребенок», выслушивая истории, связанные с определенными картинками[70]70
  Этот метод «естественной обработки языка» разработан исследователем Джимом Глассом, цель которого – улучшить перевод между 7000 языков, на которых все еще говорят в нашем мире.


[Закрыть]. Точно так же знаменитая программа AlphaZero, разработанная компанией DeepMind, учится играть в шахматы и в го, попросту играя против самой себя, безо всяких внешних инструкций. Компьютеру, следовательно, больше не нужно усваивать формальные правила, поскольку он может, опираясь на методы статистического вывода, выработать определенную форму правильной интуиции. Но, как отмечает Дэвид Отор, даже лучшему алгоритму всегда будет сложно определять цель: например, что стул сделан, чтобы сидеть, тарелка – чтобы есть, а шахматная доска – чтобы играть. Его способность к имитации будет создавать убедительную иллюзию лишь до тех пор, пока внезапное изменение в среде не заставит его подать мясо по-бургундски на стуле. AlphaZero сможет побить Каспарова, но вряд ли ему удастся поднести яйцо под майонезом к столику номер пять.

Итак, угроза автоматизации окажется тем более далекой, чем больше задача будет требовать, как говорит Дэвид Отор, «гибкости, суждения и здравого смысла». Вот тут-то снова и появляется здравый смысл, который дал нам ключ к интеллекту! И это неслучайно. Вспомним, что здравый смысл, то есть функция, тесно связанная с нашим биологическим гомеостазом, позволяет схватывать значение окружающего мира, смешение понятий и цели. Он по самой своей сути недоступен для вычислительных способностей, имеющихся у ИИ. Тем самым он ставит окончательный предел сверхинтеллекту как продукту прогресса автоматизации. Никакой ИИ не сможет понять сущность того, что такое ресторан, – в том смысле, в каком понимание предполагает ментальное воссоздание сенсорного опыта и в то же время способность к концептуализации.

Тест, позволяющий узнать, нависла ли угроза над вашей собственной работой, определяется, следовательно, не столько «повторяемостью», сколько здравым смыслом. Официант выполняет работу, во многом состоящую из повторяющихся операций (он работает в одни и те же часы, в одном месте, принимает одни и те же заказы). Однако в ней постоянно задействуется здравый смысл: ему нужно импровизировать и выносить бесчисленное множество суждений, для которых требуется едва ли не весь объем человеческого опыта, начиная со способности залезть в голову клиента и заканчивая оценкой настроения шеф-повара. И наоборот, бухгалтер может заниматься эмоциональным делом, работая в различных секторах и участвуя в самых разных встречах, – но если в итоге он должен упорядочивать цифры в соответствии со строгими инструкциями, абстрагируясь от собственных чувств, то робот, возможно, справится с этой задачей лучше.

Вооружившись этим ценным критерием, я смог отправиться к рентгенологам, чтобы получить ответ на вопрос моего кузена. И разве можно найти лучшего консультанта по этому вопросу, чем доктор Кертис Ланглоц, директор Центра ИИ по рентгенологии в университете Стэнфорда?

Стэнфордский университет, находящийся в географическом центре Кремниевой долины, в получасе от Сан-Франциско и 15 минутах от Пало-Альто, является и центром мировых инноваций. Новичку очень странно ехать вдоль разбросанных в огромном естественном ландшафте зданий из камня цвета охры, увенчанных красной черепицей. Аллеи, окаймленные пальмами, обширные газоны сложной формы, островки калифорнийских дубов – и везде полно скульптур Родена. Студенты живут в гигантском парке, представляем нечто среднее между полем для гольфа и ботаническим садом. Словно бы технологии нужно было сделать здесь вдох, чтобы потом отправиться в городской водоворот стартапов и исследовательских центров. Стэнфорд был построен в стиле mission revival конца XIX века, который прямо вдохновлялся испанскими миссиями. Жарким калифорнийским летом можно подумать, что ты попал в вестерн. Так и ждешь, что из-за арки выскочат мексиканские бандиты в сомбреро и с патронташами через плечо.

Мираж быстро рассеивается: в небольшой зал в Стэнфордском госпитале входит доктор Ланглоц в очках с черепаховой оправой и клетчатой рубашке. Он профессор рентгенологии (специалист по рентгенографии грудной клетки), а также защитил диссертацию по компьютерным наукам на тему «Модель решения при эвристическом планировании». Значительную часть своей карьеры он еще с 1980‐х годов посвятил разработке информационных программ интерпретирования медицинских изображений. Если этот человек не сможет ответить на мои вопросы, то кто тогда?

Я пытаюсь не заблудиться в дебрях медицинской и информационной терминологии. По словам Ланглоца, способности ИИ постоянно растут: сначала это были чисто символические модели (такие как дерево решений, которое управляет каждым шагом машины), а теперь, в последнее десятилетие, это заново открытые нейронные сети. Доктор Ланглоц сотрудничал с самыми известными исследователями в области ИИ, такими как Фей-Фей Ли и Эндрю Нг. В частности, он создал алгоритм для автоматической оценки возраста костей на основе миллионов размеченных снимков, которые хранятся на серверах. Эти инновации, как и любое другое медицинское средство, должен одобрить американский регулятор[71]71
  Федеральное агентство по управлению лекарственными препаратами (FDA).


[Закрыть].

Диагностика не всегда надежна, однако сама эта неопределенность должна выражаться во вполне точных категориях, чтобы рентгенолог мог взвесить разные вероятности. Рентгенографический комментарий должен быть как можно менее литературным и исключать все смутные термины, иначе он не сможет достичь максимальной объективности (кажется, особое неприятие доктор Ланглоц питает к прилагательным). Конечно, техники машинного обучения мешают врачу-клиницисту оценивать конкретные основания, оправдывающие тот или иной диагноз, в силу отсутствия полной «объяснимости» рассуждения, выполненного ИИ, – но не является ли медицина как таковая эмпирической наукой?

Тем не менее доктор Ланглоц нисколько не боится, что его заменят собственные создания. Это старая мечта… Еще на заре МРТ, сложных изображений, получаемых путем магнитного резонанса, инженеры хотели обойтись без рентгенологов и напрямую передавать результаты врачам. Но они быстро осознали необходимость человеческой интерпретации. В случае ИИ разработка и усовершенствование алгоритмов требуют сегодня и будут требовать в будущем значительной работы по маркировке изображений: так, доктор Ланглоц вывозит своих студентов в «бут-кампы маркировки», где медицинские базы данных анализируются по цепочке человеческими глазами и умами, прежде чем их передадут машине. Как мы уже выяснили в предыдущей главе на примере стартапа медицинских визуализаций VoxelCloud, традиционные формы восприятия и знания остаются необходимыми на первых этапах, даже если они становятся невидимы, как только алгоритм «созреет». Эта работа по маркировке никогда не закончится: она продолжается и утверждается по мере того, как развивается сама наука. Чтобы заменить рентгенологов, нужно… выпускать рентгенологов!

На более фундаментальном уровне рентгенолог остается нужным для того, чтобы, как сказал доктор Ланглоц, «синтезировать» полученную информацию. Компьютер лучше человека способен искать иголку в стоге сена или же раковую клетку среди миллионов здоровых, однако человек все равно будет лучше реагировать на конкретные обстоятельства, выявлять неожиданные болезни, отбрасывать ненужные данные или придумывать оригинальные гипотезы. Медицинские алгоритмы остаются специализированными и не схватывают человеческое тело как целое; еще хуже они справляются с историей пациента. В силу самой их природы им недостает медицинского здравого смысла, способного к концептуализации и ассоциациям. Вот почему доктор Ланглоц, как и Каспаров, проповедует тесное сотрудничество человека и машины, в котором рентгенологи должны уметь работать с ИИ, который они будут контролировать. Так что мой кузен останется доволен: здравый смысл обещает ему долгие годы практики, и при этом они станут еще более интересными благодаря прогрессу алгоритмов.

Логический вывод из слов доктора Ланглоца состоит в следующем: ИИ преобразует все профессии, как это уже случилось при появлении интернета… но наши профессиональные вселенные останутся сравнительно неизменными. После 1950‐х годов механизация перевернула все сферы деятельности, но ни одна не исчезла полностью, если не считать лифтеров[72]72
  Bessen J. AI and the Role of Demand. 2015.


[Закрыть].

Можно было бы привести множество примеров, подтверждающих это абсолютно разумное предсказание. Приведу последний, на этот раз из области финансов. Когда «алгоритмический трейдинг» уже в значительной степени захватывает биржи, то и дело всплывает один и тот же вопрос: будут ли решения о размещении капиталов и инвестициях полностью переданы машинам?

На этот раз я в Нью-Йорке, но не на Уолл-стрит, где давно почти не осталось банков, а на Парк-авеню, где размещается штаб-квартира компании J. P. Morgan. Я ожидал, что поднимусь на мраморном лифте, что мне встретятся кипящие энергией волки с Уолл-стрит, похожие на Леонардо Ди Каприо, что я пройдусь по залу биржи, похожему на гигантский улей, как на фотографиях Андреаса Гурски. Но самый большой банк США оказался похож на провинциальную администрацию – с длинными коридорами, потертыми коврами и кабинетами, отделанными пластиком. Лишь шаги секретарш нарушают тишину. Весь блеск перекочевал из финансов в технологии.

Я оказываюсь лицом к лицу с «человеком, который ворочает рынками», если верить CNBC, – с Марко Колановичем, коренастым приветливым хорватом. Название его должности кажется мне престижным и одновременно таинственным (он «глобальный руководитель по количественным и деривативным макростратегиям»). Как меня заверили, именно он руководит стратегическими разработками ИИ в J. P. Morgan. Чтобы снять малейшую тень сомнения на этот счет, он тут же предлагает мне составленный им пухлый внутрикорпоративный доклад по «машинному обучению и альтернативному подходу к данным в инвестициях», набитый графиками, аббревиатурами и математическими формулами. Этот кирпич и сегодня красуется в моем кабинете, и, хотя я пока не смог в полной мере оценить все его достоинства, именно он стал причиной перевеса моего багажа во многих аэропортах. Решительную непонятность сего сочинения я могу считать разве что признаком гениальности. Тот факт, что Марко еще и физик-теоретик, окончательно убеждает меня в этом. После этого путешествия у меня наверняка прибавится скромности.

Марко подтверждает мне то, что рынками ворочает преимущественно машина. В нормальной ситуации, когда параметры инвестиций стабильны, а биржи спокойны, размещение капитала в мире в значительной степени автоматизировано, и еще больше оно автоматизируется завтра. Это ни в коем случае не является проблемой: повышая скорость и эффективность трейдинга на основе открытой информации, алгоритмы улучшают функционирование рынка. Траектории курсов будут меньше зависеть от личных предпочтений игроков и смогут точнее отражать эффективность предприятий. В спокойные времена ИИ мог бы сглаживать сильные колебания капитала, снижая волатильность. Он мог бы корректировать «иррациональное ликование рынков», на которое Ален Гринспен жаловался еще в конце 1990‐х годов.

Ситуация радикально меняется, когда происходит неожиданное событие, кризис, инновация (tail event) или когда в игру вступают долгосрочные соображения. В управление в таком случае должен вмешаться человек, чтобы применить собственную интерпретацию мира, поскольку данные остаются фрагментарными или неточными. Когда Дональд Трамп публикует твит, как ИИ может догадаться, всерьез он пишет или валяет дурака? Для подобного заключения требуется интерсубъективное суждение, основанное на анализе его личности, тем более что в случае Трампа прецедентов практически нет. Ложь, лицемерие, блеф – все это машине недоступно. Вот почему коллеги Марко продолжают встречаться с министрами, руководителями центробанков и главами предприятий – не для того чтобы вытянуть из них информацию, а чтобы лучше понять их образ жизни. Ценность финансовых аналитиков заключается не столько в их математических талантах, сколько в тонкой интуиции. «В конечном счете финансы – это игра между людьми, основанная на определенных правилах», – говорит Марко. Чтобы полностью автоматизировать рынки, сначала пришлось бы… автоматизировать людей.

Марко полагает, что в отсутствие сверхинтеллекта значительное замещение людей машинами невозможно. Так же считают и в компании Bloomberg: IT-директор читает мне весьма взвешенную лекцию о способностях разрабатываемых им алгоритмов, которые в основном используются для извлечения информации из документов, произведенных людьми. Компьютеры могут гарантировать проведение финансовых трансакций, но ни в коем случае не могут создать стратегию инвестирования. Ни один алгоритм не может придумать глобальную интерпретацию мира и людей, его населяющих, – и это опять же вопрос здравого смысла.

Разрушение остается созидательным, кроме того, оно останавливается у границ здравого смысла. ИИ приведет к исчезновению лишь тех профессий, практика которых не требует ни оценки контекста, ни взаимодействия с окружающей средой, ни инициативы, основанной на знании о другом. Иначе говоря, автоматизированы будут только те задачи, которые не смыкаются с другими, замкнуты на себя, почти изолированы. Хорошо бы создать «индикатор здравого смысла», позволяющий эффективнее, чем критерий «повторяемости», оценивать вероятность автоматизации…

В этом отношении «бредовые работы», описанные антропологом Дэвидом Грэбером, кажутся мне наиболее устойчивыми к массовой технологической замене, хотя и неясно, хорошо это или плохо. Грэбер анализирует современную экономическую систему, признавая ее рентовым капитализмом, производящим примерно треть бесполезных функций, предназначенных для того, чтобы увековечить бюрократические механизмы, сохранить иллюзию бурной деятельности или же просто потешить чье-то самолюбие. Волшебники PowerPoint, эксперты по стратегиям и профессиональные консультанты легко узнают себя в этой картине. Однако сама абсурдность их ремесла защищает от ИИ. Чтобы согласиться на выполнение задачи, лишенной как всякого экономического, так и интеллектуального смысла, нужно обладать очень неоднозначным представлением о мире и здравым смыслом, готовым выдержать любое испытание. Только растущей сложностью социальных механизмов, давлением руководящих структур и жаждой власти можно объяснить бурное развитие «бредовых работ». Машина не может валять дурака. Какой алгоритм смог бы производить бесполезные доклады? МВФ регулярно, но безуспешно пытается добиться этого в своих докладах об экономике отдельных стран. Чтобы придать видимость смысла документу, у которого по самой природе его нет, требуется человеческий разум во всей его изобретательности…

А вот хороший пример деятельности, не требующей значительного здравого смысла, – портовая логистика, специальность стартапа Westwell, с которым я познакомился в Шанхае. В китайском масштабе стартап может иметь более сотни наемных сотрудников и при этом сохранять привилегию, размещаясь на какой-нибудь улочке вдали от башен и бульваров, где порой еще слышен звонок торговца, разъезжающего на велосипеде. По счастливой случайности директор компании, который просит называть его на западный манер Винсентом, учился в INSA в Лионе и бегло говорит на французском. Он засыпал меня объяснениями об умном порте, в котором грузы непрерывно разгружаются и загружаются. Алгоритм предсказывает малейшие передвижения – от расположения контейнера на борту до его движения по транспортным развязкам. Моряки Жака Бреля, которые поднимали лицо к небу и считали звезды, больше не нужны: в умном порту нет ни одной живой души. На демонстрационном изображении, которое показал мне Винсент, видно просчитанную до миллиметров карусель кранов и грузовиков. Westwell поставил оборудование уже в пятнадцать китайских портов. В следующий раз, увидев этикетку «Сделано в Китае», я вспомню об этом непрерывном, тихом, хирургически точном движении товаров, доносящем до нас одежду, которую мы носим, и игрушки, которые мы дарим своим детям.

Преимущество китайских предпринимателей, четко отличающее их от американских коллег, увязших в этических кодексах, состоит в их откровенности. Винсент заявил мне, что конечная цель Westwell – полностью автоматизировать управление портами благодаря способности ИИ к обучению. Уже сегодня его система сократила число контролеров-людей в каждом порту с сорока до шести. Завтра грузовики смогут передвигаться по пространству порта автономно. Приведет ли это к созданию новых рабочих мест? Нет. Но тем лучше: технология снижает издержки, повышает грузооборот порта и исключает несчастные случаи. Остающиеся проблемы, например разметка на парковке, которая плохо прочитывается при распознавании изображений, будут окончательно решены в портах нового поколения: их сразу проектируют так, чтобы обойтись без суждения человека.

Энтузиазм Винсента оказался поистине безграничным. Однако, как он сам признаёт, порт – это закрытая среда. Логистика контейнеров – своего рода огромный кубик Рубика: компьютер всегда сможет найти лучшие комбинации, достаточно оптимизировать потоки. Но все равно это не та задача, которая повторяется в неизменном виде. Параметры все время меняются, в порту не бывает и двух совершенно одинаковых дней. У алгоритма есть способность адаптироваться к постоянно меняющимся сценариям, если только они не требуют внешнего источника знаний. Не нужно знать, откуда поступают товары, для чего они предназначены, на какой стадии находится коммерческая война с США или сколько лет капитану. Автоматизация может увенчаться успехом только в случае крайней изоляции. До ИИ можно было верить, что порт – это место, открытое в мир. На самом же деле это архетип закрытой системы, которая может обойтись без всякого мировоззрения, – редкое исключение в нашем сложном универсуме.

Конструирование автономных портов ex nihilo поднимает, однако, неприятный вопрос о сохранении традиционных профессий. Не возникнет ли искушения увеличить – в целях простоты или из экономического расчета – число подобных пространств, «непроницаемых для здравого смысла», во всех секторах экономики? Иными словами, хотя сегодня официант по-прежнему необходим для парижского бистро, возможно, завтра рестораны будут проектироваться так, чтобы обойтись без него? Что, если потребители постепенно забудут о самом принципе трактира – места общения с весьма сложными целями – и свыкнутся с комфортом таких забегаловок, как кафе Pret A Manger, где я встречался с Чунлонгом? Опасность не столько в появлении ИИ в реальном мире, сколько в такой трансформации этого мира, которая позволит ему приспособиться к ИИ.

Итак, будущее труда зависит не от неизбежной технологической эволюции, а от двойного социально-политического выбора: захотим ли мы сохранить «бредовые работы» и их человеческую, слишком человеческую абсурдность? Хотим ли мы создавать роботизированные, слишком роботизированные среды? Худший из сценариев – тот, в котором все люди посвятили бы себя бесполезным задачам и стали бы при этом жить в абсолютно стерильных пространствах. Я же предпочитаю сценарий, в котором оздоровленный капитализм позволил бы работать меньше, но сохранить несколько хаотичную сложность наших обществ.

Во всех этих сценариях на самом ИИ лежит лишь незначительная ответственность. Паника, связанная с будущим труда, представляется мне в этом случае научно необоснованной, исторически уже отыгранной и сомнительной в моральном плане. Почему пророки автоматизации никогда не ставят под вопрос свою собственную деятельность? Самые известные кассандры, такие как Илон Маск, который регулярно заявляет о замещении и даже уничтожении человечества машинами, – сами настоящие трудоголики[73]73
  Впечатляющее выгорание Маска летом 2018 года стоило ему президентства в компании Tesla.


[Закрыть]. Роботы – это всегда для других, для тех, кто не является незаменимым. Страх автоматизации стал современной формой классового презрения.

Эта двойственность предстала передо мной со всей ясностью в дискуссии с Крейгом Хансоном, основателем инвестиционного фонда NextWorld Capital, во время нашей встречи в Сан-Франциско. Как указывает само название фонда, NextWorld вкладывается в стартапы, занимающиеся проектами на передовой цифровых инноваций. Крейг полагает, что ИИ перевернет все сферы экономики и радикально преобразует общество. Даже если не обращать внимания на громкие заголовки и моду, которые заставляют предпринимателей вставлять отсылки к ИИ в свои презентации, мы вступаем в долгую эпоху «скучного ИИ», когда машинное обучение постепенно захватит все отрасли. Крейг убежден, что такой ИИ сведет роль человека к функции начальника станции, который время от времени дает зеленый свет, а потом и полностью его заменит. По мере того как ИИ будет обучаться принимать все более стратегические решения, наша способность к суждению начнет устаревать.

– Но как обстоит дело с инвестициями? – задал я ему невинный вопрос. – Вас тоже заменит ИИ, способный анализировать бизнес-модели и предсказывать рыночные возможности?

– Нет, ни в коем случае, – тут же вскричал обиженный Крейг. – Инвестиции – это слишком сложно. Этот сектор подвергнется автоматизации последним.

Я предлагаю называть эту реакцию «парадоксом Крейга». Каждый в своей сфере деятельности спонтанно понимает все тонкости своих ежедневных задач, постоянную потребность в суждении, которое не сможет заменить никакой ИИ. Тогда как у других ту же потребность легко игнорировать. Рентгенолог пожелает, чтобы ИИ ради бо́льшей безопасности руководил дорожным транспортом, тогда как дальнобойщик захочет автоматизировать журналистику, которая тем самым станет более объективной, журналист откажется понимать, что такого сложного в инвестициях, а инвестор предпочтет, чтобы машина анализировала его медицинские анализы.

Но я предлагаю каждому опробовать на практике профессию другого, чтобы лучше осознать всю ее сложность. Мы требуем роботизации, поскольку принимаем другого за робота. Немного эмпатии – и эта иллюзия исчезнет. Лучший аргумент против «конца труда» высказал, таким образом, Декарт: здравый смысл – это самая распространенная вещь на свете… однако ее ничем нельзя заменить.