Текст книги "Власть роботов. Как подготовиться к неизбежному"

Возможно, самым важным прорывом в области искусственного интеллекта медицинского назначения в обозримом будущем станет появление всеобъемлющей надежной системы общей диагностики и лечения, своего рода «врача из коробки». Ее задача – не заменить докторов, а дополнить их, фактически обеспечив общедоступность навыков и опыта лучших терапевтов. Легко представить будущее, в котором мощная диагностическая ИИ-система радикально повышает производительность труда врачей, а также создает условия, когда даже неопытный или посредственный терапевт ведет прием пациентов как будто при участии виртуальной команды элитных специалистов, постоянно наблюдающей за его работой и консультирующей его.

Безусловно, нам до этого пока далеко, но один из первых шагов на этом пути очень поучителен. Сразу после триумфа Watson[85]85
  Суперкомпьютер IBM с системой на основе искусственного интеллекта, ориентированной на понимание вопросов на естественном языке. Назван в честь первого президента IBM Томаса Уотсона. – Прим. пер.


[Закрыть] в телеигре Jeopardy![86]86
  В России эта телеигра получила название «Своя игра». – Прим. ред.


[Закрыть] в феврале 2011 года IBM стала энергично переориентировать эту технологию на использование в медицине и других областях и создала на основе Watson новое направление деятельности стоимостью миллиард долларов. В представлении компании система Watson должна была накапливать знания из множества разнообразных источников, включая учебники, медицинские карты, результаты диагностических и генетических тестов, научные статьи, и затем использовать сверхчеловеческую способность к выявлению взаимосвязей, превосходя даже самых одаренных экспертов. IBM надеялась, что это принесет ощутимую пользу в приложениях для разработки персонализированных планов лечения сложных заболеваний, в частности онкологических. Несмотря на невероятный хайп и восторженные публикации в СМИ, расписывающие, как Watson «идет в медицинскую школу» и готовится «взяться за рак»[87]87
  Ariana Eunjung Cha, “Watson’s next feat? Taking on cancer,” Washington Post, June 27, 2015, www.washingtonpost.com/sf/national/2015/06/27/watsons-next-feat-taking-on-cancer/.


[Закрыть], словно это подготовка к очередному выпуску Jeopardy! результаты, по крайней мере на данный момент, оказались неутешительными. В 2017 году Онкологический центр Андерсона при Техасском университете, один из самых разрекламированных партнеров IBM из сферы здравоохранения, прервал работу с Watson, поскольку не получил от этой технологии реальной пользы[88]88
  Mary Chris Jaklevic, “MD Anderson Cancer Center’s IBM Watson project fails, and so did the journalism related to it,” Health News Review, February 23, 2017, www.healthnewsreview.org/2017/02/md-anderson-cancer-centers-ibm-watson-project-fails-journalism-related/.


[Закрыть]. Тем не менее IBM продолжает верить в эту идею и вкладывать в нее деньги, как и растущее число других компаний, стартапов и гигантов вроде Google. Конкуренция останется острой, поскольку рентабельность инвестиций, которые позволят создать по-настоящему успешную технологию, обещает быть колоссальной. Я считаю успех неизбежным, но для этого потребуются ИИ-технологии, выходящие за рамки нынешнего применения глубокого обучения, иными словами – прорывы в создании универсального искусственного интеллекта. Мы рассмотрим новейшие достижения в этой сфере в главе 5.

В случае появления подлинно эффективной и надежной системы могут потребоваться медики новой категории. Возможно, это будут бакалавры или магистры со специальной подготовкой в области взаимодействия пациентов с медицинской ИИ-системой, одобренной и должным образом регулируемой. Эти сотрудники с более низкими зарплатами не заменят врачей, а будут работать под их контролем и заниматься типичными случаями. Например, большинство семейных врачей в Соединенных Штатах имеют дело с потоком пациентов с одними и теми же хроническими нарушениями, прежде всего ожирением, высоким кровяным давлением и диабетом. Новая категория практикующих врачей, работающих с искусственным интеллектом, может в значительной мере снять с них нагрузку, а также расширить географический охват. Во многих сельских районах США уже сейчас не хватает врачей, и ситуация будет лишь усугубляться по мере старения населения. Чтобы решить эти проблемы и со временем достичь роста производительности труда, который наконец покончит с болезнью издержек в здравоохранении, нам следует значительно расширить использование машинного интеллекта в области медицины. Думаю, другого выбора у нас практически нет.

Беспилотные легковые и грузовые машины: Затянувшееся ожидание

Обещание Илона Маска вывести к концу 2020 года на дороги миллион роботизированных такси лишь один из самых свежих примеров преувеличенных ожиданий. Наверное, вследствие значимости автомобиля для нашего образа жизни, особенно в Соединенных Штатах, никакое другое применение искусственного интеллекта не вызвало столько хайпа и чрезмерного энтузиазма, как создание беспилотника. После состязаний Grand Challenges[89]89
  Соревнования роботизированных автомобилей, проводящиеся с целью создания беспилотных транспортных средств. – Прим. пер.


[Закрыть] Управления перспективных исследовательских проектов Министерства обороны США (DARPA) в 2004 и 2005 годах эта технология достигла ошеломляющего прогресса, одновременно с завидной регулярностью обманывая гипертрофированные ожидания. В 2015 году самые авторитетные отраслевые специалисты предсказывали, что беспилотные транспортные средства выйдут на наши дороги в течение пяти лет. Получили известность рассуждения Криса Урмсона, одного из первопроходцев в этой области, в прошлом технического директора Waymo, дочерней компании Google, занимающейся беспилотниками, в настоящее время гендиректора и основателя стартапа Aurora по разработке беспилотной технологии, о том, что его сыну, которому в то время было 11 лет, не придется сдавать экзамены на водительские права в 16. Крупнейшие автопроизводители, включая Toyota и Nissan, также обещали создать беспилотные автомобили к 2020 году[90]90
  Mark Anderson, “Surprise! 2020 is not the year for self-driving cars,” IEEE Spectrum, April 22, 2020, spectrum.ieee.org/transportation/self-driving/surprise-2020-is-not-the-year-for-selfdriving-cars.


[Закрыть]. Все эти прогнозы так и не сбылись. Урмсон с прежней уверенностью поделился в 2019 году ожиданиями, что по меньшей мере «сотни» беспилотных транспортных средств начнут курсировать по дорогам общего пользования в течение пяти лет[91]91
  Alex Knapp, “Aurora CEO Chris Urmson says there’ll be hundreds of self-driving cars on the road in five years,” Forbes, October 29, 2019, www.forbes.com/sites/alexknapp/2019/10/29/aurora-ceo-chris-urmson-says-therell-be-hundreds-of-self-driving-cars-on-the-road-in-five-years/.


[Закрыть], а за десять лет появится 10 000 таких машин, а может и больше[92]92
  Lex Fridman, “Chris Urmson: Self-driving cars at Aurora, Google, CMU, and DARPA,” Artificial Intelligence Podcast, episode 28, July 22, 2019, lexfridman.com/chris-urmson/. (Есть видео и аудиоподкаст.)


[Закрыть]. На мой взгляд, даже эти предположения слишком оптимистичны. Я бы сказал, существует реальная опасность того, что мы еще долгое время будем ожидать появления беспилотных автомобилей через пять лет.

В действительности задача рутинного передвижения беспилотников как по шоссе, так и в городской среде – иными словами, в ситуациях, развивающихся более или менее ожидаемым образом, – по большей части решена. Если бы дороги общего пользования сколько-нибудь походили на склад Amazon в отношении предсказуемости обстановки, машины с автопилотом уже могли бы широко эксплуатироваться.

Проблему, разумеется, представляют так называемые пограничные случаи, практически бесконечное число необычных взаимодействий и ситуаций, которые самоуправляемой машине трудно или невозможно с точностью спрогнозировать или, зачастую, верно интерпретировать. Большинство проектов создания полного автопилота основываются на высокоточном картировании улиц, по которым движется автомобиль. В результате неожиданные перекрытия улиц, ремонтные работы или дорожно-транспортные происшествия могут создать проблему. Ненастная погода, особенно сильный дождь или снег, также служит серьезной помехой. Однако самой трудной задачей является обеспечение безопасного взаимодействия с экосистемой, полной пешеходов и водителей двух– и четырехколесных транспортных средств, ведущих себя непредсказуемо. В таких городах, как Сан-Франциско, нередко встречаются беспечные или пьяные пешеходы. Даже внимательные люди часто действуют так, что их поведение трудно интерпретировать: осторожничают при переходе улицы в одних местах и действуют неосмотрительно – в других. В густонаселенных районах координация между водителями и пешеходами во многом опирается на социальное взаимодействие, понимание или воспроизведение которого может оказаться очень сложной задачей для самоуправляемых автомобилей. Связь, установленная посредством зрительного контакта, взмах руки, остановка посередине улицы с целью убедиться, что водитель уступает дорогу, и множество других тонких поведенческих проявлений составляют своего рода бессловесный язык, каким-то образом понимаемый практически каждым участником дорожного движения. Я допускаю, что овладение взаимодействиями такого рода может попросту выходить за рамки возможностей сегодняшних систем глубокого обучения. Иными словами, для подлинно беспилотных автомобилей может потребоваться технология намного больше приближенная к универсальному машинному интеллекту, и ждать этого придется долго.

По мнению многих аналитиков, с учетом трудностей, с которыми сталкиваются беспилотные автомобили в условиях города, первыми по-настоящему функциональными беспилотниками на наших дорогах станут дальнемагистральные грузовики. В конце концов, езда по автомагистралям является задачей по большей части уже решенной такими системами, как автопилот Tesla. Однако, хотя вероятность возникновения непредсказуемого события на автомагистрали ниже, чем на оживленном городском перекрестке, последствия ошибки значительно усугубляются высокими скоростями движения и тем, что транспортным средством в данном случае является полностью загруженный автофургон, обладающий большой кинетической энергией. Опять же, вопреки преувеличениям Илона Маска, автопилот Tesla не сертифицирован для использования без внимательного водителя за баранкой. Поэтому я считаю, что пройдет еще немало времени, прежде чем беспилотные грузовики станут обычным делом на скоростных шоссе общего пользования.

Я полагаю, что трудности, с которыми столкнулась одна маленькая компания, могут пролить свет на положение дел во всей этой отрасли. В начале 2017 года мне предложили посетить стартап Starsky Robotics из Сан-Франциско. Как объяснил гендиректор и сооснователь Стефан Зельц-Аксмахер, целью компании было создание системы, обеспечивающей беспилотное движение по автомагистралям на дальние расстояния, но под дистанционным контролем людей. В конечной точке маршрута или при возникновении какой-нибудь более сложной ситуации машиной должен был управлять удаленный оператор – чаще всего переученный водитель грузовика – с помощью консоли вроде тех, что используются в видеоиграх. Зельц-Аксмахер выразил уверенность, что компания уже в ближайшие годы выведет на американские дороги полностью беспилотные грузовики. Хотя команда Starsky и продемонстрированная технология произвели на меня глубокое впечатление, я сильно сомневался, что они достигнут этой цели, особенно с учетом нормативных препон, которые предстояло преодолеть. Однако Зельц-Аксмахер и его команда превзошли мои ожидания: в 2018 году компания успешно испытала беспилотный грузовик на закрытой дороге, а в 2019 году стала первым разработчиком, протестировавшим полностью беспилотный грузовик (без страхующего водителя в кабине) на шоссе общего пользования.

Starsky также внедрила инновационную бизнес-модель. Вместо прямой конкуренции с растущим числом хорошо финансируемых стартапов, надеющихся разработать и лицензировать беспилотную технологию, Starsky решила войти непосредственно в отрасль автомобильных грузоперевозок и использовать свои системы для получения конкурентного преимущества. Руководство компании считало, что только при полной интеграции разработки беспилотной технологии с текущей деятельностью автотранспортной компании и гибком применении новой системы там, где это разумно, можно достичь успеха в ближайшем будущем.

К сожалению, инвесторы прохладно отнеслись к этой идее, и компания была вынуждена закрыться в начале 2020 года, не сумев привлечь требуемое финансирование. В цикле постов, написанных после исчезновения компании, Зельц-Аксмахер назвал ограничения глубокого обучения одним из главных препятствий на пути прогресса в этой отрасли. «Контролируемое машинное обучение не стоит поднятой вокруг него шумихи», – писал он. «Это не настоящий искусственный интеллект», а скорее «изощренный инструмент подбора шаблонов»[93]93
  Stefan Seltz-Axmacher, “The end of Starsky Robotics,” Starsky Robotics 10-4 Labs Blog, March 19, 2020, medium.com/starsky-robotics-blog/the-end-of-starsky-robotics-acb8a6a8a5f5.


[Закрыть]. Иными словами, система, достаточно гибкая, чтобы поддерживать подлинно беспилотное управление транспортным средством в любых обстоятельствах без контроля со стороны удаленного оператора, выходит далеко за пределы возможностей сегодняшних систем глубокого обучения и едва ли появится в скором будущем. Зельц-Аксмахер полагает, что отрасль до сих пор не осознает в полной мере стоящие перед ней препятствия и что инвесторы теряют возможность безопасно выпустить на автомагистрали флот самоуправляемых грузовиков в ближайшее время в определенной мере из-за чрезмерного увлечения полной автоматизацией и продвинутыми характеристиками, которые часто демонстрируются конкурирующими стартапами, но еще очень далеки от использования в реальном мире.

Создание эффективной технологии – главная проблема в области разработки беспилотных транспортных средств, но я вижу еще ряд препятствий, связанных с бизнес-моделями для подобных автомобилей. Принято считать, что естественная ниша для беспилотников – это сервисы совместного использования автомобилей. Uber и ее конкуренты покрывают затраты на поездки за счет привлечения венчурного финансирования или, с недавнего времени, первоначального публичного размещения акций[94]94
  Sam Dean, “Uber fares are cheap, thanks to venture capital. But is that free ride ending?” Los Angeles Times, May 11, 2019, www.latimes.com/business/technology/la-fi-tn-uber-ipo-lyft-fare-increase-20190511-story.html.


[Закрыть]. Ввиду ограниченности такого финансирования многие считают самоуправляемые автомобили долгосрочным решением. Стоит убрать водителя, которому достается от 70 до 80 % платы за проезд, и перед компанией открывается прямой путь к прибылям. Это главная причина, по которой Uber считает разработчиков беспилотных транспортных средств, в частности Waymo, прямой угрозой, и с 2016 года много средств вкладывает в собственные программы создания автопилота.

Однако в расчете на то, что беспилотная технология поможет Uber и Lyft, есть слабое место. Дело в том, что эти компании воспринимаются как привлекательные онлайновые предприятия, и рынок именно так их и оценивает, поскольку они являются главным образом цифровыми посредниками, получающими небольшую сумму с каждой транзакции в обмен на предоставление программного обеспечения, мгновенно сводящего пассажиров и водителей. Это уберегает их от всех рискованных и неприятных аспектов таксомоторного бизнеса, связанных с владением, финансированием, техобслуживанием и страхованием автомашин. Все это перекладывается на водителей. Uber и Lift не возятся с заменой масла, мойкой машин и спустившими шинами; они остаются выше практической стороны этого бизнеса, лишь собирая интернет-платежи. Избавившись от водителей, они лишатся тех, кто владеет автомашинами и обслуживает их. Если автомобили станут беспилотными, эти компании окажутся владельцами огромного парка транспортных средств и будут нести все сопутствующие расходы и хлопоты. Фактически Uber станет очень похожей на Hertz или Avis, ни одна из которых не считается «технологической компанией». Более того, транспортные средства, являющиеся собственностью агрегаторов, будут намного более дорогими из-за специализированного оборудования, например лидаров. Вдобавок из-за пандемии коронавируса значительно чаще приходится чистить и дезинфицировать автомобили. Опять-таки это в настоящее время является обязанностью водителей.

Я думаю, будет очень интересно наблюдать за развитием беспилотников в ближайшие годы как с точки зрения технологии, так и бизнес-модели, которая в конце концов определится. Большое число стартапов Кремниевой долины сосредоточилось на разработке и лицензировании беспилотной технологии наряду практически со всеми ведущими автопроизводителями, в той или иной мере инвестирующими в нее. Любой из этих проектов может привести к революционному прорыву, но, на мой взгляд, одним из самых интересных моментов будет углубляющееся расхождение стратегий Waymo и Tesla и усиление конкуренции между этими компаниями с течением времени.

Waymo, наследница программы Google по созданию беспилотного автомобиля, начатой в 2009 году, имеет больше опыта, чем любая другая организация, и в общем считается лидером отрасли. Это единственный поставщик работоспособного сервиса: клиенты за плату уже сейчас могут прокатиться в машине, за рулем которой нет водителя. Этот сервис, который называется Waymo One, пока доступен только на определенных маршрутах в тщательно картированной – или «геозонированной» – пригородной территории Финикса. Дороги там широкие, погода предсказуемо благоприятная, а пешеходов почти нет. Иными словами, это очень далеко от возможности вызвать Uber и поехать в любую точку Сан-Франциско или Манхэттена. Тем не менее Waymo One – впечатляющий прорыв. На мой взгляд, примерно так и будет выглядеть сервис беспилотных автомобилей в обозримом будущем: определенные маршруты с обозначенными остановочными пунктами в тщательно отобранных зонах с не слишком сложными условиями. Конечно, при этом снова возникает вопрос: может ли подобный ограниченный сервис стать прибыльным? Насколько дешевой должна быть поездка в полностью автоматизированной машине (очень дорогом транспортном средстве), чтобы клиент отдал предпочтение ей, а не значительно более гибкой возможности – поездке от двери до двери, предлагаемой Uber или Lyft с водителями?

Если Waymo движется вперед осмотрительно и с похвальной осторожностью, то Tesla, наоборот, постоянно рвет шаблоны, зачастую действуя, по мнению многих участников отрасли, на грани безрассудства. Компания сообщила существующим клиентам, что их машины имеют всю необходимую материальную базу для поддержки функции беспилотного движения и что со временем она станет им доступной в результате обновления программного обеспечения. Это невероятно смелое обещание. Tesla отличается от Waymo и практически всех остальных игроков тем, что отказалась от лидара – локатора, который следит за объектами вокруг автомобиля, испуская лазерный луч и регистрируя отраженный свет. Лидар – система дорогая и, во всяком случае в своих нынешних воплощениях, уродливая. Одна лишь Tesla верит, что сумеет достичь полной автоматизации, полагаясь исключительно на видеокамеры и радары. Как я уже отмечал, существенным преимуществом Tesla являются данные, которые компания получает от многочисленных видеокамер своих автомобилей. Waymo имеет около 600 беспилотных транспортных средств. В распоряжении Tesla постоянно расширяющийся парк из более чем 400 000 машин, ездящих по дорогам и собирающих данные. Автомобили Waymo проехали миллионы километров по настоящим дорогам и миллиарды – в компьютерных моделях[95]95
  Darrell Etherington, “Waymo has now driven 10 billion autonomous miles in simulation,” TechCrunch, July 10, 2019, techcrunch.com/2019/07/10/waymo-has-now-driven-10-billion-autonomous-miles-in-simulation/.


[Закрыть]. Машины Tesla проделали миллиарды километров в реальном мире под контролем своих автопилотов. Все эти данные, собираемые на настоящих дорогах, – очевидное преимущество, но успех в конечном счете будет зависеть от наличия достаточно мощного искусственного интеллекта, который сможет воспользоваться этим источником. На мой взгляд, есть веские основания сомневаться в том, что сегодняшняя технология глубокого обучения на это способна.

Другой важный вопрос связан с уровнем автономности, который в конце концов удастся обеспечить. Беспилотные системы делятся на пять категорий. К уровням от первого до третьего относятся системы вспомогательного характера. Машина может автоматически двигаться в определенных условиях, например при крейсерском режиме на шоссе, но водитель должен сохранять бдительность и быть готовым в любой момент взять управление на себя. Большинство автопроизводителей, включая Tesla, сфокусировались на автопилотировании в этих пределах. Проблема в том, что, поскольку система практически всегда работает корректно, у водителей появляется соблазн отвлечься от дороги. Например, несколько водителей автомобилей Tesla сказали мне, что постоянно отвечают на электронные письма в телефоне, когда включают автопилот на выделенных полосах для машин с пассажирами на автомагистралях Кремниевой долины. Подобное поведение уже приводило к авариям с человеческими жертвами. Неясно, каким образом машина может заставить водителя сохранять внимание во время длительных однообразных поездок. Одним из сильнейших коммерческих аргументов в пользу беспилотных систем является обещание, что в один прекрасный день они резко уменьшат огромную смертность в дорожно-транспортных происшествиях – ежегодно в мире в них гибнет больше 1,3 млн человек[96]96
  Waymo website, accessed May 20, 2020, waymo.com/.


[Закрыть]. Если у вспомогательных систем сохранятся их недостатки, то они вряд ли существенно повлияют на это число.

Поэтому Waymo и многие другие более мелкие стартапы в этой области приняли решение сосредоточиться исключительно на автономности четвертого и пятого уровней. К ним относятся беспилотные автомобили, в которых вы можете позволить себе заснуть. У них даже может не быть педали тормоза и рулевого колеса. Опять-таки в этом отношении резко выделяется Tesla. Заявление компании, что она сможет преодолеть разрыв между этими двумя типами автопилотирования, загрузив программное обновление, мгновенно переводящее ее машины со второго на четвертый уровень автономности, поразительно, и это еще слабо сказано. Многие считают такое обещание безмерно смелым, если не просто фантомом. Я очень удивлюсь, если Tesla сможет его выполнить в обозримом будущем, но в случае успеха она станет однозначным лидером в своей отрасли. Возможно, эти ожидания уже в какой-то мере сказались на стоимости ее акций.

Илон Маск и остальные руководители Tesla, безусловно, много размышляли над перспективами полной автономности. Помимо технологии, они разработали возможное решение проблемы с бизнес-моделью. На «Дне беспилотника» в 2019 году Маск описал схему, согласно которой владельцы Tesla смогут включать свои машины в сервис роботакси, предоставляемый компанией. Tesla будет получать свою долю от каждой совместной поездки так же, как Apple получает прибыль от App Store. Интересной особенностью этого предложения является то, что оно решает проблемы с владением и обслуживанием автомобилей, способные со временем похоронить такие компании, как Uber и Lyft. Возможно, Tesla нашла способ принять на себя функции чистого онлайнового посредника, избежав необходимости владеть парком машин. Большинство владельцев автомобилей Tesla могут не захотеть делиться своими машинами с незнакомцами, но если этот план окажется жизнеспособным, то многие клиенты станут подходить к покупке Tesla как к инвестиции, а не как к приобретению машины для личного пользования.

Вряд ли стоит сомневаться в том, что беспилотные транспортные средства когда-нибудь станут одним из самых весомых и значимых свидетельств революции в области искусственного интеллекта. Эта технология в перспективе способна преобразовать и наши города, и образ жизни, а также спасти многие тысячи жизней. Однако я считаю, что ее реального появления придется ждать еще лет десять, если не больше. Сначала убедительные признаки революции в области ИИ появятся в других областях – на складах, в офисах и в розничных магазинах, – где технические проблемы являются более решаемыми, среда – более контролируемой, сама технология в меньшей мере регулируется государством, а цена ошибки намного ниже. Впрочем, можно помечтать и представить, что одному-единственному обновлению программного обеспечения Tesla удастся доказать мою неправоту.