Текст книги "Человек цифровой. Четвертая революция в истории человечества, которая затронет каждого"

Машины, управляемые искусственным интеллектом

Машинное обучение и искусственный интеллект – самые яркие и значимые технологические тренды сегодняшнего дня. Есть и другие – контекстная торговля, распознавание устной речи, цифровые помощники, но машинное обучение и искусственный интеллект – безусловные лидеры.

По мнению одного моего знакомого IT-директора, машинное обучение в приоритете, поскольку может помочь оптимизировать производственные и бизнес-процессы. Сам по себе искусственный интеллект – давно не новость, Спилберг снял одноименный фильм еще в 2001 году. Новизна заключается именно в тех разработках, которыми занимаются Google и IBM.

Watson от IBM – самый известный широкой публике суперкомпьютер, оснащенный вопросно-ответной системой искусственного интеллекта. Еще в 2011 году он победил в американской телевикторине Jeopardy! Watson, названная в честь основателя IBM Томаса Дж. Уотсона, – это когнитивная технология, ее задача – понимать вопросы, сформулированные на естественном языке, и находить ответы в базе данных. Она обрабатывает информацию скорее как человек, а не компьютер.

Суперкомпьютер Watson работает со скоростью 80 терафлопс (триллион операций над числами с плавающей точкой) в секунду. Стремясь воспроизвести (а то и превзойти) нашу способность отвечать на вопросы, Watson обращается к 90 серверам, где хранится 200 миллионов страниц, а за обработку информации отвечают шесть миллионов логических правил. Суперкомпьютер и хранилище данных занимают пространство, где могло бы уместиться десять холодильников.

Тем временем в начале 2014 года Google в рамках разработки искусственного интеллекта приобрел лондонскую компанию DeepMind. Теперь DeepMind пишет программы, способные обыгрывать людей в видеоиграх и даже побеждать чемпиона мира по игре го, самой сложной логической игре на планете.

Этим разработки в области искусственного интеллекта не исчерпываются. Microsoft занимается проектом ADAM (ключевая служба каталогов, облегчающая доступ к каталогам Windows Server). Facebook предоставляет в свободное использование свои инструменты глубокого обучения, действует сервис для построения моделей машинного обучения и создания прогнозов от компании Amazon, а Apple продолжает развивать цифрового помощника Siri и совершенствовать распознавание в iOS. Подобные разработки ведут не только лидеры рынка, но и множество более мелких компаний.

А зачем вообще развивать искусственный интеллект?

Банкам определенно нужен искусственный интеллект. Технологические гиганты обучают машины распознавать лица на фотографиях, понимать устную речь и мгновенно переводить ее с одного языка на другой. Благодаря этому люди могут говорить со своим банком, а банковская система мгновенно выявлять мошеннические транзакции.

PayPal использует глубокое обучение для отслеживания мошеннических операций, и это не единственный способ применения искусственного интеллекта в банкинге. Например, некоторые компании, специализирующиеся на микрофинансировании и микрокредитовании в режиме реального времени, используют аналитические программы для оценки кредитоспособности заявителя. Быстро развивается глубокий анализ данных в маркетинге (эффективность рекламных кампаний), торговле (построение прогностических моделей цен, волатильности и т. д.), в управлении инвестиционными портфелями (расчет эффективности) и управлении рисками в целом (попытки точнее их оценить).

Компания UBS использует глубокий анализ данных в сочетании с машинным обучением для перманентного изучения инвестиционных портфелей своих клиентов, чтобы каждого из них максимально точно проконсультировать, предоставляя персонализированные услуги каждый день, – меня это весьма впечатлило. Я также был заинтригован, услышав, что в DBS обсуждается использование суперкомпьютера Watson от IBM. DBS, подобно UBS, использует глубокий анализ данных для оптимизации консультирования и обслуживания клиентов. Менеджеры DBS по работе с клиентами не тратят время на просмотр отчетов по рынку – они используют эти часы для встреч с клиентами, а всю необходимую информацию им предоставляет Watson.

Нет сомнений, что будущее за искусственным интеллектом: разработка пользовательских интерфейсов, повышение удобства взаимодействия с пользователем, автоматическое обнаружение мошенничества и создания высоко персонализированных прогностических сервисов. Банки давно стремятся заменить сотрудников-трейдеров машинами. Сейчас на рынке сосуществуют активные (в них действует человек) и пассивные (в них действует машина) трейдинговые системы. Если перестроить высокочастотный трейдинг на базе машинного обучения и искусственного интеллекта, без трейдеров-людей вполне можно обойтись.

В 2016 году в Financial Times вышла статья, обрисовавшая проблемы, которые вскоре встанут перед энергичными менеджерами инвестиционных фондов (активы под их управлением должны демонстрировать более высокую доходность, чем среднерыночный индекс). Большинству не удается идти с опережением рынка (особенно на длинной дистанции), а те, кому это под силу, в конце концов обнаруживают, что динамика идет на спад. Зато их новые конкуренты полны оптимизма, ведь всю информацию и все необходимые выводы им предоставляет компьютер. Клиенты массово переходят к индексным фондам. К маю 2016 года активные трейдеры лишились активов на $213 млрд, тогда как пассивные фонды пополнились $240 млрд. Под угрозой оказалась норма прибыли – традиционно одна из самых высоких в финансовом мире, и кажется, что вот-вот доходы трейдеров-людей начнут падать, ведь только 15 % из них стабильно удается превышать среднерыночные показатели.

Все это серьезные доводы, чтобы заменить трейдеров машинами. Согласно недавнему отчету Tabb Group, компьютеры рано или поздно полностью вытеснят людей из трейдинга, поскольку люди обходятся довольно дорого, к тому же они допускают ошибки. Финансовые учреждения тратят на персонал примерно втрое больше, чем на оборудование, программы и данные. Это не означает, что в трейдинге вообще не останется людей – новые рабочие места займут те, кто способен создавать технологии и управлять ими.

Согласно отчету Aite Group, составленному в 2014 году, на форекс-трейдинг приходилось 20 % рынка в 2001 году, 66 % рынка в 2013 году, а к 2018 году эта доля должна вырасти до 76 %. К 2018 году примерно 81 % спотовых торгов станут электронными. Весь финансовый сектор – от валютного рынка до торговли ценными бумагами – электронифицируется, чтобы структурировать продукты, управление частным капиталом, консультирование, услуги и пр. Правда, при всех этих изменениях для людей-трейдеров, которые смогут побеждать машины, видимо, останется место. Однако это будет совсем другая игра.

Мы – роботы

Многим кажется, что речь идет о фантастическом будущем, когда автоматизация станет всеобщей и всю работу за нас будут выполнять роботы. Но научная фантастика быстро превращается в научные факты. Уже скоро мы достигнем стадии, на которой человека и машину будет сложно разграничить. Например, в отличном сериале «Люди» есть момент, когда полицейский (человек) рассказывает своему напарнику-роботу (их называют «синтами», то есть синтетическими людьми) о своем кардиоимпланте. О крохотной машине, отслеживающей частоту сердечных сокращений после перенесенного сердечного приступа год назад. «Видишь, внутри человека есть немного машины, и ты внутри – немного человек».

Обсуждать человека и машину стали вместе с выходом научно-фантастических книг и фильмов, посвященных этой теме. Достаточно посмотреть «Метрополис» 1927 года. Он заставляет меня задуматься о сбывшихся прогнозах, особенно о словах технического директора Google Рэя Курцвейла, прозвучавших на конференции Exponential Finance в Нью-Йорке:

«Менее чем через двадцать лет вы будете не просто пользоваться компьютерами – у вас будут отношения с ними. Благодаря искусственному интеллекту к 2029 году компьютер сможет читать не хуже человека, а также начнет обретать человеческие качества. По моим оценкам, уже через 15 лет компьютеры усовершенствуются настолько, что с ними можно будет завязывать отношения, как с людьми. Прежде всего я имею в виду эмоциональный интеллект. Способность рассказать анекдот, шутить, быть романтичным, любящим, сексуальным – все это проявления человеческого интеллекта, а не клоунада»[18]18
  Computers will be like humans by 2029: Google’s Ray Kurzweil, CNBC, 11 June 2014.


[Закрыть].

В 2030 году мы будем заниматься любовью с роботами!

Это первая идея. Добавим к ней вторую: по мнению ученых, вскоре дети будут рождаться без участия людей. Иными словами, к 2030 году люди смогут вступать в отношения с роботами и заводить с ними детей, зачинаемых в пробирке, – сперматозоиды для этой цели будут выращиваться из стволовых клеток. Можно будет обойтись без раздражающего партнера-человека. Мы сможем построить идеальные отношения с личностью, знающей все наши особенности, стремления и желания и всем своим существом нацеленной на удовлетворение наших потребностей.

Что произойдет, когда все отличительные признаки человека будут присущи машине? И это не пугающая научная фантастика, а практически научный факт. Впереди еще долгий путь, в чем позволяет убедиться Watson Avatar от IBM.

Ее искусственный интеллект (как правило, это женщина) очень похож на человеческий, но ни один аватар или чат-бот сегодня не воспринимает себя человеком. По движениям ее губ понятно, что это машина, хотя изображение и дается в высоком разрешении. Над этой идеей 15 лет назад работала компания AT&T.

Как видите, идея за это время не слишком изменилась. Меняется ее технологическое обеспечение, и, как в случае со всеми великими инновациями, если что-то кажется перспективным для разработки – биометрия, коммуникаторы и смартфоны, медицинские технологии, биотехнологии, искусственный интеллект, роботы и т. д., – оно становится мейнстримом. В конечном счете искусственный интеллект также станет общедоступным, на это потребуется от 10 до 25 лет. Кажется, совсем скоро, но в 2012 году группа экспертов по общему искусственному интеллекту предположила, что подобный искусственный интеллект появится не ранее 2040 года.

Я размышляю об этом в духе авторов научной фантастики, например Айзека Азимова. Он был гениальным провидцем и удивительно точно предсказывал будущее, создал цикл романов о роботах и сформулировал три закона робототехники:

1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.

2. Робот должен повиноваться всем приказам, которые дает человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.

3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам.

Три этих закона стали общепринятыми, на эту этическую систему ориентировались другие писатели и сценаристы, например в фильме «Робокоп» полицейский-киборг следует трем основным директивам:

1. Служить обществу.

2. Защищать невиновных.

3. Соблюдать закон.

Таким образом, Робокоп может убивать людей, но только в случаях, если это не противоречит трем директивам.

Я задумался: а каковы же три закона для банковских роботов? Они должны быть, иначе робот может сбежать с нашими деньгами, ведь они подчиняются не законам государства, а инструкциям, на которые они были запрограммированы (или самостоятельно перепрограммировались). Вот как я вижу три закона для банковских роботов:

1. Не обманывать клиентов.

2. Обеспечивать безопасность.

3. Пресекать любые противоправные и противозаконные действия.

Человечество автоматизировать невозможно

Проблемная область – интеграция роботов и искусственного интеллекта. Если можно завести роман с машиной, которая чувствует точь-в-точь, как человек, и при этом вам ни в чем не перечит – то зачем тогда отношения с реальными людьми? Давайте до этого не доводить…

Во время промышленной революции люди перешли с полей на фабрики; во время революции услуг – с фабрик в офисы. Куда же нам идти при цифровой революции? Некоторые эксперты считают, что следующей итерации рынка труда не будет: после автоматизации когнитивных способностей необходимость в людях полностью исчезнет.

С функционалом трейдера, бухгалтера, официанта, повара, проститутки, сотрудницы службы эскорта легко справятся машины. Умения и навыки, так ценимые сегодня в соискателях, окажутся не нужны: лет через 25 роботы будут справляться с нашими задачами гораздо лучше нас. Что же тогда останется делать людям? Есть два мнения: оптимистическое и пессимистическое. Оптимисты считают, что у работы есть своя ценность, и роботу не под силу вытеснить человека отовсюду: мы можем писать книги, сочинять музыку и снимать фильмы лучше машины, поскольку стремление создавать и творить прекрасное заложено в каждом из нас. А что если художников будущего автоматизируют? Человек может следить, чтобы действия роботов не противоречили этике. Может ли робот понять, что совершает антигуманные действия? А человечность в ресторанах, в самолетах или на рынке секс-услуг ценится гораздо выше самых изощренных роботов… или нам просто нравится так думать.

В ближайшие десятилетия будет пройден рубеж, после которого отличить человека от робота станет довольно сложно: у робота появятся предпочтения и он научится думать. Сможем ли мы разобраться, с кем имеем дело в каждой конкретной ситуации?

Этот вопрос активно обсуждается в обществе, от фильма Ex Machina (2014) до научно-фантастического сериала Humans (с 2015 г.), но оптимист по-прежнему уверен, что люди необходимы человечеству. Люди будут обслуживать людей, они понадобятся, чтобы ремонтировать роботов (уже нужны), люди будут заниматься поддержкой космического туризма и обеспечивать человечность всей системы. Для них появятся новые специальности – исследователь данных, специалист по дополненной психологии, консультант и тренер по разработке автоматизированных сервисов. Так считает оптимист.

Точка зрения пессимиста интереснее и совсем не обязательно печальнее. Он считает, что роботы отберут у нас все рабочие места. После пика автоматизации, который придется на 2030 год, никому больше не потребуется работать. Куда же податься человечеству?

В пессимистической трактовке будущего работать будут лишь те, кто захочет этим заниматься, либо те, кого специально отобрали (так как они обладают превосходными когнитивными навыками). Это будут оптимизаторы роботов, проектировщики искусственного интеллекта, обучатели машин и все те, кто продолжит разработку машин и выведет их на принципиально новый уровень. Образно говоря, в будущем машины начнут собирать более совершенные машины – более быстрых лошадей, – а люди продолжат переосмысливать феномен лошади. Не так уж плохо.

Однако большинство людей останется не у дел. Бесполезные миллиарды. Их когнитивные навыки не позволят им работать оптимизаторами роботов, но им не хватит и творческих способностей, чтобы стать художниками. Не обладая выдающимися способностями к познанию, они будут уступать конкурентам-роботам и в технологической сноровке. Чем же они займутся?

Логично предположить, что на этом этапе мы прекратим накапливать богатства, имущество и активы и займемся улучшением человечества. Звучит неплохо, но стали бы вы работать, если бы вам не пришлось этого делать?

Подумайте – вам можно будет сутки напролет смотреть «Игру престолов», предаваться виртуальным оргиям с роботами, пить что хотите и перейти на предельно гедонистический образ жизни. Зачем вообще работать?

В социумах, где выбор «работать или не работать» действительно существует, многие выбирают второй вариант. Правда, ситуация не всегда развивается благополучно. Многие молодые люди из индейских резерваций в США благодаря великодушию правительства имеют возможность не работать – и выбирают алкоголь и наркотики. Такое случается и в других странах – например, в Канаде, Австралии и Великобритании.

Другой пример – Норвегия. У этой страны крупнейший суверенный инвестиционный фонд, накопленный благодаря нефтяному буму. Мне рассказывали, что это крайне эгалитарное общество, где стартовый оклад и компенсации квалифицированного инженера могут быть ниже, чем в США или Канаде, зато официант-стажер получает больше. Богатая Норвегия живет по принципам социального государства, обеспечивая своим гражданам своего рода подушку безопасности. Это означает, что там можно не работать. Одни хотят работать, другие – нет. И если кто-то выбирает не работать, его причисляют к категории «нетрудоспособные по состоянию здоровья», хотя на самом деле он здоров. Он мог бы работать, но не хочет. По некоторым оценкам, из десяти взрослых норвежцев один не работает по болезни или по собственному выбору. При этом там меньше безработных, чем в Испании, Италии и Португалии (экономики трех последних стран в продолжительном кризисе), но больше, чем в наиболее развитых экономиках западных стран и растущих экономиках стран третьего мира.

Необходимость работать и создавать рабочие места порождает самовоспроизводящийся цикл, именуемый «заблуждением о неизменном объеме работ». Тим Уорстолл великолепно описывает этот феномен:

«Количество рабочих мест не зависит от объема работы, которую необходимо выполнить. Оно определяется совокупным спросом в экономике: сколько денег у нас есть, чтобы платить людям за работу, которую надо выполнить с нашей точки зрения?»[19]19
  Worstall T. Of Course, Older Workers Do Not Steal Jobs From The Young; Fallacies Are Fallacies // Forbes. 11 March 2015.


[Закрыть]

Лучше не скажешь. Если на рабочих местах всех людей заменить роботами, думаете, настанет конец света? Нет, пока люди не потеряют мотивацию к труду, не забудут, что работа помогает наслаждаться жизнью и приносит вознаграждение за вложенные усилия, а это, в свою очередь, стимулирует экономику.

Думаю, если мы заменим людей роботами, откинемся на финансовой подушке безопасности и предадимся нарциссизму, экономика перейдет в свободное падение. Вот почему мне не кажется, что роботы завладеют всем и вся. Потребность в человеке будет всегда.

Нам потребуется меньше людей

Еще один повод обсудить угрозы и риски для сети – человек как источник проблем. Люди подвержены эмоциям, они устают и теряют концентрацию.

Человеческий фактор – эвфемизм для менее благозвучного сочетания «человеческие ошибки». Беспилотный автомобиль может проехать миллион километров без единого ДТП, человек же попадает в аварии в среднем три-четыре раза в жизни. Я предпочел бы, чтобы меня оперировал робот-хирург, уже выполнивший миллион успешных операций, нежели хирург-человек, ошибающийся с вероятностью 1:10 000. Автоматизированные трейдеры, безошибочно заключающие сделки, вызывают больше доверия, чем трейдер-человек, которым может двигать злой умысел; приходится тратить миллионы, чтобы проверить, кто какие сделки заключал, когда и где.

Думаю, основная идея понятна. Машина куда более эффективнее человека. Вот почему в компании Tesla хотят отказаться от человеческого труда – люди работают слишком медленно. Amazon все чаще доставляет товары с помощью дронов. Машину можно запрограммировать так, чтобы она все сделала верно с первого раза, справлялась с задачей каждый раз и никогда не ошибалась. Человека – нельзя.

Человек может пропустить мигранта на пограничном контроле, поскольку тот похож на фотографию в паспорте. Машина же распознает, что перед ней другой человек. Киберхакер может обмануть человека благодаря навыкам социальной инженерии и проникнуть в здание; машину – не может. Это важный момент: людей можно обмануть. Нам свойственно доверять другим – это заложено в нас.

Люди – самое слабое звено, и от них нужно избавиться. Без людей мы получим неприступные банки, операции без ошибок и гарантированный успех. Меня страшно раздражает, что в случае сбоя автоматизированного процесса приходится терпеть плохое обслуживание от человека. Мы должны автоматизировать все.

Конечно, это крайность, но, стремясь довести данный тезис до логического завершения, я обсудил проблему с коллегой. Он спросил: «Вы допустили бы робота к управлению самолетом, на котором летите домой?» Я ответил, что сегодня большинство перелетов контролируется автопилотом, так что мой самолет и так ведут роботы. Он парировал, что в таком случае в кабине вообще не нужны пилоты. Я подумал и привел в пример фильм «Чудо на Гудзоне». Капитан Чесли Салленбергер по прозвищу Салли посадил самолет U. S. Airways прямо на реку Гудзон. Это реальная история – возможно, вы даже помните, как это было, – и основное действие фильма разворачивается в ходе расследования случившегося. Выясняется, что, по данным компьютерного симулятора, пилоты спокойно могли довести самолет до аэропорта Ла-Гуардия и штатно посадить его там.

Сначала я хотел на этом примере показать, что в подобной ситуации робот был бы бесполезен: фильм показывает, что на симуляторах пилоту-человеку не хватает времени, чтобы среагировать на отказ двигателя. После того как в симуляторе учли время, необходимое на реакцию, компьютерные модели показали, что воздушное судно должно было разбиться, если бы пилоты попытались дотянуть до аэропорта и посадить самолет в штатном режиме. Следовательно, решение садиться на Гудзон было верным.

Но затем я увидел брешь в своем контраргументе: если бы на месте пилота был робот, в данной ситуации он за считаные наносекунды среагировал бы на ситуацию и безопасно посадил самолет в аэропорту Ла-Гуардия, а не на реку. Да, я предпочел бы самолет, который пилотирует робот.