Текст книги "Технологии против человека"

• Зависимость – поручать программам и алгоритмам думать за нас, потому что это гораздо удобнее и быстрее.

• Неопределенность – не знать, кто ответил мне на электронное письмо – сам человек или его ИИ-помощник. Или даже не быть уверенным в том, сам ли я принял решение или мой умный помощник мной манипулировал.

• Потеря контроля – невозможность узнать, являются ли предсказания ИИ истинными или нет, потому что мы не можем отследить логику системы или понять, как работает система машинного обучения на квантовом компьютере. Другими словами, нам придется либо полностью ему доверять, либо не доверять вообще – дилемма, схожая с той, с которой сталкиваются летчики при виде автопилота.

• Отречение – поддаться искушению оставлять как можно больше задач для ИИ, который сделает все за нас: спланирует расписание, назначит встречи, ответит на простые электронные письма. В таком случае, если что-то пойдет не так, будет очень легко обвинить во всем облако, бота или ИИ.

Мегасдвиг 10: роботизация

Роботы – это воплощение всех мегасдвигов в одном механизме, где они консолидируются, и на выходе получается удивительные новые создания, которые скоро будут повсюду, нравится нам это или нет. Благодаря значительным прорывам в понимании естественного языка и распознавании изображений, растущей мощности аккумуляторов и появлению новых материалов, которые гарантируют улучшение навыков движения, мы можем ожидать падения цен на роботов, в то время как польза от них будет стремительно расти.

Некоторых роботов даже можно будет напечатать на 3D-принтерах, так же как сейчас выпускают первые автомобили, чьи части были полностью напечатаны⁶⁹.

Суть заключается в том, что на пути к экспоненциальным изменениям нам также нужно обращаться к понятиям этики, ценностей и культуры. В обратном случае технологии сначала постепенно, а потом мгновенно превратятся в цель нашей жизни, а не в средство для ее поиска.

Глава 4. Автоматизация общества

Высокая производительность, растущие прибыли на фоне сокращения рабочих мест, увеличивающееся число техномиллиардеров и уменьшающийся средний класс?

Автоматизация заслуживает особого внимания среди прочих мегасдвигов, так как она во все времена была двигателем социальных изменений. Например, восстания луддитов в Англии в 1811–1816 годах, когда на смену ручным ткацким станкам пришли новые механические, происходили от страха людей лишиться средств к существованию из-за новых технологий⁷⁰.

История насчитывает множество примеров, когда люди, пострадавшие от внедрения технологий в производство, впоследствии открыли для себя новые возможности благодаря техническому прогрессу. Рынки становились более эффективными, цены снижались, производство росло, открывались новые сектора экономики, и индустриальное общество не страдало от устойчивой технологической безработицы, образовавшейся в результате автоматизации⁷¹. С каждой волной индустриализации технологии создавали условия для появления новых секторов, в рамках которых на смену исчезнувшим рабочим местам создавались новые. Зарплаты увеличивались вместе с производительностью – по крайней мере, до тех пор, пока не появился интернет.

Если отмотать ход истории к периоду информационной экономики – этот устаревший уже термин раньше использовался для описания эпохи первой волны интернета, – мы заметим, что отношения между технологическим прогрессом и созданием рабочих мест приняли другой характер. В главных экономиках мира, в первую очередь в США, укреплялось неравенство, так как компаниям, располагавшим средствами и платформами для перевода своей деятельности в цифровое русло, требовалось уже гораздо меньше работников, чем раньше^{72, 73}.

Переход от информационной экономики к экономике знаний[50]50
  Экономика знаний – высший этап развития постиндустриальной экономики, основными факторами развития которой являются знания и человеческий капитал: повышение качества жизни, производство высоких технологий, инноваций и высококачественных услуг.


[Закрыть] занял гораздо меньше времени и привел к более деструктивным последствиям. Сейчас, когда мы уже устремились к экономике машинного интеллекта, количество рабочих мест обещает значительно сократиться, и разрыв между производительностью и средним уровнем заработной платы будет только увеличиваться. Используя мегасдвиги, компании смогут производить более совершенные товары, тратя на их производство меньше времени и средств. Мне кажется, что сокращение рабочих мест и рост безработицы станут новой нормой, а не исключением.

Некоторые настораживающие тренды, связанные с занятостью, можно было заметить уже в начале восьмидесятых, когда мы впервые увидели новые устройства и виды автоматизации, способные выполнять нашу работу: сельскохозяйственное оборудование, сварочных роботов, автоматизированный колл-центр. Масштаб проблемы сейчас становится более очевидным. По данным Бюро трудовой статистики США, с 2011 года производительность в общем по США значительно увеличилась, в то время как уровень занятости и уровень зарплат не изменились⁷⁴. В результате корпоративные прибыли выросли по сравнению с 2000 годом⁷⁵.

Вместе с тем социальное неравенство продолжает расти по всему миру: по данным The Huffington Post, 62 самых богатых человека скопили больше богатства, чем 50 % населения планеты вместе взятые⁷⁶.

Главный вопрос заключается в том, усугубит ли ситуацию экспоненциальный технологический прогресс или попытается каким-то образом ее разрешить.

Я считаю, что Бюро по статистике США может отметить еще один более важный тренд, который приобретет решающее значение благодаря мегасдвигам: технологический прогресс более не является катализатором роста зарплат и рабочих мест, как в индустриальную эпоху и даже раннюю эпоху интернета. Маржинальные и общие прибыли компаний растут, когда машины работают вместо людей. Однако миллионы уволенных сотрудников не видят для себя никакой выгоды от автоматизации: дальнобойщику не так-то легко переквалифицироваться в дизайнера интерфейсов!

Теперь представьте, к чему может привести автоматизация в экспоненциальных масштабах. По данным исследования Oxford Martin School 2013 года, 50 % работ могут быть автоматизированы в ближайшие два десятилетия⁷⁷. Прибыли корпораций стремительно увеличатся, так как им удастся сократить число работников по всему миру, и этот опыт затем сможет применяться во всех сферах производства. Другими словами, выдвигая автоматизацию и прочие мегасдвиги на первый план, крупные компании смогут получать во много раз больше прибыли при участии гораздо меньшего количества людей.

Безусловно, появятся и некоторые новые профессии: дизайнер человеко-машинных интерфейсов[51]51
  Человеко-машинный интерфейс – это методы и средства обеспечения непосредственного взаимодействия между оператором и технической системой, предоставляющие возможности оператору управлять этой системой и контролировать ее работу.


[Закрыть], ученый, занятый в сфере облачной биологии, руководитель разработок в области ИИ, биоинформатик-аналитик, менеджер по защите личных данных. Однако миллионы тяжелых физических, да и самых обычных профессий исчезнут навсегда – в первую очередь однообразные, не требующие проявления уникальных человеческих качеств, таких как эмпатия, творческий подход и способность к ведению переговоров. То, что это произойдет, – несомненно; вопрос лишь когда.

В этом и заключается главная сложность взаимодействия человека и технологий: мы должны понять, как скоро совершатся экспоненциальные изменения и чем это обернется для образования, правительственных стратегий, систем социального обеспечения и государственной политики по всему земному шару.

По мере того как ИИ все быстрее замещает ученых, программистов, врачей и журналистов, возможности найти значимую работу становятся настолько редкими, что очень мало кто из нас сможет обеспечить себе рабочее место, где будет заниматься чем-то похожим на типичную современную работу. В то же время большинство вещей, необходимых для удовлетворения наших базовых потребностей по шкале Маслоу (еда, вода, крыша над головой), значительно упадут в цене. Машины возьмут на себя выполнение большинства тяжелых задач, что снизит затраты на предоставление услуг в сферах транспорта, банковских операций, общественного питания и медиа. Мы направляемся к еще не изведанным землям экономики изобилия и к концу тех времен, когда нам приходилось зарабатывать себе на жизнь. В конце концов нам придется отделить деньги от работы, и этот сдвиг может значительно пошатнуть те основания, на которых раньше строилась наша идентичность и ценностные ориентации.

Что будет хорошо, а что плохо? Чем будут расплачиваться за произведенные машинами товары и услуги те люди, которые не смогут найти работу, пусть даже эти товары будут значительно дешевле? Ознаменует ли это конец потребления как основной логики капитализма? Увидим ли мы начало конца известного нам сегодня оплачиваемого труда?

Политики, государственные должностные лица и члены правительства должны уделять больше внимания изменениям, связанным с автоматизацией, и эффективнее управлять этим стремительным процессом. Идейное лидерство станет главным требованием к представителям власти, и любой государственный служащий, несерьезно относящийся к необходимости быть «проводником будущего», серьезно ослабит свою позицию.

В ближайшем будущем главной причиной отдать голос за определенного кандидата станет его способность управляться с настоящим, то есть тем, как дела обстоят сейчас, и в то же время его исчерпывающее понимание того, что нам предстоит в дальнейшем.

Автоматизация в квадрате – пять составляющих

Я часто думаю о том, что автоматизация имеет следующие составляющие, которые изо дня в день ухудшаются.

1. Автоматизация.

2. Слепое подчинение.

3. Отречение.

4. Побочные эффекты.

5. Утрата контроля.

Автоматизация как неминуемый исход

Я считаю, что автоматизация в экспоненциальных масштабах обязательно случится хотя бы потому, что она становится наконец возможной и способствует снижению расходов, что является главной задачей практически всех компаний и организаций. Через пять-десять лет мы увидим новый тип производства, высокоэффективный и низкозатратный. Только подумайте, что в этом случае произойдет с работой и уровнем занятости. Можно ли допустить, чтобы эффективность взяла верх над человечностью? Следует ли нам все автоматизировать только потому, что мы знаем, как это сделать? Должны ли компании, которые инвестируют в замену своих работников технологиями, платить какие-нибудь налоги на автоматизацию, которые бы затем распределялись между теми, кто потерял работу? Уже скоро мы должны будем дать ответы на эти вопросы.

Давайте признаем тот факт, что совместными усилиями разных мегасдвигов, в первую очередь оцифровывания, виртуализации, интеллектуализации (глубокого обучения и ИИ), и роста популярности мобильных устройств каждый день открываются все новые возможности для автоматизации. В начале 2016-го, когда AlphaGo смог преодолеть код игры, он не был запрограммирован на то, чтобы играть в го, – он сам, с чистого листа, этому научился⁷⁸.

Это уже не узкоспециализированные заранее запрограммированные ИИ-компьютеры, способные опередить человека в сферах, основанных на математике и логике, таких как игра в шахматы. Это ИИ, который способен имитировать работу человеческого мозга с помощью нейронных сетей, самостоятельно обучаться и программировать себя. Представьте себе, как такой ИИ сталкивается с очень сложными и объемными задачами и проблемами и затем выдает нам решение и способ автоматизации этих задач, таким образом превосходя нас практически в любой деятельности, связанной со знаниями.

Стюарт Армстронг[52]52
  Стюарт Армстронг (англ. Stuart Armstrong) – ученый, сотрудник Института будущего человечества при Оксфордском университете, занимающийся вопросами безопасного использования ИИ и его возможностей.


[Закрыть] пишет в своей книге «Smarter than us: the Rise of Machine Intelligence»:

Если бы ИИ на сверхчеловеческом уровне обладал любой из человеческих возможностей, будь то способность к социализации, технологическому развитию или экономической деятельности, то он скоро добился бы господства над нашим миром. Как мы можем догадаться, развив эти возможности до человеческого уровня, он не остановится на пути к тому, чтобы усовершенствовать их и до сверхчеловеческих. Тем самым, если когда-нибудь компьютер запрограммируют на обладание этими навыками, то ИИ неминуемо приобретет власть над миром⁷⁹.

Рассмотрим, к примеру, область социального обеспечения: выплаты больничных, пенсий, пособий по безработице, которые, вполне возможно, понадобятся миллионам людей. Вскоре после внедрения ИИ в эту сферу мы сможем располагать умным суперкомпьютером, который будет сам решать, по каким правилам следует определять размер социальных выплат, кому и как их нужно выплачивать. Это, безусловно, приведет к экономии государственного бюджета, но в то же время, вероятно, дегуманизирует население.

Продвинутый ИИ на территории США сможет определить порядок выплат с помощью сбора и анализа данных за последние 80 лет (с момента внедрения системы социального обеспечения в 1935 году)⁸⁰. Он также сможет использовать и другую доступную информацию для расширения своих знаний по этой теме: медицинские карты, профили пользователей в социальных сетях, юридические нормы и основания, городские и правительственные базы данных. В результате может возникнуть динамично развивающийся ИИ-специалист по социальному обеспечению (так называемый СоцОбесБот), способный выполнять сложные операции, которого будут обслуживать только десять-двадцать процентов работников, занятых в этой сфере на сегодняшний момент. Скажите «прощай» эмпатии и сопереживанию: теперь машины будут определять размер ваших пенсий, а с ними не поспоришь.

Я часто задумываюсь о том, что случится, если эти предположения сначала постепенно, а затем резко начнут осуществляться на практике. Вероятнее всего, нас ждет то же, что сейчас происходит с избыточными социальными медиа. Если мы на каждом шагу сталкиваемся с автоматизацией, то вскоре начинаем плясать под ее дудку, признавая превосходство системы и ее воли над нами – неохотно, но с улыбкой на лице. Нам не слишком нравится то, что происходит, но мы не хотим устраивать сцен.

Затем мы и вовсе начнем отказываться от своих притязаний, как говорится, «отречемся от трона» и передадим всю власть системе. Уже скоро мы перестанем быть главным звеном в цепи – на наше место придет машина и станет новым центром притяжения, превратив нас в свое содержание. Таким образом, инструмент прогресса станет целью, а мы будем работать на то, чтобы система была довольна. Изначально «система» будет состоять из всех людей (узлов в сети), подключенных к глобальной электронной экосистеме.

Facebook сейчас представляет собой главный пример отречения: вместо того чтобы активно участвовать в политической жизни, что нам кажется неудобным и обременительным, мы просто ставим отметку «нравится» на сайте, делимся видео с друзьями, подписываем петиции или в лучшем случае жертвуем пару долларов или евро на проекты Kickstarter[53]53
  Kickstarter – сайт для привлечения денежных средств на реализацию творческих, научных и производственных проектов на основе добровольных пожертвований.


[Закрыть] и Causes.com[54]54
  Causes.com – крупнейшая в мире платформа для продвижения проектов, призванная объединять единомышленников и организовывать сбор средств или подпись петиций для решения конкретных социальных проблем.


[Закрыть].

Слепое подчинение

У нас уже есть некоторое представление об автоматизированных процессах, которые, по-хорошему, не должны подвергаться автоматизации. К примеру, мы можем воспользоваться специальной программой-генератором «привлекательных» текстов, благодаря которой наши посты получат больше лайков в социальных сетях. Мы часто идем на поводу у технологий, когда слепо доверяем их подсказкам, ведь это так просто и удобно. Так, люди часто добавляют в друзья человека только потому, что он является другом друга еще одного друга и недавно поставил им лайк под записью. Почему бы и нет, разве это опасно? И я бы в этом случае согласился, что на данном этапе очень сложно увидеть вред, причиняемый такими действиями.

Отречение

Но вот наступает следующая стадия, и мы начинаем замечать, как невольно перепоручаем наши обязанности технологиям. Вместо того чтобы регулярно навещать бабушку, можно установить ей Skype и видеться с ней еще чаще, но через экран. Хорошо это или плохо?

Или же, вместо того чтобы лично сопровождать бабушку на прием к врачу, мы подарим ей устройство диагностирования на расстоянии, способное измерить основные физиологические показатели в любое время и в любом месте, чтобы нам не пришлось тратить на нее свое время.

Все вокруг нас напоминает о нашем отречении от нашей собственной власти в пользу технологий. Я довольно часто пользуюсь сервисом TripAdvisor, который с уверенностью указывает мне на лучший ресторан, и мы идем именно туда, несмотря на то что нас окружают еще 25 симпатичных с виду заведений. В каком-то смысле мы доверяем машинам руководить нами и выносить за нас решения. Опять же, в случае с TripAdvisor ничего ужасного не происходит, но только представьте себе, как этот тренд увеличивается в экспоненциальных масштабах. В конце концов мы можем прийти к ощущению того, что мы вообще уже ничего не решаем и не можем ни на что повлиять, – те или иные вещи просто происходят с нами. Жизнь станет намного проще, не так ли? Идти следом гораздо легче, чем прокладывать дорогу самому.

За последние два года я уже много раз обсуждал TripAdvisor с друзьями и публикой и пришел к тому, что это просто еще одна информационная точка среди многих, и если я предупрежден о ее соблазнах (подчинении и отречении), то я смогу противостоять им и обратить этот сервис себе на пользу. Как и в других сложных случаях, главное – соблюдать баланс. Но что, если TripAdvisor превратится в ИИ, умного и всемогущего бота, и я уже не смогу с такой легкостью критически оценить его честность? Что, если он станет слишком умным, и я буду вынужден либо полностью довериться ему, либо не доверять совсем?

Карты Google – еще один пример того, как легко люди отказываются от своего «трона». Как часто вам приходилось стоять на перекрестке в чужом городе и искать на экране здание, которое находилось прямо перед вами? Но нет, мы уже не доверяем собственным глазам и глазам других людей. Мы верим тому, что нам говорит высший разум. Нужно ли брать с собой зонт на случай дождя? Google подскажет вернее, чем мое предчувствие о погоде или взгляд в окно.

Этот пример довольно безобиден, но только представьте, как эти тенденции усилятся с помощью экспоненциальных технологий. Появится ли всеобъемлющий медицинский разум, который будет решать, стоит ли нам заводить детей, основываясь на ДНК и различных других факторах? Откажут ли нам в страховке, если мы все же на это решимся, несмотря на запрет? Сможем ли мы свободно принимать решения, не основанные на логике и алгоритмах? Сможем ли мы по-прежнему совершать глупые поступки: превышать скорость, напиваться, есть вредную еду? Или свобода воли перестанет существовать?

Экспоненциальное отречение

Что произойдет, если технологии и дальше будут убеждать нас отдать им свои полномочия, ввиду того что это удобно, эффективно и как бы волшебно? Не говоря о том, что это на 95 % быстрее! Что, если мы сейчас видим только вершину айсберга отречения, находимся на пятом уровне по шкале от 0 до 100? Решимся ли мы «отречься от сознания» и позволить машинам судить о нашей морали и ценностях, как пишет Стивен Талботт[55]55
  Стивен Талботт (англ. Stephen L. Talbott) – старший научный сотрудник Института природы в Генте, штат Нью-Йорк, внештатный редактор журнала The New Atlantis, посвященного науке и технологиям; написал несколько книг о будущем ИИ.


[Закрыть] для The New Atlantis?⁸¹ Если, по выражению Талботта, «технологии настойчиво приглашают нас забыть самих себя», то к чему приведет применение экспоненциально более мощных технологий?

Приведет ли наша забывчивость к тому, что мы по умолчанию будем жить цифровой жизнью, как лунатики, и над нами установится глобальный цифровой феодализм, где технологии-повелители будут управлять нами, а мы даже не сможем понять, каким именно образом они это делают?

В одном можно быть уверенным: технологии и их крупнейшие провайдеры сделают все возможное, чтобы склонить нас к повиновению и отречению, случайно или преднамеренно. Вместо того чтобы изменить диету, мы принимаем лекарства от давления. Когда нам скучно, мы не тратим время на размышления, а спешим заполнить пустоту блестящими планшетами, с головой погрузиться в цифровой мир. Мы не пытаемся помочь нашим детям найти новых друзей – вместо этого мы разрешаем им играть с виртуальными друзьями: роботами-животными и куклой Hello Barbie, первой ИИ-куклой, которая разговаривает с детьми, как живая⁸². Это намного проще!

Станут ли в таком случае цифровые помощники Amazon Echo и Google Home такими же инструментами отречения?

В случае с социальным обеспечением, упомянутым выше, тяга к отречению может привести к тому, что государственные служащие передадут свои обязанности машинам. Представим, что этот воображаемый СоцОбесБот постепенно начинает брать на себя человеческие задачи, потому что он на 90 % дешевле и на 1000 % быстрее. Тогда, даже если он будет только на 90 % точен, правительство, скорее всего, скажет, что он все равно намного лучше справляется с работой.

Побочные эффекты

Следующим шагом вниз по этой нисходящей спирали может стать ухудшение положения оставшихся человеческих работников, пользователей и клиентов системы. Уровень фрустрации будет расти, но мы мало что сможем с этим сделать, потому что система будет намного масштабнее, быстрее, эффективнее нас. Отдельные раздражители можно будет устранить, но мы не сможем перестать пользоваться системой, принимая во внимание ее всеобъемлющее присутствие во всех сферах нашей жизни.

В который раз лучшим примером является Facebook. С одной стороны, нас очень раздражают постоянные уведомления о том, что кто-то из тех людей, которых мы едва помним, сменил статус. В то же время мы не хотим потерять связь с теми, кто действительно важен для нас. Удобство платформы, ее власть и охват лишают нас возможности изменить то, что нас в ней не устраивает.

Утрата контроля

В итоге превращение реальных людей в цифры, абстрактные данные в рамках проекта по автоматизации социального обеспечения грозит тем, что сама идея помощи людям будет безнадежно извращена и перевернута с ног на голову. Это последний этап, наиболее мрачный из пяти стадий автоматизации, до которого мы можем дойти, если не примем меры в рамках осуществления автоматизации на первых двух стадиях (подчинения и отречения).

Можно лишь надеяться, что эффективно осуществляемая и хорошо спроектированная автоматизация не приведет к таким массовым подавлениям воли и только иногда будет провоцировать приступы раздражения. Однако тот факт, что мы не сможем вовремя понять, что теряем контроль над ситуацией, пока не дойдем до поворотной точки, а потом справиться с ней уже будет не в наших силах, – вызывает беспокойство касательно экспоненциальной автоматизации.

Поиск баланса

Сложность заключается в том, чтобы соблюсти правильный баланс: что мы можем автоматизировать так, чтобы не произошло замещения машинами ценных человеческих проявлений, таких как разговоры или коммуникационные потоки? Когда вы звоните в колл-центр, чтобы изменить номер рейса, хотите ли вы, чтобы сотрудник проявил понимание и эмпатию по отношению к вам? В большинстве случаев – нет, но иногда это необходимо, например, когда возникает непонимание в рамках вежливого общения. Так, до 90 % колл-центров будут автоматизированы в ближайшие несколько лет, но в некоторых случаях нам все равно нужно будет поговорить с живым человеком. Конкретно в этом случае хорошо спроектированная и регулируемая человеком автоматизация может служить примером позитивного развития, но миллионы рабочих мест так или иначе исчезнут.

Продолжим дискуссию о самом ближайшем будущем… Путешествуя самолетом, можно ли довериться полностью автоматизированной беспилотной кабине? Или же нам будет спокойнее, если пилот все-таки будет присутствовать? Проходя медицинское обследование, хотели бы мы, чтобы к нам проявили «гуманность» и сочувствие, или же нам будет достаточно того, чтобы машина сообщила нам только факты? В случае простуды или проблемы с желудком кажется, что автоматический дистанционный диагноз может быть полезен и вполне приемлем. Однако, когда речь идет о постановке таких серьезных диагнозов, как нервное расстройство, астма или диабет, такая автоматизация безусловно дегуманизирует сферу медицинских услуг.

Автоматизации нельзя сказать «да» или «нет»; на вопросы, связанные с ней, необходимо отвечать постепенно и осторожно, стараясь сохранить баланс и всегда заботясь в первую очередь о человеке. Вопрос заключается не в том, смогут ли и как смогут технологии что-либо автоматизировать, а в том, будет ли это способствовать процветанию человечества. В том, за кого мы болеем: за команду технологий или за команду человечества.

Автоматизация внутри нас?

Вместе с вещами, которые подвергаются автоматизации вокруг нас, существует также много вещей, которые могут быть автоматизированы внутри нас и начать оказывать влияние на то, как мы думаем и что мы чувствуем. Подумайте о том, как программы и алгоритмы, умные цифровые помощники, облачные сервисы и роботы, оборудованные ИИ, забирают на себя все больше наших ежедневных дел и как некоторые из нас уже автоматизировали дружбу с помощью социальных сетей и мессенджеров.

Что случится с нашим коллективным разумом, проявляющимся в процессе живого общения, в рамках которого мы учимся, спорим, обсуждаем проблемы, принимаем решения и создаем наши общества и демократические режимы? Как будут формироваться наши решения, если все, что мы видим и слышим друг о друге, будет определяться исключительно алгоритмами, созданными для того, чтобы заставить нас увидеть как можно больше рекламных объявлений, а не людей? Что, если эти инструменты не будут подвергаться общественному контролю, надзору и управлению?.. Будут ли нами управлять машины и алгоритмы, находящиеся в собственности огромных международных интернет-платформ и технологических компаний? Станут ли они «системами виртуального распределения дофамина», запрограммированными на то, чтобы вызвать привыкание и одобрение и достигать максимальных результатов для своих владельцев, рекламщиков и других «шпионов», которые хотят анализировать и использовать наши персональные данные?

Google Новости⁸³, так же как новостная лента Facebook⁸⁴ и новостное приложение Baidu[56]56
  Baidu – китайская компания, предоставляющая веб-сервисы, основным из которых является поисковая система с таким же названием – лидер среди китайских поисковых систем.


[Закрыть], ⁸⁵, практически не управляются людьми. Почти во всех случаях, хотя за процессом и наблюдают люди, всю основную работу выполняют алгоритмы. В этих компаниях очень мало кто занимается контентом в журналистском смысле этого слова – вместо этого работники разрабатывают еще более умные алгоритмы и программы, способные справиться с любой новой задачей. Нет ничего удивительного в том, что девиз Марка Андриссена «Программное обеспечение съедает мир» уже превратился в «Facebook съедает интернет»⁸⁶. И Facebook не хочет делиться! За исключением программистов, инженеров и исследователей искусственного интеллекта, Facebook нанимает очень мало сотрудников, в чей функционал входит прямое общение с клиентами.

Возможно, очень скоро программы будут не только «съедать», но и «обманывать» мир. Я уже чувствую, что меня обманывают или мной манипулируют, когда листаю ленту в Facebook, потому что я не могу доверять ей так же, как я доверяю The New York Times, The Economist, Der Spiegel или The Guardian, ведь ее единственная цель заключается в извлечении выгоды. Это не средства массовой информации, а средства массового обмана, но мы не можем выбраться из их сетей, хотя прекрасно об этом знаем.

Это не целиком одностороннее движение: по данным Mashable[57]57
  Mashable – популярный сайт об интернете, технологиях, бизнесе и развлечениях, основанный шотландцем Питом Кэшмором в 2005 году.


[Закрыть], Apple старается включить человеческий фактор в работу своего новостного приложения, музыкальных рекомендаций и плейлистов, но это определенно исключение, а не правило⁸⁷.

Автоматизация переживает такой подъем, потому что всем уже понятно, что люди медленны, часто неэффективны и требуют значительного финансирования, в то время как машины недороги в использовании, ультраэффективны, и их показатели продолжают экспоненциально увеличиваться. Производительность вырастет в разы, но уровень трудоустройства людей неизбежно резко снизится. У нас будет работа в будущем, но, скорее всего, она будет оторвана от идеи зарабатывания на жизнь.

Также становится вполне вероятно, что мы больше не увидим того, что другой, возможно, более умный человек хотел бы до нас донести на новостных и медиаплатформах. Вместо этого содержание, которое мы должны увидеть, будет определяться ботом, ИИ, на основе миллионов фактов и отрывков данных, анализируемых в реальном времени. Мы явно рискуем потерять человеческие понятия о ценностях, морали, этике, эмоциях, искусстве и человеческую способность рассказывать истории из-за использования сервисов, которые их не воспринимают. Разумеется, ИИ уже в ближайшем будущем сможет понимать наши чувства и эмоции и даже симулировать их и нашу словоохотливость, но я не думаю, что ИИ когда-нибудь сможет стать человеком.

Я не хочу возвращаться в золотой век печатных газет – они были и остаются непрактичными, коррумпированными монополистами, которым нельзя верить. Однако в большинстве случаев в газетах трудились журналисты и редакторы, чьей работой было знать больше, чем мы, видеть контекст ситуации и определять его важность. Их целью было просветить читателя в определенной теме, хотя их мнения и были субъективными.

Очевидно, что история о якобы найденном в Ираке оружии массового уничтожения, рассказанная американским телеканалом Fox News и многими другими СМИ, показала, что телеканалы и корреспонденты также могут вводить в заблуждение, причем не всегда непреднамеренно. Но, по крайней мере, у нас была возможность выяснить, кто стоял за этим выпуском, и спросить с них. Я думаю, что это невозможно в случае с новостными ИИ-ботами. Более того, я уверен, что мы даже и не подумаем в них усомниться.

Еще одним следствием перехода на автоматизированные новостные ленты будет то, что мы будем видеть контент, отличный от того, который видят окружающие люди: наши семьи, супруги, друзья и коллеги. Их новости будут на 100 % индивидуализированы и, вероятно, поэтому будут полностью отличаться от ваших новостей. Мы, правда, уже подошли к тому этапу, когда у наших устройств появилось достаточно вычислительной мощности, чтобы сделать уникальную новостную ленту для каждого пользователя, основываясь на его личных данных.

Провоцируем ли мы тем самым обострение проблемы «пузыря фильтров»[58]58
  Пузырь фильтров – негативная сторона персонализированного поиска, фильтрация новостей таким образом, чтобы они согласовывались с предыдущими мнениями пользователя, при этом противоположные точки зрения не освещаются.


[Закрыть], когда алгоритмы создают для нас эхо-камеры[59]59
  Эхо-камера – понятие в теории СМИ, представляющее собой ситуацию, в которой определенные идеи, убеждения усиливаются или подкрепляются путем передачи сообщения или его повторением внутри закрытой системы единомышленников.


[Закрыть], полные людей со схожими интересами, чтобы мы получали больше удовольствия от общения с ними? Как быть с предвзятостью подтверждения[60]60
  Предвзятость подтверждения – тенденция человека искать и интерпретировать такую информацию, которая согласуется с его точкой зрения, и пренебрегать информацией, противоречащей ей.


[Закрыть]? Интересует ли эта проблема такие гигантские генерирующие контент алгоритмы, как Google и Facebook? Или наше беспокойство о фильтрации и искажении информации, а также о манипуляции сознанием – это последнее, что волнует новостных провайдеров?

«Этика – это, конечно, хорошо, но у нас сейчас нет на это времени и ресурсов» – вот что я слышу от большинства компаний, когда мы обсуждаем эти вопросы. Я думаю, они совершают большую ошибку, потому что общество с неограниченной мощностью технологического прогресса без этики обречено.

Давайте представим, что этот новостной бот или ИИ-медиаспециалист теперь курирует не только онлайн новости, но и телевидение, что тоже, без сомнения, случится. Вот возможный сценарий: с помощью технологий ОТТ[61]61
  OTT (over-the-top transmission) – технология, которая доставляет медиаконтент в режиме реального времени поверх сетей провайдеров.


[Закрыть] новости, адаптированные под каждого конкретного зрителя, будут поступать прямо из интернета, минуя привычные службы трансляции и кабельные каналы. CNN или европейские каналы общественного телевещания заменят видеотрансляции в Twitter или Facebook, а приложения, боты и цифровые помощники уничтожат кабельное телевидение и стриминговые службы. Менее чем через десять лет телевидение и интернет превратятся в единое целое, что может полностью перевернуть наше восприятие медиа. И да, у ОТТ существуют и плюсы, поэтому не будем торопиться от них избавиться!