Текст книги "Без своего мнения. Как Google, Facebook, Amazon и Apple лишают вас индивидуальности"

Лейбниц родился, когда Европа обсуждала условия Вестфальского мира, кладущего конец резне, поэтому неудивительно, что он тренировал свой могучий интеллект, изобретая способы примирения католиков с протестантами и создавая планы объединения человечества. Эпитет «могучий», вероятно, слишком слаб для описания умственных возможностей Лейбница. Не погрешив против истины можно сказать, что он был способен генерировать новый план с каждым вдохом и выдохом. Его архивы, до сих пор не опубликованные полностью, содержат около двухсот тысяч страниц, заполненных великолепными творениями. Он открыл дифференциальное и интегральное исчисление, не зная, что Ньютон опередил его, но именно нотацией Лейбница мы пользуемся до сих пор. Он оставил ценные работы по метафизике и теологии, проектировал часовые механизмы и ветряные мельницы, отстаивал необходимость создания всеобщей системы здравоохранения и разработки подводных лодок. Будучи в Париже в качестве дипломата, он убеждал Людовика XIV вторгнуться в Египет.

Разумеется, это был хитрый план втравить могучего соперника Германии в заморскую авантюру, чтобы ему стало труднее направить свои армии на восток. Дени Дидро, сам далеко не бездарность, жаловался: «Когда пытаешься сравнить свои скромные таланты с дарованием Лейбница, возникает искушение забросить свои книги, забиться в укромный уголок и умереть там».

Из всех построений Лейбница дороже всех ему было понятие, которое он сам называл «универсальной наукой», – и оно тоже возникло из его стремления к миру. На протяжении всей человеческой истории далекие от жизни ученые конструировали языки с нуля, рассчитывая, что их творения упростят взаимопонимание между людьми и создадут таким образом предпосылки для всемирного единства. Для Лейбница эта причина также имела вес, но он возлагал на свое творение и более возвышенные надежды. Он утверждал, что новый набор условных знаков и выражений приведет науку и философию к новым истинам, в новую эру разума, к более глубокому пониманию изящества и гармонии вселенной, наконец, к божественному.

Он представлял себе нечто вроде «алфавита человеческой мысли». Впервые он обратился к этой идее в юности, и она послужила основой для его докторской диссертации в Альтдорфском университете. Со временем он разработал детальный план превращения своей мечты в реальность. Группа ученых должна составить энциклопедию, содержащую фундаментальные, неоспоримые понятия из области знаний об окружающем нас мире, из физики, философии, геометрии – отовсюду. Он называл эти понятия «примитивами», и они должны были включать в себя, например, почву, красный цвет и Бога. Каждому из примитивов предполагалось присвоить численное значение, и таким образом их можно было бы комбинировать с целью создания новых понятий или выражения сложных из числа существующих. Все эти численные значения должны были заложить основу нового «исчисления мысли», которое он называл “calculus ratiocinator”.

Лейбниц иллюстрировал свое построение на следующем примере: что такое человек? Рациональное животное, разумеется. Эту идею можно записать следующим образом:

Рациональное × Животное = Человек

Но Лейбниц пошел дальше и предложил придать этому высказыванию еще более математическую форму. Понятию «животное», говорил он, может быть присвоено число два, понятию «рациональный» – число три. Таким образом, получаем:

2 × 3 = 6

Мысль облекается в форму математического выражения, и так мы приходим к новому, непогрешимому методу доказательства тех или иных истин. «Все ли люди обезьяны?» – спрашивал, например, Лейбниц. Что ж, присвоенное понятию «обезьяна» числовое значение было ему известно – десять.

И если десять не делится нацело на шесть, а шесть – на десять, то получаем: в состав понятия «человек» не входит понятие «обезьяна», и наоборот.

В этом была главная идея его исчисления: знание, причем все знание, может быть в конечном счете получено путем вычисления. Это должно было получаться само собой, без усилий, слепым рассуждением (“cogitacio caeca”). Чтобы порождать новые идеи, больше не были нужны люди. Это могла делать машина, комбинируя и разделяя примитивы. На самом деле Лейбниц даже построил прототип такой машины, великолепное и сложное устройство, сияющее полированной латунью и сталью рычажков и циферблатов. Он называл его «Устройством для пошагового рассуждения» и потратил на него целое состояние. Поворот рычажка в одну сторону заставлял машину умножать, в другую – делить. Лейбниц продумал ее пользовательский интерфейс столь тщательно, что сам Стив Джобс склонился бы перед ней. К сожалению, всякий раз, когда он пытался продемонстрировать свою машину перед зрителями, как, например, перед Королевским обществом в Лондоне в 1673 году, она не работала. Упрямый Лейбниц всякий раз прощал себе эти постыдные демонстрации. Важность «универсальной науки» заставляла его двигаться дальше. «Когда она будет завершена, даже если между учеными и останутся противоречия, то между двумя философами будет не больше причин для разногласий, чем между двумя вычислителями». Интеллектуальные и моральные споры можно будет разрешать, просто предложив сторонам подсчитать ответ. Война окажется не нужна, не говоря уже о теологических спорах, поскольку истина будет помещена на твердую почву математики.

Лейбниц был пророком цифровой эры, хотя его идеям пришлось столетиями ждать своего часа. Он предложил систему счисления, состоящую из нулей и единиц – ту самую двоичную систему, которую компьютеры используют сейчас. Он объяснил, каким образом автоматизация офисной работы (в те времена сказали бы «конторской») повышает производительность труда. Но важнейшей из его идей была идея механического мышления, автоматизации рассуждения – то есть то самое, что делает Интернет великолепным изобретением, а мощь технологических компаний – столь угрожающей.

Процедуры, делающие возможным механическое мышление, со временем получили имя. Их стали называть «алгоритмами». Суть алгоритма предельно проста. В учебниках их сравнивают с кулинарным рецептом, четко определенной последовательностью шагов, выполнение которой не требует умственных усилий. Этим они отличаются от уравнений, имеющих единственный правильный ответ. Алгоритмы просто фиксируют процесс решения задачи и не говорят, куда эти шаги в конечном счете ведут.

Эти рецепты – основной строительный материал компьютерных программ. Программист не может просто сказать компьютеру, например, найти что-нибудь в Интернете. Он должен дать машине набор конкретных инструкций, приводящих к решению задачи, а эти инструкции должны выразить человеческую задачу «найти нужную информацию» в виде четкой последовательности шагов, которую затем можно переписать в виде программного кода: «сначала сделай это, потом то». Процесс перехода от концепции к процедуре, а от процедуры к коду – редукция[39]39
  В логике и математике прием сведения сложного к простому. – Прим. перев.


[Закрыть] по природе своей. Сложные процессы должны быть сведены к последовательному выбору из двух вариантов.

Никакое уравнение не подскажет, что сегодня надеть, но алгоритм для этого написать легко: он будет действовать, опираясь на простые вопросы: утро или вечер, зима или лето, солнце или дождь, – причем результат каждого предыдущего выбора определяет последующий.

Механическое мышление – как раз то, что представлял себе Алан Тьюринг, когда потерял сознание во время пробежки через луга в Кембридже, и ему предстало видение фантастической новой машины для вычислений. В первые десятилетия информатики термин «алгоритм» почти не употреблялся. Но по мере того как в университетах повсюду стали возникать факультеты информатики, он обрел новую жизнь. Модным он стал по соображениям статуса. Программисты, особенно в академических кругах, стремились показать, что они не просто техники при машине. Они стали называть свою работу «алгоритмической», отчасти потому что это связывало их с одним из величайших математиков всех времен – энциклопедистом Мухаммадом ибн-Мусой аль-Хорезми, или, как его называли по-латыни, «Алгоритми». В XII столетии переводы аль-Хорезми познакомили Запад с арабскими цифрами, его научные работы дали начало алгебре и тригонометрии. Определяя алгоритм в качестве краеугольного камня информатики, программисты связывали происхождение своего занятия с великими событиями истории науки. Подобная игра именами была весьма остроумна: «Смотрите, мы не какие-то выскочки, мы работаем с абстракциями и теориями, в точности как математики!»

И тем не менее в подобном представлении себя миру присутствовала определенная ловкость рук. Алгоритм, возможно, и представляет собой суть информатики, но при этом он не является научной концепцией в точном смысле слова. Алгоритм – это система, подобная водопроводу и канализации или субординации у военных. Чтобы заставить систему работать как следует, требуется знание методов и технологий, расчет и творческое мышление. Но некоторые системы, как и некоторые армии, значительно надежнее других. Система – это артефакт, а не научный трюизм. Истоки алгоритма определенно человеческие, но мы не связываем с ним присущую человеку привычку ошибаться. Когда алгоритм отклоняет кредитную заявку или устанавливает цену авиабилета, он кажется безличным и непреклонным. Мы предполагаем, что алгоритм лишен пристрастий, интуиции, эмоций и умения прощать.

В конце концов, мы говорим «поисковая машина» и делаем кивок в сторону поршней, шестерней и вообще всей промышленности XX века с ее машинами, на блестящих поверхностях которых отсутствуют отпечатки человеческих пальцев.

Энтузиасты алгоритмов из Кремниевой долины не отличались скромностью, когда говорили о революционном потенциале предмета своего обожания. Алгоритмы всегда были интересными и ценными, но прогресс вычислительной техники сделал их бесконечно более мощными. Решающим фактором стала стоимость вычислений. Она резко упала, и в это же время быстродействие вычислительных машин значительно возросло, а сами машины стало возможно соединить в глобальную сеть. Компьютеры теперь могли хранить огромные массивы неупорядоченных данных, в то время как алгоритмы – набрасываться на эти данные, чтобы находить в них закономерности и связи, ускользнувшие от аналитических способностей человека. В руках Google и Facebook эти алгоритмы стали еще более могущественными. По мере того как они выполняли поиск за поиском, они накапливали больше и больше данных. Их машины усваивали уроки прошлых поисков, используя приобретенные знания, чтобы давать все более точные ответы.

На протяжении всей истории человечества знание накапливалось методом проб и ошибок, подчас трудных. Люди изобретали очередную теорию устройства мира, а затем проверяли ее опытом, выясняя, способна ли гипотеза выдержать столкновение с реальностью. Алгоритм ставит научный метод с ног на голову: закономерности возникают из данных, из корреляции, и никакие гипотезы при этом не используются. Они устраняют человека из процесса познания. Как писал Крис Андерсон в Wired: «Можно больше не искать модели. Можно анализировать данные, не строя гипотез относительно результатов анализа. Можно бросить числа в недра крупнейших вычислительных кластеров, которые когда-либо видел мир, и посмотреть, какие закономерности смогут найти статистические алгоритмы там, где не смогла наука».

На определенном уровне опровергнуть такой подход невозможно. Алгоритмы способны переводить с одного человеческого языка на другой, не понимая значения текста, руководствуясь только закономерностями организации слов в предложения. Они могут найти совпадения там, где человеку не придет в голову искать. Алгоритмы торговой сети Walmart обнаружили всплеск спроса на клубничное печенье марки Pop-Tarts перед каждым ураганом. И хотя алгоритм бездумно реализует заложенные в него процедуры – даже по мере того, как он учится видеть новые закономерности в данных, он тем не менее отражает логику своих создателей, мотивы тех, кто обучал его. Amazon, как и Netflix, использует рекомендательные системы для книг и фильмов. (И они генерируют одну треть продаж Amazon). Алгоритмы этих систем пытаются распознать наши вкусы, а также вкусы потребителей культуры, думающих примерно как мы. И все же эти алгоритмы выдают принципиально разные рекомендации. Amazon направляет внимание на книги, похожие на уже просмотренные, а Netflix – в сторону незнакомого. Эта разница не случайна, а обоснована интересами бизнеса. Прокат блокбастеров обходится Netflix дороже, и потому, если им удается направить интерес зрителя в сторону более экзотической продукции, их доход растет. У специалистов по информатике есть поговорка, говорящая, как безжалостно алгоритмы охотятся за закономерностями. Они говорят, что данные «пытают, пока те не сознаются». В этом сравнении есть, однако, скрытый обертон.

Данные, как и жертвы пыток, рассказывают то, что хочет услышать дознаватель.

Иногда алгоритм отражает бессознательное своих создателей. Позвольте мне прибегнуть к экстремальному примеру. Профессор Гарвардского университета Латания Суини предприняла исследование и пришла к выводу, что Google выделял пользователей с афроамериканскими именами и показывал им рекламу, предполагающую, что они нуждаются в снятии судимости. Google не сообщает, отчего происходит подобное. Их алгоритм – один из наиболее тщательно охраняемых секретов. Тем не менее мы знаем, что они построили свою поисковую машину таким образом, чтобы она отражала их представления о мире. Инженеры Google предполагали, что популярность веб-сайта явно отражает его полезность; поисковая машина старается понижать приоритет порнографии, но не, скажем, сторонников еврейского заговора; она также полагает, что пользователи выиграют от новых материалов, а не от старого доброго контента. Все это разумные предпочтения и, возможно, оправданные с точки зрения бизнеса, но это предпочтения, а не наука.

Как и в экономике, в информатике есть предпочтительные модели и неявные предположения об устройстве мира. Когда программистов обучают алгоритмическому мышлению, их учат ценить эффективность превыше всего. Это полностью понятно: алгоритм с большим количеством шагов затормозит машину, а подобная машина бесполезна. Тем не менее эффективность тоже имеет цену. Ускоряя алгоритм, мы обязательно срезаем углы, обобщаем задачу.

Алгоритмы могут быть великолепным продуктом логического мышления, не говоря уже о том, что они делают нашу жизнь удобнее и способны удовлетворять наше любопытство. Они находят копию давно забытой книги XIX века за несколько миллисекунд, связывают нас с давно забытыми друзьями по начальной школе, дают магазинам возможность доставлять покупки к нашему порогу в мгновение ока. Скоро они поведут беспилотные автомобили и смогут находить раковые опухоли внутри нас. Однако, чтобы делать все это, алгоритмы безостановочно вытесняют нас. Они принимают решения о нас и за нас. Проблема в том, что, перепоручая мышление машинам, мы на деле перепоручаем его компаниям, которым принадлежат машины.

Марк Цукерберг притворно представляется критиком алгоритмов, хоть и из их собственного лагеря. Таким образом он отделяет себя от соперников из Google. Там, в цехах Ларри Пейджа, алгоритм – король, холодный и бессердечный владыка. Там нет ни следа жизни и практически нет понимания человека, набирающего поисковый запрос. Facebook создает льстящий своему собственному самолюбию автопортрет, на котором он предстает оазисом в этом автоматизированном и все более атомизированном мире: «Какой бы продукт вы ни использовали, всегда лучше делать это с друзьями».

Говорит он при этом о ленте новостей Facebook. Вот краткое объяснение для той небольшой части человечества, которая, по-видимому, еще сопротивляется: лента новостей содержит в обратном хронологическом порядке все обновления статусов, статьи и фотографии, опубликованные вашими друзьями в Facebook. Лента новостей должна нравиться, но при этом решать одну из фундаментальных проблем современности: нашу неспособность справиться с постоянно растущим, вечно стоящим перед нашими глазами массивом информации. Кто, говорит теория, лучше посоветует нам, что читать и смотреть, чем наши друзья? Цукерберг хвастался, что лента новостей превратила Facebook в «газету, настроенную на вкусы конкретного читателя».

К сожалению, наши друзья полезны нам в качестве информационных фильтров только до определенной степени. Оказывается, они публикуют многое. Если бы мы просто читали все их рассуждения и проходили бы по ссылкам на рекомендуемые статьи, мы были бы перегружены информацией почти так же, как раньше. Поэтому Facebook решает за нас, что нам следует читать. Алгоритмы компании фильтруют тысячи записей, потенциально доступных нам. Затем решают, что мы могли бы захотеть прочесть в первую очередь из отобранных ими нескольких десятков источников.

Алгоритмы невидимы по определению. Но как правило, мы можем почувствовать их присутствие – ощутить, что где-то на глубине мы все-таки взаимодействуем с машиной. Именно это сообщает алгоритму Facebook его силу. Многие пользователи – 60 % согласно лучшим исследованиям – ни в какой мере не подозревают о его существовании. Но даже если они и догадываются, это не имеет значения. Он непрозрачен до предела. Когда компания признает его существование перед журналистами, она умудряется непрозрачными описаниями затуманить предмет еще больше. Например, мы знаем, что когда-то алгоритм назывался EdgeRank, но Facebook этот термин больше не использует. Быть безымянным для этого алгоритма нормально. Он разросся до состояния практически непроницаемых джунглей. Чтобы определить, что увидят пользователи, он интерпретирует свыше ста тысяч так называемых «сигналов». Некоторые сигналы относятся ко всем пользователям Facebook, некоторые определяют привычки конкретного пользователя и его друзей. Может быть, Facebook сам уже не до конца понимает работу своих алгоритмов: код, все шестьдесят миллионов строк, представляет собой палимпсест, на который инженеры записывают новые команды слой за слоем. (Это не является чем-то присущим исключительно Facebook. Джон Кляйнберг, специалист по информатике из Корнеллского университета, был соавтором статьи, где говорилось: «Мы, вероятно впервые в истории, создали машины, работу которых не понимаем сами… На глубинном уровне мы не понимаем, каким образом они производят наблюдаемое нами поведение. Именно в этом состоит суть их непонятности». Более всего поразительно, что «мы» в этой цитате относится к авторам кода).

В качестве аналога этого алгоритма полезно представить себе один из первых компьютеров – с нервно мигающими лампочками и длинными рядами рукояток на передней панели. Чтобы регулировать работу алгоритма, инженеры постоянно вносят небольшие изменения, поворачивая рукоятку то здесь, то там на один-два щелчка. Малейшим сдвигом воображаемого колесика Facebook меняет то, что пользователи читают и видят. Он может заполнить всю ленту фотографиями, сделанными друзьями, может понизить посты с саморекламой, исключить то, что считает фальшивкой, может отдать предпочтение текстам или видео или же обратить внимание на статьи из New York Times, BuzzFeed и тому подобных изданий. Взяв мелодраматический тон, можно было бы сказать, что Facebook постоянно определяет нашу картину мира: регулирует качество новостей и мнений, пропускаемых через фильтр, меняет качество предлагаемых нам материалов из области политики и культуры, чтобы удержать наше внимание еще немного.

Но каким же образом инженеры определяют, какое именно колесико повернуть и на сколько? Существует целая дисциплина, «наука о данных»[40]40
  Более известен английский термин “data science”. – Прим. перев.


[Закрыть], цель которой – указать пути написания и совершенствования алгоритмов. В Facebook есть целое подразделение, куда людей переманивали из академических кругов, и его задача – ставить эксперименты на пользователях. Это предел мечтаний статистика: одни из самых крупных за всю историю человечества наборы данных, возможность экспериментировать на математически значимых выборках. Когда Кэмерон Марлоу, бывший глава этого подразделения, описывал открывшиеся ему возможности, он просто светился от удовольствия. «Впервые, – говорил он, – у нас есть микроскоп, не только позволяющий исследовать социальное поведение с очень высокой избирательностью, но и экспериментировать на миллионах пользователей».

Facebook предпочитает хвалиться своими экспериментами в принципе, а не сообщать их подробности. Но примеры, утекшие за пределы лабораторий, существуют. Так Facebook решила выяснить, заразны ли эмоции. В рамках этого эксперимента компания пыталась манипулировать эмоциональным состоянием пользователей: для этого она удаляла из ленты одной группы пользователей слова с позитивной окраской, а из ленты другой – с негативной. Опыт показал, что обе группы писали посты, отражавшие настроение соответствующей ленты. Этот эксперимент был единодушно осужден как бесчеловечный, но он не выбивался из череды остальных. Один из членов группы, занимающейся наукой о данных, признавался: «Эксперимент мог поставить любой наш сотрудник. Они все время пытаются изменить человеческое поведение».

Нет никаких сомнений в том, что Facebook сосредоточила в своих руках огромную эмоциональную и психологическую власть. По крайней мере у самой компании сомнений в этом нет. Facebook хвасталась, как увеличила в одном случае явку на выборы, а в другом – донорство органов, чуть усилив воздействие, вызывающее «добродетельное» поведение. Она даже публиковала свои результаты в рецензируемых журналах: «Возможно, что увеличение явки избирателей на 0,6 % между 2006 и 2010 гг. было вызвано одним сообщением на Facebook». Ни одна другая компания не хвалилась так открыто своим влиянием на механизмы демократии, и по понятным причинам. Это слишком большая власть, чтобы доверить ее корпорации.

Результаты всех этих экспериментов Facebook складываются друг с другом. Компания считает, что овладела социальной психологией и знает о своих пользователях больше, чем они знают о себе самих. Для любого из них Facebook может предсказать расу, сексуальную ориентацию, семейное положение и отношение к наркотикам по одним только лайкам. Мечта Цукерберга – проанализировать эти данные таким образом, чтобы сделать главное открытие: «фундаментальный математический закон, определяющий социальные отношения между людьми и устанавливающий, кто и в какой мере кому небезразличен». Это, конечно, задача на далекую перспективу. В ближайшее же время Facebook будет ставить опыты, постоянно выясняя, к чему мы стремимся всей душой и что предпочитаем не замечать, безостановочно совершенствуя свою способность показывать нам то, что мы хотим, и даже то, что мы еще сами не знаем, что хотим. Компанию, похоже, мало заботит, достоверная это информация или нет, сообщение из авторитетного источника или текст очередного сторонника теории заговора. Толпа получает то, чего хочет и чего заслуживает.

Автоматизация мышления: конечно, сейчас эта революция только начинается. Но можно предвидеть, к чему она приведет. Алгоритмы заменили людей во многих бюрократических, конторских задачах и скоро начнут вытеснять их из более творческих областей. В Netflix они определяют, фильмы каких жанров лицензировать для проката. Некоторые службы новостей используют алгоритмы для написания заметок о преступлениях, бейсбольных матчах и землетрясениях – то есть для решения наиболее механических репортерских задач. Алгоритмы создавали произведения изобразительного искусства, сочиняли симфоническую музыку – во всяком случае, создавали нечто приближенное.

Это в высшей степени пугающее развитие событий, во всяком случае для тех, кто работает в перечисленных областях. Если алгоритм способен воспроизвести акт творческого мышления, нет необходимости ценить его в человеке. Зачем терять время и силы на мучительный и неэффективный процесс написания картины или стихотворения, если компьютер может создать произведение, выглядящее на первый взгляд не хуже, но при этом без усилий и за долю секунды? К чему рынок высокого искусства с его вздутыми ценами, если оно может быть дешево и доступно? Ни одна сфера деятельности человека не устояла перед автоматизацией, так почему же дела в искусстве должны обстоять иначе?

Инженерный ум не в состоянии смириться с фетишизацией слов и изображений; ее не смогут оправдать ссылки ни на таинство искусства, ни на моральную сложность, ни на яркость эмоционального выражения. Он воспринимает людей как данные, как элементы системы, как абстракции. Вот почему Facebook не испытывает сомнений относительно своих постоянных экспериментов на пользователях. Цель всей этой работы – сделать людей предсказуемыми, предвидеть их поведение и упростить таким образом задачу манипулирования ими. Если представить себе это хладнокровное отношение к миру, чуждое непредсказуемости человеческой жизни, ее тайны, легко понять, почему многовековые моральные устои воспринимаются его носителями как досадное препятствие, почему идея неприкосновенности частной жизни получает так мало значения в расчетах инженера, почему издательское дело и журналистика постоянно оказываются его мишенью.

Facebook никогда не воспользовалась бы такой формулировкой, но алгоритмы предназначены для того, чтобы истребить свободу воли, избавить людей от бремени выбора, обратить их в нужном направлении. Алгоритмы питают чувство всемогущества, самодовольную веру в собственную силу менять поведение человека так, что он сам не чувствует руки, направляющей его. Эта опасность всегда была заключена в инженерном стиле мышления: выйти за пределы своего призвания, а именно – создания неодушевленных вещей, и начать совершенствовать общество по своему разумению. Мы, люди, оказываемся винтиками и гайками гигантской машины.