Текст книги "Искусственный интеллект"

9
Популярное не значит хорошее

Как сделать хорошее селфи? В 2015 г. одно из американских СМИ раскрыло результаты эксперимента, призванного ответить на этот вопрос. Для тех, кто знаком с основами фотографии, итоги оказались предсказуемыми: удостовериться, что изображение сфокусировано, лоб не обрезан и т. д. В рамках эксперимента использовались те же алгоритмы, что рассмотрели мы, изучая данные «Титаника» в главе 7.

Что интересно и что не вызвало вопросов у исследователя Андрея Карпати, тогда аспиранта Стэнфорда, а сегодня главы отдела искусственного интеллекта в Tesla, – почти на всех «хороших» фотографиях были молодые белокожие женщины, несмотря на тот факт, что в изначальном массиве фотографий были снимки и пожилых женщин, мужчин, людей с другим цветом кожи. В качестве системы оценки качества хорошей фотографии Карпати опирался на количество лайков, поставленных каждой фотографии. Подобную ошибку весьма часто допускают исследователи в области компьютерной технологии, которые не прибегают к критическому осмыслению социальных ценностей, человеческого поведения, что в итоге приводит к появлению подобных результатов. Карпати посчитал, что, раз изображение популярно, значит, оно хорошее. Выбор в пользу популярности привел к тому, что итоговая модель вышла стереотипной: в ней отдавалось предпочтение фотографиям молодых, белокожих цисгендерных женщин, вписывающихся в ограниченное гетеронормативное определение привлекательности. Представим, что вы взрослый чернокожий мужчина, и запустим ваше селфи для анализа в модель Карпати. Ваша фотография не будет маркирована как «хорошая» ни при каких условиях. Потому что вы не белый, вы не цисгендерная женщина и вы не молоды; следовательно, вы не подпадаете под критерии «хорошего». Социальный вывод для читателя заключается в том, что, если вы не выглядите определенным образом, ваше селфи принципиально не может быть «хорошим». Это не правда. Кроме того, ни один разумный человек никогда не скажет подобные вещи другому.

Такое смешение популярного и хорошего проявляется во многих цифровых системах принятия решений, использующих субъективную оценку качества. То есть человек может увидеть разницу между концептами популярного и хорошего. Человек также способен понять, что нечто популярно, но не хорошо (как рамен-бургеры или расизм) или хорошо, но непопулярно (как налоги на доход и ограничения скорости), и оценить это социально релевантным образом. (Но, например, дети или физические упражнения одновременно популярны и хороши.) Тем временем машина способна идентифицировать только популярность, опираясь на заранее установленные критерии, и сама по себе не способна распознать качество этой популярности.

Здесь мы видим фундаментальную проблему: алгоритмы разрабатываются людьми и эти люди встраивают свои бессознательные стереотипы в алгоритмы. Едва ли так происходит специально – но это не значит, что на такое положение дел можно не обращать внимания. Нам следует быть бдительными и критически настроенными относительно того, что, как нам известно, может пойти не так. Если полагать наличие дискриминации по умолчанию, то можно разработать системы, работающие в направлении равенства.

Одной из ключевых идей интернета является возможность ранжировать объекты. Нынешнее общество сходит с ума по измерениям; правда, мне не совсем ясно, появилась ли эта мания благодаря неистовому стремлению математиков к ранжированию либо это стремление является банальной реакцией на социальный запрос. В любом случае подсчеты нынче правят бал. У нас есть системы оценки колледжей, спортивных команд, команд на форумах разработчиков софта. Студенты стараются заработать более высокую позицию в списке класса. Школы ранжированы, сотрудники ранжированы.

Все мечтают занять верхнюю строчку, и никто не хочет оказаться в самом низу: кому вздумается брать на работу (или выбирать) кого-то с самых низких позиций? В образовании, области, известной мне наилучшим образом, процветает логическое заблуждение. Если мы посмотрим на результаты тестов 1000 студентов, то увидим, что они вписываются в гауссову кривую. Половина студентов будет находиться выше среднего уровня, половина – ниже, также будет небольшое количество тех, кто занял самые высокие и самые низкие позиции. Это нормально – однако школьные округа и чиновники считают, что их цель заключается в доведении всех учащихся до «релевантного уровня компетентности». Это невозможно до тех пор, пока средний уровень компетентности не станет равным нулю. Школьные округа считают, что нужно, чтобы все учащиеся были успешными, однако это вовсе не означает, что стремиться к недостижимому идеалу – действительно хорошо.

Идея о том, что популярное важнее хорошего, внедрена в само «ДНК» интернет-поиска. Задумайтесь над его происхождением: в 1990 г. двое выпускников факультета вычислительной техники размышляли над тем, что еще можно почитать по своей специальности. Тогда возраст их специальности составлял всего лишь 50 лет (в отличие от сотен лет развития близкой им математики или, например, истории) и было сложно найти литературу вне программы курсов.

Они прочли какое-то математическое исследование, в котором анализировались цитаты с целью получить индекс цитируемости, и решили попробовать применить описанный алгоритм к веб-страницам (тогда было немного веб-страниц). Проблема заключалась в том, чтобы идентифицировать «хорошие» веб-страницы, то есть те, которые стоят того, чтобы быть прочитанными. Сперва они решили повторить логику отбора академических цитат: в области компьютерных наук самые-цитируемые-статьи всегда самые важные. Значит, хорошая статья должна быть популярной по определению. Таким образом, они создали поисковик, который подсчитывал количество ссылок, указывавших на эту страницу. Затем подсчитывался ранг страницы (PageRank), основанный на количестве указывавших на нее ссылок и ссылок, находящихся внутри нее. Они посчитали, что пользователи будут поступать точно как научные работники: каждый из них будет создавать страницу, которая бы включала ссылки, ведущие на важные, по мнению конкретного пользователя, страницы. Таким образом, популярной страницей становилась та, на которую указывало много ссылок. PageRank был назван в честь одного из выпускников, Ларри Пейджа. Он и его партнер Сергей Брин решили заработать на своем изобретении и создали Google, одну из самых влиятельных компаний в мире.

Долгое время PageRank прекрасно справлялся. Популярные страницы действительно были хорошими – в том числе потому, что в сети тогда было настолько мало контента, что этот порог был не очень высоким. Тем временем все больше людей оказывались онлайн, количество контента росло, и Google стал зарабатывать деньги за счет рекламы на веб-страницах. Модель поискового ранжирования позаимствовали у научных издательств, а рекламную модель – у рекламных изданий.

По мере того как пользователи выясняли, как можно перехитрить PageRank, чтобы повысить позицию своих страниц в поисковой выдаче, популярность стала чем-то вроде валюты в сети. Разработчикам Google пришлось добавлять новые факторы поиска так, чтобы спамерам не удавалось обходить систему. Постоянно подправляя алгоритм, они в итоге добавили несколько функций. Одной из них стало определение географического положения, помогавшее автоматически заполнять адрес. По сути, это поисковое автозаполнение, основанное на реалиях окружающего мира. И, если вы вводили «ga», система бы заменила это на «GA», если в вашей округе многие искали что-то связанное с Джорджией (или, может, футбольную команду Университета Джорджии (UGA)), или предложила бы «Lady Gaga», если пользователи рядом с вами искали что-то связанное с музыкой. Сегодня в поиск внедрены более двух сотен факторов, а PageRank был дополнен множеством дополнительных функций, в том числе машинным обучением. Все это отлично работает до тех пор, пока работает.

История о том, как оформители создавали макет первой полосы газеты, служит хорошим примером того, что машина на самом деле не может переводить. Текст тщательно подбирается. Например, у разных мест на странице есть названия вроде верхней полосы и нижней полосы – это из наиболее очевидного. В газетах The Wall Street Journal всегда есть какое-то заметное место, которое называется A-hed и добавляет легкость подачи материала. Давний сотрудник газеты Барри Ньюман писал:

A-hed долгое время было просто одним из названий заголовков. Однако вскоре стал обозначать название такой истории, которая бы с легкостью сходила со страницы. A-hed – заголовок, который не кричит. Он хихикает.

Как было замечено, великие редакторы создают сосуды, в которые затем авторы помещают свою работу. Именно этим Барни Килгор стал заниматься начиная с 1941 г. Главному редактору The Wall Street Journal было известно, что в мир бизнеса следует добавить немного радости.

Помещая нечто веселое на самое видное место, где оно было окружено новостями о повседневных заботах, Килгор формулировал определенный посыл: тот, кто относится к жизни настолько серьезно, чтобы читать The Wall Street Journal, должен также быть достаточно мудрым, чтобы отступить на шаг и посмотреть на нелепости жизни…

При правильном исполнении A-hed перестает быть просто элементом новостей. Благодаря нашим личным особенностям, любопытству и страстям возникают новые идеи. A-hed – это не юмористические колонки. Они не навязывают мнения. Мы не сочиняем. Иногда легкий, остроумный намек способен затмить все шутки. Двое репортеров, рассказывающих одну и ту же историю, всегда преподнесут ее в собственной причудливой манере[129]129
  Newman, “What Is an A-Hed?”


[Закрыть].

Этот подход радикально отличается от банального скроллинга новостей в ленте Facebook, ведь редактор фактически собирает коллаж: что-то посветлее, что-то потемнее и несколько полутонов формируют «баланс» истории. Первая полоса – это тщательно подобранные элементы. В The New York Times есть целая команда, составляющая цифровую первую полосу – день за днем. Лишь некоторые СМИ могут себе позволить держать такой персонал, поэтому в менее масштабных издательствах первая полоса формируется раз в день либо же автоматически пополняется в зависимости от ее печатной версии. Однако проектирование страниц редактором повышает их ценность для читателя. Это хорошо, но непопулярно: трафик на первых страницах издательств начал резко падать с приходом социальных сетей.

Стало модно критиковать журналистов и журналистику в целом за игнорирование общественной повестки. Я бы возразила, что эти обвинения – не по адресу и не слишком полезны для общества. И тем не менее. В США переход от печатной к цифровой журналистике сильно повлиял на качество итоговой продукции. Согласно Статистическому управлению Министерства труда, в 2015 г. средняя годовая зарплата в областях интернет-паблишинга и на платформах поиска составляла примерно $197 549. В то время как средняя годовая зарплата в издательствах – $48 403, в радиовещательных компаниях – $56 332[130]130
  US Bureau of Labor Statistics, “Newspaper Publishers Lose over Half Their Employment from January 2001 to September 2016.”


[Закрыть]. Ньюсрумы пустеют потому, что талантливые писатели и журналисты ищут более высокооплачиваемую работу, немногие остаются, чтобы «держать лис подальше от курятника».

Это – проблема, поскольку мошенничество внедрено и в «ДНК» современных компьютерных технологий и технокультуры. В 2002 г. в рамках национального проекта редизайна 25-центовой монеты власти Иллинойса решили дать гражданам возможность проголосовать за изображение, которое они хотели бы видеть. У моей подруги программиста был явный фаворит – дизайн со «страной Линкольна»[131]131
  Жители Иллинойса называю так свой штат, поскольку именно оттуда началась политическая карьера А. Линкольна. – Прим. ред.


[Закрыть] – изображение молодого Авраама Линкольна, держащего книгу, фоном ему служил контур границ штата Иллинойс. Слева от Линкольна был силуэт Чикаго, а справа – абрис фермы c амбаром и силосной башней. Подруге казалось, что именно этот дизайн достоин представлять ее штат перед всей страной. Поэтому она решила немного схитрить, чтобы выровнять шансы в пользу Честного Эйба[132]132
  Одно из уважительных прозвищ А. Линкольна. – Прим. ред.


[Закрыть].

Власти Иллинойса задумали проводить онлайн-голосование, надеясь, что в результате больше людей примут участие и, значит, потенциально у властей будет возможность получить больше поддержки в будущем. Взглянув на веб-страницу с голосованием, моя подруга поняла, что может написать простенькую программу, которая постоянно голосовала бы за «землю Линкольна». Ей потребовалось несколько минут, чтобы написать ее. Она запускала ее снова и снова, выравнивая счетчик голосования в пользу своего фаворита. В итоге подруга победила с большим отрывом. А в 2003 г. именно этот дизайн был запущен в производство по всей стране.

В 2002 г., когда моя подруга рассказала мне об этом, история показалась забавной. Я до сих пор вспоминаю ее, когда роюсь в поисках разменной монеты в кармане и нахожу иллинойсский четвертной. Поначалу я соглашалась с ней в том, что голосование в рамках штата за дизайн монеты было безобидным розыгрышем, – но с течением времени поняла, насколько это было несправедливо с точки зрения властей. Администрация Иллинойса полагала, что получает объективный гражданский отклик. Но то, что они увидели в результате, – фокусы 20-летней девушки, которой стало скучно на работе. Ведь для властей штата это выглядело так, будто множество людей решило принять участие в гражданском голосовании. И, вероятно, они были счастливы участию тысяч людей в голосовании за дизайн монеты. Кроме того, десятки решений следовали за этим голосованием – о карьерах, повышениях, наконец, непосредственно в Министерстве финансов США.

Такого рода мошенничества случаются каждый час, ежедневно. Интернет, конечно, невероятное изобретение, и он вмещает в себя и неконтролируемое мошенничество, и целую сеть лжи, которая распространяется настолько быстро, что правила и законы попросту не успевают за ней. После президентских выборов 2016 г. наблюдался повышенный интерес к фейковым новостям. Однако никого из мира технологий не удивило то, что сфабрикованные материалы вообще существуют. Их скорее удивило то, что граждане отнеслись к этому настолько серьезно. «С каких это пор люди стали верить каждому слову в интернете?» – спросил меня наш программист. Он совершенно искренне не понимал, почему гражданам не известно, как веб-страницы создаются и публикуются в сети. А поскольку он этого не понимал, то и не мог принять тот факт, что некоторые воспринимают чтение чего-либо в интернете так же, как они воспринимают чтение материалов серьезного издательства. Это не одно и то же, но настолько похоже, что действительно легко перепутать проверенную информацию с непроверенной – если не обращать внимания на детали.

Некоторые – обращают.

Эта «добровольная слепота» образовалась по вине представителей техноиндустрии, и именно поэтому сегодня остро стоит необходимость в специальных технологиях и расследовательской журналистике, способной верифицировать алгоритмы и их создателей. «Лисы дежурили у курятника» с самого начала эры интернета. В декабре 2016 г. Ассоциация вычислительной техники – единственная профессиональная ассоциация исследователей в области вычислительной техники – объявила о введении поправок в свой этический кодекс. Это произошло впервые с 1992 г., и с тех пор возникало достаточно этических сложностей, однако представители ассоциации не были готовы мириться с той ролью, которую играли компьютеры в социальных вопросах. По счастью, новый этический кодекс рекомендует членам ассоциации обращать пристальное внимание на различные дискриминации, внедренные в «ДНК» вычислительных систем. Этого удалось добиться благодаря усилиям дата-журналистов и исследователей, занимающихся алгоритмической ответственностью[133]133
  Pasquale, The Black Box Society; Gray, Bounegru, and Chambers, The Data Journalism Handbook; Diakopoulos, “Algorithmic Accountability”; Diakopoulos, “Accountability in Algorithmic Decision Making”; boyd and Crawford, “Critical Questions for Big Data”; Hamilton and Turner, “Accountability through Algorithm”; Cohen, Hamilton, and Turner, “Computational Journalism”; Houston, Computer-Assisted Reporting.


[Закрыть].

Рассмотрим историю 18-летней Бриши Борден. Они с подругой дурачились в пригороде Флориды и заметили детские велосипед Huffy и скутер Razor, оба не на замке. Ребята подобрали их и попробовали покататься. Сосед вызвал полицию. «Борден с подругой арестовали и обвинили в воровстве и мелкой краже предметов на сумму $80», – описала события Джулия Ангвин из ProPublica[134]134
  Angwin et al., “Machine Bias.”


[Закрыть]. Затем Ангвин сравнила тот случай с другим похожим нарушением, когда Вернон Пратер, 41 год, своровал из флоридского магазина Home Depot инструменты на $86,35. «Ему уже выносили приговор в попытке и затем осуществлении вооруженного ограбления – за что он пять лет отбывал тюремное заключение – в дополнение к еще одному вооруженному ограблению. У Борден была судимость, но за мелкое преступление в несовершеннолетнем возрасте», – пишет Ангвин[135]135
  California Department of Corrections and Rehabilitation, “Fact Sheet.”


[Закрыть].

У каждого из этих людей был собственный прогностический рейтинг ареста – знакомо по фильмам, верно? У Борден он был высоким, поскольку она чернокожая. А у Пратера – низким, поскольку он белый. COMPAS, алгоритм анализа риска, попытался спрогнозировать, какова вероятность рецидивного поведения и повторного совершения правонарушений у задержанных. Northpointe, создатель COMPAS, – одна из многих компаний, стремящихся улучшить практики поддержания общественного порядка посредством количественных методов. Это не какое-то злое намерение; в большинстве из этих компаний работают благонамеренные криминалисты, верящие в то, что они действуют в рамках научных представлений о преступном поведении и подкрепляют свою работу данными. Разработчики и криминалисты системы COMPAS действительно верили, что, внедряя математическую формулу в процесс оценки вероятности совершения повторного преступления, они делают благое дело. «На фоне только лишь субъективных суждений объективные и стандартизированные инструменты являются наиболее эффективными методами определения мер, которые следует применять к каждому конкретному заключенному» – читаем в справке к системе COMPAS от 2009 г. из Калифорнийского отделения реабилитации и коррекции.

Проблема заключается в том, что математика не работает. «У чернокожих подсудимых по-прежнему было 77 % риска совершения жестокого преступления и 45 % риска совершения любого другого преступления», – продолжает Ангвин. ProPublica также опубликовала данные, использованные для анализа. Что хорошо, поскольку этот акт способствовал прозрачности системы правосудия; другие люди могли скачать их, поработать с ними и самостоятельно верифицировать проделанную издательством работу. А сама история спровоцировала бурю внутри сообщества профессионалов ИИ и машинного обучения. Последовал шквал обсуждений – в вежливой академическое форме, то есть люди писали много докладов и публиковали их онлайн. Один из наиболее важных докладов вышел под авторством Джона Клейнберга, профессора теории вычислительных машин Корнеллского университета, Маниша Рагхавана, выпускника Корнелла, и Сендхилла Муллэнатана, профессора экономики из Гарварда. Авторы, воспользовавшись математическим аппаратом, доказали, что система COMPAS не может одинаково справедливо оценивать чернокожих и белых. Ангвин пишет: «Они выяснили, что прогностический рейтинг риска может быть либо одинаково верен, либо одинаково неверен по отношению ко всем расам – но не к обеим. Разница заключалась в частоте новых обвинительных приговоров по отношению к черным и белым. “Если у вас два типа населения с изначально разными рейтингами, – сказал Клейнберг, – невозможно равнозначно удовлетворить оба определения справедливости”»[136]136
  Angwin and Larson, “Bias in Criminal Risk Scores Is Mathematically Inevitable, Researchers Say”; Kleinberg, Mullainathan, and Raghavan, “Inherent Trade-Offs in the Fair Determination of Risk Scores.”


[Закрыть].

Короче, алгоритмы не работают объективно, поскольку люди внедрили в них свои стереотипы. Техношовинизм заставляет людей думать, что математические формулы, лежащие в основе программного кода, каким-то образом более справедливы в решении социальных проблемы – но это не так.

Данные системы основаны на анкете из 137 пунктов, которая заполняется во время теста. Результаты фиксируются в линейном уравнении – вроде тех, что вы решали в школе. Затем идентифицируется семь криминогенных потребностей или факторов риска. Среди них «образовательно-профессионально-финансовые дефициты и навыки достижения результата», «антисоциальные или криминальные контакты» и «семейно-брачнодисфункциональные отношения». Все эти характеристики – следствие бедности. А это уже что-то совершенно бредовое.

А тот факт, что в компании Northpointe никто не задумывался о том, что в анкете или результатах есть какие-либо предрассудки, напрямую связан с техношовинистским взглядом на мир. Те, кто верит, что математика и вычислительные мощности «объективны» или «честнее», вероятнее всего, убеждены, что неравенство и расизм можно буквально стереть одним кликом. Они воображают, будто цифровой мир другой, лучше реального и посредством превращения процессов принятия решений в вычисления можно сделать мир рациональнее. В небольших командах близких по духу людей такой тип мышления может показаться нормальным. При этом он не способствует равенству и справедливости.

Я не уверена, что у техноутопистов и либертарианцев получится сделать мир лучше посредством умножения количества используемых технологий. Сделать его удобнее – конечно, однако я не верю в такое видение будущего, где все оцифровано. И дело не только в предубеждениях, но и в поломках. Цифровая техника работает плохо и недолго[137]137
  Bogost, “Why Nothing Works Anymore”; Brown and Duguid, The Social Life of Information.


[Закрыть]. Со временем телефонные аккумуляторы перестают держать заряд достаточно долго. Компьютеры перестают работать из-за того, что за годы использования жесткий диск заполнился. Автоматические водяные краны перестают распознавать движения рук. Даже лифт в доме, где я живу, – казалось бы, система, изобретенная десятки лет назад и работающая посредством простейшего алгоритма, – постоянно чудит. Я живу в многоэтажном доме, где есть лишь одна лифтовая группа. Все холлы похожи друг на друга. В одном из лифтов что-то не так из-за проводки или блока управления, поэтому каждые несколько недель случается так, что вы нажимаете на кнопку нужного этажа, а лифт везет на этаж выше или ниже. И предсказать это невозможно. Много раз я поднималась на лифте, шла по коридору к «своей» квартире и, пытаясь открыть ее, понимала, что ключ не подходит. Ведь я была не на своем этаже. Подобное случается и с другими жителями дома. Мы болтаем об этом, пока едем в лифте.

Лифты – сложные механизмы, управляемые программами. Существует алгоритм, определяющий, какой лифт на какой этаж поедет и какой из них остановится по ходу. Среди алгоритмов тоже есть степени сложности: в новых лифтах функционируют алгоритмы, оптимизирующие путь следования в любой момент нажатия кнопки. В здании издательства The New York Times в лифтовом холле вы нажимаете на кнопку на консоли управления, и к вам приезжает лифт, который быстрее прочих довезет вас до нужного этажа, опираясь на этажи назначения, указанные другими людьми, следующими в вашем направлении. У лифта всего лишь одна цель, реализацией которой занимаются высококвалифицированные изобретатели, инженеры-конструкторы, инженеры-механики, менеджеры по продажам, маркетологи, дистрибьюторы, гарантийные службы и надзорные органы. И если все эти люди, работающие вместе десятилетиями, не могут заставить лифт в моем доме делать то, что он должен, мне не слишком верится, что другая группа не менее квалифицированных людей в другой цепи разработки и эксплуатации может заставить беспилотный автомобиль выполнять несколько задач одновременно, не убивая при этом ни меня, ни моего ребенка, ни детей, путешествующих на школьном автобусе, ни детей, стоящих недалеко на автобусной остановке.

Такие привычные устройства, как лифты или автоматические смесители воды, на самом деле имеют значение, поскольку служат индикаторами качества работы всей системы в целом. И пока эти штуки не работают как до́лжно, наивно полагать, что волшебным образом заработают другие, более сложные устройства.

О неосознанных предубеждениях программистов говорят давно. В 2009 г. новостной портал Gizmodo сообщил, что процессор в камерах HP плохо справлялся с распознаванием лиц с черной кожей. В 2010 г. игровая приставка Microsoft Kinect не распознавала лица темнокожих игроков при слабом освещении. Когда часы Apple Watch только вышли в свет, в них не было календаря менструального цикла – самый очевидный элемент заботы о женском здоровье. Мелинда Гейтс из Фонда Билла и Мелинды Гейтс прокомментировала это упущение: «Я вообще не покупаю продукцию Apple, однако запустить приложение для контроля здоровья без трекера менструации? Не знаю, как у вас, но у меня всю жизнь были менструации. Это вопиющая ошибка и свидетельство того, что на женщин не обращают никакого внимания». Она также выразила свое мнение относительно очень малого количества женщин, работающих в сфере ИИ: «Когда смотришь на лаборатории и на тех, кто в них работает, можно то тут, то там увидеть единственную женщину. Но мы не найдем в одной лаборатории трех или даже четырех женщин»[138]138
  Hempel, “Melinda Gates Has a New Mission.”


[Закрыть]. За пределами лабораторий с гендерным балансом на руководящих позициях в технологических фирмах дела обстоят лучше, но все же недостаточно хорошо. Согласно данным о гендерном разнообразии, собранным The Wall Street Journal в 2015 г., в LinkedIn, крупной технологической компании, наивысший процент женщин, работающих на руководящих позициях, – около 30 %. В Amazon, Facebook и Google по 24 %, 23 % и 22 % соответственно. В целом доля женщин на руководящих позициях растет за счет сотрудниц маркетинговых и кадровых отделов. Именно эти подразделения выглядят наиболее сбалансированными с точки зрения пола, равно как и отделы, обеспечивающие работу социальных медиа. Тем не менее власть в технологических компаниях все же принадлежит разработчикам и инженерам, а не маркетологам или кадровикам.

Также имеет смысл поразмышлять о последствиях внезапного и грандиозного обогащения в сообществе программистов. В Кремниевой долине, равно как и в технокультуре в целом, наркотики играют важную роль. Они составляли основу контркультуры 1960-х гг. – от ЛСД до марихуаны, грибов, пейота и синтетических наркотиков. В техноиндустрии наркотики никогда не теряли популярность; годами никому не было дела, что кто-то под кайфом, – главное, чтобы программа была написана вовремя. Сегодня на фоне широкого распространения наркотиков, достигшего небывалых масштабов, встает вопрос о том, насколько представители техноиндустрии способствуют росту популярности и распространению ЛСД, грибов, марихуаны, аяуаски и самодельных стимуляторов, популярных как в Кремниевой долине, так и во всем мире. «На фоне расцветающей культуры стартапов, запущенной неистовыми конкурирующими вице-президентами и адреналиновыми программистами, а также благодаря тому, что вымотанные менеджеры стали искать новый способ прийти в себя, незаконное приобретение лекарств и болеутоляющих на черном рынке стало повседневной частью пейзажа в мире сверкающего фонтана технологий», – писали Хизер Сомервилль и Патрик Мей в 2014 г. в Mercury News для газеты San José[139]139
  Somerville and May, “Use of Illicit Drugs Becomes Part of Silicon Valley’s Work Culture.”


[Закрыть].

В 2014 г. Калифорния была признана штатом с самым высоким рейтингом зависимости от запрещенных лекарств и наркотиков среди населения возрастом 18–25 лет. В том же году в Области залива Сан-Франциско было выдано 1,4 млн рецептов на гидрокодон, обезболивающее, которое нередко принимают для расслабления. Прием синтетических средств позволяет вам бодрствовать, болеутоляющие хороши тогда, когда нужно заснуть. «В долине царствуют трудоголики, способность работать над срочными проектами на невероятной скорости считается там почетным отличием, – прокомментировал для Mercury News консультант по наркотикам Стив Альбрехт. – Сотрудники сутками бодрствуют, чтобы оставаться в ритме, некоторые из них постепенно переходят на метамфетамин и кокаин. Энергетики и кофе только помогают дотянуть до момента приема дозы». В округах Сан-Франциско, Марин и Сан-Матео на 100 000 поступивших в реанимацию у 159 была диагностирована передозировка стимуляторами. Это в три раза больше (39 человек на 100 000), чем по всем США.

Как пишет Мишель Александер в книге «Новый Джим Кроу» (New Jim Crow), потребителями наркотиков становятся представители всех рас[140]140
  Alexander and West, The New Jim Crow.


[Закрыть]. При этом, в то время как за малообеспеченными группами населения наблюдают – с целью соблюдения антинаркотических законов, – технологические элиты, собственно, создавшие системы наблюдения, кажется, не подпадают под подозрение. Silk Road, торговая площадка вроде eBay, но для продажи наркотиков, открыто процветала в сети с 2011 по 2013 г. После того как основатель платформы Росс Ульбрихт попал в тюрьму, на его место стали претендовать другие. В 2014 г. Алекс Херн писал для Guardian: «DarkMarket, система, посредством которой стремятся создать децентрализованную альтернативу Silk Road, пережила ребрендинг и превратилась в OpenBazaar, чтобы улучшить свой имидж на онлайн-рынке. OpenBazaar – это нечто большее, чем просто доказательство работоспособности технологии: концепция была придумана группой хакеров из Торонто в середине апреля, за что они выиграли $20 000»[141]141
  Hern, “Silk Road Successor DarkMarket Rebrands as OpenBazaar.”


[Закрыть].

Спустя два года предприниматель Брайан Хоффман вывел на рынок OpenBazaar и получил $3 млн инвестиций от венчурной фирмы Union Square Ventures и Андресена Хоровитца на то, чтобы запустить торговую платформу с биткоином, альтернативной цифровой валютой. Перед нами тот самый либертарианский рай, который представлял Тиль и другие: новое пространство в недосягаемости государства. Кажется, их план работает. Финансово-техническая компания Lend Edu изучила, как миллениалы пользуются Venmo, платежным приложением от PayPal. 33 % ответили, что с его помощью покупали марихуану, адерал, кокаин и другие наркотики[142]142
  Brown, “Nearly a Third of Millennials Have Used Venmo to Pay for Drugs.”


[Закрыть]. На сайте vicemo.com висит заголовок «Посмотри, кто покупает наркотики, алкоголь и секс на Venmo». Он показывает онлайн-поток трансакций, открыто опубликованных пользователями приложения. Здесь есть один тонкий момент. Обычно пост о трансакции выглядит так: «Кейден заплатил Коди за жрачку и ганжу». Другие пользователи постят миниатюры таблеток и инъекционных шприцов. Деревья, листья или фразы вроде «стригу траву» обычно означают трансакции за марихуану. Некоторые из них публикуются в шутку, а некоторые в действительности свидетельствуют об определенных «садоводческих» платежах. Так или иначе количество совершаемых операций шокирует, особенно с учетом роста наркомании в стране[143]143
  Newman, “Who’s Buying Drugs, Sex, and Booze on Venmo? This Site Will Tell You.”


[Закрыть].

Нелегальные наркотики популярны. Они всегда были популярны. И большинство людей согласилось бы с тем, что наркотики вредны, по крайней мере для общества в целом. Поэтому, когда технокультура способствует рекламе и распространению наркотиков, она становится контрпродуктивной для общественного блага. Впрочем, это логичное следствие процесса, когда технологии создаются согласно либертарианским ценностям с намеренным пренебрежительным отношением к реализации. Если кто-то из тех, кто покупает или продает наркотики, был арестован и его данные проверили бы по системе COMPAS, мы бы получили очередной виток дискриминации. Недостаточно попросту спросить, хороша ли та или иная технологическая инновация. Вместо этого стоит спросить: а для кого она хороша? Нам следует изучать более широкие практики применения и внедрения собственных технологических решений и быть готовыми к тому, что нам, вероятно, не понравится то, что мы увидим.