Электронная библиотека » Юваль Харари » » онлайн чтение - страница 7

Текст книги "21 урок для XXI века"


  • Текст добавлен: 21 июня 2019, 10:20


Автор книги: Юваль Харари


Жанр: Прочая образовательная литература, Наука и Образование


Возрастные ограничения: +16

сообщить о неприемлемом содержимом

Текущая страница: 7 (всего у книги 25 страниц) [доступный отрывок для чтения: 7 страниц]

Шрифт:
- 100% +
Искусственный интеллект и естественная глупость

Хорошая новость состоит в том, что, по крайней мере, в ближайшие десятилетия нам не придется иметь дело с полноценным научно-фантастическим кошмаром, в котором искусственный интеллект обретает разум и решает поработить или уничтожить людей. В процессе принятия решений мы все больше будем полагаться на алгоритмы, но сценарий, при котором алгоритмы начнут сознательно манипулировать нами, маловероятен. У них не возникнет сознание.

Научная фантастика обычно путает интеллект с сознанием и предполагает, что для того, чтобы сравняться с человеческим интеллектом или превзойти его, компьютеры должны обладать сознанием. Сюжет почти всех фильмов и романов об искусственном интеллекте вращается вокруг того волшебного момента, когда у компьютера или робота появляется сознание. Затем или главный герой влюбляется в робота, или робот пытается уничтожить человечество, или то и другое происходит одновременно.

Но в реальности нет никаких оснований предполагать, что у искусственного интеллекта появится сознание, поскольку интеллект и сознание – совершенно разные вещи. Интеллект – это способность решать задачи. Сознание – способность чувствовать боль, радость, любовь или гнев. Мы часто путаем эти понятия, потому что у людей и других млекопитающих интеллект неразрывно связан с сознанием. Млекопитающие решают большинство задач посредством чувств. Но у компьютеров совсем другой подход.

К развитому интеллекту ведут разные пути, и лишь немногие из них предполагают появление сознания. Самолеты летают быстрее птиц, но перьев у них нет; точно так же компьютеры решают задачи гораздо лучше, чем млекопитающие, не прибегая к помощи чувств. Конечно, искусственный интеллект должен уметь с высокой точностью анализировать человеческие чувства, чтобы лечить болезни, выявлять террористов, рекомендовать подходящего партнера или ориентироваться на улице, заполненной пешеходами. Но способность чувствовать для этого не нужна. Алгоритму не обязательно испытывать радость, гнев или страх, чтобы распознать отличающиеся друг от друга биохимические паттерны веселой, сердитой или испуганной человекообразной обезьяны.

Разумеется, полностью исключить появление у искусственного интеллекта собственных чувств нельзя. Мы еще недостаточно изучили феномен сознания, чтобы однозначно ответить на этот вопрос. В целом нам следует рассмотреть три возможных варианта:

1. Сознание каким-то образом связано с органической биохимией, и в неорганических системах появление сознания невозможно.

2. Сознание не связано с органической биохимией, но связано с интеллектом, так что у компьютеров не только может, но и должно появиться сознание, как только они перешагнут определенный порог развития интеллекта.

3. Не существует никаких значимых связей между сознанием и органической биохимией, а также сознанием и высоким интеллектом. Поэтому компьютеры могут обладать сознанием – но не обязательно. Они могут иметь сверхвысокий интеллект, но прекрасно обходиться без сознания.

При нынешнем уровне знаний о человеке мы не исключаем ни один из этих вариантов. Но именно недостаток знаний делает маловероятным, что в ближайшем будущем нам удастся разработать программу для компьютера, обладающего сознанием. Поэтому, несмотря на огромную мощь искусственного интеллекта, в обозримой перспективе его использование будет в определенной степени зависеть от человеческого сознания.

Опасность состоит в том, что, если мы вложим слишком много сил и средств в развитие искусственного интеллекта и слишком мало – в развитие человеческого сознания, чрезвычайно изощренный искусственный интеллект компьютеров будет лишь усугублять естественную глупость людей. В ближайшие десятилетия мы вряд ли столкнемся с восстанием роботов, но не исключено, что нам придется иметь дело с ордами ботов, которые умеют воздействовать на наши эмоции успешнее, чем наша родная мать, и используют эту способность, чтобы пытаться нам что-то продать – автомобиль, политического деятеля или целую идеологию. Боты будут распознавать наши скрытые тревоги и тайные желания, а затем использовать их против нас. Мы уже видели, как это выглядит, во время недавних выборов и референдумов по всему миру, когда хакеры научились манипулировать отдельными избирателями, анализируя информацию о них и используя их предрассудки[74]74
  Snyder, The Road to Unfreedom, op. cit.


[Закрыть]
. Научно-фантастические триллеры тяготеют к драматическому апокалипсису с огнем и дымом, но в реальной жизни мы можем столкнуться с весьма тривиальным апокалипсисом, просто кликая компьютерной мышью.

Чтобы избежать такого исхода, на каждый доллар и каждую минуту, вложенные в совершенствование искусственного интеллекта, было бы разумно тратить по одному доллару и одной минуте на развитие человеческого сознания. К сожалению, сегодня мы делаем слишком мало для исследования и развития нашего сознания. Мы, как правило, проводим научно-исследовательские и опытно-конструкторские разработки (НИОКР) в области человеческих способностей в поисках ответа на насущные требования экономической и политической системы, забывая о наших долговременных потребностях как сознательных существ. Мой начальник хочет, чтобы я оперативно отвечал на письма, но его совсем не интересует моя способность чувствовать вкус пищи и наслаждаться ею. Поэтому я проверяю электронную почту даже во время еды – и теряю способность сосредоточиваться на своих ощущениях. Экономическая система призывает расширять и диверсифицировать инвестиционный портфель, но не побуждает расширять и диверсифицировать мое сострадание. Поэтому я стараюсь проникнуть в тайны фондовой биржи, но прилагаю гораздо меньше усилий, чтоб понять глубинные причины страданий людей.

В этом отношении люди похожи на домашних животных. Мы вывели послушных коров, дающих огромное количество молока, но в остальном сильно уступающих своим диким предкам. Они не такие проворные, любопытные и изобретательные[75]75
  Anna Lisa Peterson, Being Animal: Beasts and Boundaries in Nature Ethics (New York: Columbia University Press, 2013), 100.


[Закрыть]
. Теперь мы создаем прирученных людей, которые производят огромное количество данных и функционируют как высокопроизводительные чипы в машине обработки информации, но эти «информационные коровы» вряд ли приумножают человеческий потенциал. В сущности, мы понятия не имеем, каковы человеческие возможности, потому что очень мало знаем о своем сознании. Тем не менее мы вкладываем недостаточно ресурсов в изучение человеческого сознания, а вместо этого стремимся повысить скорость интернет-связи и эффективность алгоритмов Big Data. Такое легкомыслие может привести к тому, что деградировавшие люди будут неправильно использовать совершенные компьютеры, уничтожая самих себя и мир вокруг.

Цифровые диктатуры – не единственная опасность, которая нас подстерегает. В списке главных либеральных ценностей наряду со свободой фигурирует равенство. Либерализм всегда восхвалял политическое равенство, но постепенно пришел к выводу о важности и экономического равенства. Дело в том, что без системы социального обеспечения и минимального экономического равенства свобода бессмысленна. Алгоритмы больших данных способны не только уничтожить свободу, но и одновременно сформировать общество с небывалым уровнем неравенства. Немногочисленное меньшинство монополизирует богатство и власть, а большинство людей окажутся просто ненужными.

4
Равенство
Кто владеет информацией – владеет будущим

В последние десятилетия людям во всем мире внушали, что человечество движется к всеобщему равенству, а достичь его быстрее помогут глобализация и технологии. На самом деле XXI век может породить общества с таким неравенством, какого еще не знала история. Глобализация и интернет выравнивают положение стран, но углубляют пропасть между классами. Не исключено, что на пороге глобальной унификации сам человек как вид разделится на разные биологические касты.

Неравенство уходит корнями еще в каменный век. 30 тысяч лет назад группы охотников и собирателей одних соплеменников хоронили в роскошных могилах вместе с тысячами бусин из слоновой кости, браслетами, драгоценными камнями и предметами искусства, а других просто опускали в яму и засыпали землей. Тем не менее сообщества каменного века были более эгалитарными, чем любое из последующих: ведь у древних людей почти не было собственности. Именно собственность является условием для долговременного неравенства.

После аграрной революции собственности стало во много раз больше – а вместе с ней и неравенства. По мере того как люди получали в собственность землю, животных, растения и орудия труда, появлялись общества с жесткой иерархией, в которых немногочисленные элиты монополизировали бóльшую часть богатств и власти, передавая их из поколения в поколение. Такой порядок вещей стал считаться естественным и даже предписанным свыше. Иерархия стала не просто нормой, но и идеалом. Разве может существовать порядок без четкой иерархии с разделением на аристократов и обычных людей, на мужчин и женщин, на родителей и детей? Во всем мире священники, философы и поэты твердили: как не равны органы человеческого тела (ноги должны подчиняться голове), так и в человеческом обществе равенство не принесет ничего, кроме хаоса.

В Новейшее время равенство стало идеалом почти во всех человеческих обществах. Одна из причин этого – появление новых идеологий: коммунизма и либерализма. Другой причиной была промышленная революция, значительно усилившая влияние народных масс. Промышленная экономика опиралась на массы обычных рабочих; основу армий индустриальных обществ составляли массы обычных солдат. И при демократии, и при диктатуре правительства вкладывали значительные средства в здоровье, образование и благополучие масс, поскольку нуждались в миллионах здоровых тружеников для работы на заводском конвейере и миллионах преданных солдат для борьбы с врагами.

Таким образом, в XX веке неравенство между классами, расами и полами сокращалось. В 2000 году в мире еще сохранялись иерархии, но равенства в нем было гораздо больше, чем в 1900-м. Люди ждали, что в первые годы XXI века этот процесс продолжится и даже ускорится. В особенности они надеялись, что глобализация принесет экономическое процветание всему миру и жители Индии и Египта получат те же возможности и привилегии, что и граждане Финляндии и Канады. С этой надеждой выросло целое поколение.

Сегодня мы приходим к выводу, что подобные мечты могут и не сбыться. Совершенно очевидно, что глобализация принесет пользу очень многим, однако в последнее время появились признаки усиления неравенства как между обществами, так и внутри их. Немногочисленные группы все больше монополизируют плоды глобализации, а миллиарды людей не получают ничего. Уже сегодня 1 % самых богатых людей владеет более чем половиной мирового богатства. Еще бóльшую тревогу вызывает тот факт, что состояние 100 самых богатых людей превышает суммарное состояние 4 миллиардов самых бедных[76]76
  ‘Richest 1 Percent Bagged 82 Percent of Wealth Created Last Year – Poorest Half of Humanity Got Nothing’, Oxfam, 22 January 2018, https://www.oxfam.org/en/pressroom/pressreleases/2018-01-22/richest-1-percent-bagged-82-percent-wealth-created-last-year, ссылка актуальна на 28 February 2018; Josh Lowe, ‘The 1 Percent Now Have Half the World's Wealth’, Newsweek, 14 November 2017, http://www.newsweek.com/1-wealth-money-half-world-global-710714, ссылка актуальна на 28 February 2018; Adam Withnall, ‘All the World’s Most Unequal Countries Revealed in One Chart’, Independent, 23 November 2016, http://www.independent.co.uk/news/world/politics/credit-suisse-global-wealth-world-most-unequal-countries-revealed-a7434431.html, ссылка актуальна на 11 March 2018.


[Закрыть]
.

Но и это еще не предел. Как отмечалось в предыдущих главах, развитие искусственного интеллекта может уничтожить экономическую ценность и политическое влияние большинства людей. В то же время развитие биотехнологий позволит превратить экономическое неравенство в биологическое. Сверхбогатые люди в конечном счете найдут действительно достойное применение своему богатству. Раньше они могли купить лишь символы статуса, но вскоре у них появится возможность купить саму жизнь. Если новые препараты для продления жизни или улучшения физических и когнитивных способностей будут очень дорогими, может образоваться глубокая биологическая пропасть между богатыми и бедными.

На протяжении всей истории человечества богачи и аристократы считали себя лучше остальных и утверждали, что именно поэтому власть принадлежит им. Как мы знаем, это неправда. Средний герцог был не более талантлив, чем средний крестьянин, а своим высоким положением он был обязан несправедливой юридической и экономической дискриминации. Тем не менее не исключено, что в 2100 году богатые действительно станут более талантливыми, умными и креативными личностями, чем обитатели трущоб. После того как образуется реальная пропасть между способностями богатых и бедных, преодолеть ее будет практически невозможно. Если богатые будут использовать свои способности для еще большего обогащения и если за деньги можно будет купить более совершенные тела и мозги, со временем эта пропасть только расширится. К 2100 году 1 % самых состоятельных людей будет владеть большей частью не только мирового богатства, но и красоты, творческих способностей и здоровья.

Таким образом, эти два процесса – биоинженерия и развитие искусственного интеллекта – совокупно могут привести к разделению человечества на небольшой класс суперлюдей и массовый низший класс бесполезных Homo sapiens. Ситуацию усугубляет то обстоятельство, что по мере утраты массами экономического значения и политической власти государство лишается по крайней мере части стимулов для инвестиций в здоровье, образование и благополучие людей. Изобилие очень опасно. В этом случае судьба масс будет зависеть от доброй воли немногочисленной элиты. Эта добрая воля, вполне вероятно, продержится пару десятилетий или даже больше. Но где гарантия, что в период кризиса – например, климатической катастрофы – элита устоит перед искушением выбросить лишних людей за борт?

В таких странах, как Франция и Новая Зеландия, с давними традициями либеральных убеждений и политики «государства всеобщего благоденствия», элита, скорее всего, будет заботиться о массах, даже перестав в них нуждаться. Однако в США с их классическим капитализмом элита, вероятно, воспользуется первой же возможностью избавиться от остатков социального государства. Еще более серьезные проблемы ждут крупные развивающиеся страны, такие как Индия, Китай, ЮАР и Бразилия. В них после утраты людьми экономической ценности неравенство, скорее всего, стремительно вырастет.

Таким образом, вместо глобализации, ведущей к всемирному единству, мы рискуем получить «видообразование»: разделение человечества на разные биологические касты или даже виды. Глобализация объединит мир по горизонтали, стерев национальные границы, но одновременно разделит человечество по вертикали. Правящие олигархии в таких разных странах, как США и Россия, могут объединиться и общим фронтом выступить против простых сапиенсов. С этой точки зрения нынешнее неприятие «элит» имеет серьезные основания. Если мы не проявим осторожность, внуки магнатов из Кремниевой долины и московские миллиардеры превратятся в высшую касту по отношению к внукам жителей горных районов Аппалачей и сибирских деревень.

В отдаленной перспективе такой сценарий способен привести даже к деглобализации мира: высшая каста соберется внутри самопровозглашенной «цивилизации» и построит стены и рвы, чтобы отгородиться от орд «варваров» снаружи. В XX веке промышленная цивилизация опиралась на «варваров» с их дешевым сырьем, полезными ископаемыми и рынками. Именно поэтому цивилизация завоевывала и ассимилировала их. Но в XXI веке постиндустриальная цивилизация, опирающаяся на искусственный интеллект, биоинженерию и технологии, обретет гораздо большую независимость и самодостаточность. Ненужными окажутся не только целые классы, но и целые страны и континенты. Укрепления, охраняемые дронами и роботами, отделят самопровозглашенную цивилизованную зону, где киборги сражаются друг с другом с помощью логических бомб, от земель варваров, где дикие люди сражаются друг с другом, вооружившись мачете и автоматами Калашникова.

В этой книге я часто использую «мы», когда говорю о будущем человечества. Я рассуждаю о том, что «нам» нужно делать с «нашими» проблемами. Однако возможно, что никаких «мы» не существует. Возможно, одна из самых больших «наших» проблем состоит в том, что разные группы людей ждет разное будущее. Не исключено, что в одних регионах мира детей нужно учить программированию, а в других им больше пригодится умение быстро выхватывать пистолет и метко стрелять.

Кто владеет информацией?

Если мы не хотим, чтобы все богатства и власть концентрировались в руках немногочисленной элиты, нам необходимо регулировать владение данными. В древности самым ценным активом была земля, и политические силы сражались за контроль над ней; если в руках слишком маленького числа людей оказывалось слишком много земли, общество делилось на аристократов и простонародье. В новейшую эпоху машины и заводы стали более ценными, чем земля, и политическая борьба велась за контроль над этими жизненно важными средствами производства. Если слишком много машин оказывается в руках слишком маленького числа людей, общество делится на капиталистов и пролетариев. В XXI веке место земли и машин как главного актива займет информация и политики будут бороться за контроль над потоками данных. Если данные сконцентрируются в руках слишком маленького числа людей, человечество разделится на разные виды.

Гонка за данными уже началась, и в ней лидируют такие цифровые гиганты, как Google, Facebook, Baidu и Tencent. До сих пор многие из них придерживались бизнес-модели «торговли вниманием»[77]77
  Tim Wu, The Attention Merchants (New York: Alfred A. Knopf, 2016).


[Закрыть]
. Они привлекают наше внимание, предоставляя бесплатную информацию, услуги и развлечения, а затем перепродают это внимание рекламодателям. И все же цифровые гиганты ставят перед собой гораздо более высокую цель, чем прежние торговцы вниманием. Их истинный бизнес вовсе не в продаже рекламы. Вызывая наш интерес, они получают возможность собрать о нас огромное количество информации, которая стоит больше, чем любые доходы от рекламы. Мы для них не клиенты – мы продукт.

В среднесрочной перспективе этот массив данных открывает дорогу к совсем иной бизнес-модели, причем ее первой жертвой станет сама рекламная индустрия. Новая модель основана на передаче власти от людей к алгоритмам, в том числе власти выбирать и покупать товары. После того как алгоритмы начнут выбирать и покупать вместо нас, традиционная рекламная индустрия обанкротится. Возьмем, к примеру, Google. Алгоритм Google стремится достичь такого положения, при котором мы будем спрашивать его обо всем и получать лучший в мире ответ. Что произойдет, если однажды у нас появится возможность спросить: «Привет, Google, какой автомобиль мне больше подойдет, если исходить из всего, что ты знаешь об автомобилях и обо мне (включая мои потребности, привычки, отношение к глобальному потеплению и мнение о ближневосточной политике)?» Если Google сумеет дать хороший ответ на этот вопрос и если на основе личного опыта мы привыкнем доверять мудрости алгоритма, а не собственным чувствам, которыми легко манипулировать, реклама автомобилей станет не нужна[78]78
  Cara McGoogan, ‘How to See All the Terrifying Things Google Knows about You’, Telegraph, 18 August 2017, http://www.telegraph.co.uk/technology/0/see-terrifying-things-google-knows/, ссылка актуальна на 19 October 2017; Caitlin Dewey, ‘Everything Google Knows about You (and How It Knows It)’, Washington Post, 19 November 2014, https://www.washingtonpost.com/news/the-intersect/wp/2014/11/19/everything-google-knows-about-you-and-how-it-knows-it/?utm_term=.b81c3ce3ddd6, ссылка актуальна на 19 October 2017.


[Закрыть]
.

В отдаленном будущем цифровые гиганты, объединив огромные массивы данных и огромные вычислительные мощности, смогут проникать в самые глубокие тайны жизни, а затем использовать это знание не только для того, чтобы делать за нас выбор и манипулировать нами, но и для переделки органической жизни и создания ее неорганических форм. В краткосрочной перспективе цифровые гиганты еще будут нуждаться в продаже рекламы, но уже сейчас они часто оценивают приложения, товары и компании исходя не из того, сколько денег они на этом заработали, а из того, как много данных сумели на этом собрать. Популярное приложение сегодня может не соответствовать бизнес-модели или даже быть убыточным, но, если оно способствует сбору данных, завтра его ценность будет исчисляться миллиардами долларов[79]79
  Dan Bates, ‘YouTube Is Losing Money Even Though It Has More Than 1 Billion Viewers’, Daily Mail, 26 February 2015, http://www.dailymail.co.uk/news/article-2970777/YouTube-roughly-breaking-nine-years-purchased-Google-billion-viewers.html, ссылка актуальна на 19 October 2017; Olivia Solon, ‘Google’s Bad Week: YouTube Loses Millions As Advertising Row Reaches US’, Guardian, 25 March 2017, https://www.theguardian.com/technology/2017/mar/25/google-youtube-advertising-extremist-content-att-verizon, ссылка актуальна на 19 October 2017; Seth Fiegerman, ‘Twitter Is Now Losing Users in the US’, CNN, 27 July 2017, http://money.cnn.com/2017/07/27/technology/business/twitter-earnings/index.html, ссылка актуальна на 19 October 2017.


[Закрыть]
. Даже если сегодня вы не знаете, как заработать на накопленной информации, собирать ее все равно стоит, поскольку в будущем она даст вам ключ к контролю над меняющейся жизнью. Я не уверен, что цифровые гиганты преследуют именно такие цели, но их действия говорят о том, что сбор данных значит для них больше, чем доллары и центы.

Обычному человеку трудно сопротивляться этому процессу. Сегодня люди с готовностью отдают свой самый ценный актив – личные данные – в обмен на бесплатную почтовую программу и забавные видео с котиками. Точно так же коренные жители Африки и Америки наивно отдавали европейским колонизаторам целые страны в обмен на цветные бусы и дешевые безделушки. Если потом простые люди попытаются заблокировать поток данных, то выяснится, что сделать это очень трудно, особенно если алгоритмы начнут принимать за них все решения, в том числе касающиеся здоровья и физического выживания.

Слияние людей и компьютеров может стать настолько полным, что люди, отсоединившись от сети, просто не выживут. Они будут подключены к ней еще в утробе матери, а если захотят отключиться, то страховые агентства откажутся заключать с ними договоры, работодатели не примут на работу, а медицинские учреждения не станут их обслуживать. В битве между здоровьем и приватностью здоровье, скорее всего, одержит легкую победу.

По мере того как будет увеличиваться поток данных, поступающих к умным машинам от биометрических датчиков, корпорации и правительственные учреждения научатся понимать вас, манипулировать вами, принимать за вас решения. Но что еще важнее, они смогут расшифровать глубинные механизмы работы тела и мозга и таким образом получить власть над жизнью. Если мы хотим помешать немногочисленной элите монополизировать возможности, которые раньше приписывали богам, и не хотим, чтобы человечество разделилось на биологические касты, необходимо ответить на главный вопрос: кто владеет информацией? Кому принадлежат данные о нашей ДНК, нашем мозге и нашей жизни – нам, правительству, корпорации или человеческому сообществу?

Позволив государству национализировать данные, мы, вероятно, ограничим власть корпораций, но в результате получим ползучую цифровую диктатуру. Политики чем-то похожи на музыкантов, но их инструмент – эмоциональная и биохимическая система человека. Они произносят речь – и страну захлестывает волна страха. Они делают публикацию в Twitter – и ответом на нее становится взрыв ненависти. По моему мнению, не стоит предоставлять этим музыкантам более изощренный инструмент. Если политики начнут напрямую управлять нашими эмоциями, по своей прихоти вызывая тревогу, ненависть, радость или скуку, политика превратится в эмоциональный цирк. Да, мы должны остерегаться власти больших корпораций, но история учит нас, что под сенью слишком сильного государства нам живется немногим лучше.

Частная собственность на персональные данные выглядит более привлекательным вариантом, чем приведенные выше, но не совсем понятно, что это значит. Наш опыт регулирования собственности на землю исчисляется не одной сотней лет. Мы можем огородить поле, поставить охранника на воротах, составить список тех, кому разрешен доступ за ограду. За последние два века мы очень хорошо научились регулировать собственность на средства производства – сегодня ничто не мешает мне владеть небольшой частью General Motors и небольшой частью Toyota, достаточно купить акции этих компаний. Но у нас нет опыта в регулировании владения данными, что по определению гораздо сложнее, поскольку, в отличие от земли и машин, данные находятся везде и одновременно нигде, они перемещаются со скоростью света и поддаются бесконечному числу копирований.

Поэтому следует обратиться к юристам, политикам, философам и даже поэтам, чтобы они обратили внимание на эту головоломку: как регулировать владение данными? Возможно, это главный политический вопрос нашей эпохи. Если нам не удастся ответить на него в ближайшее время, нашей общественно-политической системе грозит крах. Люди уже чувствуют приближение катастрофы. Вероятно, именно поэтому граждане самых разных стран теряют веру в либеральную концепцию, которая каких-то десять лет назад казалась неопровержимой.

Как же нам двигаться вперед и справиться с вызовами, которые несут с собой революции в ИТ и биотехнологиях? Быть может, те же ученые и предприниматели, руками которых разрушается привычный мир, найдут технологические решения для его спасения? Например, сетевые алгоритмы могут сформировать некие инструменты для всего человечества, которое будет коллективно владеть всеми данными и управлять будущим развитием жизни. Или по мере усиления глобального неравенства и роста социальной напряженности в мире Марк Цукерберг обратится к двум миллиардам френдов с просьбой объединиться для совместных действий?

Внимание! Это не конец книги.

Если начало книги вам понравилось, то полную версию можно приобрести у нашего партнёра - распространителя легального контента. Поддержите автора!

Страницы книги >> Предыдущая | 1 2 3 4 5 6 7
  • 4.5 Оценок: 6

Правообладателям!

Данное произведение размещено по согласованию с ООО "ЛитРес" (20% исходного текста). Если размещение книги нарушает чьи-либо права, то сообщите об этом.

Читателям!

Оплатили, но не знаете что делать дальше?


Популярные книги за неделю


Рекомендации