Электронная библиотека » Карисса Велиз » » онлайн чтение - страница 4


  • Текст добавлен: 21 августа 2023, 10:20


Автор книги: Карисса Велиз


Жанр: Компьютеры: прочее, Компьютеры


Возрастные ограничения: +16

сообщить о неприемлемом содержимом

Текущая страница: 4 (всего у книги 15 страниц)

Шрифт:
- 100% +

Глава 3
Конфиденциальность – это власть

Представьте, что у вас есть мастер-ключ ко всему многообразию вашей жизни. Ключ или пароль, который дает вам доступ к входной двери вашего дома, вашей спальни, к вашему дневнику, компьютеру, телефону, автомобилю, сейфу, медицинской карте… Стали бы вы делать копии этого ключа и раздавать их незнакомым людям? Скорее всего, нет. Так почему же вы готовы передавать свои персональные данные практически любому, кто об этом просит?

Конфиденциальность подобна ключу, открывающему ваши интимные и личные аспекты, которые делают вас самим собой и в то же время весьма уязвимым. Ваше обнаженное тело, сексуальная история и фантазии. Ваши прошлые, настоящие и возможные будущие болезни. Ваши страхи, утраты и неудачи. Самое худшее, что вы когда-либо делали, говорили и думали. Ваши недостатки, ошибки, травмы. Эпизоды вашей жизни, за которые вам очень стыдно. Родственники, которых лучше бы не было. Подробности вечера, когда вы сильно напились.

Когда вы передаете этот ключ – свою конфиденциальность – тому, кто вас любит, это позволит вам наслаждаться близостью, а этот человек будет использовать такой ключ на благо вам. Быть близким с человеком – это значит делиться тем, что делает вас уязвимым, давать ему возможность причинить вам боль и быть уверенным, что он никогда не воспользуется привилегированным положением, которое дает близость. Люди, которые вас любят, могут использовать дату вашего рождения, чтобы устроить сюрприз на день рождения. Зная ваши вкусы, подберут идеальный подарок. Они учтут ваши самые мрачные страхи, чтобы оградить вас от того, что вас пугает.

Однако не все будут использовать доступ к вашим персональным данным в ваших интересах. Мошенники могут позаимствовать вашу дату рождения, чтобы выдать себя за вас при совершении преступления. Компании могут анализировать ваши вкусы, чтобы заинтересовать вас сомнительной сделкой. Недоброжелатели могут воспользоваться вашими самыми потаенными страхами, чтобы вам угрожать и шантажировать вас. Люди, которые не принимают ваши интересы близко к сердцу, будут использовать ваши данные в своих целях. Для большинства людей и компаний, с которыми вы взаимодействуете, ваша конфиденциальность не является приоритетом. Конфиденциальность имеет важное значение, потому что ее отсутствие дает другим власть над вами. Вы можете подумать, что вам нечего скрывать, нечего бояться. Вы не правы – если, конечно, вы не эксгибиционист с мазохистскими склонностями к страданиям от кражи персональных данных, дискриминации, безработицы, публичного унижения и тоталитаризма. Вам есть что скрывать, есть чего бояться, и тот факт, что вы не публикуете свои пароли и не даете копии своих ключей незнакомцам, подтверждает это. Возможно, вы думаете, что вашей конфиденциальности ничто не угрожает, потому что вы – никто, в вас нет ничего особенного, интересного или важного. Не принижайте себя. Если бы вы не были настолько важны, компании и правительства не стали бы прилагать так много усилий, чтобы шпионить за вами.

Вы сами решаете, чему уделить внимание, на что потратить интеллектуальные усилия. И люди борются за эту позицию[125]125
  Tim Wu, The Attention Merchants (Atlantic Books, 2017); James Williams, Stand Out of Our Light. Freedom and Resistance in the Attention Economy (Cambridge: Cambridge University Press, 2018).


[Закрыть]
. Все технологические компании хотят, чтобы вы обратили внимание конкретно на их приложение, платформу, рекламу. Они хотят узнать о вас больше, чтобы понимать, как вас привлечь, даже если подобное означает, что вам для этого нужно будет переключить свое внимание с чего-то более важного – времяпрепровождения с близкими или удовлетворения основных человеческих потребностей, таких как сон[126]126
  Alex Hern, ‘Netflixs Biggest Competitor? Sleep’, Guardian, 18 April 2017.


[Закрыть]
. У всех нас есть деньги, пусть у кого-то даже и небольшие. Компании хотят, чтобы мы тратили на них свой доход. Хакеры, помышляющие о вымогательстве, стремятся завладеть нашей конфиденциальной информацией или фотографиями. Страховые компании тоже хотят ваших денег при условии, что вы не слишком склонны к риску, и им нужны ваши данные, чтобы оценить это[127]127
  Oliver Ralph, ‘Insurance and the Big Data Technology Revolution’, Financial Times, 24 February 2017.


[Закрыть]
. Работодатели предпочитают знать все о тех, кого они нанимают, в том числе и о том, не замечены ли соискатели в рьяной борьбе за свои права[128]128
  Dave Smith and Phil Chamberlain, ‘On the Blacklist: How Did the UKs Top Building Firms Get Secret Information on Their Workers?’, Guardian, 27 February 2015.


[Закрыть]
. У вас есть тело. Государственные и частные учреждения хотят знать больше о вашем теле, возможно, даже проводить над ним эксперименты, чтобы расширить свои познания о других телах, подобных вашему. У вас есть персональные данные. Преступники стремятся использовать их для совершения правонарушений от вашего имени, предоставляя вам потом платить по счетам[129]129
  Rupert Jones, ‘Identity Fraud Reaching Epidemic Levels, New Figures Show’, Guardian, 23 August 2017.


[Закрыть]
. У вас есть личные контакты. Вы – своего рода узел сети. Каждый из нас – это чей-то ребенок, сосед, чей-то учитель, либо адвокат, либо стилист. Через вас можно связаться с другими людьми. Вот почему приложения запрашивают у вас доступ к контактам. У вас есть голос. Всевозможные представители хотят использовать его в качестве рупора в социальных сетях и за их пределами. У вас есть право голоса. Иностранные и национальные силы хотят, чтобы вы голосовали за кандидата, который будет защищать их интересы. Как видите, вы очень важный человек. Вы – источник власти.

К настоящему моменту большинство людей знают, что их данные стоят денег. Но ваши данные ценны не только потому, что их можно продать. Facebook, например, чисто технически не продает ваши данные[130]130
  Kaleigh Rogers, ‘Lets Talk About Mark Zuckerbergs Claim That FacebookDoesnt Sell Data” ’, Motherboard, 11 April 2018.


[Закрыть]
. Как и Google[131]131
  Charlie Warzel and Ash Ngu, ‘Googles 4,000-Word Privacy Policy Is a Secret History of the Internet’, New York Times, 10 July 2019.


[Закрыть]
. Зато они продают власть влиять на вас. Они хранят ваши данные, чтобы иметь возможность продавать право показывать вам рекламу и право предсказывать ваше поведение. Google и Facebook только технически занимаются экономикой данных, на самом деле они сфокусированы на технологии власти. Персональные данные дают нечто большее, чем денежная выгода, – они дают власть тем, кто их собирает и анализирует, и именно это делает данные столь желанными.

Власть

Единственное, что дороже денег, – это власть. Власть может дать вам все и вся. Если у вас есть власть, у вас могут быть не только деньги, но и возможность избежать наказания за все, что вы захотите сделать. Если у вас достаточно власти, это даже может позволить вам быть выше закона. У нее есть два аспекта. Во-первых, это то, что философ Райнер Форст определил как «способность А побуждать Б думать или делать то, о чем Б иначе бы не подумал и не сделал»[132]132
  Rainer Forst, ‘Noumenal Power’, Journal of Political Philosophy 23, 2015.


[Закрыть]
. Влиятельные люди и организации могут заставить вас думать о чем-то и что-то делать. Средства, с помощью которых сильные мира сего оказывают на вас влияние, очень разнообразны. Они включают в себя мотивирующие речи, рекомендации, глобальные идеологические нарративы, соблазнение и реальные угрозы. В эпоху цифровых технологий они могут включать алгоритмы, приложения, рекламу, фейковые новости, фальшивые группы и аккаунты, а также повторяющиеся нарративы, в которых технологии изображаются как решение всех наших проблем, а также многие другие средства, с помощью которых реализуется власть. Мы можем назвать это мягкой силой.

Форст утверждает, что грубая сила или насилие – это не проявление власти, поскольку люди, подвергающиеся насилию, ничего сами не делают – скорее, с ними что-то делают. Я с этим не согласна. Грубая сила, безусловно, является атрибутом власти. Было бы нелогично считать бессильными тех, кто подвергает нас насилию. Представьте себе армию, держащую в подчинении население, или душащего вас головореза. Макс Вебер описывает этот второй аспект власти как способность людей и учреждений «навязывать свою волю несмотря на сопротивление»[133]133
  M. Weber, ‘Economy and Society’ (Berkeley: University of California Press, 1978), 53.


[Закрыть]
. Мы можем назвать это жесткой силой.

Короче говоря, облеченные властью люди и организации заставляют нас думать и вести себя так, как мы бы не вели себя и не думали без их воздействия. Если им не удается повлиять на нас, чтобы мы действовали и думали так, как они хотят, облеченные властью люди и организации могут применить к нам силу – они способны заставить нас сделать то, что мы не сделали бы по своей воле.

Существуют разные типы власти: экономическая, политическая, военная и другие. По отношению к власти можно провести аналогию с энергией: она способна трансформироваться из одного вида в другой[134]134
  Bertrand Russell, ‘Power. A New Social Analysis’ (Routledge, 2004), 4.


[Закрыть]
. Компания, обладающая экономической властью, может использовать свои деньги, чтобы получить политическую власть, например, посредством лоббирования. Облеченный властью человек может использовать свою власть, чтобы зарабатывать деньги, идя навстречу пожеланиям частных компаний. То, что такие технологические гиганты, как Facebook и Google, обладают огромной властью, вряд ли является новостью. Однако анализ взаимосвязи между конфиденциальностью и властью может помочь нам лучше понять, как общественные институты накапливают, используют и трансформируют власть в цифровую эпоху, что, в свою очередь, может дать нам инструменты и идеи для более успешного сопротивления господству, которое усугубляется нарушениями права на неприкосновенность частной жизни. Чтобы полностью понять, как общественные институты накапливают и используют власть в цифровую эпоху, мы сначала должны взглянуть на отношения между властью и знаниями.

Власть и знания

Между властью и знаниями существует тесная связь. Как минимум, знания – инструмент власти. Мишель Фуко пошел еще дальше и заявил, что знания сами по себе являются формой власти[135]135
  Michel Foucault, ‘Discipline and Punish’ (London: Penguin Books, 1977); Nico Stehr and Marian T. Adolf, ‘Knowledge/Power/Resistance’, Society 55, 2018.


[Закрыть]
. В знании есть власть, а у власти – знания. Власть создает знания и решает, что считать знаниями. Защищая нашу конфиденциальность, мы предотвращаем возможность получения другими людьми знаний о нас, которые могут быть использованы против нас. Обладая большей властью, мы имеем больше прав в решении вопроса о том, что считать знаниями.

Чем больше кто-то знает о нас, тем больше он может предсказывать каждый наш шаг и влиять на нас. Один из многих важных вкладов М. Фуко в наше понимание власти – это осознание того, что власть не только действует на человека, но и создает человека как субъекта[136]136
  Hubert Dreyfus and Paul Rabinow, Michel Foucault, ‘Beyond Structuralism and Hermeneutics’ (University of Chicago Press, 1982), 212.


[Закрыть]
. Власть порождает определенный менталитет, она меняет восприятие, привносит способы существования в мире. В этом же аспекте Стивен Люкс утверждает, что власть может создать систему, порождающую в людях желания, которые работают против их интересов[137]137
  Steven Lukes, ‘Power. A Radical View’ (Red Globe Press, 2005).


[Закрыть]
. Желания людей могут быть спровоцированы властью, а чем менее заметны инструменты власти, тем они мощнее.

Примером того, как власть формирует предпочтения, может служить ситуация, когда технологические компании используют исследования о том, как работает дофамин, чтобы вызвать у вас зависимость от приложения. Дофамин – это нейрогормон, который побуждает вас к действию, предвкушая, как вы будете чувствовать себя после исполнения ваших желаний. Технологические компании используют такие методы, как создание нерегулярных по времени призов (вот что делает игровые автоматы настолько притягательными) и яркие цвета, чтобы заставить вас как можно больше взаимодействовать с их платформой. Лайки и комментарии к размещенным вами постам дают вам немного дофамина[138]138
  Simon Parkin, ‘Has Dopamine Got Us Hooked on Tech?’, Guardian, 4 March 2018.


[Закрыть]
. Наше желание работать с надежным приложением не вытекает из наших глубочайших обязательств и ценностей. Вы ведь не просыпаетесь с мыслью: «Сегодня я хочу бессмысленно провести три часа, прокручивая бесконечную ленту новостей Facebook». Ваше желание – продукт господства технологических компаний. И в этом смысле оно не совсем ваше. Другой пример – организаторы политических кампаний, исследующие наши убеждения, аффективные и когнитивные наклонности, чтобы показать нам рекламу, которая подтолкнет нас к тому, чтобы действовать так, как они хотят.

Власть, проистекающая из знаний, и знания, которые дает власть, могут быть тем более порабощающими, когда существует асимметрия знаний между двумя сторонами. Если, скажем, я знаю все, что нужно знать, о вас, а вы обо мне ничего не знаете, то я буду иметь над вами больше власти, чем в том случае, если бы обе стороны были осведомлены друг о друге в равной степени. Асимметрия становится еще глубже, если я знаю о вас все, а вы думаете, что я ничего не знаю, или не знаете, как много я знаю. Это делает вас вдвойне неосведомленным.

Власть, возникающая в результате обладания чьей-то персональной информацией, – это совершенно особенный вид власти, который дает осведомленной стороне возможность трансформировать ее в экономическую, политическую и другие виды власти. Возможность прогнозировать и оказывать влияние, полученная благодаря доступу к персональным данным, является квинтэссенцией власти в цифровую эпоху.

Власть в цифровую эпоху

Бо´льшая часть власти, присущей цифровой эпохе, проистекает из знаний, полученных благодаря нашим персональным данным. Государства знают о своих гражданах больше, чем когда-либо прежде. Штази, например, удалось собрать данные примерно о трети населения Восточной Германии, хотя целью было собрать полную информацию обо всех гражданах[139]139
  https://www.britannica.com/topic/Stasi


[Закрыть]
. Сегодня спецслужбы обладают гораздо бóльшим объемом информации обо всем населении. Прежде всего, значительная часть людей добровольно предоставляет персональную информацию в социальных сетях. По словам режиссера Лоры Пойтрас, «Facebook – это подарок спецслужбам»[140]140
  Andrea Peterson, ‘Snowden Filmmaker Laura Poitras: “Facebook is a Gift to Intelligence Agencies” ’, Washington Post, 23 October 2014.


[Закрыть]
. Среди прочего подобного рода информация дает правительству возможность предвидеть протесты и заблаговременно арестовывать зачинщиков[141]141
  Robert Booth, Sandra Laville and Shiv Malik, ‘Royal Wedding: Police Criticised for Pre-Emptive Strikes Against Protestors’, Guardian, 29 April 2011.


[Закрыть]
. Узнавать об организованной акции до того, как она произойдет, и иметь возможность вовремя ее подавить – предел мечтаний любой тирании.

Власть технологических компаний определяется, с одной стороны, исключительным контролем над нашими данными, а с другой – способностью предвидеть каждый наш шаг, что, в свою очередь, дает им возможность влиять на наше поведение и продавать это влияние другим, включая государство.

Компании, получающие бо´льшую часть своих доходов от рекламы, используют наши данные в качестве своеобразного непреодолимого препятствия – конкурентного преимущества, которое не позволяет альтернативным компаниям бросить вызов технологическим гигантам[142]142
  Tae Kim, ‘Warren Buffett Believes This IsThe Most Important Thingto Find in a Business’, CNBC, 7 May 2018.


[Закрыть]
. Например, поисковая система Google так хороша отчасти потому, что ее алгоритм имеет гораздо больше данных для обучения, чем любой из ее конкурентов. Помимо того, что такое количество данных защищает Google от конкурентов и позволяет ей лучше обучать, оно помогает Google узнавать, что не дает вам спать по ночам, чего вы больше всего хотите, что планируете делать дальше, с чем еще не определились. Эту информацию Google затем передает другим фирмам, которые хотят настроить таргетинг своей рекламы на вас.

Стервятники данных весьма ловко используют оба аспекта власти, о которых говорилось выше: они заставляют нас более или менее добровольно передавать свои данные, а также крадут их у нас, даже когда мы пытаемся сопротивляться.

Жесткая сила технологий

Когда наши данные собирают, даже если мы пытаемся сопротивляться, это значит, что мы столкнулись с жесткой хваткой технологических компаний. Например, Google хранит информацию о нашем местоположении, даже когда мы запретили передавать эти данные. Исследование, проведенное в 2018 году Associated Press, выявило, что Google хранит данные о местоположении, даже когда люди отключают геолокацию. При этом в настройках Google сообщается: «Вы можете отключить геолокацию в любое время. С геолокацией отключается история ваших перемещений, данные о вашем местоположении больше не сохраняются». Это неправда. Например, в Google Maps автоматически сохраняется широта и долгота вашего местоположения в момент открытия приложения, даже если у вас была отключена геолокация. Точно так же некоторые поисковые запросы, не связанные с тем, где вы находитесь, например, «печенье с шоколадной крошкой», сохраняют ваше местоположение в учетной записи Google. Чтобы отключить маркеры местоположения, вам придется отключить непонятную настройку, в которой не упоминается слово «местоположение», однако значится «активность в интернете и в приложениях». Эта настройка включена по умолчанию, благодаря ей информация из приложений Google и веб-сайтов сохранялась в вашей учетной записи[143]143
  Associated Press, ‘Google Records Your Location Even When You Tell It ot To’, Guardian, 13 August 2018.


[Закрыть]
.

Жесткую силу технологий иногда можно спутать с мягкой, потому что она не выглядит так агрессивно, как другие формы жесткой силы, такие как танки и открытое насилие. Однако когда люди делают с вами то, на что вы, очевидно, не соглашались, – это жесткая сила. Это насилие и нарушение наших прав. Хотя технологическим компаниям всегда была присуща жесткая сила и они собирали наши данные, не спрашивая разрешения, их методы становятся все менее скрытыми. Яркий тому пример – Китай. В течение многих лет правительство Китая разрабатывало и совершенствовало систему социального рейтинга при содействии технологических компаний. Эта система основана на идее кредитоспособности и внедряет ее во все сферы жизни с помощью сбора огромных массивов данных. Каждая часть данных о каждом гражданине используется для оценки этого человека по шкале надежности. «Хорошие» действия добавляют баллов человеку, а из-за «плохих» он их теряет. Власть имущие решают, что считать «хорошим». Покупка подгузников приносит баллы. А увлечение видеоиграми, покупка алкоголя и распространение фейковых новостей отнимает баллы.

Одной из отличительных черт тоталитарных обществ является то, что власть контролирует все стороны жизни – именно в этом смысле власть тотальна. При либеральной демократии (в лучшем ее проявлении) вас не наказывают во всех сферах жизни за мелкий проступок, совершенный в какой-то одной сфере. Например, ваши соседи могут возненавидеть вас за громкую музыку, которую вы регулярно слушаете, они даже могут вызвать полицию, но это никак не повлияет на вашу работу или кредитную историю (если только сосед не является вашим боссом или банковским служащим). В Китае же громкая музыка или переход улицы в неположенном месте приведет к потере баллов в рейтинге, который используется для предоставления и ограничения возможностей во всех сферах жизни. Граждан с высоким рейтингом иногда публично хвалят, они пользуются разного рода привилегиями: более короткими сроками ожидания при решении каких-либо вопросов, скидками на товары и услуги, такие как проживание в гостиничных номерах, коммунальные платежи и банковские кредиты. Они могут арендовать машину без внесения залога и даже получать больше просмотров на сайтах знакомств. Граждане с низким рейтингом могут быть публично пристыжены. Они будут испытывать значительные сложности при трудоустройстве, получении кредита или покупке недвижимости. Их могут внести в черный список для предоставления таких услуг, как эксклюзивные отели и даже путешествия самолетом или поездом.

Согласно основополагающему документу системы, такой подход должен «позволять надежным людям свободно перемещаться по миру и делать затруднительным каждый шаг для дискредитированных лиц»[144]144
  Simina Mistreanu, ‘Life Inside Chinas Social Credit Laboratory’, Foreign Policy, 3 April 2018.


[Закрыть]
. К концу июня 2019 года Китай запретил почти 27 миллионам человек покупать авиабилеты и почти 6 миллионам было отказано в поездках на высокоскоростных поездах[145]145
  Orange Wang, ‘Chinas Social Credit System Will Not Lead to Citizens Losing Access to Public Services, Beijing Says’, South China Morning Post, 19 July 2019.


[Закрыть]
. Во время пандемии коронавируса слежка в Китае зашла настолько далеко, что стало возможным устанавливать видеокамеры в домах людей без их согласия или прямо рядом с входными дверями, чтобы убедиться, что они соблюдают правила карантина[146]146
  Nectar Gan, ‘China Is Installing Surveillance Cameras Outside Peoples Front Doorsand Sometimes Inside Their Homes’, CNN Business, 28 April 2020.


[Закрыть]
.

Когда западная публика критикует китайскую систему социальной дисциплины, обычно в ответ им пеняют на то, что у них тоже есть подобные системы, в которых люди зарабатывают баллы, просто западные системы социального рейтинга менее прозрачны. В такой аргументации есть доля правды. Обычно мы не полностью осведомлены о том, как рассчитывается наш кредитный рейтинг и как его можно использовать. Есть и другие виды оценок. Большинство людей не знает о том, что у вас как у потребителя есть секретный рейтинг, который определяет, как долго вы будете ждать на линии, когда позвоните в ту или иную компанию, сможете ли вы без проблем вернуть купленные товары в магазин. И мы не можем отказаться от рейтинга потребителя – его нам навязали.

Журналистка Кашмир Хилл запросила свой профиль у Sift – американской компании, которая оценивает потребителей банковских услуг. Профиль Хилл состоял из 400 страниц с датами заказов на доставку Yelp, сообщениями, которые она отправляла в Airbnb, подробностями об имеющихся у нее устройствах и другой информацией. Хотя Sift предоставила Кашмир ее личные данные по ее запросу, в компании не дали никаких объяснений того, как эти данные повлияли на создание ее потребительского рейтинга. Они также не сказали ей, какое влияние этот рейтинг может оказывать на ее жизнь[147]147
  В статье упоминается список других компаний, которые оценивают потребителей и способы связи с ними для запроса данных. Kashmir Hill, ‘I Got Access to My Secret Consumer Score. Now You Can Get Yours, Too’, New York Times, 4 November 2019.


[Закрыть]
. Тайные и непрозрачные системы подсчета баллов недопустимы. Как граждане, мы имеем право знать правила нашей жизни.

Тем не менее нельзя отрицать, что на Западе в целом людям дается больше свободы и прозрачности, чем в Китае, несмотря на все недостатки в деятельности нашего правительства (которые мы в силах исправить, если будем бороться). Пусть наши и чужие недостатки послужат нам уроком, который поможет обуздать жесткую силу вокруг нас.

Еще один способ проявления жесткой силы технологий – это установление правил, по которым мы живем, и запрет на их нарушение. Но правила, которые раньше существовали в основном в письменной форме, сейчас все чаще встраиваются в код и устанавливаются автоматически. Вместо того чтобы свободно ездить с превышением скорости и рисковать нарваться на штраф, если вас поймают, у вашего будущего автомобиля может просто быть ограничен скоростной режим[148]148
  Jamie Susskind, ‘Future Politics. Living Together in a World Transformed by Tech’ (Oxford University Press, 2018), 103–107.


[Закрыть]
.

В свободном обществе всегда есть некоторая разница между тем, как законы выглядят на бумаге, и тем, как они применяются. Людям разрешено время от времени совершать мелкие правонарушения, потому что в хорошо функционирующем обществе большинство людей готовы следовать установленным правилам[149]149
  Jamie Susskind, ‘Future Politics. Living Together in a World Transformed by Tech’, 172.


[Закрыть]
. Если есть некоторая свобода действий, появляется место для исключений, которые сложно поместить в рамки правил. Например, превышение скорости из-за того, что вы экстренно везете кого-то в больницу. Жизнь под пятóй жесткой силы технологий, когда даже самое ничтожное правило, установленное государством или частной организацией, встроено в программный код, характеризовалась бы серьезным ограничением наших гражданских свобод.

Однако технологии используют не только жесткую силу, чтобы повлиять на нас. Они также гениально применяют к нам мягкую силу.


Страницы книги >> Предыдущая | 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 | Следующая
  • 4 Оценок: 2

Правообладателям!

Это произведение, предположительно, находится в статусе 'public domain'. Если это не так и размещение материала нарушает чьи-либо права, то сообщите нам об этом.


Популярные книги за неделю


Рекомендации