Книга: Форма жизни № 4. Как остаться человеком в эпоху расцвета искусственного интеллекта - Евгений Черешнев

В этой книге в очередной раз рассматривается проблема искусственного интеллекта. Что же здесь особенного по сравнению с другими? Прежде всего взятый тон: не восхищающийся и не глубоко пессимистический, а скорее ровный. Автор отмечает проблемы, связанные с внедрением искусственного интеллекта. В большей степени речь идет о тотальном отслеживании активности пользователя в сети, недобровольном использовании данных пользователя сторонними сервисами, ответственности агрегаторов данных. Уделяется внимание знаменитой системе социального кредита в Китае как проявлению тотальной прозрачности и взаимосвязанности данных.

Большой интерес в этой книге представляют практические рекомендации пользователям, желающим уменьшить свой цифровой след. Также есть интересные мысли о том, какие меры могли бы предпринять государства для регулирования сферы использования искусственного интеллекта.

В частности предлагается рассматривать создаваемый пользователями контент как их собственность. Речь идет о любых вносимых пользователями данных, даже заполнение страницы в соцсети, не говоря уж о загружаемых видеороликах, музыкальных файлах, записях в блоге или на личной странице. В конце концов соцсети аккумулируют вносимые пользователями данные для усовершенствования рекомендательных сервисов, определения того, что с наибольшей эффективностью можно рекламировать конкретному пользователю. То есть соцсети зарабатывают буквально на своих пользователях. Соцсеть по собственному почину обращается с пользовательскими данными, передает их сторонним сервисам или просто продают базы данных. Объявление пользовательских данных собственностью самого пользователя помогло бы пресечь торговлю данными, передачу их сторонним организациям без согласия пользователя. Если подумать, интернет знает о вас больше, чем вы сами.

Также важное направление связано с тем, как государства регулируют деятельность пользователей в сети. Под предлогом борьбы с терроризмом (осуждаю, товарищ майор) государство вводит юридическую ответственность за действия в сети, даже относительно давние. При желании можно подвести под статью кого угодно. Может, вы цитировали какого-нибудь иноагента (пофиг, что он тогда не был иноагентом, а вы не умеете предсказывать будущее)? Может, вы искали в сети что-то странное (товарищи писатели часто упоминают, что приходится гуглить очень странные вещи, которые со стороны могут показаться приготовлением к преступлению)? Таких примеров может быть множество. Если вы сейчас скажете, что с вашим цифровым следом все в порядке и отвечать перед законом вам не за что, то... неизбежно соврете.

В целом по книге разложены подобные рассуждения, что делает ее во многом интересной и полезной. Я совсем не пожалел о покупке.

Если у вас повышенная мания преследования, то эту книгу читать не стоит :). Весомая ее часть посвящена тому, как корпорации вроде Гугла следят за нами и буквально пошагово сканируют и записывают нашу жизнь в интернете и теперь уже и вне его. И хоть автор и дает некоторые советы, как этого (тотальной слежки) избежать , но они больше походят на попытки лечения проблем с кровообращением кровопусканием. То есть одну паранойю "за нами все время следят" мы пытаемся перекрыть другой паранойей "врешь, не возьмешь". Я лично считаю, что при текущей законодательной базе на индивидуальном уровне сделать с этой слежкой ничего нельзя. Проще, чтобы за тобой следили, чем как отец Федор пытаться залезть с куском колбасы на скалу, где тебя никто не достанет. Все равно ведь достанут.

Книга выполняет главную свою функцию - поднимает важные вопросы, пусть даже на них порой и не дается ответов, или они не выглядят убедительными. По крайней мере, каждый современный человек должен понимать, что ИИ уже здесь и как он вскоре повлияет на нашу жизнь.

Черешнев показался мне технооптимистом. Такие люди думают, что мы как человечество со всем справимся. Боялись же раньше станков или паровозов. Они заберут у людей работу, лошади больше не понадобятся. Работа нашлась, а оставшиеся лошади выполняют декоративную функцию. Вроде ничего страшного. Но мне кажется, что в подобных страшилках не всегда правильно выставляется акцент. И автор частично со мной согласен (или я с ним :). Не так важно, что некоторые профессии будут заменены роботами. Во многих областях это будет несомненным благом. Так ли нам нужны пожарные-люди? Проблема в другом. ИИ будет нами управлять, уже управляет. Автор приводит пример, как он не смог перевести деньги из-за "подозрительной операции". И никто в банке не смог помочь, ибо раз алгоритм так сказал, то ему виднее, а вмешиваться в работу алгоритма людям запрещено. Он смог решить проблему только обращением в другой банк, где еще алгоритмы не столь продвинуты и кое-что еще решают люди. А завтра таких банков уже не будет!

Автор - романтик и мечтатель. Он рисует картины чудесного будущего. Причем многие его прогнозы звучат как "через 10-20 лет". Это созвучно с советскими журналами научной фантастики, про яблони на Марсе помнят все.

Людям среднего возраста ИИ мало чем грозит, нам не суждено дожить до его "расцвета". Наши дети уже вполне ощутят все прелести алгоритмов. Внуки уже не будут знать другой жизни. Алгоритмы уже решают кому дать кредит. Потом они будут решать кому можно родиться (результаты генетеских анализов), кому можно жить (отключение от аппаратов, лишение лечения как бесперспективного при данных показателях).

Остановить развитие ИИ невозможно в силу того, что военные используют его в своих целях. А мира на Земле не придвидится.

Многие веруют или уверуют в непогрешимость и объективность алгоритмов. Я же в силу профессии знаю, что все, что написано человеком может давать ошибки. Рано или поздно ошибки проявятся. Боюсь, что тогда человек уже будет отстранен от возможности их исправления.

P.S. Хоть я и согласен с Черешневым в том, что книги формируют человека. И читать их нужно (что на этом сайте можно и не доказывать). Но вот то, что именно первые книги задают некий вектор развития, сомнительно. Первые 12 книг? Да я не помню, что я там читал. Многие читали одно и то же, в мое время не было такой доступности и такого разнообразия книг. Поэтому странно выглядит его список из 100 книг. Он крайне субъективен. Состоит из советской детской литературы, фантастики, современного научпопа и "интеллигентской попсы" вроде Пелевина. Список неплохой, но в данной книге совершенно лишний.

Тема книги искусственный интеллект, хотя по большей части, обсуждается то, как этот интеллект служит “большой пятерке” информационных гигантов (Google, Amazon, Apple, Meta, Microsoft) зарабатывать на простых жителях планеты. Бесплатный Фейсбук не просто так бесплатный, хотя его капитализация растет с каждым годом, на чем же он так растет? Все просто, все компании занимаются сбором данных, которые мы так любезно предоставляем им каждый день, и продают нас направо и налево. Наши привычки, предпочтения и все действия в сети - это то живое золото, которое кормит тех гигантов, с помощью которого они могут лучше продавать нам ненужные вещи, медленно и незаметно для нас менять наш выбор под нужный рекламодателям.

Чем больше компании знают о нас, тем лучше они продают, так как быстрее ломают сопротивление и находят персонализированные аргументы

...современный интернет с его возведенным в абсолют рекламным бизнесом и рекомендациями инфлюенсеров начал постепенно подавлять индивидуальность, наши собственные мысли и поиски себя.

А с помощью ИИ эти данные можно еще более успешно обрабатывать, треккинг данных сейчас везде, если связать несколько частичек, медицинские данные, твои покупки (к примеру усугубляешь покупкой спиртного или жирного), данные с фитнес браслета (что-то мало ходишь), вот тебе повышенный риск определенных болезней, получи ка повышенный коэффициент на страховку. Реально? Вполне. А все это можно расширить до постоянного видеонаблюдения и анализа действий, запросов в поисковике, мониторинга мессенджеров на предмет “подозрительных выражений” и сюжет фильма “Особое мнение” уже не будет казаться таким нереальным, превентивные наказания, постоянная слежка, мир без свободы, все это нас настигнет, если не научиться пользоваться ИИ на благо человека, а не владельца толстого кошелька или государства.

Также затронута тема, что мы тупеем, если ты не пользуешься каким-то навыком, то он теряет свою силу, сколько телефонов вы помните наизусть? Я вот только два, а в детстве всю записную книжку, да зачем уже что-то запоминать, если Гугл подскажет. Окажись мы без телефона, жизнь сразу рушится, мы дезориентированы и ничего толком не знаем. Все больше наш кругозор сжимается до быстрого эмоционального контента, мы уже плохо умеем концентрироваться и воспринимать сложную информацию, уходит элемент творчества, создания, мы много потребляем, а реклама, этому способствует.

Люди начинают читать и смотреть не то, что им нужно, чтобы расти, и уж точно не то, что выбрали бы самостоятельно. ... Они больше ничего не ищут, ибо информация приходит на вход разжеванной и качественно просчитанной, упакованной – они просто открывают рот и вкушают то, что вы им советуете. А вы советуете то, за что вам платят рекламодатели. А не ведущие умы планеты. Это ведет к тому, что люди в среднем становятся менее активными и в прямом смысле умными, ибо застревают в мейнстриме. А компании, которые продают то, что надо продать, растут ровно и уверенно.

Усложнение – это присущее всем системам свойство. […] На каждом витке эволюции выигрывает более сложная система (или имеющая потенциал для дальнейшего усложнения)

В книге также поднята тема кибербезопасности, что данные плодятся, а защищать их толком никто не умеет пока, монополизации владения данными, в целом сейчас все собирается через сервисы одной страны, а это всегда чревато. Что со всем этим делать, автор не сказал, есть список мер предосторожности при работе в сети, но для простого человека местами они сложноваты.

Резюмируя, если не поставить ИИ на благо себе, то все мы закончим не очень.

Шансов против честного, холодного и рационального разума, живущего ради великих целей, а не сиюминутных соблазнов, у нас при нынешнем состоянии человечества - нет. Никаких.

Ну, а книга поделилась на три неравные части.

Первая занимает примерно 1/5. В ней автор рассказывает нам о трёх видах искусственного интеллекта: -- узком (artificial narrow intelligence, ANI); -- общем (artificial general intelligence, AGI); -- и суперинтеллекте (artificial super intelligence, ASI).

сам факт появления ASI считаю исключительно вопросом времени

Цитата, надо сказать, приходит в определённое противоречие с самым концом книги. Там автор рассказывает, как мы можем избежать поглощения суперинтеллектом. Впрочем, противоречий в его тексте хватает.

Скучнейшая многословнейшая центральная часть книги подробно рассказывает, как несправедливо устроен цифровой мир. По большей части это я знаю и без Черешнева. Ну да, сервисы потому и кажутся бесплатными, что товаром являемся мы сами, наши данные, причём, товаром реально бесплатным для приобретателя. Мы сами рассказываем о себе условному Фейсбуку всё, что знаем о себе и окружающем мире, и этот Facebook (уже не условный, а тот самый) зарабатывает на собранных таким образом данных огромные сотни миллионов. Одна вещь о Фейсбуке оказалась не то чтобы совсем новой, но ясно артикулированной для меня впервые. Своими словами расскажу, а то в книге это размазано на много страниц:

Как только я регистрируюсь в Фейсбуке, я тут же в соответствии с лицензионным соглашением (которого я не читал) отдаю все свои данные, включая все свои будущие посты, картинки, комментарии, лайки и что-там-ещё-есть-или-будет в полную и безраздельную собственность Фейсбука. Он может всё это продать, убить, кому-то подарить, как угодно отредактировать и опубликовать потом, не спрашивая моего согласия и не ставя меня в известность.

Ну да, хрень полная, а сделать с этим ничего нельзя. Выбора нет: либо так, либо посылай людям информацию голубиной почтой. Е.Черешнев приводит сотню примеров, потому что ему не терпится рассказать всем, какой он умный, талантливый и стройный. Люблю себя за ум и скромность. Да, это, пожалуй, самый большой недостаток книги. Всё, что рассказывает автор, он рассказывает о себе, о Черешневе любимом. Есть и большое количество ссылок на "внешние источники", но 9/10 таких ссылок -- на просмотренные (Е.Черешневым) сериалы. Интересно, когда автор успевает их смотреть? Похоже, что отдельных серий он посмотрел намного больше, чем книг прочитал... Есть и другие недостатки: параноидальность предлагаемых решений, тенденциозность подбора данных -- не буду раскрывать, потому что не интересно это. Отмечу только один, поскольку он связан с тем же "Черешневым любимым". Это, как бы так необидно сказать... преувеличения. Автор вставил себе между большим и указательным пальцем чип с памятью в 1k, и вот:

Я научился открывать любую дверь жестом, разблокировать смартфон касанием, логиниться на любой сайт просто присутствием у компьютера – без всяких логинов и паролей, избавился от документов, ключей, проездных для метро, паспорта, прав, офисных пропусков и дисконтных карт, бумажника, визитницы, записной книжки с телефонами – короче, доброй половины содержимого сумки.

И это всё поместилось в один килобайт? И ещё:

У меня есть знакомый доктор наук в области астрофизики, который осознанно работает курьером. На мой вопрос «Зачем?!» он ответил, что для его работы не нужно ни офиса, ни кабинета, ни компьютера; все, что нужно, – это время подумать.

Офигеть не встать! Зачем вам это, господин Черешнев? Зачем вам понадобилось выдумывать этого курьера-астрофизика? И так достаточно, что вы с Илоном Маском в переписке состоите и исследовали планету от Майорки до Окинавы. Матрицы, вон, перемножать научились. И питаетесь правильно... Зачем говорить о том, о чём явно не имеете понятия? В общем, 3/5 книги, -- те, что в параноидальной середине, -- стоило бы сократить раз в 8...

Зато последняя 1/5 часть снова интересна. Там прогнозы, рекомендации и выводы.

И ещё раз скажу: при всех недостатках глобально почти во всём моё мнение в значительной степени совпадает с мнением автора!

По прочтении возникает резонный вопрос: Что делать будем? Если одним словом, то ничего, несмотря на пламенный пафос автора. Поясню. Право сильного заменилось сегодня правом умного. Лично я ничего не имею против. Считаю это даже справедливым. Кто мешал мне стать Илоном Маском? Никто. Ну, а раз так, то каждый из нас и получил своё. Исчезновение профессий под давлением ИИ -- не проблема. В XX веке и раньше исчезло множество профессий, как массовых (кучеров, например, и пастухов), так и элитных (типа кузнецов). Моральные дилеммы типа "кого давить будем беспилотным транспортом?" тоже со временем будут решаться. И уж во всяком случае робот не напьётся за рулём и не станет гонять по Третьему транспортному кольцу со скоростью 250км/ч. Реальная проблема возникнет лишь тогда, когда мы захотим роботов в качестве собственных детей. Тогда да, нам грозит полное вымирание. Но проблема ли это? Многие наши предки вымерли, те же кистепёрые рыбы -- все, кроме одного вида -- и что? Мы так уж о них жалеем? Динозавры освободили место для нас, ну и мы в нужное время освободим для роботов. Со слежкой ничего не сделаешь, будем жить в прозрачном мире. Супружеские измены станут затруднены, но ведь мы ещё во времена Гоббса отказались от свободы. Когда-то мы путешествовали по миру без виз, но не сильно переживаем сегодня из-за такого ущемления прав. Европейцы так даже рады, что мы к ним не валим толпами. От слежки мы защищены своей многочисленностью и серостью. В самом деле, что с нас взять и кому мы так уж нужны? Будь я медийной персоной я бы, пожалуй, взволновался. Но только не по поводу Фейсбука. Честно говоря, наибольшее опасение в этом смысле вызывает у меня не условный американский Facebook, а как раз таки своя конкретная и родная власть. Мечтания Е.Черешнева о безопасных "чёрных ящиках" и персональных искусственных интеллектах в роли добрых ангелов я готов прокомментировать, когда автор заткнёт в них хотя бы наиболее очевидные дыры. В дырах этих просто воет ветер. Сомневаюсь также, что можно поставить во взаимно однозначное соответствие два мозга так, чтобы они смогли обмениваться мыслями. Совсем не очевидно, что все мозги одинаковые. Скорее уж они разные, и одинаковое возбуждение нервных импульсов приведёт в разных головах к существенно разным мыслям. И не всё в этом мире можно посчитать. Даже задача трёх тел не может быть решена для достаточно далёкого будущего. Об этом Черешнев упоминает, но только единожды и вскользь. В целом же создаётся впечатление, что он надеется посчитать что угодно с любой степенью точности. Это большая ошибка.

Так или иначе, книга неординарная. Она произвела на меня существенное впечатление, хотя где-то посередине хотелось убить файл с текстом и автором.

Тем, у кого есть лишний час, рекомендую в дополнение кино "Робот, я люблю тебя". Прямо сейчас ссылка доступна, но, боюсь, её заблокируют скоро. Для тех же, у кого лишнего часа нет, подойдёт коллекция картинок по запросу "мой новый паспорт". Увидите тысячи паспортных данных каких-то людей -- берите кредит на любое имя :))) Интересно, мой паспорт тоже есть среди них?..