Книга: Последнее изобретение человечества: Искусственный интеллект и конец эры Homo sapiens - Джеймс Баррат

Если коротко, то - АААААА, мы все умрем. ИИ победит и уничтожит глупых человеков, а их атомы пустит на благое дело покорения вселенной. Остановить создание ИИ нельзя, ибо все боятся, что его создадут раньше враги, поэтому нужно работать в сторону каких-то ограничителей для сверхразума и его человечности, но никто из разработчиков(или почти никто) не задумывается над возможной угрозой и поэтому ещё раз АААААА, мы все умрем.

В общем книга сводится именно к этому. Нет, тут, конечно, говорится о невероятных плюхах для человечества, которые может принести механический сверхразум. О неоспоримых выгодах и все такое. Однако это будет только в том случае, если созданный ИИ будет дружественнен. Так же немножко говорится про опасности хакеров, типа какой вред они могут принести в эпоху компьютеризации всего и вся. Про то что самообучающиеся машины это не есть круто, потому что для всех, даже для их создателей, они не больше чем черный ящик - что на входе понятно, что на выходе тоже ясно, а вот внутри творится черная магия.

Ещё, что не круто, автор винит во всем Россию и Китай(особенно в хакерских атаках), а США такие белые и пушистые. Хотя редактор вечно в сносках говорит о том что это личное мнение автора, что немного улучшает общую картину по отбеливанию США и опорочиванию прочих.

В целом интересно и даже немного поучительно-просветительно, хоть и основанно на одних разговорах и никакой элементной базы, так скажем.

И ради этой единственной мысли автор не поленился исписать триста страниц.

Сразу скажу - я не компьютерщик и в во всей этой информатике, в программировании ничего не понимаю! (автор, правда, тоже не компьютерщик, не программист и даже не ученый, как я поняла, а чисто деятель СМИ) Но, лично на мой взгляд, создается впечатление, что либо у автора серьезные психические проблемы на почве компьютеров и компьютерных технологий - либо он отрабатывает чей-то конкретный заказ. И то, и другое отвратительно. (((

Касательно психиатрии - это, условно говоря, первая половина книги. Где автор многословно, не стесняясь повторений, рассуждает об опасности ИИ, о том, как он будет враждебен... основываясь при этом большей частью на материале научной, и псевдо, и околонаучной фантастики! Законы робототехники Азимова, например, ага. Но, извините, какими бы прекрасными и удивительными не были НФ-книги, какие бы гранды их не писали - это все-таки беллетристика. Это никоим образом не научные исследования. Да, это перебор различных вариантов, моделирование с учетом того фактора или этого - в лучшем варианте. Но это не дает какой-либо твердой определенности! как мне кажется. В смысле, на каждого автора, пишущего об опасности и враждебности ИИ можно найти автора, который пишет об их полезности и, скажем так, спокойном с ними сосуществовании. Да у того же Азимова есть рассказы с враждебными ИИ, с дружественными ИИ, начисто безразличными ИИ, что угодно.

Вот тут и засада - автор заявляет острую, проблемную тему, но он не пытается в ней разобраться! Заслушать (представить аудитории) мнения за, мнения против, все такое. Он уже все для себя решил. Поэтому упорно бьет в одну точку. Он тут собрал, так сказать, список авторитетов, но - подробно описывает и рассказывает только о тех, кто поддерживает тему опасности ИИ. Если кто-то пытается смотреть на вопрос с разных сторон - автор будет приводить только те моменты, когда его точка зрения подтверждается. Про остальное будет сказано мельком и в таком ключе "но несмотря на это, он все же отметил, что..." и пошло-поехало. Если же кто последовательно отстаивает идею невраждебного ИИ, автор будет его слова помещать в свой контекст, всячески демонстрируя читателю, что это неправильное и совершенно безответственное мнение! Больше всего в этом плане достается злосчастному Курцвейлу, который осмеливается смотреть в будущее с оптимизмом и верить в НТП. Я этого Курцвейла не знаю (если не считать упоминаний в Коте Шредингера )) ), но тут прониклась к нему сочувствием. ))) Лично я, будучи махровым чайником и гуманитарием, продираясь через все эти панические изложения крутости ИИ и невозможности его одолеть, все ожидала, когда автор осветит мне элементарный вопрос, просто таки напрашивающийся. Имею в виду - как, в его понимании, ИИ будет грозить человечеству, захватывать и порабощать, если его существование зависит от кнопки выключения электричества? Первое, что приходит в голову. Не говоря уж о тупо производстве комплектующих, добыче нужных для этого полезных ископаемых... что происходит отнюдь не в виртуальности... То есть, почему вместо этих сложностей, угрожаемое человечество просто не вырубит компьютер? Ну, я этого так и не дождалась.

Ну вот, а вторая половина книги уже вызывает подозрение в наличии варианта заказа. Начинают невзначай проскальзывать какие-то моменты, которые производят неоднозначное впечатление. Как, например, автор восклицает, что ах, военные в своих целях продолжают разрабатывать все более мощные компьютеры и программы, но самое ужасное, что эти же разработки могут производиться и нехорошими организациями и государствами, несущими миру зло и угрозу, и вообще не проверишь, чего они там у себя делают! В числе таких жутких государств называются - ясное дело - Россия, Китай, Северная Корея, Иран... Ага. Не тут ли собака порылась... Дело просто все в том же старом добром классовом принципе... в современном исполнении. То есть, западноевропейская цивилизация вообще, и англосаксы в частности, или там, скажем, пресловутый золотой миллиард, претендуют на то, чтобы определять допуск не только к ядерным программам, но и к компьютерным, информационным технологиям. Контролировать их.

Это, товарищи, бесит. С какой стати какие-то белые господа должны решать, что в том же Иране могут пользоваться благами НТП и современными технологиями или должны находиться на уровне позапрошлого века. О да, если эти страшные государства (вышеперечисленные) не контролировать, так они несомненно, само собой, будут нести угрозу благословенным США. Ну и Западу вообще. Точно так же как гипотетически в скором времени ожидающийся ИИ. Возникает вопрос - а может, дело не в ИИ и его враждебности, а во враждебности и нетерпимости одной определенной цивилизации? (( Как говорится, каждый судит по себе и т.д.

О России (также СССР) автор несколько раз изложил, что - вот всем известно, что русские не разработали свое ядерное оружие с нуля, а украли его у американцев! Да, ну и что? Надо же, зайки какие. Вообще-то также известно, что и американцы не разрабатывали ядерное оружие прямо с нуля, а в значительной степени воспользовались разработками нацистской Германии, присвоив их вместе с соответствующими специалистами (среди которых, однако, были и военные преступники) и подмяв все под себя. Дальше что? А вот еще совершенно прелестный эпизод, прямо таки иллюстрирующий известный анекдот "а нас-то за шо?" В общем, короче говоря, после всех этих авторских стенаний об ужасных государствах, несущих угрозу мировому сообществу, вдруг оказывается, что это, например, не страшный Иран, а именно просветленные США разработали вирусную программу и совершили масштабную кибер-атаку на иранские компьютерные сети, в результате чего было почти полностью разрушено производство... что-то там по ядерным реакторам... ядерная программа Ирана была сильно отброшена назад... Ну, я тут даже комментировать ничего не буду. Автор, правда, высказывает порицание. Но не за то, что США грубо вмешались во внутренние дела другого государства, причинили колоссальный ущерб, уничтожили производство. А за то, что они не до конца продумали последствия, и что эта самая вирусная программа сейчас попала в руки мало ли кому. Оказывается, что не только американские военные ведомства и ЦРУ могут разрабатывать кибер-оружие и планировать вирусные атаки, но и другие тоже.

Дальше автор принялся во всех подробностях излагать, куда эти хакеры враждебных государств могут наиболее эффективно нанести удар на территории США, чтобы причинить как можно больший ущерб экономике, финансам и людским жизням вообще. Это мне вообще совершенно не понравилось. Не говоря уж о том, что публиковать такие чуть ли не инструкции в общем доступе по меньшей мере безответственно... в чем автор только что обвинял кибер-специалистов ЦРУ и Пентагона... Но и как-то в свете всего этого - а вот завтра, скажем, те же кибер-специалисты ЦРУ и Пентагона таки устроят обвал вот в этом самом звене. И обвинят в этом Россию, Китай и т.д. Северную Корею. Кто их проверять будет - вот, скажут, и книжка даже есть с предупреждениями! И эта самая их представитель в ООН будет стучать книжкой автора по трибуне, и все такое прочее. Они же так работают.

В общем, очень как-то тревожно от всего этого. ((

Джеймс Баррат - абсолютно не таков. Он достаточно владеет темой, чтобы признать возможность и, более того, ближайшие перспективы создания ИИ. И у него достаточно интеллектуальной честности, чтобы обойтись без демагогии на тему "машины никогда не превзойдут людей, т.к. у них нет души" и аналогичной чепухи. Нет, он последовательно отстаивает мысль о том, что ИИ человеческого, а затем и сверхчеловеческого уровня будет со всей неизбежностью разработан, после чего шансы человечества на выживание моментально упадут до околонулевой величины. При этом он активно задействует работы специалистов в области ИИ, детально анализирует возражения оппонентов и разбирает возможные сценарии как нашей гибели, так и предполагаемого спасения.

В сущности, я могу указать лишь на один серьезный недостаток этой книги - антропоцентричность ценностей и вытекающее из него предвзятое отношение к движению сингуляритариев. В частности, обсуждая сценарий интеграции человека с ИИ (в том числе "загрузки сознания"), автор настаивает на том, что получившийся таким образом цифровой постчеловек потенциально не менее опасен, чем "чистый" ИИ. Но, прошу прощения, опасен для кого? Для "обычных" людей - именно с их позиций и ведется изложение. И автор даже не пытается встать на точку зрения такого "загруженного" постчеловека или рассмотреть сценарий всеобщей "загрузки". Впрочем, быть может, я слишком многого требую. По сравнению с другими книгами аналогичной направлености, изданных на русском языке, эта в любом случае выдающаяся.