Книга: Искусственный интеллект. Этапы. Угрозы. Стратегии - Ник Бостром

«Перед перспективой интеллектуального взрыва, мы - люди - похожи на детей, которые играют с бомбой. Именно такое впечатление возникает от несоответствия нашей игрушки и легкомыслием, с которой мы к ней относимся. Мы не готовы сейчас, и еще долго не будем готовы к вызовам суперинтеллекта. Неизвестно, когда взорвется эта бомба, но если прислонить ее к уху, можно услышать тихое тиканье ».

Возникновение ИИ:

Насколько я понял Бострома, он рассматривает две возможности изобретения сильного ИИ. Искусственный интеллект должен быть присущим человеческому и уметь выполнять несколько функций. Потому современный интеллект хоть и выигрывает от человека в шахматы или другие игры, но выполняет хорошо только одну функцию. Нужно провести демаркационную линию и дать определение функций сильном ИИ. Вот они:

1 Умение учиться.

2 Умение работать с неопределенностью и возможными величинами. Абстрактное мышление.

3 Способность получать информацию от органов чувств и превращать ее в целостные концепты. Развитое абстрактное мышление.

Бостром пишет о двух путях к открытию сильного ИИ. Первый - это путь развития плетения нейронных сетей и постоянное обучение и совершенствование алгоритмов. Второй - путь эмуляции целого человеческого мозга. Как только ИИ достигнет интеллектуального уровня человека то в дальнейшем следует ожидать кинетического интеллектуального взрыва искусственного интеллекта и сингулярности. А потом ИИ достигнет такого развития, что человек может только мечтать. Ему откроются тайны мироздания и невероятные возможности. Тогда по мнению Бострома, нам следует ожидать двух сценариев: либо он увидит в нас угрозу и уничтожит, или поможет в научных открытиях и колонизации космоса.

Бостром описывает возможные сценарии ИИ:

1 Предкритичное состояние. В результате длительной работы ученым удалось создать зерно ИИ. Оно будет улучшать собственный интеллект, сначала будет зависеть от людей, а в дальнейшем больше работы будет выполнять самостоятельно.

2 Рескурсивное самосовершенствования. В конце концов вклад зерна ИИ в улучшение собственного интеллекта превзойдет усилия программистов и способности ИИ быстро расти, вследствие чего интеллектуальные способности ИИ вырастут до небес. В конце которого ИИ становится суперинтеллектом.

3 Тайная подготовка. ИИ использовать суперспособности для построения стратегий. Не стоит ожидать фантастических событий. ИИ может затаиться, маскировать собственные мотивы и активно наращивать капитал.

4 Открытое создания Синглтон. Синглтон - это полная диктатура искусственного интеллекта над человеческой цивилизацией. ИИ набирает мощность и нападает на человечество, и здесь у нас по мнению автора, шансов ноль. ИИ будет возможность создать массовую оружие, человечеству и не снилась, с помощью био или нанотехнологий. Или пойдет путем манипулирования через СМИ.

Критика

Пожалуй, у каждого из нас я такой друг который очень любит фантазировать. Приходишь к нему и вместо разговоров начинаются фантазии на тему «если бы». Бостром именно такой друг. Довольно часто он от конкретики переносится в мир фантазий, где представляет как было бы замечательно, если бы мы перенесли сознание в сеть. Или фантазирует о колонизации космоса, или о том, что с помощью современных технологий, евгеники и генной инженерии, мы бы смогли создать идеальное государство Платона и достичь коллективного суперинтеллекта.

Мы живем в матрице

Также Бостром является одним из основных апологетов теории симуляции. Он верит и предполагает большую вероятность того, что мы живем в «матрице» или в компьютерной симуляции. Также этот ученый допускает возможность существования Бога или великого инженера, демиурга. В книге мало этой теории, но его идеи легко найти в сети.

Плюсы:

Варианты развития ИИ Угрозы и возможности Описание развитие ИИ Книга имеет много статистики и научных фактов.

Минусы:

Автор очень любит фантазировать Опасные идеи евгеники

Итоги

По мнению Бострома и многих других авторов, человечество сейчас находится на пороге новой эры. Это переход от Homo Sapiens к Homo Digitals. Этот переход может содержать как преимущества, так и угрозы, где большинство процессов будет отдано на откуп ИИ. Мнения ученых разнятся, от оптимистичных Бострома и Тенгмарка, Джеймса Бридли, автора книги «Новый темный век» или Тоби Уолша и его книги «2062 время машин».

Отмечу, что это не книга историка типа Харари, где он представляет возможные варианты, а математика и философа, профессора Оксфорда. И несмотря на некоторые мнимые элементы, это очень профессиональная книга с графиками и формулами, подробным описанием истории и развития ИИ. Мне книга понравилась, и я еще не раз ее в будущем перечитывать. Рекомендую ознакомиться с будущим которое уже стучится в наши двери.

Думаю с книгой стоит ознакомиться - но без фанатизма , а прочитать от корки до корки не вижу смысла. Большую часть книги стоит просто пролистать или прочитать по диагонали.

Кто написал: профессор Оксфордского университета, философ, автор более 200 публикаций, один из ведущих экспертов в сфере этики искусственного интеллекта, член наблюдательных советов Machine Intelligence Research Institute и Future of Life Institute, руководитель Future of Humanity Institute.

Ник Бостром – человек, определивший позицию Илона Маска, Билла Гейтса и тысяч других людей относительно экзистенциальных рисков создания сверхразума.

Когда написана: на английском в 2014 году, на русском опубликована в 2016-м.

Достоинства: - Это – своеобразная «библия» этики искусственного интеллекта. Пожалуй, на сегодняшний день нет более объемного гуманитарного исследования, посвященного опасностям развития сверхразума. - Исследование очень глубокое – одна только библиография занимает почти сто страниц. - Книга остается актуальной даже спустя нескольких лет после ее издания в отличие от многих других книг по робототехнике и искусственному интеллекту. Очень медленное устаревание обусловлено не только гуманитарным характером исследования. В ряде случаев автор смог верно предсказать пути развития технологий. Сегодня это не самая легкая задача. - Отличный перевод. Задача была очень трудной, и переводчик с ней справился на сто процентов.

Недостатки: - Исследование, возможно, даже слишком глубокое. К середине книги читатель рискует утонуть в волнах рассуждений автора, а страницы начинают состоять из длинных абзацев в лучших традициях немецкой философии. - Иногда создается впечатление, что даже самую простую мысль автор может выразить только в узкоспециальных философских терминах, снабдив ее развернутыми умозаключениями и математической формулой. - Хотя книга изначально предназначалась, прежде всего, для специалистов в сфере искусственного интеллекта, стиль написания на эту аудиторию явно не нацелен.

Цитаты:

«Перед лицом перспективы взрывного развития интеллекта мы похожи на детей, играющих с бомбой. Именно таков разрыв между мощностью нашей игрушки и незрелостью нашего поведения. Сверхразум – это вызов, ответить на который мы не готовы сегодня, и не будем готовы еще долгое время». «Пожалуй, нас ожидает самая серьезная и пугающая повестка, которую когда-либо получало человечество. И независимо от того, победим мы или проиграем – не исключено, что этот вызов станет для нас последним».

Андрей Незнамов

В общем книгу рекомендую, тема раскрыта более чем. Типы ИИ, его намерения, ценности и проблемы контроля. Побег и захват власти, экзистенциальная катастрофа и сценарий порабощения цивилизации. :) Скучно не будет.

Пока ИИ юн и слаб, он полностью взаимодействует с людьми (причем активность сотрудничества повышается прямо пропорционально усилению его интеллектуального уровня). Но когда ИИ становится наконец мощным, то - без предупреждения или каких-либо провокаций, но всегда внезапно - наносит удар, формирует синглтон и начинает напрямую оптимизировать мир согласно критериям, положенным в основу его конечных ценностей.