Книга: Воспитание машин. Новая история разума - Сергей Шумский

Первую треть текста можно смело выкинуть. Там автор с бухгалтерской точностью разжёвывает историю от каменного топора до атомного реактора. Всё это довольно скучно. В конце концов он переходит к делу, а именно к тому, что вычислительных ресурсов для искусственного разума сегодня нам наконец уже хватает. Однако

Это, конечно, не означало автоматически появления искусственного интеллекта, как он когда-то задумывался его отцами-основателями. Для этого у человечества пока что банально не хватает соответствующих знаний, о чем мы еще поговорим в главе 5.

Заявление о банальности оказалось неожиданным. Вот уж если что-то и есть в нашем мире наименее банальное, так это именно дефицит знания. Напечатать денег или наклепать микропроцессоров -- вот банальность. Умножение знания -- самая сложная деятельность из всех, которые можно себе представить. Сергей же Шумский увлечённо рассказывает нам о торговле и рекламе. О науке почти ничего нет, а именно в этом, по-моему, искусственный интеллект и будет наиболее полезен. Ладно, каждому своё. Немного раздражает категоричность суждений. Пару раз в книге читаем "этого мы пока не знаем", но в основном всё выглядит непреложной истиной. Думаю, будущее покажет множество ошибок в предсказанном.

Так или иначе, с большинством рассмотренных идей я согласен. На все эти темы я достаточно думал, так что ничего особенно нового в книге не обнаружил.

Идея о воспитании машин и мне тоже кажется единственно правильной. Программирование как таковое уже в прошлом, предел его возможностей будет достигнут скоро. Все программы давно написаны, теперь машинам пора начать думать.

Для воспитания машин поначалу понадобятся люди. Одни (наставники) -- это лучшие специалисты в своих областях. Они передадут машине свои бесценные знания, и их-то роботы и вытеснят из общества, когда им станет нечему от них учиться. Наставники сыграют роль провокаторов, пятой колонны человечества. Они, разумеется, найдутся. Очевидно, одних знаний и умений мало. Требуется мораль, этика. Поэтому будут ещё нужны воспитатели. Эти станут прививать машинам человеческие ценности... Разговоры о ценностях, честно говоря, настораживают. В последнее время я часто их слышу, и многие, на мой взгляд, пропагандируют вовсе не общечеловеческое единство, не мир и не дружбу. Что делать, например, с ценностями Хамаса? Если роботы унаследуют нынешние разнообразные "ценности с национальной спецификой", ничего хорошего это миру не сулит. Одни интеллекты не смогут понять других.

Вопрос о том, кто кем управляет -- мы технологиями или технологии нами -- как мне кажется, не имеет отношения к делу. Я и так не управляю ничем. Будет ли мной управлять искусственный разум, или хозяева и менеджеры Амазона с Алиэкспрессом, или какой-нибудь труп в холодильнике, это, с практической точки зрения, без разницы -- если, конечно, они не устроят геноцида. Устроить геноцид все они способны в равной мере, причём, хорошо понимающий последствия своих действий искусственный разум, наверное, учинит какую-нибудь глобальную гадость как раз с наименьшей вероятностью.

К проповедуемой цифровой демократии у меня есть свои претензии. Идея хороша, но реализуема ли? Похоже, более вероятно соорудить цифровую охлократию... а ещё проще строится автократия. Кажется, мир к ней и так идёт вопреки здравому смыслу.

Нет сомнений, что искусственному разуму нужна и искусственная психика. Сергей Шумский думает, что эта психика должна быть построена по образу и подобию нашей. Сомневаюсь. Психика, которую мы унаследовали от бесчисленных предков в процессе эволюции, хорошо годится не только и не столько для взаимной любви и альтруизма, сколько для жульничества, войны и тому подобных дел. Все мы потомки хитрецов и убийц -- и наша психика всё это умеет, но ограничивается принуждением со стороны закона. Законы же, типа Азимовских, слишком просты чтобы работать в реальном мире.

Интересно, конечно, было бы узнать, чем это всё кончится. То ли коммунизм настанет, то ли апокалипсис, вероятности того и другого абсолютно неизвестны. Хочется сказать "поживём -- увидим", но нет, мне не суждено, поэтому и читаю такие книги, см. заголовок моего текста. Книга вошла в шорт-лист премии "Просветитель" 2023 года. Уважаю эту премию, это ещё одна причина прочитать.

Напоследок мелкий спойлер. Понравился небольшой расчёт с точностью до порядка величин:

Символы, в отличие от образов, обладают небольшим разнообразием. Например, буквы могут кодироваться всего лишь пятью битами (так как 25 = 32). Зато комбинациями компактного набора символов можно закодировать практически неограниченный набор высокоуровневых понятий, определяющих любую распознанную сцену. В приведенном выше примере чтения текста этим понятиям соответствуют слова и их сочетания. Сознательное мышление вообще тесно связано с языком и представляет собой последовательные операции с символьной информацией. Минимальный акт сознания длится около 0,5 с [*]. За это время мы успеваем распознать примерно одно слово в среднем из 5 букв, или около 25 бит. Соответственно сознательное мышление (около 50 бит/с, или 10 байт/с) гораздо – в миллионы раз! – медленнее бессознательного. Но именно с такой скоростью мы разговариваем, думаем, читаем, печатаем, решаем задачи [*]. Сознательное мышление определяет скорость обучения, передачи знаний. Ведь бóльшую часть наших профессиональных знаний мы получили в процессе коммуникации с другими людьми. Скорость обучения особенно важна, так как она ограничивает объем наших знаний. Даже если учиться непрерывно по 16 часов в день (то есть 2 × 107 с в год) в течение 100 лет, максимальный объем знаний составит 1011 бит, или 1010 байт. Иными словами, знания каждого из нас составляют не более 10 ГБ, и их можно было бы записать на небольшую флешку.

([*]: здесь была ссылка на источник)

Очевидно, искусственный разум нам просто необходим -- и уже сегодня.

В целом книга хорошая, но могла бы быть много лучше.