Текст книги "Рефлексивные агенты и человечество: кооперация или конфликт?"

Заключение

Предпринята попытка критического анализа отдельных положений книги Д. Хокинса и С. Блейксли «Об интеллекте».

Приведены аргументы в пользу нецелесообразности отказа от попыток придания машине таких свойственных для человека проявлений, как эмоции, амбиции, потребности.

Описана обобщённая инвариантная модель ДЕЯТЕЛЬНОСТИ компьютерного персонажа, включающая вышеперечисленные свойства. Компьютерная реализация модели показала, что в ней присутствуют признаки «псевдоразумности» во взаимодействии с человеком.

Рассмотрены подходы к содержательной интерпретации разницы понятий «жизнь» и «игра» персонажа.

Предложено рассматривать антитезу состояний «жизнь – игра» персонажа как целое, которое может быть исследовано с двух точек зрения: синхронной и диахронной.

Тогда синхронный срез модели окажется реализацией принципа дополнительности Н.Бора, а диахронный срез – реализацией принципа метасистемного перехода В.Турчина.

В свою очередь, это позволяет рассмотреть соотношение понятий «жизнь» и «игра» персонажа аналогично соотношению понятий «осознание» и «поведение».

Литература

1. Джефф Хокинс и Сандра Блейксли. «Об интеллекте». Вильямс. 2007.

2. Дмитрий Самин. Основы мироздания. Принцип дополнительности. http://bibliotekar. ru/100otj<r/37Jitm

3. Турчин В.Ф. Феномен науки. Кибернетический подход к эволюции. Изд. 2-е М.:ЭТС. 2000. 368 с. http: _//refaLru/turchin/phenomenon/index.htm

4. http://www.ohran-komplekt.ru/ohran-komplekt-izobretateli/news 2007-11-

09zl6z05zllz659Mmi

Искусственный интеллект и «творчество», «честь», «достоинство»: совместимые понятия или нет?

Аннотация

Предпринята попытка рассмотреть поведенческую сторону творческого процесса как единственно алгоритмизируемую часть применительно к моделированию его при конструировании интеллектуального виртуального персонажа. Анализ важен сточки зрения сравнения возможностей человека и интеллектуального персонажа в их когнитивном и рационально-этическом поведении и взаимодействии в виртуальном (и реальном) мире.

Введение

В последнее время сформировалось историческое и методологическое подразделение естественнонаучных исследований на этапы: классический, неклассический и постнеклассический [1, 2].

Охарактеризуем их в самой общей форме для целей дальнейшего изложения.

Классический этап базируется на механике Ньютона, рассматривающей материальные объекты и силы взаимодействия. Гуманитарная составляющая отсутствует.

Неклассический этап характеризуется междисциплинарностью, допускающей учёт двойственности в моделях мира, а также учёт целесообразной деятельности человека как субъекта, его воздействия на объект посредством орудий труда/исследования для достижения цели.

Постнеклассический этап характеризуется возрастающим интересом к нелинейным, саморазвивающимся, рефлексивным процессам, а также интересом к исследованию феноменологической (духовной) составляющей деятельности человека – механизмов рефлексии ценностей и смыслов его деятельности.

В исследовательском направлении «искусственный интеллект» к настоящему времени главенствует неклассический подход, подтверждением чего является основной акцент на совершенствовании методов распознавания, обучения, представления, накопления и систематизации знаний, логики принятия решений, автоматической генерации программ.

В то же время идеи постнеклассического подхода только начинают осознаваться как существенно важные для развития данной области знания.

Это проявляется в образовании таких направлений исследований, как «интеллектуальные роботы», «многоагентные системы», «виртуальные предприятия» с обращением к понятиям активности, мобильности, автономности, рефлексивности, планирования, коммуникабельности виртуальных сущностей [3, 4].

Сделаем и далее обоснуем предположение: адекватное конструирование и исследование сообщества виртуальных интеллектуальных компьютерных персонажей в рамках постнеклассического подхода требует идей представления персонажа с использованием понятий: «квазиживой» и «квазиразумный» [4].

1. Сознание и творчество применительно к виртуальному персонажу

Приведём некоторые общие соображения о феномене сознания.

Вспомним об известном приёме – принципе дополнительности Н.Бора, являющимся эвристически сильным методологическим способом выявления эффекта целостности в постижении любого предмета анализа [5].

Если предметом анализа становится феномен психики, то указанный методологический приём приводит к целостной, неразрывной паре: «сознательное – бессознательное».

Сделаем свои самые общие предположения о модели взаимодействии этой пары в индивиде, для использования её в последующем конструировании виртуального персонажа.

Прежде всего, целостность модели основывается на представлении её в виде параллельно исполняемых «сознательно-бессознательных» рекурсивных функций (механизмов), области определения и области значений которых есть участки общего поля памяти, периодически переключаемые между функциями посредством механизма рефлексии, соблюдающей некий эталон целостности [8].

Блок «сознание» в целостной паре «сознательное – бессознательное» есть:

• Генератор текстов планов, реагирующий на воспринятые органами чувств и отражённые в памяти индивида образы предметов мира как на объект для их символьного описания. Такое описание (объективирование) генерируется в результате анализа плана и факта прошлого взаимодействия индивида с объектом, измерения разницы план-факт как степени неудовлетворения потребностей индивида, и творческого синтеза решения о плане будущего действия индивида с объектом ради удовлетворения данной потребности.

• Генератор (модификатор) алгоритмов поведения на основе обучения (эволюционный принцип мутаций и естественного отбора для повышения эффективности алгоритма).

• Генератор текстов запросов, ответы на которые, как информация о вариантах планов и их вероятностях, необходимы для синтеза решений о плане. Ответы на запросы (информация) приходят от генератора ответов, являющегося составной частью механизма «бессознательного». На основе полученной информации генератор планов принимает решение о будущем плане и алгоритме, которые запоминаются в актуальной памяти индивида и передаются на исполнение и контроль.

Блок «бессознательное» есть:

• Интерпретатор, пошагово исполняющий текущий алгоритм поведения в подсознании. Этот алгоритм поведения реагирует действием своих эффекторов в среде на воспринятые органами чувств (рецепторами) и отражённые в памяти индивида образы предметов мира, как на появившийся стимул. Алгоритм поведения является или генетически заложенным «инстинктом», или ранее скомпонован генератором-модификатором алгоритмов поведения в механизме «сознательного», запомнен в актуальной памяти и исполняется интерпретатором.

• Алгоритм – контролёр фактического исполнения плана поведения, выработанного ранее механизмом сознания, и запомненного в актуальной памяти.

• Генератор ответов на запросы, получающий запросы от механизма сознания, и направляющий ответы в механизм сознания. Генератор ответов может находиться вне тела индивида (это – партнёры и внешние источники данных), и внутри индивида (в его механизме «бессознательного», работающего с долговременной памятью). Он даёт ответ механизму сознания как вариант решения, для осмысления проблемы и разработки плана будущего поведения.

Именно генератор ответов, сканирующий долговременную память индивида и выдающий за непредсказуемое время непредсказуемый ответ, и является механизмом собственно «бессознательного». Ведь он имеет дело с образами предметов мира из памяти, которые могли никогда не быть объектом осознания, и были запомнены, минуя этап объективации. А теперь эти образы становятся информацией для принятия решений. В то же время объективированию (как осознанию, рефлексии) периодически подвергаются сами планы и алгоритмы поведения индивида.

Они запоминаются в памяти, в следующем периоде рефлексии неосознанно исполняются и контролируются в подсознании, чтобы стать предметом объективации в очередном периоде рефлексии.

Таким образом, можно допустить, что механизм сознания в принципе своими объектами имеет следующие. Предмет анализа – именно поведенческая (объективируемая) сторона прошлого бытия индивида. Это – соотношение план-факт как проблема, а также степень эффективности навыков, умений, алгоритмов. Предмет синтеза – планы и алгоритмы будущего поведения.

Но тогда следует допустить и другое, а именно:

– механизмы генерации идей, генерации нового знания, know how, питающие сознание, и позволяющие индивиду «творить», суть бессознательны сами по себе по определению, и посему не могут быть предметом сознательного анализа и синтеза индивида!

Однако ничто не мешает индивиду постфактум анализировать поведенческую сторону своего существования в тот период, когда он решал творческие задачи. И именно через совершенствование поведения, через сравнение план-факт, можно рационализировать и повышать эффективность процесса творчества [6].

Вывод: Рефлексивную модель взаимодействии пары «сознательное – бессознательное» в индивиде, а также модель рационализации поведения для повышения эффективности процесса творчества можно использовать при конструировании виртуального персонажа.

2. Место валоризации в процессе творчества и место репутации в валоризации

В финансовом деле под понятием «валоризация» понимают «процесс по увеличению основного капитала»*.

Позволим себе в дальнейшем использовать термин «валоризация», понимая под ним следующее словоупотребление: придание новой большей ценности объединённому в целое множеству малоценных объектов (идей), подтверждённое продажей этого целого на рынке.

Сделаем предположение, что валоризация в изложенном смысле есть существенный результирующий аспект разумной деятельности вообще (не только в искусстве и финансах).

Однако, закономерен вопрос: является ли валоризация результатом только творческой деятельности индивида в ранее высказанном смысле, как осознаваемый продукт генерации нового знания бессознательным? Или валоризация может быть также и результатом осознания индивидом поведенческой стороны своего существования?

Вернёмся к идее создания и исследования сообщества компьютерных персонажей.

Определим два вида поведения персонажа:

• Поведение персонажа в физическом мире (виртуальном или реальном).

• Поведение персонажа в обществе (социальном мире) себе подобных и людей.

Рассмотрение разумного поведения персонажа в реальном физическом мире необходимо требует моделирования как сознательных процессов, так и бессознательных.

Суть того, что не может быть алгоритмизируемо в работе бессознательного, есть свойство бессознательного быть активным внутренним источником, генератором информации о новых классах, категориях целей и средств достижения цели, т. е. быть инструментом творческого решения задачи.

Примечание*: Валоризация (англ. Valorization) – Рост цен на товары, курсов ценных бумаг вследствие определенных действий государства. http://dic. academic. ru/dic. nsf/busjness/l 952

Но есть и другая сторона творческого процесса – поведенческий поиск внешнего источника в окружающей среде, генерирующего информацию о вариантах средств, и слежение за уже найденным источником.

Именно этот процесс вполне алгоритмизируем, так как он суть поведенческий, а значит, осознаваемый. И на него остаётся уповать, рассуждая о возможности моделирования автономного поведения персонажа в реальном физическом мире.

Однако тогда это будет моделирование не более чем «квазиразумного», т. е. нетворческого, поведения.

Но будет ли этого достаточно для создания автономного разумного автомата? Ведь он должен будет выживать и творчески развиваться в произвольном виртуальном или физическом мире. А без учёта «бессознательного» в алгоритме по-прежнему останутся нерешёнными все проблемы поиска категорий, абстрагирования, классифицирования, вообще обнаружения и формулирования нового знания.

Поставим следующий вопрос: Не поможет ли найти новые аспекты моделирования разумного поведения персонажей анализ взаимоотношений персонажей в социальном мире, абстрагируясь от физического мира? Это должны быть такие аспекты, которые смогли бы, наряду с генерацией нового знания, в определённой степени влиять на результирующую составляющую творчества, т. е., на валоризацию как повышение цены товара на рынке.

Ответ: Да, есть такие аспекты, если наряду с качеством товара,

предлагаемого на рынке, рассматривать как важнейшее условие сделки «Честь» (Репутацию) самого персонажа-торговца!

Поясним данное соображение. Предположим, что сделка, т. е. договор об обмене, купле-продаже товара-услуги, является достаточно частым видом социального взаимодействия персонажей.

Сформулируем ряд важных, по нашему мнению, вопросов для выяснения специфических факторов, влияющих на решение о сделке и на её результат.

1. Не является ли результат договорённости сторон о цене сделки (как валоризация) в существенной степени следствием исполнительности по обязательствам продавца и покупателя, оцениваемой доверием к ним других персонажей – покупателей и продавцов?

2. Не является ли пара исполнительность-доверие главенствующим обстоятельством в общественных взаимоотношениях мира персонажей, если соотносить его с важностью физических качеств товара/услуги для их деятельности?

3. Как взаимодействует предполагаемый рост общественного спроса на обязательность партнёров (доверие) с общественным предложением этой обязательности? Не колебательно ли, то есть, не рефлексивно ли?

4. Что же может являться критерием, лежащим в основе оценки обязательности партнёра и доверия к нему другого? Не риск ли, оцениваемый в виде известной персонажу по опыту частоты положительных случаев прошлого исполнения обязательств партнёра, который преобразуется им в вероятность будущего исполнения обязательств партнёра (вероятность положительного исхода сделки)?

5. Что критически важное лежит в основе решения персонажа рискнуть и довериться этому или другому варианту, предложенному партнёром или придуманному самим? Не затраты ли жизненно важных и ограниченных ресурсов персонажа на реализацию решения, а также возможный доход, оцениваемые совокупно в некоем эквиваленте, например, в деньгах?

6. Чем принципиально важным руководствуется персонаж в своём решении: как поделить свои ограниченные ресурсы между материальными потребностями, потребностью обеспечить исполнение своих обязательств по сделке, и потребностью застраховать исполнение обязательств партнёра? Не собственным ли представлением о том, что правильно и что неправильно, что есть «Добро» и что есть «Зло»?

7. Какова природа активности персонажа, если его конструировать как «квазиживого»? Достаточен ли перечень взаимозависимых составляющих, включающий понятия:

• материальные потребности (физиологические, а также лидерство, безопасность, слава, престиж, самореализация, развлечения и т. д.),

нематериальные потребности (воля, вера, честь, достоинство),

• ресурсы (время, деньги),

• настроение (качество жизни).

Вывод: Автор полагает, что на все поставленные вопросы следует ответить положительно.

3. Рефлексия и принятие решения в механизме виртуального персонажа

В соответствии с положениями постнеклассического подхода, примем в качестве базовых понятий при моделировании существования персонажа в мире себе подобных следующие: рефлексия и принятие решений.

В [8] показано, что в отличие от традиционного определения понятия «рефлексия», предполагающего ряд последовательных актов-взглядов индивида на себя «со стороны» [7, 11], более адекватным подходом представляется рассмотрение «рефлексии» параллельно в двух координатах: «осознание-поведение».

«Осознание» есть прерывание предыдущего, ранее неосознаваемого, процесса поведения персонажа и объективирование его с целью определения проблемы и её разрешения разработкой плана и алгоритма будущего поведения.

«Поведение» есть текущий неосознаваемый в каждый данный момент процесс запуска алгоритмов взаимодействия индивида со средой (в т. ч., поиска вариантов решения проблемы), выполняемый по плану, разработанному в прошлом в рамках «осознания».

Принципиальным здесь является то предположение, что оба эти процесса осуществляются параллельно и невозможны друг без друга, т. е. образуют целое за счёт периодического взаимопереключения, определяемого как «рефлексия».

С целью подчеркнуть разницу в предлагаемом подходе к определению «рефлексии» по отношению к традиционному [7, 11], в [8] нами введено понятие «рефлексивная машина», которое в последующем будем употреблять в качестве аналога понятия «рефлексия».

Таким образом, «рефлексивная машина» (далее – РМ) есть вышеизложенная двухкоординатная модель «осознание-поведение» персонажа.

Понятия «рефлексивная машина» и «процесс принятия решения» соотносятся следующим образом: «рефлексивная машина» проявляется как пошаговый процесс поиска и оценки варианта решения, и периодическое «принятие решения».

В двухкоординатной модели «осознание-поведение» процесс принятия решения рассматривается как осознание пошагово появляющихся вариантов решения и одновременно как неосознаваемый поведенческий пошаговый процесс поиска вариантов.

И каждый текущий вариант решения, и процесс поиска вариантов средств достижения цели, в соответствии с п.7, должны быть рассмотрены персонажем с двух точек зрения:

• текущих и предстоящих затрат и достаточности наличных ресурсов.

• вероятности достижения цели при применении данного средства.

Оценка текущего варианта решения как приемлемого есть соотнесение предполагаемых затрат на вариант как на средство, с нормой выделенных затрат на достижение цели – удовлетворение актуальной материальной или нематериальной потребности (п.6).

Возможность продолжения процесса поиска зависит от суммы предполагаемых затрат на поиск варианта и затрат на исполнение варианта, соотнесённой с наличными ресурсами персонажа. В результате соотнесения делается вывод или о возможности продолжения процесса, или о необходимости закончить процесс по причинам, независящим от качественности варианта – не хватает ресурсов для поиска, появилась новая внешняя проблема, или исчезла потребность в решении данной проблемы.

Таким образом, принятие решения в целом, как прекращение процесса поиска, связано с необходимым (но ещё недостаточным) условием – затраты ресурсов, требуемые для реализации данного варианта средства, не должны превышать норму затрат, ранее выделенную персонажем на достижение данной цели.

Теперь – о достаточности условий принятия решения персонажем. С ними мы связываем условия и результаты социального взаимодействия персонажей.

Каждый акт взаимодействия двух персонажей назовём транзакцией, имеющей начало и завершение.

Каждая транзакция является следствием осознания одним персонажем проблемы, как неисполнение своего предыдущего плана, появление новой потребности, появление новых предложений, просьб или угроз. Проблема связывается им с конкретным партнёром, который, возможно, её спровоцировал, или с партнёром, могущим помочь решению проблемы.

В рамках разрешения проблемы персонаж строит сценарий проекта с перечнем ролей, и рассматривает этого или другого партнёра в качестве возможного исполнителя конкретной роли. Или сам соглашается участвовать в определённой роли в чужом сценарии.

Зависимо от того, какой у персонажа имеется опыт взаимодействия с конкретным партнёром, персонаж должен испытывать доверие и уважение к партнёру не ниже определённой нормы, что и является достаточным условием для принятия решения.

Вывод: сформулированы необходимые и достаточные условия для принятия решений персонажем как рефлексивной машиной.

4. Доверие и уважение виртуального персонажа к партнёру как готовность к сделке

Доверие и уважение есть степень готовности персонажа осуществить сделку с конкретным партнёром, или критерий принятия решения о данном исполнителе роли в ситуации поиска в рамках своей проблемы, в условиях возможности продолжения выбора партнёров-исполнителей или работодателей.

Доверие и уважение базируются на опыте взаимоотношений персонажа с конкретным партнёром в прошлом, выражающемся в оценке относительной частоты исполнения прошлых обязательств партнёром в общем числе их транзакций, и следующей из этого оценке вероятности исполнения им обязательств в будущем.

Доверие, как готовность принять новые обязательства данного партнёра участвовать исполнителем роли в проекте персонажа, исчисляется как оценка риска (вероятность исполнения):

• вытекающая из степени априорной уверенности персонажа в будущей исполнительности партнёра,

• или оценка, вытекающая из опыта (относительной частоты фактов предыдущего выполнения партнёром некоей роли в проекте персонажа).

Уважение к партнёру, как готовность предложить ему свои обязательства быть исполнителем роли в проекте партнёра, исчисляется как оценка риска (вероятность исполнения):

• вытекающая из степени априорной уверенности персонажа в будущей состоятельности партнёра-организатора,

• или оценка, вытекающая из опыта (относительной частоты фактов предыдущего успешного выполнения партнёром роли организатора своего проекта).

Таким образом, персонаж может обратиться к конкретному партнёру с предложением или просьбой, или выслушать от него предложение или просьбу, при следующих условиях. Он находится в ситуации поиска варианта исполнителя роли для разрешения своей проблемы, в условиях возможности продолжения выбора исполнителей, и при этом осознаёт всё вышеизложенное относительно доверия и уважения к конкретному партнёру.

Основой предложения является желание персонажа донести до партнёра свою готовность подтвердить обязательства перед ним, если тот готов подтвердить свои обязательства перед персонажем.

Просьба имеет основой желание персонажа услышать от партнёра готовность подтвердить его обязательства перед персонажем, при том, что персонаж готов подтвердить свои обязательства перед партнёром.

Вывод: Доверие и уважение виртуального персонажа к партнёру, как главный критерий готовности персонажа к сделке, исчисляется как оценка риска (вероятность исполнения) партнёром конкретной роли в сценарии проекта.