ЛОГИКА С ИСКЛЮЧЕНИЕМ НА АЛГЕБРЕ ФУРЬЕ-ДУАЛЬНЫХ ОПЕРАЦИЙ: НЕЙРОСЕТЕВОЙ МЕХАНИЗМ РЕДУЦИРОВАНИЯ КОГНИТИВНОГО ДИССОНАНСА
А.В. Павлов
УДК 004.387; 535.417
ЛОГИКА С ИСКЛЮЧЕНИЕМ НА АЛГЕБРЕ ФУРЬЕ-ДУАЛЬНЫХ ОПЕРАЦИЙ: НЕЙРОСЕТЕВОЙ МЕХАНИЗМ РЕДУЦИРОВАНИЯ КОГНИТИВНОГО ДИССОНАНСА1
А.В. Павлова a Санкт-Петербургский национальный исследовательский университет информационных технологий, механики и оптики, Санкт-Петербург, Россия, Pavlov@phoi.ifmo.ru
В развитие подхода к реализации методом голографии Фурье немонотонных логик из класса нечетко-значимых показан механизм редуцирования когнитивного диссонанса. Когнитивный диссонанс возникает при восприятии новой информации, противоречащей ранее сложившейся субъективной картине мира, представленной в виде двойного каскада преобразования Фурье с голограммой Фурье-матрицы связей нейронных слоев репрезентации входной информации и заключения. Голограмма реализует монотонную логику по правилу вывода «Обобщенный Modus Ponens». Новая информация представлена голограммой исключения – матрицей связей слоев заключения и исключений, связанных преобразованием Фурье-операцией, задающей дуальность определяющих алгебру логики операций конъюнкции и дизъюнкции. Голограмма исключения формирует вывод, дуальный выводу по правилу «Обобщенный Modus Ponens». Показано, что обученная основному правилу и исключению система может быть представлена моделью двухслойной нейронной сети с разными матрицами связей для прямой и обратной итераций. Введена функция энергии сети, определяющая циклический характер динамики, и дан анализ диссипативного члена, обуславливающего конвергентность динамики. Показано влияние условий записи голограмм правила «Обобщенный Modus Ponens» и исключения на характер динамики и скорость схождения системы к устойчивому состоянию, характеризующемуся независимостью значения логического заключения от значений входных переменных. Такой тип динамики, ведущий к формированию толерантности, характерен для обыденной формы мышления, нацеленной на устойчивость внутренней картины мира. Для реализации научной формы мышления, ориентированной на адекватность внутренней картины мира реальности, необходим механизм, останавливающий релаксацию сети; этот механизм должен быть внешним по отношению к модели логики. Приведены результаты численного моделирования для условий обучения, адекватных условиям записи реальных голограмм Фурье. Ключевые слова: информационные технологии, когнитивные механизмы, когнитивный диссонанс, голография, нейронные сети, диссипативный фактор.
LOGIC WITH EXCEPTION ON THE ALGEBRA OF FOURIER-DUAL OPERATIONS: NEURAL NET MECHANISM OF COGNITIVE DISSONANCE
REDUCING2
A. Pavlovb b Saint Petersburg National Research University of Information Technologies, Mechanics and Optics, Saint Petersburg, Russia, Pavlov@phoi.ifmo.ru
A mechanism of cognitive dissonance reducing is demonstrated with approach for non-monotonic fuzzy-valued logics by Fourier-holography technique implementation developing. Cognitive dissonance occurs under perceiving of new information that contradicts to the existing subjective pattern of the outside world, represented by double Fourier-transform cascade with a hologram – neural layers interconnections matrix of inner information representation and logical conclusion. The hologram implements monotonic logic according to “General Modus Ponens” rule. New information is represented by a hologram of exclusion that implements interconnections of logical conclusion and exclusion for neural layers. The latter are linked by Fourier transform that determines duality of the algebra forming operations of conjunction and disjunction. Hologram of exclusion forms conclusion that is dual to the “General Modus Ponens” conclusion. It is shown, that trained for the main rule and exclusion system can be represented by two-layered neural network with separate interconnection matrixes for direct and inverse iterations. The network energy function is involved determining the cyclic dynamics character; dissipative factor causing convergence type of the dynamics is analyzed. Both “General Modus Ponens” and exclusion holograms recording conditions on the dynamics and convergence of the system are demonstrated. The system converges to a stable status, in which logical conclusion doesn’t depend on the inner information. Such kind of dynamics, leading to tolerance forming, is typical for ordinary kind of thinking, aimed at inner pattern of outside world stability. For scientific kind of thinking, aimed at adequacy of the inner pattern of the world, a mechanism is needed to stop the net relaxation; the mechanism has to be external relative to the model of logic. Computer simulation results for the learning conditions adequate to real holograms recording are presented. Keywords: information technologies, cognitive systems, cognitive dissonance, holography, neural networks, dissipative factor.
1 Работа выполнена при поддержке РФФИ, грант 12-01-00418-а, и НИР СПб НИУ ИТМО «Исследование эффектов нелинейной голографической записи информации и поиск возможностей реализации биологически мотивированных механизмов креативного мышления». 2 The work was done with supporting from the Russian Foundation for Basic Research, grant 12-01-00418-а and SPb NRU ITMO S&R work «Research of nonlinear holographic information record effects and retrieval of implementation facilities for biologically motivated procedures of creative thinking»
Научно-технический вестник информационных технологий, механики и оптики Scientific and Technical Journal of Information Technologies, Mechanics and Optics 2014, №1 (89)
17
ЛОГИКА С ИСКЛЮЧЕНИЕМ НА АЛГЕБРЕ ФУРЬЕ-ДУАЛЬНЫХ... .
Введение
Одно из актуальных направлений развития информационных технологий – реализация моделей и механизмов, обусловливающих проявление феноменов, отчасти аналогичных тем, что присущи биологическому мозгу [1]. В рамках когнитивного подхода к обработке информации на первый план выходят механизмы восприятия и включения новой информации в структуру существующего индивидуального знания [1] – когнитивные механизмы и их внешние проявления – когнитивные феномены.
Один из таких феноменов, когнитивный диссонанс (КД), проявляет конфликт между двумя когнициями – уже наличествующим знанием, представленным в виде внутренней картины мира, и знанием новым, ей противоречащим [2]. С КД неразрывно связан защитный механизм его редуцирования, направленный на обеспечение субъективной непротиворечивости внутренней картины мира [3]. Можно выделить две парадигмы редуцирования КД, соответствующие двум когнитивным стилям – научному и обыденному [4]. Для первого, ориентированного на адекватность картины мира реальности, характерно повышение когнитивной активности для получения новой информации, позволяющей согласовать диссонирующие когниции их дополнением. В этом случае КД может формально рассматриваться как ошибка обучения, устранимая также методами обучения. Для обыденного когнитивного стиля характерен примат устойчивости картины мира, даже вопреки ее адекватности реальности, и КД относится уже более к психологической, чем формально-логической противоречивости [3]. Здесь только дообучение не даст эффекта в силу иных приоритетов носителя данного когнитивного стиля [4].
В качестве модели, описывающей механизм включения новой информации во внутреннюю картину мира, интерес представляют немонотонные логики, в которых заданное при начальном обучении значение логического заключения может меняться при восприятии новой информации [5]. Применительно к феномену КД актуален частный случай немонотонных логик – логики с исключением [6]. Но логика – не только абстрактная модель (алгебра), но в первую очередь – атрибут психической сферы [7]. Соответственно, чтобы претендовать на адекватность, алгебра логики должна моделировать феномены, присущие человеческой психике, в том числе феномен КД и его редуцирования в форме, характерной для обыденного когнитивного стиля.
В числе информационных технологий, соответствующих основным постулатам когнитивного под-
хода [1], интерес, среди прочих, представляет и голография как в силу естественного параллелизма оптической обработки двумерных массивов информации, так и в силу ряда аналогий между свойствами
голограмм и мозга [8, 9]. В работах [1015] развит подход к реализации нечетко-значимых логик методом голографии Фурье. Этот подход объединяет формальную модель логико-лингвистического моделирования по Л. Заде [16] с биологически мотивированным методом представления информации паттернами внутренней репрезентации и их обработки [12, 17, 18]. В рамках подхода в [13] дана модель логики с исключением (ЛИ), а в [15] показана реализация на ЛИ феномена, аналогичного КД. В [15] остался открытым вопрос о внутреннем механизме и закономерностях редуцирования КД, их зависимости от свойств материального носителя интеллекта и условий его обучения.
В настоящей работе, в развитие [1015], показан обусловленный диссипативным фактором имманентный данной модели механизм редуцирования КД, характерный для обыденного когнитивного стиля, и выявлены закономерности динамики в связи с условиями обучения и свойствами голографических регистрирующих сред.
Подход
Для удобства читателя, с учетом междисциплинарного характера работы, кратко изложим основ-
ные моменты развиваемого подхода и иллюстрируем формальные построения простым примером. Дета-
ли заинтересованный читатель найдет в [1015].
В живых системах информация из внешнего мира воспринимается сенсорами, преобразуется сен-
сорами и сенсорными трактами, и на коре головного мозга активируются картины нейронной активности
– паттерны внутренней репрезентации информации, которые и обрабатываются мозгом – биологической
нейронной сетью [17, 18]. Применение голографии в искусственном интеллекте мотивировано аналогией
между обработкой паттернов мозгом и изображений голограммой [4, 79]. В частности, 4f -схема голо-
графии Фурье (на рис. 1, а, ограничена пунктиром) реализует двухслойную нейронную сеть (на рис. 1, б,
ограничена пунктиром) с матрицей связей по модели внешнего произведения векторов, описывающих
изображения. Запись голограммы Фурье реализует правило обучения Хебба. Метод наложенных голо-
грамм позволяет связать набор пар векторов без использования статистических методов.
В работах [10, 11, 13] показано, что схема голографии Фурье порождает при обработке изображе-
ний алгебру Фурье-дуальных определяющих модель операций. Преобразование Фурье, удовлетворяющее
аксиоматическому определению операции, задающей дуальность, обусловливает нечетко-значимость
адекватной схеме логики как отображение в модели реального физического явления дифракции [13].
Задача объединения двух подходов – нейросетевого, основанного на обработке паттернов, и фор-
мально-алгебраического, основанного на представлении смысла значений лингвистических переменных
18
Научно-технический вестник информационных технологий, механики и оптики Scientific and Technical Journal of Information Technologies, Mechanics and Optics
2014, №1 (89)
А.В. Павлов
нечеткими числами и их обработке по правилам арифметики нечетких чисел [16] – решена в [12] в про-
странстве Фурье приравниванием спектров амплитуд нечетких чисел (абстрактная модель) и изображе-
ний как аналогов паттернов внутренней репрезентации. Этот подход позволил применить аппарат нечет-
ких чисел к описанию обработки произвольных изображений и реализации вывода «Обобщенный Modus
Ponens» на универсальной шкале. Применительно к логике в рамках развиваемого подхода формальной
операции изменения моды нечеткого числа, описывающего изменение смысла значения лингвистической
переменной в [16], соответствует физически реальная операция изменения спектра амплитуд изображе-
ния, представляющего значение лингвистической переменной. Поскольку в рамках голографической реа-
лизации [11] непосредственная оценка моды нечеткого числа невозможна, она проводится измерением
радиуса его корреляции, совпадающего с радиусом корреляции описываемого нечетким числом изобра-
жения.
В алгебре логики [10, 11, 13] дизъюнкция реализуется сверткой. Поскольку при обработке изобра-
жений их свертка в общем случае – многомодальное распределение, т.е. не удовлетворяет критерию од-
нозначности интерпретации, предъявляемому к логическому заключению, то оператор импликации опре-
делен через вычитание. Вычитание (абстрактное) в алгебре [10, 11, 13] реализуется операцией корреля-
ции, результат которой формируется в +1-м порядке дифракции схемы голографии Фурье.
ЛИ обычно строится добавлением к монотонной логике по правилу вывода «Modus Ponens», опе-
ратора исключения «если не …» [7]. Пример ЛИ из повседневной жизни: «Если яблоко большое, то оно
хорошее, если не перекормлено нитратами».
Первая часть вывода монотонная логика «Если яблоко большое, то оно хорошее» в [1012] реа-
лизована 4f -схемой голографии Фурье (рис. 1, а, ограничена пунктиром). Связи слоев репрезентаций In и заключений С реализованы каскадом двойного преобразования Фурье L1, L2 с голограммой HGMP, запи-
санной паттернами: в слое In ImInmin(x,y), представляющим минимальное значение лингвистической
переменной «размер», и в С – ImCmin(ζ,), представляющим связанное c ним значение заключения – лингвистической переменной «качество»:
H GMP νx , ν y GMP F ImInmax x, y F ImСmin ζ, η ,
(1)
где νx , ν y частоты; ζ, η координаты в слое С; GMP оператор, учитывающий обуславливающую до-
полнительную фильтрацию на голограмме (1) нелинейность голографической регистрирующей среды,
астериск – символ комплексного сопряжения.
ImIn L1
HGMP
L2
ImC
L4 ImE SM
HE а
In
HGMP
С HE
E
б
Рис. 1. 6f -схема голографии Фурье (а) и модель трехслойной нейронной сети (б)
ЛИ построена в [14] добавлением к двухслойной нейронной сети, реализующей монотонную логику (рис. 1, б, ограничена пунктиром), слоя исключений Е, связанного со слоем C преобразованием Фурье (рис. 1, б). Таким образом, исключение связано с заключением монотонной логики операцией, задающей дуальность определяющих модель операций. Оптическая схема, реализующая данную трехслойную сеть на этапе обучения исключению, представляет собой 6f -схему голографии Фурье (рис. 1, а).
После обучения сети монотонной логике записи голограммы (1), записывается голограмма (мат-
рица связей) исключения HE: в слое исключения Е предъявляется паттерн исключения ImRE χ x ,χ y , а в
Научно-технический вестник информационных технологий, механики и оптики Scientific and Technical Journal of Information Technologies, Mechanics and Optics 2014, №1 (89)
19
ЛОГИКА С ИСКЛЮЧЕНИЕМ НА АЛГЕБРЕ ФУРЬЕ-ДУАЛЬНЫХ... .
слое С паттерн заключения ImCREGMP(ζ,), символ R в нижних индексах означает «эталон». Этот паттерн формируется голограммой (1) при предъявлении в слое In паттерна ImIn(x,y), с которым связано исключение (в нашем примере – большое яблоко, подозрительное на нитраты):
H E ζ,η E F ImRE χ x ,χ y ImСGRMEP ζ,η .
(2)
В данной модели на вход сети поступает только паттерн, представляющий посылку монотонной ло-
гики – значение переменной «размер». Значение исключения ассоциативно вызывается из памяти заклю-
чением, сформированным по правилу монотонной логики, и, в свою очередь, модифицирует его. Такая
модель ЛИ адекватна реальным ситуациям покупатель может оценить значение переменной «размер»,
но не может непосредственно оценить значение переменной исключения (уровень нитратов), так как у
него нет лабораторного оборудования. Однако ранее полученная информация об опасности нитратов свя-
зана в памяти с размером – именно большое яблоко подозрительно на повышенный уровень нитратов.
Следовательно, оценка размера вызывает из памяти ассоциированное с ней значение исключения.
Для модификации исключением начального вывода, слой Е связан со слоем In так, что паттерн из
слоя Е, подается в слой без изменений In. При предъявлении в слое In паттерна ImIn(x,y), представляющего текущее значение переменной «размер», в слое С формируется паттерн ImСGMP(ζ,), представляющий
значение лингвистической переменной «качество», полученное по правилу монотонной логики:
ImСGMP ζ, η ImIn x, y GMP ImInmin x, y ,
(3)
где – символ операции корреляции. Этот паттерн, проходя матрицу связей слоев С и Е (дифрагируя на
голограмме (2)), формирует в слое Е паттерн
ImE
χx,χy
F
ImСGMP
ζ, η
E
F
ImRE
χx,y
ImСGREMP
ζ, η
,
Im RE
E
χx,χy *
F
ImСGMP
ζ, η
F ImСGRMEP ζ, η
(4)
где нижний индекс E означает дополнительную фильтрацию вследствие нелинейности голографических
регистрирующих сред, а * – символ операции свертки. В выражении (3) значение заключения в слое Е
связано со значением заключения, формируемым по правилу монотонной логики в слое С, преобразова-
нием Фурье, удовлетворяющим аксиоме невозрастания, входящей в определение задающей дуальность операции [13]. В результате шкала, формируемая голограммой HE в слое Е, инверсна шкале в слое С.
Модификация первоначального заключения осуществляется подачей паттерна (4) на входной слой
In. Тогда в слое С формируется новый паттерн – заключение ЛИ:
ImСE ζ,η ImE χ x , χ y ImInminGMP x, y .
(5)
Если при обучении исключению выполнено условие
ImRE χ x , χ y ImIn x, y ,
то паттерн (5) в области глобального максимума автокорреляционной функции является унимодальным, т.е. удовлетворяет критерию однозначности интерпретации логического заключения и пригоден для подачи на исполнительные органы.
Выражение (5) описывает паттерн, формируемый в одном цикле ImIn ImGMP ImСE. Вместе с тем, в модели нет факторов, останавливающих процесс – паттерн (5) вновь поступает на голограмму (2), и процесс развивается далее. Ниже покажем, что диссипативные свойства данной системы определяют ее динамику, аналогичную редуцированию КД в форме, характерной для обыденного когнитивного стиля – имеет место не изменение внутренней картины мира с учетом новой информации, а формирование толерантности [19], и определим связь характеристик процесса со свойствами элементов схемы.
Динамика системы
Как видно из приведенного выше рассмотрения, третий слой Е необходим только для дообучения сети исключению – записи голограммы (2). Полностью обученная система может быть представлена моделью двухслойной сети с разными матрицами связей: (1) – для In C и (2) – для обратной C In ите-
раций. Тогда для обученной сети координаты χ x , χ y в слое исключения E, совпадающего со слоем In,
можно заменить на координаты x, y слоя In.
Поскольку матрица связей – голограмма (1) (при описании паттернов как векторов ImInmin и ImСmin )
определена как их внешнее произведение, то для итерации In→C определим энергию как частный случай
функции Ляпунова посредством скалярного произведения векторов ImIn и ImC , описывающих текущее
состояние слоев In и C [20]:
EInC ImInHGMPImC .
(6)
20
Научно-технический вестник информационных технологий, механики и оптики Scientific and Technical Journal of Information Technologies, Mechanics and Optics
2014, №1 (89)
А.В. Павлов
Для итерации C In, поскольку голограмма (2) также может быть представлена как внешнее про-
изведение F ImСGRMEP и ImE , энергию сети определим аналогично:
ECIn F ImCGMP HEImIn F ImIn F ImInminGMP HEIm*In .
(7)
Полная энергия системы определяется как сумма (6) и (7):
E = EInC + ECIn cInC ImInHGMPImC cCIn F ImIn F ImInminGMP HEImIn ,
где cInC и cCIn – нормировочные коэффициенты. Компонент EInC определяет конвергентность динамики сети [20] как схождение к аттрактору
ImIInmC
Im Inmin δ,
,
где δ – дельта-функция, описывающая точечный источник как вектор размерностью 1. Компонент ECIn , в
свою очередь, определяет динамику сети
F ImСGMP F ImGСmMaPx ,
ImIn ImInmax . Таким образом, имеем противоположное направление динамики системы на встречных итерациях In→C и C→In. Для анализа динамики примем допущение, что обрабатываемые паттерны описываются как реализации однородных изотропных случайных полей и отношение площадей паттернов и корреляции
SIm SCorr достаточно велико для того, чтобы применительно к глобальным максимумам их автокорреля-
ционных функций можно было пренебречь свойством некоммутативности операции корреляции. Тогда
паттерн – заключение ЛИ (5) на n-ой итерации описывается выражением
ImCEn ζ,η F
ImСEn1 ζ,η *
Im E
E
x,
y
F
ImСGRMEP ζ,η
Im In
minGMP
x, y
,
(8)
где ImСGMP ζ,η из (4), начиная со второй итерации, мы обозначаем ImCEn1 ζ,η . В (8) от номера итерации
n зависит F ImCEn1 ζ,η , а член в фигурных скобках является диссипативным фактором, учитывающим
дифракцию на голограммах HGMP и HE.
Для консервативной системы динамика сети в устоявшемся режиме имела бы колебательный ха-
рактер (6)–(7). Наличие в (8) диссипативного члена обусловливает затухание колебаний – схождение про-
цесса к устойчивому состоянию
ImCEn ζ,η F
ImCEn ζ,η *
ImEE
x,
y
F
ImСGRMEP ζ,η
Im In
minGMP
x, y
.
(9)
Из (9) следует зависимость скорости схождения от характеристик минимального элемента после-
довательности входных паттернов ImInmin x, y и условий обучения системы – условий записи голограмм.
При радиусе корреляции минимального элемента последовательности ImInmin x, y , сравнимом с дифракционным пределом разрешения, т.е. rInminGMP , , , голограмма HGMP будет иметь посто-
янную во всем частотном диапазоне дифракционную эффективность. Если голограмма HE записана пат-
терном ImRE ImInmin , то также rE x, y x, y , и в части, обусловленной выбором паттерна исключе-
ния при обучении системы, диссипативный член минимален, поскольку
ImEE x, y ImInminGMP x, y ζ,η .
В [14] показано, что для обеспечения максимальной чувствительности логики целесообразно проводить обучение системы исключению паттерном ImСGRMEP ImCGmMaPx . Поскольку ImCGmMaPx – максимальный
элемент последовательности ImС , то
F ImСGRMEP ζ,η x ,y .
При таком выборе условий обучения монотонной логике исключению диссипативный член в (9)
минимален:
Im E
E
x,
y
F
ImСGRMEP ζ,η
Im In
minGMP
x, y
x, y .
В пределе этот член теряет диссипативный характер – система стремится к консервативности, а ее аттрактор – к циклическому. Однако в силу внутренней коррелированности как атрибута информации,
Научно-технический вестник информационных технологий, механики и оптики Scientific and Technical Journal of Information Technologies, Mechanics and Optics 2014, №1 (89)
21
ЛОГИКА С ИСКЛЮЧЕНИЕМ НА АЛГЕБРЕ ФУРЬЕ-ДУАЛЬНЫХ... .
отличающего ее от шума, при обучении системы должны выполняться условия, исключающие разрушение внутренней коррелированности, в первом приближении эти условия могут быть определены [21] как
rInminGMP , 3 , , rE x, y 3 x, y .
По мере увеличения радиусов корреляций паттернов расти будет также и член (9) – скорость зату-
хания колебаний будет возрастать. При обучении сети исключению паттернами ImRE x, y ImInmax x, y
и F ImСGRMEP ζ,η F ImCGmMiPn ζ,η оба паттерна являются максимальными элементами соответствующих
последовательностей, и член (9) будет иметь максимальное значение, а скорость конвергенции – максимальна.
Радиусы корреляций паттернов, входящих в диссипативный член, определяются как радиусами корреляции исходных паттернов, так и условиями записи голограмм вкупе с экспозиционными характеристиками голографических регистрирующих сред. В силу ограниченности динамического диапазона регистрирующих сред голограммы (1) и (2) всегда записываются в ограниченном частотном диапазоне [22–24]. Высокочастотная фильтрация ведет к убыванию радиуса корреляции и, тем самым, к убыванию значения диссипативного члена, низкочастотная – к его росту.
Из (9) видно, что устойчивое состояние не зависит от начальной точки процесса релаксации – для всех значений входных переменных система релаксирует к одному аттрактору, определяемому диссипативным членом в (9). Иными словами, формируется толерантность – одинаковое значение ImСE для всех
значений набора ImIn [19].
Численное моделирование
Моделировалась динамика системы (рис. 1) при обработке паттернов – реализаций случайного процесса с гауссовым спектром амплитуд и случайным спектром фаз, равномерно распределенных на
интервале [0, 2]. Размер реализаций – 1024 пикселей. Голограмма (1) записывалась паттернами ImInmin ,
голограмма (2) – ImRE ImInmin и ImСGmMaPx – заключением монотонной логики, полученным при максималь-
ном значении входной лингвистической переменной (ЛП) ImInmax . В рамках примера предъявлялась по-
следовательность паттернов ImIn ImSize ImSmall , ImLittle , ImMedium , ImBig , отличающихся, соглас-
но [10, 12], спектрами амплитуд с одинаковыми спектрами фаз. Условия записи голограмм и свойства
регистрирующих сред моделировались введением дополнительных высокочастотных и низкочастотных
фильтров Гаусса. Условия моделирования применительно к голограмме HGMP даны в таблице. Для двух серий набо-
ров входных ЛП с радиусами корреляции
rа
0,606
= {14, 27, 53, 105} (а) и
rб
0,606
= {9, 18, 35, 70} (б) при-
ведены значения радиуса корреляции минимального элемента ImInmin – импульсного отклика системы
δ0,606 , описывающего фильтрацию на голограмме (1), в пикселях по уровню 0,606 и нормированные на
длину реализации параметры фильтра Гаусса – центральная частота 0 и ширина по уровню 0,606 – 0,606. На рис. 2, а, приведены графические представления логик, порождаемых разными голограммами
HGMP (строки 1, 4 и 7 в таблице) при линейных HE – три семейства зависимостей, связывающих входную
(ось абсцисс) и выходную (ось ординат) лингвистические шкалы для следующих логик: монотонной (возрастающие зависимости), с исключением на первой итерации (убывающие зависимости) и на 10-й
итерации. Справа и сверху даны метрические шкалы, соответствующие лингвистическим. Градуировка
метрических шкал согласно субъективным лингвистическим шкалам эксперта задается при обучении [12, 13]. Видно, что к 10-й итерации система при линейной 4 и низкочастотной 7 голограммах HGMP при-
ходит в состояние толерантности (9) – для всех значений входной переменной формируется одно значение выходной переменной. При высокочастотной голограмме HGMP диссипативный член имеет меньшее значение – скорость конвергенции ниже, и к 10-й итерации система еще не достигла состояния (9).
На рис. 2, б, приведены примеры динамики для этих моделей голограммы HGMP. Для наглядности
приведена динамика для максимального элемента последовательности значений входных лингвистиче-
ских переменных «большое». Для других значений динамика имела такой же характер, сходилась, как и
следует из (8), к устойчивому состоянию, отличаясь, в соответствии со значением входной переменной,
меньшим размахом колебаний. Для оценки скорости схождения системы зависимости значения (8) по
уровню 0,606 от номера итерации n аппроксимировались экспонентой ImCE0,606 n y0 exp An , значе-
ния коэффициента A и количество итераций Nm, за которое система достигает устойчивого состояния, также даны в таблице.
22
Научно-технический вестник информационных технологий, механики и оптики Scientific and Technical Journal of Information Technologies, Mechanics and Optics
2014, №1 (89)
А.В. Павлов
Excellent
Acceptable Good
Значение логического заключения
Входная метрическая шкала,
r0,606, пиксели 20 40 60 80 100
70
7–0 4–0 60
1–0 50
1–10
40 7–1 7–10
4–10 1–1
4–1
30 20
Входная метрическая шкала, ImC0,606, пиксели
70 60 50 40 30 20
Bad
Small
Little Middle Big
0246
8 10
Номер итерации, n
147
147
аб Рис. 2. Динамика системы для ряда условий записи голограммы HGMP (табл.): а – графические
представления логик зависимостями значений на выходных шкалах (лингвистической – слева
и метрической – справа) от значений на шкалах входных (лингвистической – снизу и метрической – свер-
ху):, первая цифра в обозначениях кривых – номер строки в таблице, вторая – номер итерации: 1-0, 4-0, 7-0
– логики монотонные, 1-1, 4-1, 7-1 – ЛИ, 1-ая итерация, 1-10, 4-10, 7-10 – ЛИ, 10-я итерация; б – динамика
системы как зависимость заключения, формируемого при предъявлении на входе максимального
значения, от номера итерации; номер кривой соответствует строке таблицы
Номер
1 2 3 4 5 6 7
δ0,606 ,
пиксели аб 12 8 13 9 13 9 14 9 19 17 24 19 29 28
Параметры фильтра
Тип фильтра 0 0,606 ВЧ 30 20 ВЧ 20 20 ВЧ 10 20 нет – – НЧ 30 40 НЧ 20 40 НЧ 20 20
А
аб 0,14 0,2 0,52 0,37 0,66 0,56 0,74 0,57 0,88 0,71 1,1 0,94 1,85 1,45
Nm
аб >10 >10 >10 >10 >10 >10 10 >10
89 66 33
Таблица. Параметры динамики в зависимости от характеристик голограммы HGMP (ВЧ – высокочастотный
фильтр, НЧ – низкочастотный фильтр)
Из таблицы видно, что с ростом радиуса корреляции минимального элемента, используемого для записи голограммы HGMP – импульсного отклика системы, растет и значение параметра A, описывающего
скорость схождения системы к устойчивому состоянию (9). Радиус корреляции, в свою очередь, определяется как собственно входным паттерном (серия а или б), так и условиями записи голограммы HGMP,
обусловливающими тот или иной вид дополнительной фильтрации.
Заключение
Таким образом, динамический характер нейронной сети, реализующей логику с исключением на алгебре Фурье-дуальных определяющих модель операций, обусловливает колебательный тип динамики как частный случай когнитивного диссонанса, возникающего при восприятии информации, противоречащей уже сложившейся внутренней картине мира, представленной монотонной логикой. Редуцирование когнитивного диссонанса определяется диссипативным характером системы – при оптической реализации диссипативным фактором является фундаментальное физическое явление дифракции на голограммах мо-
Научно-технический вестник информационных технологий, механики и оптики Scientific and Technical Journal of Information Technologies, Mechanics and Optics 2014, №1 (89)
23
ЛОГИКА С ИСКЛЮЧЕНИЕМ НА АЛГЕБРЕ ФУРЬЕ-ДУАЛЬНЫХ... .
нотонной логики и исключения. Поскольку реализуемая алгебра логики основана на Фурье-дуальности определяющих модель операций, а преобразование Фурье описывает дифракцию, то данный диссипативный фактор и соответственно механизм редуцирования когнитивного диссонанса, имманентен модели. Скорость редуцирования как схождения к устойчивому состоянию определяется свойствами голографических регистрирующих сред и условиями записи голограмм, интегральной оценкой здесь может служить импульсный отклик системы, описывающий степень диссипативности системы в терминах дифракционного уширения точки.
Этот механизм может быть соотнесен с характерным для обыденного когнитивного стиля конфликтом между стремлением к устойчивости внутренней модели мира и необходимостью учета нового знания отказа от сложившихся стереотипов. Если система релаксирует, то она приходит в устойчивое состояние безразличия или толерантности – значение заключения логики с исключением не зависит от значения входных лингвистических переменных. Уровень этой толерантности определяется операторами GMP и
E , описывающими свойства регистрирующих сред и условиями обучения.
Этот сценарий, характерный для обыденного когнитивного стиля, неприемлем в рамках научного стиля познания здесь необходим механизм, останавливающий итерационную процедуру. Скорее всего, он должен быть внешним по отношению к модели и может быть соотнесен с присущим интеллекту высокого уровня механизмом саморефлексии. Отметим, что остановка итерационного процесса – лишь первый шаг формирования новой внутренней картины мира. Эта картина должна быть не только адекватна реальности, но и внутренне непротиворечива. Последнее обусловливает, вероятно, реализацию новой картины мира не в виде двух голограмм, поскольку они связаны оператором, задающим дуальность, т.е. противоречат друг другу, но одной голограммы. Иными словами, если это предположение верно, то логика с исключением – закономерный и необходимый, но лишь промежуточный этап процесса познания как процесса формирования и постоянной корректировки внутренней картины мира, адекватной реальности.
Литература
1. Кузнецов О.П. Когнитивная семантика и искусственный интеллект // Искусственный интеллект и принятие решений. 2012. № 4. С. 32–42.
2. Психологическая энциклопедия / Под ред. Р. Корсини, А. Ауэрбаха. 2-е изд. СПб: Питер, 2006. 1096 с. 3. Хекхаузен X. Мотивация и деятельность. 2-е изд. СПб: Питер; М.: Смысл, 2003. 860 с. 4. Кузнецов О.П. Быстрые процессы мозга и обработка образов // Новости искусственного интеллекта.
1998. № 2 [Электронный ресурс]. Режим доступа: http: //raai.org/library/ainews/1998/2/DISTR.ZIP, свободный. Яз. рус. (дата обращения 5.12.2013). 5. Вагин В.Н., Головина Е.Ю., Загорянская А.А., Фомина М.В. Достоверный и правдоподобный вывод в интеллектуальных системах. 2-е изд. М.: ФИЗМАТЛИТ, 2008. 712 с. 6. Reiter R. A logic for default reasoning // Artificial Intelligence. 1980. V. 13. N 1–2. P. 81–132. 7. Кузнецов О.П. Неклассические парадигмы в искусственном интеллекте // Изв. РАН. Сер. Теория и системы управления. 1995. № 5. С. 3–23. 8. Прибрам К. Нелокальность и локализация: голографическая гипотеза о функционировании мозга в процессе восприятия и памяти // Синергетика и психология. В.1. Методологические вопросы. М.: МГСУ «Союз», 1997. С. 156–183. 9. Кузнецов О.П., Марковский А.В., Шипилина Л.Б. Голографические механизмы обработки образной информации. М.: Институт проблем управления им. В.А.Трапезникова РАН, 2007. 82 с. 10. Павлов А.В. Математические модели оптических методов обработки информации // Изв. РАН. Сер. Теория и системы управления. 2000. № 3. С. 111–118. 11. Павлов А.В. Об алгебраических основаниях Фурье-голографии // Оптика и спектроскопия. 2001. Т. 90. № 3. С. 515–520. 12. Алексеев А.М., Константинов А.М., Павлов А.В. Использование метода Фурье-голографии для моделирования принципа образности мышления // Оптический журнал. 2006. Т. 73. № 9. С. 77–82. 13. Павлов А.В. Об алгебраических основаниях голографической парадигмы в искусственном интеллекте: алгебра Фурье-дуальных операторов // Сборник научных трудов V Международной научнопрактической конференции «Интегрированные модели и мягкие вычисления в искусственном интеллекте». М.: ФИЗМАТЛИТ, 2009. Т. 1. С. 140–148. 14. Павлов А.В. Алгебра Фурье-дуальных операций: логика с исключением // Искусственный интеллект и принятие решений. 2012. № 3. С. 26–38. 15. Павлов А.В. Логика с исключением на алгебре Фурье-дуальных операций: феномен сомнений и колебаний // Сборник научных трудов VII Международной научно-практической конференции «Интегрированные модели и мягкие вычисления в искусственном интеллекте». М.: ФИЗМАТЛИТ, 2013. Т. 3. С. 1035–1045.
24
Научно-технический вестник информационных технологий, механики и оптики Scientific and Technical Journal of Information Technologies, Mechanics and Optics
2014, №1 (89)
А.В. Павлов
16. Заде Л. Понятие лингвистической переменной и его применение к принятию приближенных решений. Сер. Математика. Новое в зарубежной науке. М.: Мир, 1976. В. 3. 167 с.
17. Борисюк Г.Н., Борисюк Р.М., Казанович Я.Б., Иваницкий Г.Р. Модели динамики нейронной активности при обработке информации мозгом – итоги «десятилетия» // Успехи физических наук. 2002. Т. 172. № 10. С. 1189–1214.
18. Тушканов Н.Б., Тушканова О.Н. К построению мультисенсорных систем: принципы работы неокортекса головного мозга при распознавании объектов внешнего мира // Труды конгресса по интеллектуальным системам и информационным технологиям (IS-IT’12). М.: ФИЗМАТЛИТ, 2012. Т. 2. С. 373–378.
19. Общая психология: Словарь / Под ред. А.В. Петровского. М.: Пер Сэ, 2005. 251 с. 20. Магницкий Н.А. Распознавание образов распределенными динамическими системами // Доклады ака-
демии наук. 1994. Т. 338. № 3. С. 320–321. 21. Шубников Е.И. Отношение сигнал/помеха при корреляционном сравнении изображений // Оптика и
спектроскопия. 1987. Т. 62. № 2. С. 450–456. 22. Кулешов А.М., Шубников Е.И., Смаева С.А. Об оптимальности голографического согласованного
фильтра // Оптика и спектроскопия. 1986. Т. 60. № 6. С. 1273–1276. 23. Александрина С.А., Кулешов А.М. Влияние режекции низких пространственных частот спектра на
параметры сигнала в голографическом корреляторе // Оптика и спектроскопия. 1990. Т. 68. № 3. С. 652–655. 24. Кулешов А.М., Шубников Е.И. Влияние нелинейности среды и пространственных ограничений фильтра на параметры сигнала в голографическом корреляторе // Оптика и спектроскопия. 1986. Т. 60. № 3. С. 606–609.
Павлов Александр Владимирович
– кандидат технических наук, доцент, старший научный сотрудник, Санкт-Петербургский национальный исследовательский университет информационных технологий, механики и оптики, Санкт-Петербург, Россия, Pavlov@phoi.ifmo.ru
Alexander Pavlov
– PhD, Associate professor, Senior scientific researcher, Saint Petersburg National Research University of Information Technologies, Mechanics and Optics, Saint Petersburg, Russia, Pavlov@phoi.ifmo.ru
Научно-технический вестник информационных технологий, механики и оптики Scientific and Technical Journal of Information Technologies, Mechanics and Optics 2014, №1 (89)
25
УДК 004.387; 535.417
ЛОГИКА С ИСКЛЮЧЕНИЕМ НА АЛГЕБРЕ ФУРЬЕ-ДУАЛЬНЫХ ОПЕРАЦИЙ: НЕЙРОСЕТЕВОЙ МЕХАНИЗМ РЕДУЦИРОВАНИЯ КОГНИТИВНОГО ДИССОНАНСА1
А.В. Павлова a Санкт-Петербургский национальный исследовательский университет информационных технологий, механики и оптики, Санкт-Петербург, Россия, Pavlov@phoi.ifmo.ru
В развитие подхода к реализации методом голографии Фурье немонотонных логик из класса нечетко-значимых показан механизм редуцирования когнитивного диссонанса. Когнитивный диссонанс возникает при восприятии новой информации, противоречащей ранее сложившейся субъективной картине мира, представленной в виде двойного каскада преобразования Фурье с голограммой Фурье-матрицы связей нейронных слоев репрезентации входной информации и заключения. Голограмма реализует монотонную логику по правилу вывода «Обобщенный Modus Ponens». Новая информация представлена голограммой исключения – матрицей связей слоев заключения и исключений, связанных преобразованием Фурье-операцией, задающей дуальность определяющих алгебру логики операций конъюнкции и дизъюнкции. Голограмма исключения формирует вывод, дуальный выводу по правилу «Обобщенный Modus Ponens». Показано, что обученная основному правилу и исключению система может быть представлена моделью двухслойной нейронной сети с разными матрицами связей для прямой и обратной итераций. Введена функция энергии сети, определяющая циклический характер динамики, и дан анализ диссипативного члена, обуславливающего конвергентность динамики. Показано влияние условий записи голограмм правила «Обобщенный Modus Ponens» и исключения на характер динамики и скорость схождения системы к устойчивому состоянию, характеризующемуся независимостью значения логического заключения от значений входных переменных. Такой тип динамики, ведущий к формированию толерантности, характерен для обыденной формы мышления, нацеленной на устойчивость внутренней картины мира. Для реализации научной формы мышления, ориентированной на адекватность внутренней картины мира реальности, необходим механизм, останавливающий релаксацию сети; этот механизм должен быть внешним по отношению к модели логики. Приведены результаты численного моделирования для условий обучения, адекватных условиям записи реальных голограмм Фурье. Ключевые слова: информационные технологии, когнитивные механизмы, когнитивный диссонанс, голография, нейронные сети, диссипативный фактор.
LOGIC WITH EXCEPTION ON THE ALGEBRA OF FOURIER-DUAL OPERATIONS: NEURAL NET MECHANISM OF COGNITIVE DISSONANCE
REDUCING2
A. Pavlovb b Saint Petersburg National Research University of Information Technologies, Mechanics and Optics, Saint Petersburg, Russia, Pavlov@phoi.ifmo.ru
A mechanism of cognitive dissonance reducing is demonstrated with approach for non-monotonic fuzzy-valued logics by Fourier-holography technique implementation developing. Cognitive dissonance occurs under perceiving of new information that contradicts to the existing subjective pattern of the outside world, represented by double Fourier-transform cascade with a hologram – neural layers interconnections matrix of inner information representation and logical conclusion. The hologram implements monotonic logic according to “General Modus Ponens” rule. New information is represented by a hologram of exclusion that implements interconnections of logical conclusion and exclusion for neural layers. The latter are linked by Fourier transform that determines duality of the algebra forming operations of conjunction and disjunction. Hologram of exclusion forms conclusion that is dual to the “General Modus Ponens” conclusion. It is shown, that trained for the main rule and exclusion system can be represented by two-layered neural network with separate interconnection matrixes for direct and inverse iterations. The network energy function is involved determining the cyclic dynamics character; dissipative factor causing convergence type of the dynamics is analyzed. Both “General Modus Ponens” and exclusion holograms recording conditions on the dynamics and convergence of the system are demonstrated. The system converges to a stable status, in which logical conclusion doesn’t depend on the inner information. Such kind of dynamics, leading to tolerance forming, is typical for ordinary kind of thinking, aimed at inner pattern of outside world stability. For scientific kind of thinking, aimed at adequacy of the inner pattern of the world, a mechanism is needed to stop the net relaxation; the mechanism has to be external relative to the model of logic. Computer simulation results for the learning conditions adequate to real holograms recording are presented. Keywords: information technologies, cognitive systems, cognitive dissonance, holography, neural networks, dissipative factor.
1 Работа выполнена при поддержке РФФИ, грант 12-01-00418-а, и НИР СПб НИУ ИТМО «Исследование эффектов нелинейной голографической записи информации и поиск возможностей реализации биологически мотивированных механизмов креативного мышления». 2 The work was done with supporting from the Russian Foundation for Basic Research, grant 12-01-00418-а and SPb NRU ITMO S&R work «Research of nonlinear holographic information record effects and retrieval of implementation facilities for biologically motivated procedures of creative thinking»
Научно-технический вестник информационных технологий, механики и оптики Scientific and Technical Journal of Information Technologies, Mechanics and Optics 2014, №1 (89)
17
ЛОГИКА С ИСКЛЮЧЕНИЕМ НА АЛГЕБРЕ ФУРЬЕ-ДУАЛЬНЫХ... .
Введение
Одно из актуальных направлений развития информационных технологий – реализация моделей и механизмов, обусловливающих проявление феноменов, отчасти аналогичных тем, что присущи биологическому мозгу [1]. В рамках когнитивного подхода к обработке информации на первый план выходят механизмы восприятия и включения новой информации в структуру существующего индивидуального знания [1] – когнитивные механизмы и их внешние проявления – когнитивные феномены.
Один из таких феноменов, когнитивный диссонанс (КД), проявляет конфликт между двумя когнициями – уже наличествующим знанием, представленным в виде внутренней картины мира, и знанием новым, ей противоречащим [2]. С КД неразрывно связан защитный механизм его редуцирования, направленный на обеспечение субъективной непротиворечивости внутренней картины мира [3]. Можно выделить две парадигмы редуцирования КД, соответствующие двум когнитивным стилям – научному и обыденному [4]. Для первого, ориентированного на адекватность картины мира реальности, характерно повышение когнитивной активности для получения новой информации, позволяющей согласовать диссонирующие когниции их дополнением. В этом случае КД может формально рассматриваться как ошибка обучения, устранимая также методами обучения. Для обыденного когнитивного стиля характерен примат устойчивости картины мира, даже вопреки ее адекватности реальности, и КД относится уже более к психологической, чем формально-логической противоречивости [3]. Здесь только дообучение не даст эффекта в силу иных приоритетов носителя данного когнитивного стиля [4].
В качестве модели, описывающей механизм включения новой информации во внутреннюю картину мира, интерес представляют немонотонные логики, в которых заданное при начальном обучении значение логического заключения может меняться при восприятии новой информации [5]. Применительно к феномену КД актуален частный случай немонотонных логик – логики с исключением [6]. Но логика – не только абстрактная модель (алгебра), но в первую очередь – атрибут психической сферы [7]. Соответственно, чтобы претендовать на адекватность, алгебра логики должна моделировать феномены, присущие человеческой психике, в том числе феномен КД и его редуцирования в форме, характерной для обыденного когнитивного стиля.
В числе информационных технологий, соответствующих основным постулатам когнитивного под-
хода [1], интерес, среди прочих, представляет и голография как в силу естественного параллелизма оптической обработки двумерных массивов информации, так и в силу ряда аналогий между свойствами
голограмм и мозга [8, 9]. В работах [1015] развит подход к реализации нечетко-значимых логик методом голографии Фурье. Этот подход объединяет формальную модель логико-лингвистического моделирования по Л. Заде [16] с биологически мотивированным методом представления информации паттернами внутренней репрезентации и их обработки [12, 17, 18]. В рамках подхода в [13] дана модель логики с исключением (ЛИ), а в [15] показана реализация на ЛИ феномена, аналогичного КД. В [15] остался открытым вопрос о внутреннем механизме и закономерностях редуцирования КД, их зависимости от свойств материального носителя интеллекта и условий его обучения.
В настоящей работе, в развитие [1015], показан обусловленный диссипативным фактором имманентный данной модели механизм редуцирования КД, характерный для обыденного когнитивного стиля, и выявлены закономерности динамики в связи с условиями обучения и свойствами голографических регистрирующих сред.
Подход
Для удобства читателя, с учетом междисциплинарного характера работы, кратко изложим основ-
ные моменты развиваемого подхода и иллюстрируем формальные построения простым примером. Дета-
ли заинтересованный читатель найдет в [1015].
В живых системах информация из внешнего мира воспринимается сенсорами, преобразуется сен-
сорами и сенсорными трактами, и на коре головного мозга активируются картины нейронной активности
– паттерны внутренней репрезентации информации, которые и обрабатываются мозгом – биологической
нейронной сетью [17, 18]. Применение голографии в искусственном интеллекте мотивировано аналогией
между обработкой паттернов мозгом и изображений голограммой [4, 79]. В частности, 4f -схема голо-
графии Фурье (на рис. 1, а, ограничена пунктиром) реализует двухслойную нейронную сеть (на рис. 1, б,
ограничена пунктиром) с матрицей связей по модели внешнего произведения векторов, описывающих
изображения. Запись голограммы Фурье реализует правило обучения Хебба. Метод наложенных голо-
грамм позволяет связать набор пар векторов без использования статистических методов.
В работах [10, 11, 13] показано, что схема голографии Фурье порождает при обработке изображе-
ний алгебру Фурье-дуальных определяющих модель операций. Преобразование Фурье, удовлетворяющее
аксиоматическому определению операции, задающей дуальность, обусловливает нечетко-значимость
адекватной схеме логики как отображение в модели реального физического явления дифракции [13].
Задача объединения двух подходов – нейросетевого, основанного на обработке паттернов, и фор-
мально-алгебраического, основанного на представлении смысла значений лингвистических переменных
18
Научно-технический вестник информационных технологий, механики и оптики Scientific and Technical Journal of Information Technologies, Mechanics and Optics
2014, №1 (89)
А.В. Павлов
нечеткими числами и их обработке по правилам арифметики нечетких чисел [16] – решена в [12] в про-
странстве Фурье приравниванием спектров амплитуд нечетких чисел (абстрактная модель) и изображе-
ний как аналогов паттернов внутренней репрезентации. Этот подход позволил применить аппарат нечет-
ких чисел к описанию обработки произвольных изображений и реализации вывода «Обобщенный Modus
Ponens» на универсальной шкале. Применительно к логике в рамках развиваемого подхода формальной
операции изменения моды нечеткого числа, описывающего изменение смысла значения лингвистической
переменной в [16], соответствует физически реальная операция изменения спектра амплитуд изображе-
ния, представляющего значение лингвистической переменной. Поскольку в рамках голографической реа-
лизации [11] непосредственная оценка моды нечеткого числа невозможна, она проводится измерением
радиуса его корреляции, совпадающего с радиусом корреляции описываемого нечетким числом изобра-
жения.
В алгебре логики [10, 11, 13] дизъюнкция реализуется сверткой. Поскольку при обработке изобра-
жений их свертка в общем случае – многомодальное распределение, т.е. не удовлетворяет критерию од-
нозначности интерпретации, предъявляемому к логическому заключению, то оператор импликации опре-
делен через вычитание. Вычитание (абстрактное) в алгебре [10, 11, 13] реализуется операцией корреля-
ции, результат которой формируется в +1-м порядке дифракции схемы голографии Фурье.
ЛИ обычно строится добавлением к монотонной логике по правилу вывода «Modus Ponens», опе-
ратора исключения «если не …» [7]. Пример ЛИ из повседневной жизни: «Если яблоко большое, то оно
хорошее, если не перекормлено нитратами».
Первая часть вывода монотонная логика «Если яблоко большое, то оно хорошее» в [1012] реа-
лизована 4f -схемой голографии Фурье (рис. 1, а, ограничена пунктиром). Связи слоев репрезентаций In и заключений С реализованы каскадом двойного преобразования Фурье L1, L2 с голограммой HGMP, запи-
санной паттернами: в слое In ImInmin(x,y), представляющим минимальное значение лингвистической
переменной «размер», и в С – ImCmin(ζ,), представляющим связанное c ним значение заключения – лингвистической переменной «качество»:
H GMP νx , ν y GMP F ImInmax x, y F ImСmin ζ, η ,
(1)
где νx , ν y частоты; ζ, η координаты в слое С; GMP оператор, учитывающий обуславливающую до-
полнительную фильтрацию на голограмме (1) нелинейность голографической регистрирующей среды,
астериск – символ комплексного сопряжения.
ImIn L1
HGMP
L2
ImC
L4 ImE SM
HE а
In
HGMP
С HE
E
б
Рис. 1. 6f -схема голографии Фурье (а) и модель трехслойной нейронной сети (б)
ЛИ построена в [14] добавлением к двухслойной нейронной сети, реализующей монотонную логику (рис. 1, б, ограничена пунктиром), слоя исключений Е, связанного со слоем C преобразованием Фурье (рис. 1, б). Таким образом, исключение связано с заключением монотонной логики операцией, задающей дуальность определяющих модель операций. Оптическая схема, реализующая данную трехслойную сеть на этапе обучения исключению, представляет собой 6f -схему голографии Фурье (рис. 1, а).
После обучения сети монотонной логике записи голограммы (1), записывается голограмма (мат-
рица связей) исключения HE: в слое исключения Е предъявляется паттерн исключения ImRE χ x ,χ y , а в
Научно-технический вестник информационных технологий, механики и оптики Scientific and Technical Journal of Information Technologies, Mechanics and Optics 2014, №1 (89)
19
ЛОГИКА С ИСКЛЮЧЕНИЕМ НА АЛГЕБРЕ ФУРЬЕ-ДУАЛЬНЫХ... .
слое С паттерн заключения ImCREGMP(ζ,), символ R в нижних индексах означает «эталон». Этот паттерн формируется голограммой (1) при предъявлении в слое In паттерна ImIn(x,y), с которым связано исключение (в нашем примере – большое яблоко, подозрительное на нитраты):
H E ζ,η E F ImRE χ x ,χ y ImСGRMEP ζ,η .
(2)
В данной модели на вход сети поступает только паттерн, представляющий посылку монотонной ло-
гики – значение переменной «размер». Значение исключения ассоциативно вызывается из памяти заклю-
чением, сформированным по правилу монотонной логики, и, в свою очередь, модифицирует его. Такая
модель ЛИ адекватна реальным ситуациям покупатель может оценить значение переменной «размер»,
но не может непосредственно оценить значение переменной исключения (уровень нитратов), так как у
него нет лабораторного оборудования. Однако ранее полученная информация об опасности нитратов свя-
зана в памяти с размером – именно большое яблоко подозрительно на повышенный уровень нитратов.
Следовательно, оценка размера вызывает из памяти ассоциированное с ней значение исключения.
Для модификации исключением начального вывода, слой Е связан со слоем In так, что паттерн из
слоя Е, подается в слой без изменений In. При предъявлении в слое In паттерна ImIn(x,y), представляющего текущее значение переменной «размер», в слое С формируется паттерн ImСGMP(ζ,), представляющий
значение лингвистической переменной «качество», полученное по правилу монотонной логики:
ImСGMP ζ, η ImIn x, y GMP ImInmin x, y ,
(3)
где – символ операции корреляции. Этот паттерн, проходя матрицу связей слоев С и Е (дифрагируя на
голограмме (2)), формирует в слое Е паттерн
ImE
χx,χy
F
ImСGMP
ζ, η
E
F
ImRE
χx,y
ImСGREMP
ζ, η
,
Im RE
E
χx,χy *
F
ImСGMP
ζ, η
F ImСGRMEP ζ, η
(4)
где нижний индекс E означает дополнительную фильтрацию вследствие нелинейности голографических
регистрирующих сред, а * – символ операции свертки. В выражении (3) значение заключения в слое Е
связано со значением заключения, формируемым по правилу монотонной логики в слое С, преобразова-
нием Фурье, удовлетворяющим аксиоме невозрастания, входящей в определение задающей дуальность операции [13]. В результате шкала, формируемая голограммой HE в слое Е, инверсна шкале в слое С.
Модификация первоначального заключения осуществляется подачей паттерна (4) на входной слой
In. Тогда в слое С формируется новый паттерн – заключение ЛИ:
ImСE ζ,η ImE χ x , χ y ImInminGMP x, y .
(5)
Если при обучении исключению выполнено условие
ImRE χ x , χ y ImIn x, y ,
то паттерн (5) в области глобального максимума автокорреляционной функции является унимодальным, т.е. удовлетворяет критерию однозначности интерпретации логического заключения и пригоден для подачи на исполнительные органы.
Выражение (5) описывает паттерн, формируемый в одном цикле ImIn ImGMP ImСE. Вместе с тем, в модели нет факторов, останавливающих процесс – паттерн (5) вновь поступает на голограмму (2), и процесс развивается далее. Ниже покажем, что диссипативные свойства данной системы определяют ее динамику, аналогичную редуцированию КД в форме, характерной для обыденного когнитивного стиля – имеет место не изменение внутренней картины мира с учетом новой информации, а формирование толерантности [19], и определим связь характеристик процесса со свойствами элементов схемы.
Динамика системы
Как видно из приведенного выше рассмотрения, третий слой Е необходим только для дообучения сети исключению – записи голограммы (2). Полностью обученная система может быть представлена моделью двухслойной сети с разными матрицами связей: (1) – для In C и (2) – для обратной C In ите-
раций. Тогда для обученной сети координаты χ x , χ y в слое исключения E, совпадающего со слоем In,
можно заменить на координаты x, y слоя In.
Поскольку матрица связей – голограмма (1) (при описании паттернов как векторов ImInmin и ImСmin )
определена как их внешнее произведение, то для итерации In→C определим энергию как частный случай
функции Ляпунова посредством скалярного произведения векторов ImIn и ImC , описывающих текущее
состояние слоев In и C [20]:
EInC ImInHGMPImC .
(6)
20
Научно-технический вестник информационных технологий, механики и оптики Scientific and Technical Journal of Information Technologies, Mechanics and Optics
2014, №1 (89)
А.В. Павлов
Для итерации C In, поскольку голограмма (2) также может быть представлена как внешнее про-
изведение F ImСGRMEP и ImE , энергию сети определим аналогично:
ECIn F ImCGMP HEImIn F ImIn F ImInminGMP HEIm*In .
(7)
Полная энергия системы определяется как сумма (6) и (7):
E = EInC + ECIn cInC ImInHGMPImC cCIn F ImIn F ImInminGMP HEImIn ,
где cInC и cCIn – нормировочные коэффициенты. Компонент EInC определяет конвергентность динамики сети [20] как схождение к аттрактору
ImIInmC
Im Inmin δ,
,
где δ – дельта-функция, описывающая точечный источник как вектор размерностью 1. Компонент ECIn , в
свою очередь, определяет динамику сети
F ImСGMP F ImGСmMaPx ,
ImIn ImInmax . Таким образом, имеем противоположное направление динамики системы на встречных итерациях In→C и C→In. Для анализа динамики примем допущение, что обрабатываемые паттерны описываются как реализации однородных изотропных случайных полей и отношение площадей паттернов и корреляции
SIm SCorr достаточно велико для того, чтобы применительно к глобальным максимумам их автокорреля-
ционных функций можно было пренебречь свойством некоммутативности операции корреляции. Тогда
паттерн – заключение ЛИ (5) на n-ой итерации описывается выражением
ImCEn ζ,η F
ImСEn1 ζ,η *
Im E
E
x,
y
F
ImСGRMEP ζ,η
Im In
minGMP
x, y
,
(8)
где ImСGMP ζ,η из (4), начиная со второй итерации, мы обозначаем ImCEn1 ζ,η . В (8) от номера итерации
n зависит F ImCEn1 ζ,η , а член в фигурных скобках является диссипативным фактором, учитывающим
дифракцию на голограммах HGMP и HE.
Для консервативной системы динамика сети в устоявшемся режиме имела бы колебательный ха-
рактер (6)–(7). Наличие в (8) диссипативного члена обусловливает затухание колебаний – схождение про-
цесса к устойчивому состоянию
ImCEn ζ,η F
ImCEn ζ,η *
ImEE
x,
y
F
ImСGRMEP ζ,η
Im In
minGMP
x, y
.
(9)
Из (9) следует зависимость скорости схождения от характеристик минимального элемента после-
довательности входных паттернов ImInmin x, y и условий обучения системы – условий записи голограмм.
При радиусе корреляции минимального элемента последовательности ImInmin x, y , сравнимом с дифракционным пределом разрешения, т.е. rInminGMP , , , голограмма HGMP будет иметь посто-
янную во всем частотном диапазоне дифракционную эффективность. Если голограмма HE записана пат-
терном ImRE ImInmin , то также rE x, y x, y , и в части, обусловленной выбором паттерна исключе-
ния при обучении системы, диссипативный член минимален, поскольку
ImEE x, y ImInminGMP x, y ζ,η .
В [14] показано, что для обеспечения максимальной чувствительности логики целесообразно проводить обучение системы исключению паттерном ImСGRMEP ImCGmMaPx . Поскольку ImCGmMaPx – максимальный
элемент последовательности ImС , то
F ImСGRMEP ζ,η x ,y .
При таком выборе условий обучения монотонной логике исключению диссипативный член в (9)
минимален:
Im E
E
x,
y
F
ImСGRMEP ζ,η
Im In
minGMP
x, y
x, y .
В пределе этот член теряет диссипативный характер – система стремится к консервативности, а ее аттрактор – к циклическому. Однако в силу внутренней коррелированности как атрибута информации,
Научно-технический вестник информационных технологий, механики и оптики Scientific and Technical Journal of Information Technologies, Mechanics and Optics 2014, №1 (89)
21
ЛОГИКА С ИСКЛЮЧЕНИЕМ НА АЛГЕБРЕ ФУРЬЕ-ДУАЛЬНЫХ... .
отличающего ее от шума, при обучении системы должны выполняться условия, исключающие разрушение внутренней коррелированности, в первом приближении эти условия могут быть определены [21] как
rInminGMP , 3 , , rE x, y 3 x, y .
По мере увеличения радиусов корреляций паттернов расти будет также и член (9) – скорость зату-
хания колебаний будет возрастать. При обучении сети исключению паттернами ImRE x, y ImInmax x, y
и F ImСGRMEP ζ,η F ImCGmMiPn ζ,η оба паттерна являются максимальными элементами соответствующих
последовательностей, и член (9) будет иметь максимальное значение, а скорость конвергенции – максимальна.
Радиусы корреляций паттернов, входящих в диссипативный член, определяются как радиусами корреляции исходных паттернов, так и условиями записи голограмм вкупе с экспозиционными характеристиками голографических регистрирующих сред. В силу ограниченности динамического диапазона регистрирующих сред голограммы (1) и (2) всегда записываются в ограниченном частотном диапазоне [22–24]. Высокочастотная фильтрация ведет к убыванию радиуса корреляции и, тем самым, к убыванию значения диссипативного члена, низкочастотная – к его росту.
Из (9) видно, что устойчивое состояние не зависит от начальной точки процесса релаксации – для всех значений входных переменных система релаксирует к одному аттрактору, определяемому диссипативным членом в (9). Иными словами, формируется толерантность – одинаковое значение ImСE для всех
значений набора ImIn [19].
Численное моделирование
Моделировалась динамика системы (рис. 1) при обработке паттернов – реализаций случайного процесса с гауссовым спектром амплитуд и случайным спектром фаз, равномерно распределенных на
интервале [0, 2]. Размер реализаций – 1024 пикселей. Голограмма (1) записывалась паттернами ImInmin ,
голограмма (2) – ImRE ImInmin и ImСGmMaPx – заключением монотонной логики, полученным при максималь-
ном значении входной лингвистической переменной (ЛП) ImInmax . В рамках примера предъявлялась по-
следовательность паттернов ImIn ImSize ImSmall , ImLittle , ImMedium , ImBig , отличающихся, соглас-
но [10, 12], спектрами амплитуд с одинаковыми спектрами фаз. Условия записи голограмм и свойства
регистрирующих сред моделировались введением дополнительных высокочастотных и низкочастотных
фильтров Гаусса. Условия моделирования применительно к голограмме HGMP даны в таблице. Для двух серий набо-
ров входных ЛП с радиусами корреляции
rа
0,606
= {14, 27, 53, 105} (а) и
rб
0,606
= {9, 18, 35, 70} (б) при-
ведены значения радиуса корреляции минимального элемента ImInmin – импульсного отклика системы
δ0,606 , описывающего фильтрацию на голограмме (1), в пикселях по уровню 0,606 и нормированные на
длину реализации параметры фильтра Гаусса – центральная частота 0 и ширина по уровню 0,606 – 0,606. На рис. 2, а, приведены графические представления логик, порождаемых разными голограммами
HGMP (строки 1, 4 и 7 в таблице) при линейных HE – три семейства зависимостей, связывающих входную
(ось абсцисс) и выходную (ось ординат) лингвистические шкалы для следующих логик: монотонной (возрастающие зависимости), с исключением на первой итерации (убывающие зависимости) и на 10-й
итерации. Справа и сверху даны метрические шкалы, соответствующие лингвистическим. Градуировка
метрических шкал согласно субъективным лингвистическим шкалам эксперта задается при обучении [12, 13]. Видно, что к 10-й итерации система при линейной 4 и низкочастотной 7 голограммах HGMP при-
ходит в состояние толерантности (9) – для всех значений входной переменной формируется одно значение выходной переменной. При высокочастотной голограмме HGMP диссипативный член имеет меньшее значение – скорость конвергенции ниже, и к 10-й итерации система еще не достигла состояния (9).
На рис. 2, б, приведены примеры динамики для этих моделей голограммы HGMP. Для наглядности
приведена динамика для максимального элемента последовательности значений входных лингвистиче-
ских переменных «большое». Для других значений динамика имела такой же характер, сходилась, как и
следует из (8), к устойчивому состоянию, отличаясь, в соответствии со значением входной переменной,
меньшим размахом колебаний. Для оценки скорости схождения системы зависимости значения (8) по
уровню 0,606 от номера итерации n аппроксимировались экспонентой ImCE0,606 n y0 exp An , значе-
ния коэффициента A и количество итераций Nm, за которое система достигает устойчивого состояния, также даны в таблице.
22
Научно-технический вестник информационных технологий, механики и оптики Scientific and Technical Journal of Information Technologies, Mechanics and Optics
2014, №1 (89)
А.В. Павлов
Excellent
Acceptable Good
Значение логического заключения
Входная метрическая шкала,
r0,606, пиксели 20 40 60 80 100
70
7–0 4–0 60
1–0 50
1–10
40 7–1 7–10
4–10 1–1
4–1
30 20
Входная метрическая шкала, ImC0,606, пиксели
70 60 50 40 30 20
Bad
Small
Little Middle Big
0246
8 10
Номер итерации, n
147
147
аб Рис. 2. Динамика системы для ряда условий записи голограммы HGMP (табл.): а – графические
представления логик зависимостями значений на выходных шкалах (лингвистической – слева
и метрической – справа) от значений на шкалах входных (лингвистической – снизу и метрической – свер-
ху):, первая цифра в обозначениях кривых – номер строки в таблице, вторая – номер итерации: 1-0, 4-0, 7-0
– логики монотонные, 1-1, 4-1, 7-1 – ЛИ, 1-ая итерация, 1-10, 4-10, 7-10 – ЛИ, 10-я итерация; б – динамика
системы как зависимость заключения, формируемого при предъявлении на входе максимального
значения, от номера итерации; номер кривой соответствует строке таблицы
Номер
1 2 3 4 5 6 7
δ0,606 ,
пиксели аб 12 8 13 9 13 9 14 9 19 17 24 19 29 28
Параметры фильтра
Тип фильтра 0 0,606 ВЧ 30 20 ВЧ 20 20 ВЧ 10 20 нет – – НЧ 30 40 НЧ 20 40 НЧ 20 20
А
аб 0,14 0,2 0,52 0,37 0,66 0,56 0,74 0,57 0,88 0,71 1,1 0,94 1,85 1,45
Nm
аб >10 >10 >10 >10 >10 >10 10 >10
89 66 33
Таблица. Параметры динамики в зависимости от характеристик голограммы HGMP (ВЧ – высокочастотный
фильтр, НЧ – низкочастотный фильтр)
Из таблицы видно, что с ростом радиуса корреляции минимального элемента, используемого для записи голограммы HGMP – импульсного отклика системы, растет и значение параметра A, описывающего
скорость схождения системы к устойчивому состоянию (9). Радиус корреляции, в свою очередь, определяется как собственно входным паттерном (серия а или б), так и условиями записи голограммы HGMP,
обусловливающими тот или иной вид дополнительной фильтрации.
Заключение
Таким образом, динамический характер нейронной сети, реализующей логику с исключением на алгебре Фурье-дуальных определяющих модель операций, обусловливает колебательный тип динамики как частный случай когнитивного диссонанса, возникающего при восприятии информации, противоречащей уже сложившейся внутренней картине мира, представленной монотонной логикой. Редуцирование когнитивного диссонанса определяется диссипативным характером системы – при оптической реализации диссипативным фактором является фундаментальное физическое явление дифракции на голограммах мо-
Научно-технический вестник информационных технологий, механики и оптики Scientific and Technical Journal of Information Technologies, Mechanics and Optics 2014, №1 (89)
23
ЛОГИКА С ИСКЛЮЧЕНИЕМ НА АЛГЕБРЕ ФУРЬЕ-ДУАЛЬНЫХ... .
нотонной логики и исключения. Поскольку реализуемая алгебра логики основана на Фурье-дуальности определяющих модель операций, а преобразование Фурье описывает дифракцию, то данный диссипативный фактор и соответственно механизм редуцирования когнитивного диссонанса, имманентен модели. Скорость редуцирования как схождения к устойчивому состоянию определяется свойствами голографических регистрирующих сред и условиями записи голограмм, интегральной оценкой здесь может служить импульсный отклик системы, описывающий степень диссипативности системы в терминах дифракционного уширения точки.
Этот механизм может быть соотнесен с характерным для обыденного когнитивного стиля конфликтом между стремлением к устойчивости внутренней модели мира и необходимостью учета нового знания отказа от сложившихся стереотипов. Если система релаксирует, то она приходит в устойчивое состояние безразличия или толерантности – значение заключения логики с исключением не зависит от значения входных лингвистических переменных. Уровень этой толерантности определяется операторами GMP и
E , описывающими свойства регистрирующих сред и условиями обучения.
Этот сценарий, характерный для обыденного когнитивного стиля, неприемлем в рамках научного стиля познания здесь необходим механизм, останавливающий итерационную процедуру. Скорее всего, он должен быть внешним по отношению к модели и может быть соотнесен с присущим интеллекту высокого уровня механизмом саморефлексии. Отметим, что остановка итерационного процесса – лишь первый шаг формирования новой внутренней картины мира. Эта картина должна быть не только адекватна реальности, но и внутренне непротиворечива. Последнее обусловливает, вероятно, реализацию новой картины мира не в виде двух голограмм, поскольку они связаны оператором, задающим дуальность, т.е. противоречат друг другу, но одной голограммы. Иными словами, если это предположение верно, то логика с исключением – закономерный и необходимый, но лишь промежуточный этап процесса познания как процесса формирования и постоянной корректировки внутренней картины мира, адекватной реальности.
Литература
1. Кузнецов О.П. Когнитивная семантика и искусственный интеллект // Искусственный интеллект и принятие решений. 2012. № 4. С. 32–42.
2. Психологическая энциклопедия / Под ред. Р. Корсини, А. Ауэрбаха. 2-е изд. СПб: Питер, 2006. 1096 с. 3. Хекхаузен X. Мотивация и деятельность. 2-е изд. СПб: Питер; М.: Смысл, 2003. 860 с. 4. Кузнецов О.П. Быстрые процессы мозга и обработка образов // Новости искусственного интеллекта.
1998. № 2 [Электронный ресурс]. Режим доступа: http: //raai.org/library/ainews/1998/2/DISTR.ZIP, свободный. Яз. рус. (дата обращения 5.12.2013). 5. Вагин В.Н., Головина Е.Ю., Загорянская А.А., Фомина М.В. Достоверный и правдоподобный вывод в интеллектуальных системах. 2-е изд. М.: ФИЗМАТЛИТ, 2008. 712 с. 6. Reiter R. A logic for default reasoning // Artificial Intelligence. 1980. V. 13. N 1–2. P. 81–132. 7. Кузнецов О.П. Неклассические парадигмы в искусственном интеллекте // Изв. РАН. Сер. Теория и системы управления. 1995. № 5. С. 3–23. 8. Прибрам К. Нелокальность и локализация: голографическая гипотеза о функционировании мозга в процессе восприятия и памяти // Синергетика и психология. В.1. Методологические вопросы. М.: МГСУ «Союз», 1997. С. 156–183. 9. Кузнецов О.П., Марковский А.В., Шипилина Л.Б. Голографические механизмы обработки образной информации. М.: Институт проблем управления им. В.А.Трапезникова РАН, 2007. 82 с. 10. Павлов А.В. Математические модели оптических методов обработки информации // Изв. РАН. Сер. Теория и системы управления. 2000. № 3. С. 111–118. 11. Павлов А.В. Об алгебраических основаниях Фурье-голографии // Оптика и спектроскопия. 2001. Т. 90. № 3. С. 515–520. 12. Алексеев А.М., Константинов А.М., Павлов А.В. Использование метода Фурье-голографии для моделирования принципа образности мышления // Оптический журнал. 2006. Т. 73. № 9. С. 77–82. 13. Павлов А.В. Об алгебраических основаниях голографической парадигмы в искусственном интеллекте: алгебра Фурье-дуальных операторов // Сборник научных трудов V Международной научнопрактической конференции «Интегрированные модели и мягкие вычисления в искусственном интеллекте». М.: ФИЗМАТЛИТ, 2009. Т. 1. С. 140–148. 14. Павлов А.В. Алгебра Фурье-дуальных операций: логика с исключением // Искусственный интеллект и принятие решений. 2012. № 3. С. 26–38. 15. Павлов А.В. Логика с исключением на алгебре Фурье-дуальных операций: феномен сомнений и колебаний // Сборник научных трудов VII Международной научно-практической конференции «Интегрированные модели и мягкие вычисления в искусственном интеллекте». М.: ФИЗМАТЛИТ, 2013. Т. 3. С. 1035–1045.
24
Научно-технический вестник информационных технологий, механики и оптики Scientific and Technical Journal of Information Technologies, Mechanics and Optics
2014, №1 (89)
А.В. Павлов
16. Заде Л. Понятие лингвистической переменной и его применение к принятию приближенных решений. Сер. Математика. Новое в зарубежной науке. М.: Мир, 1976. В. 3. 167 с.
17. Борисюк Г.Н., Борисюк Р.М., Казанович Я.Б., Иваницкий Г.Р. Модели динамики нейронной активности при обработке информации мозгом – итоги «десятилетия» // Успехи физических наук. 2002. Т. 172. № 10. С. 1189–1214.
18. Тушканов Н.Б., Тушканова О.Н. К построению мультисенсорных систем: принципы работы неокортекса головного мозга при распознавании объектов внешнего мира // Труды конгресса по интеллектуальным системам и информационным технологиям (IS-IT’12). М.: ФИЗМАТЛИТ, 2012. Т. 2. С. 373–378.
19. Общая психология: Словарь / Под ред. А.В. Петровского. М.: Пер Сэ, 2005. 251 с. 20. Магницкий Н.А. Распознавание образов распределенными динамическими системами // Доклады ака-
демии наук. 1994. Т. 338. № 3. С. 320–321. 21. Шубников Е.И. Отношение сигнал/помеха при корреляционном сравнении изображений // Оптика и
спектроскопия. 1987. Т. 62. № 2. С. 450–456. 22. Кулешов А.М., Шубников Е.И., Смаева С.А. Об оптимальности голографического согласованного
фильтра // Оптика и спектроскопия. 1986. Т. 60. № 6. С. 1273–1276. 23. Александрина С.А., Кулешов А.М. Влияние режекции низких пространственных частот спектра на
параметры сигнала в голографическом корреляторе // Оптика и спектроскопия. 1990. Т. 68. № 3. С. 652–655. 24. Кулешов А.М., Шубников Е.И. Влияние нелинейности среды и пространственных ограничений фильтра на параметры сигнала в голографическом корреляторе // Оптика и спектроскопия. 1986. Т. 60. № 3. С. 606–609.
Павлов Александр Владимирович
– кандидат технических наук, доцент, старший научный сотрудник, Санкт-Петербургский национальный исследовательский университет информационных технологий, механики и оптики, Санкт-Петербург, Россия, Pavlov@phoi.ifmo.ru
Alexander Pavlov
– PhD, Associate professor, Senior scientific researcher, Saint Petersburg National Research University of Information Technologies, Mechanics and Optics, Saint Petersburg, Russia, Pavlov@phoi.ifmo.ru
Научно-технический вестник информационных технологий, механики и оптики Scientific and Technical Journal of Information Technologies, Mechanics and Optics 2014, №1 (89)
25