СТАТИСТИЧЕСКИЕ СВОЙСТВА ГИПОТЕЗ, ПОРОЖДАЕМЫХ ДВУСЛОЙНОЙ НЕЙРОННОЙ СЕТЬЮ С МАТРИЦЕЙ ДВУНАПРАВЛЕННЫХ СВЯЗЕЙ, РЕАЛИЗУЕМОЙ МЕТОДОМ ГОЛОГРАФИИ ФУРЬЕ
УДК 535.417: 007
СТАТИСТИЧЕСКИЕ СВОЙСТВА ГИПОТЕЗ, ПОРОЖДАЕМЫХ ДВУСЛОЙНОЙ НЕЙРОННОЙ СЕТЬЮ С МАТРИЦЕЙ ДВУНАПРАВЛЕННЫХ
СВЯЗЕЙ, РЕАЛИЗУЕМОЙ МЕТОДОМ ГОЛОГРАФИИ ФУРЬЕ
З.С. Бекяшева, В.Н. Васильев, А.А. Востриков, А.В. Павлов
Определены возможные механизмы порождения абдуктивной, индуктивной и творческой гипотез двуслойной нейронной сетью с матрицей связей, реализуемой методом голографии Фурье. Ключевые слова: голография, нейронные сети.
В искусственном интеллекте актуальны задачи реализации механизмов творческого мышления и правдоподобных выводов (абдуктивного и индуктивного). По мнению ряда исследователей, эти задачи должны решаться в рамках концепции образного мышления. Поэтому интерес вызывает голографическая парадигма, основанная на аналогиях между работой мозга и голограммы. Принцип образности реализуется голографической обработкой изображений как аналогов паттернов внутренней репрезентации (ПВР) воспринимаемой информации, формирующихся в коре головного мозга.
В работах [1, 2] предложен подход к порождению творческих гипотез при реализации хаотической динамики в схеме голографии Фурье с обращением волновых фронтов в плоскостях изображений и корреляций, реализующий модель двуслойной нейронной сети. В работе [3] предложен подход к реализации правдоподобных рассуждений в той же оптической схеме, но при конвергентной динамике. При этом порождается как паттерн абдуктивной или индуктивной гипотезы, так и паттерн творческой гипотезы. Паттерн порождаемой творческой гипотезы описывается моделью линейной регрессии условий задачи по знаниям. Представляет интерес адекватность порождаемой гипотезы как имеющимся знаниям, представленным в памяти нейронной сети (записанным на голограмме), так и реальности.
Известно, что модель линейной регрессии строит наилучшую по критерию минимума среднего квадрата ошибки оценку для стационарных процессов, в то время как реальные процессы существенно нестационарны. Соответственно, нестационарными должны быть и ПВР. Вместе с тем экспозиционные характеристики регистрирующих сред характеризуются существенной нелинейностью и ограниченностью динамического диапазона, что ведет к пространственно-частотной фильтрации. В работе методом численного моделирования исследовано влияние различных видов фильтрации на статистические характеристики порождаемых творческих гипотез. Использованы фильтры, адекватные реальным характеристикам голографических сред – сигмоидальный, гауссообразный, сумма двух функций Гаусса, экспоненциальный (низкочастотная фильтрация) и полосовой (режектирующий). Показано, что низкочастотная фильтрация ведет к увеличению стационарности по дисперсии, сопряженному с уменьшением дисперсии. Высокочастотная фильтрация ведет к увеличению стационарности по математическому ожиданию, превалирующую роль играют низкие пространственные частоты, режекция которых наиболее эффективно повышает оценку стационарности. При этом по мере увеличения информативности обрабатываемой реализации (числа радиусов корреляции в размере реализации) зависимость оценки стационарности от степени ослабления низких частот снижалась, и оценки для разных фильтров стремились к одному значению.
Таким образом, свойство ограниченности динамического диапазона регистрирующих сред имеет следствием стационаризацию порождаемой сетью творческой гипотезы. При этом оценка стационарности по математическому ожиданию возрастает с ростом информативности реализации, а оценка стационарности по дисперсии, напротив, снижается. В результате изменение параметров фильтра позволяет изменять «творческие способности» сети, выбирая требуемый компромисс между адекватностью гипотезы имеющимся знаниям (стационарная гипотеза) и «полетом фантазии», сопряженным с нестационарностью гипотезы по дисперсии, что предполагает работу в области высоких пространственных частот.
Работы выполнена при поддержке РФФИ, грант 09-01-00165-а.
1. Павлов А.В. О возможности применения фурье-голографии в задаче моделирования творческого мышления: требования к передаточным характеристикам реверсивных голографических сред // Оптический журнал. – 2008. – Т. 75. – № 10. – С. 42–49.
2. Павлов А.В. О возможности моделирования творческого мышления методом голографии Фурье // Труды XI Национальной конференции по искусственному интеллекту. Т. 1. – М.: URSS, 2008. – С. 384–392.
3. Павлов А.В. О возможности реализации абдуктивного и индуктивного выводов методом голографии Фурье // Конгресс по интеллектуальным системам и информационным технологиям AIS-IT’09. 3-10 сентября 2009. Дивноморское. Россия. Т.2. – С.130–139.
Бекяшева Зоя Салаватовна – СПбГУ ИТМО, студ., zoya.bekyasheva@phoi.ifmo.ru; Васильев Владимир Николаевич – СПбГУ ИТМО, д.т.н., проф., ректор; Востриков Алексей Алексеевич – СПбГУ ИТМО, студ., lehav@inbox.ru; Павлов Александр Владимирович – СПбГУ ИТМО, к.т.н., доц., pavlov@phoi.ifmo.ru
Научно-технический вестник Санкт-Петербургского государственного университета информационных технологий, механики и оптики, 2010, № 2(66)
123
СТАТИСТИЧЕСКИЕ СВОЙСТВА ГИПОТЕЗ, ПОРОЖДАЕМЫХ ДВУСЛОЙНОЙ НЕЙРОННОЙ СЕТЬЮ С МАТРИЦЕЙ ДВУНАПРАВЛЕННЫХ
СВЯЗЕЙ, РЕАЛИЗУЕМОЙ МЕТОДОМ ГОЛОГРАФИИ ФУРЬЕ
З.С. Бекяшева, В.Н. Васильев, А.А. Востриков, А.В. Павлов
Определены возможные механизмы порождения абдуктивной, индуктивной и творческой гипотез двуслойной нейронной сетью с матрицей связей, реализуемой методом голографии Фурье. Ключевые слова: голография, нейронные сети.
В искусственном интеллекте актуальны задачи реализации механизмов творческого мышления и правдоподобных выводов (абдуктивного и индуктивного). По мнению ряда исследователей, эти задачи должны решаться в рамках концепции образного мышления. Поэтому интерес вызывает голографическая парадигма, основанная на аналогиях между работой мозга и голограммы. Принцип образности реализуется голографической обработкой изображений как аналогов паттернов внутренней репрезентации (ПВР) воспринимаемой информации, формирующихся в коре головного мозга.
В работах [1, 2] предложен подход к порождению творческих гипотез при реализации хаотической динамики в схеме голографии Фурье с обращением волновых фронтов в плоскостях изображений и корреляций, реализующий модель двуслойной нейронной сети. В работе [3] предложен подход к реализации правдоподобных рассуждений в той же оптической схеме, но при конвергентной динамике. При этом порождается как паттерн абдуктивной или индуктивной гипотезы, так и паттерн творческой гипотезы. Паттерн порождаемой творческой гипотезы описывается моделью линейной регрессии условий задачи по знаниям. Представляет интерес адекватность порождаемой гипотезы как имеющимся знаниям, представленным в памяти нейронной сети (записанным на голограмме), так и реальности.
Известно, что модель линейной регрессии строит наилучшую по критерию минимума среднего квадрата ошибки оценку для стационарных процессов, в то время как реальные процессы существенно нестационарны. Соответственно, нестационарными должны быть и ПВР. Вместе с тем экспозиционные характеристики регистрирующих сред характеризуются существенной нелинейностью и ограниченностью динамического диапазона, что ведет к пространственно-частотной фильтрации. В работе методом численного моделирования исследовано влияние различных видов фильтрации на статистические характеристики порождаемых творческих гипотез. Использованы фильтры, адекватные реальным характеристикам голографических сред – сигмоидальный, гауссообразный, сумма двух функций Гаусса, экспоненциальный (низкочастотная фильтрация) и полосовой (режектирующий). Показано, что низкочастотная фильтрация ведет к увеличению стационарности по дисперсии, сопряженному с уменьшением дисперсии. Высокочастотная фильтрация ведет к увеличению стационарности по математическому ожиданию, превалирующую роль играют низкие пространственные частоты, режекция которых наиболее эффективно повышает оценку стационарности. При этом по мере увеличения информативности обрабатываемой реализации (числа радиусов корреляции в размере реализации) зависимость оценки стационарности от степени ослабления низких частот снижалась, и оценки для разных фильтров стремились к одному значению.
Таким образом, свойство ограниченности динамического диапазона регистрирующих сред имеет следствием стационаризацию порождаемой сетью творческой гипотезы. При этом оценка стационарности по математическому ожиданию возрастает с ростом информативности реализации, а оценка стационарности по дисперсии, напротив, снижается. В результате изменение параметров фильтра позволяет изменять «творческие способности» сети, выбирая требуемый компромисс между адекватностью гипотезы имеющимся знаниям (стационарная гипотеза) и «полетом фантазии», сопряженным с нестационарностью гипотезы по дисперсии, что предполагает работу в области высоких пространственных частот.
Работы выполнена при поддержке РФФИ, грант 09-01-00165-а.
1. Павлов А.В. О возможности применения фурье-голографии в задаче моделирования творческого мышления: требования к передаточным характеристикам реверсивных голографических сред // Оптический журнал. – 2008. – Т. 75. – № 10. – С. 42–49.
2. Павлов А.В. О возможности моделирования творческого мышления методом голографии Фурье // Труды XI Национальной конференции по искусственному интеллекту. Т. 1. – М.: URSS, 2008. – С. 384–392.
3. Павлов А.В. О возможности реализации абдуктивного и индуктивного выводов методом голографии Фурье // Конгресс по интеллектуальным системам и информационным технологиям AIS-IT’09. 3-10 сентября 2009. Дивноморское. Россия. Т.2. – С.130–139.
Бекяшева Зоя Салаватовна – СПбГУ ИТМО, студ., zoya.bekyasheva@phoi.ifmo.ru; Васильев Владимир Николаевич – СПбГУ ИТМО, д.т.н., проф., ректор; Востриков Алексей Алексеевич – СПбГУ ИТМО, студ., lehav@inbox.ru; Павлов Александр Владимирович – СПбГУ ИТМО, к.т.н., доц., pavlov@phoi.ifmo.ru
Научно-технический вестник Санкт-Петербургского государственного университета информационных технологий, механики и оптики, 2010, № 2(66)
123