AI Lab

 Скачать в PDF (1.03 Мбайт) 

Современные системы технического зрения (СТЗ) вполне соответствуют системам зрения живых организмов на этапе восприятия зрительной информации и даже в значительной степени превосходят возможностью работать в более широком диапазоне частот и с большей чувствительностью. Аналогичная ситуация наблюдается и во всех остальных типах сенсорных систем. Также решена задача первичной обработки информации – выделения объектов и их признаков, однако на этапе дальнейшей обработки технические системы существенно уступают биологическим.

Можно предположить, что это связано в первую очередь с уходом от образного представления информации к символьной (цифровой) информации о признаках объектов среды. В живых организмах образное представление и хранение информации играет основополагающую роль в формирования модели среды, в оценке ситуаций и принятии решений, планировании поведения и его реализации, включая использование при этом интуиции и творческого подхода.

Важным этапом в создании интеллектуальных систем должно быть создание моделей нейронных систем образной обработки сенсорной информации, и разработка многоуровневой нейронной образной ассоциативной памяти.

В работе предлагается к рассмотрению модель памяти, как многоуровневой структуры с набором восходящих и нисходящих ассоциативных связей.

1. Модель нейронной системы ассоциативной памяти

1.1. Функциональная схема модели памяти

Сенсорная информация поступает на входы модуля, обеспечивающего запоминание и распознавание отдельных образов. На этом этапе происходит как раздельная обработка информации от различных сенсоров, так и комплексирование, обеспечивающее объединение в каждом выходном образе его зрительных, слуховых и иных составляющих.

         Дальнейшая обработка информации разделяется на два пути -  частично остается в образной, а частично переходит в символьную память.

         В символьной памяти происходит переход от образов к понятиям, и их обобщение вплоть до самых верхних уровней абстракции.

         В модуле формирования образных ассоциаций часть/целое происходит основное накопление информации об окружающей среде.  Такими ассоциациями являются как простые отношения между цельным образом и его составляющими, так и пространственные отношения между объектами, а также временные отношения (причинно-следственные связи)  и комбинации всех этих видов.  Таким образом, в общем случае в модуле формируется динамическая трехмерная картина окружающей среды. Модуль позволяет восстанавливать информацию об отдельных объектах сформированной картины, а также воспроизводить ассоциации между событиями, и восстанавливать информацию о целом объекте по информации о наблюдаемой части.

         Модуль, отвечающий за формирование языковых ассоциаций, дополняет символьную память, и  хранит элементы языка. Связи обеспечивают соответствие этих элементов абстрактным и пространственно-временным ассоциациям, частным случаем которых может выступать фонетическое и визуальное представление элементов языка.

         Все описанные модули должны представлять собой многоуровневые системы, осуществляющие последовательное обобщение запоминаемой информации со связями как вверх так и вниз.

1.2. Модель модуля формирования обобщенных понятий

Рис. 2. Размещение образной информации по уровням памяти

Каждый i-ый уровень памяти  формируется множеством nⁱ из N_i нейронов, пронумерованных множеством индексов αⁱ. Эти нейроны образуют K_i ансамблей A^j,i, каждый из которых представляет некоторый образ (класс, понятие). Каждый j-ый ансамбль формируется как некоторое подмножество: 

(1)

Здесь a^j,i - соответствующее подмножество из множества всех индексов которыми пронумерованы нейроны i-го уровня; N_j,i - число нейронов ансамбля A^j,i.

         Из множества всех нейронов ансамбля можно выделить следующие подмножества:

-         входные нейроны, обеспечивающие связь с низшими уровнями, с индексами α_E^j,i, |α_E^j,i|=N^E_j,i;

-         входные нейроны, обеспечивающие связь с высшими уровнями, с индексами α_F^j,i, |α_F^j,i|=N^F_j,i;

-         выходные нейроны, с индексами α_Y^j,i, |α_Y^j,i|=N^Y_j,i;

-         управляющие нейроны, с индексами α_R^j,i, |α_R^j,i|=N^R_j,i;

-         внутренние нейроны, с индексами α_I^j,i, |α_I^j,i|=N^I_j,i.

Наличие активности на выходных нейронах ансамбля означает восстановление в памяти образа представляемого этим ансамблем. Интенсивность выходных сигналов характеризует яркость образа и, соответственно, силу ассоциативных связей вызвавших возбуждение этого ансамбля.

При необходимости восстановления информации об образе, ансамбль нейронов представляющий этот образ возбуждается через управляющие входы. Съем информации производится с активных ансамблей всех уровней.

Нулевой уровень формируется множеством n⁰ из N₀ нейронов, пронумерованных множеством индексов α⁰.

         Из множества всех нейронов нулевого уровня можно выделить следующие подмножества:

-         управляющие нейроны, с индексами α⁰_R, |α⁰_R|=N₀^R;

-         выходные нейроны, с индексами α⁰_Y, |α⁰_Y|=N₀^Y;

-         входные нейроны, принимающие информацию от зрительной системы α⁰_E, |α⁰_E|=N₀^E;

-         входные нейроны, обеспечивающие связь с высшими уровнями, с индексами α⁰_F, |α⁰_F|=N₀^F;

-         внутренние нейроны, реализующие функцию классификатора с индексами α⁰_I, |α⁰_I|=N₀^I.

Выходные нейроны представляют в памяти K₀ классов изображений A^j,0. Каждый j-ый класс определяется как одновременная активность некоторого подмножества нейронов: 

(2)

Здесь α_Y^j,0 - соответствующее подмножество из множества всех индексов которыми пронумерованы выходные нейроны 0-го уровня; N^Y_j,0=|α_Y^j,0| - число нейронов, определяющих класс A^j,0.

Аналогичная структура может быть положена в основу и других элементов памяти, представленных на рис.1.

Введем описания входов и выходов системы памяти.

Сигналы с выхода зрительной системы поступают на входные нейроны нулевого уровня памяти. Множество входных сигналов

(3)

представляет собой N^E₀ наборов интенсивностей цветовых составляющих элементов изображения поступающих от зрительной системы.

В случае черно-белого зрения E⁰_k(t) представляет собой число, характеризующее яркость элемента изображения. Если цвет кодируется несколькими составляющими (пусть число составляющих - γ), то для цветного изображения:

(4)

где λ={λ₁,λ₂,..., λ_γ}- множество интенсивностей цветовых составляющих каждого элемента входного изображения.

         Управляющие входы на восстановление информации из памяти R⁰, R¹…R^M представляют собой множества сигналов: 

(5)

Здесь R^j,i(t) - множества сигналов на управляющие входы ансамбля A^j,i;

R⁰_k(t) - сигналы на к-ый управляющий нейрон нулевого уровня;

R^j,i_k(t) - сигналы на к-ый управляющий нейрон ансамбля A^j,i ;

r⁰(t) – управляющий сигнал на нейроны, разрешающий восстановление информации с нулевого уровня по ассоциации сверху;

rⁱ(t) – управляющий сигнал на нейроны, разрешающий восстановление информации с i-го уровня по ассоциации сверху.

         Выходы Y⁰,Y¹…Y^M  представляют собой множества сигналов с выходных нейронов ансамблей.

(6)

Здесь Y^j,0(t) - множество сигналов выходных нейронов 0-го уровня, формирующих j-ый класс изображений;

         Y^j,i(t) - множество сигналов выходных нейронов ансамбля A^j,i;

Y^j,0_k(t) - сигнал k-го выходного нейрона 0-го уровня, формирующего j-ый класс изображений;

         Y^j,i_k(t) - сигнал k-го выходного нейрона ансамбля A^j,i.        

Множества обобщающих ассоциативных связей между ансамблями формируются связями от нейронов низших к нейронам высших уровней: 

(7)

Здесь E^j,i(t) - множество сигналов на входные нейроны ансамбля A^j,i от ансамблей низших уровней;

         E^j,i_k(t) - множество сигналов на k-ый входной нейрон ансамбля A^j,i от нейронов низших уровней.

Для того чтобы иметь возможность восстанавливать детальную информацию об общем понятии организуются связи от высших уровней к низшим:

(8)

Здесь F^j,i(t) - множество сигналов на входные нейроны ансамбля A^j,i от ансамблей высших уровней;

F^j,i_k(t) - множество сигналов на k-ый входной нейрон ансамбля A^j,i от нейронов высших уровней.

1.3. Модель естественного нейрона

         Процесс преобразования информации в естественном нейроне можно разделить на несколько этапов каждый из которых выполняется отдельным функциональным элементом нейрона.

         Синаптическая передача определяет условия взаимодействия нейронов и эффективность воздействия на нейрон по данному входу, и вместе с мембраной обеспечивает настройку каждого входа нейрона на импульсные воздействия определенного характера. Мембрана нейрона также обеспечивает пространственное суммирование сигналов и их временное суммирование которое позволяет нейронной системе обрабатывать динамическую информацию.  Низкопороговая зона нейрона вместе с мембраной определяют характер импульсного потока на выходе нейрона в зависимости от внутреннего состояния клетки. Низкопороговая зона также обеспечивает устойчивость нейрона как элемента информационной системы посредством управления внутренним состоянием мембраны и синапсов.

         Рассмотрим свойства естественного нейрона которыми необходимо дополнить формальный нейрон для построения модели памяти на нейронных структурах:

1.     Временная суммация входных воздействий.

2.     Невосприимчивость нейрона к входным сигналам на время генерации импульса.

3.     При одновременной стимуляции дендритного и соматического синаптических аппаратов, приоритет получают сигналы, воздействующие на сому клетки

4.     эффективность группы синапсов обратно пропорциональна не общему числу синапсов как в формальном нейроне, а общему числу активных синапсов.

5.     Механизм пресинаптического торможения, являющийся еще одним важным отличием предлагаемой модели от формального нейрона позволяет ограничить сверху диапазон частот, которые смогут воздействовать на нейрон через синапс. Ограничение снизу достигается настройкой веса синапса и инерционных параметров мембраны.

На рис. 2.3 представлено описание нейрона n^j,i_k как элемента системы памяти. Мембрана нейрона в общем случае когда нейрон одновременно является входным, выходным и управляющим может быть условно разделена на три части:

• участки сомы B_p, принимающие множества сигналов от U_j,i ансамблей нейронов высших уровней связанных с ансамблем A^j,i: F^j,i(t) и сигнала разрешающего прием информации с высших уровней rⁱ(t);
• дендриты D_q, принимающие множества сигналов от ансамблей нейронов низших уровней связанных с ансамблем A^j,i: E^j,i(t);
• участок сомы b, принимающий внешний запрос на восстановление информации в виде множества сигналов R^j,i(t).

Рис. 3. Структурная схема нейрона как элемента системы памяти:

B_p – участок сомы - приемник сигнала от группы нейронов высшего уровня, b – участок сомы - приемник сигнала на восстановление информации, D_q – дендрит – приемник сигнала от группы нейронов низшего уровня, G – генераторная зона.

2. Алгоритмы настройки модели памяти

Рассмотрим принципы формирования межуровневых и управляющих связей.

При формировании нового ансамбля A^j,i производится настройка входов запроса  на ассоциативную выборку данных R^j,i(t).

На каждом нейроне n^j,i_k на участке сомы b^j,i_k формируется синапс принимающий управляющий сигнал R^j,i_k(t). Необходимые условия при настройке параметров этого участка сомы и его синапса:

• Сигналы R^j,i(t) должны иметь приоритет перед сигналами, передающимися по межуровневым связям E^j,i(t) и F^j,i(t).
• Сигналы R^j,i(t) должны переводить ансамбль A^j,i в возбужденное состояние.

Межуровневые связи между ансамблями формируются в два этапа. Пусть необходимо связать ансамбль A^l,i-1 с A^j,i.

1.     Установка связей с низшего уровня.

На каждом нейроне n^j,i_k формируется новый участок сомы, на котором в общем случае формируется N_l,i-1 синапсов, получающих сигналы от всех нейронов ансамбля A^l,i-1. Модель участка сомы и его синапсов с учетом обозначений введенных в п.1.3 и того, что E^j,i_p,k(t)=Y^l,i-1(t), запишем как D^j,i_p,k(Y^l,i-1(t),t)  Необходимым условием при настройке параметров участка сомы является возбуждение ансамбля  Aj,i при возбуждении ансамбля A^l,i-1.

2.     Установка связей с высшего уровня.

На каждом нейроне n^l,i-1_k формируется новый дендрит, на котором в общем случае формируется N_j,i синапсов, получающих сигналы от всех нейронов ансамбля A^j,i, а также синапс, принимающий сигнал r^i-1(t). Модель дендрита и его синапсов с учетом обозначений введенных в п.1.3 и того, что F^l,i-1_q,k(t)=Y^i,i(t), запишем как B^l,i-1_q,k(Y^i,i(t),t). Необходимые условия при настройке параметров дендрита:

• Ансамбль A^l,i-1 не должен изменять свое текущее устойчивое состояние при возбуждении его сигналами по одному или одновременно по всем дендритам в случае если одновременно нейрон не возбуждается сигналом r^i-1(t).
• Ансамбль A^j,i не должен изменять свое текущее устойчивое состояние при возбуждении его только сигналом r^i-1(t) в отсутствие возбуждения дендритов по связям с высших уровней.
• При наличие возбуждения на дендрите и сигнала r^i-1(t) ансамбль A^l,i-1 должен восстанавливать состояние, которое имел при настройке в п.1 вне зависимости от одновременно поступающих сигналов с ансамблей низших уровней.

После такой настройки нейронов ансамбля можно возбуждая ансамбль управляющими сигналами R^j,i(t) и одновременно подавая на ансамбли низших уровней сигналы r^l(t), (l<i) мы получим восстановление детализации обобщенных понятий. Также с высших уровней мы получаем восстановление обобщенных понятий, включающих в себя вспоминаемый образ.

3. Модели функциональных элементов системы памяти

         Модель входного уровня памяти. Конфигурация множества входных нейронов нулевого уровня памяти зависит от наличия, или отсутствия цветовой информации в сигналах зрительной системы, а также от того необходимо ли сохранять в памяти цветовую информацию.

а) 

б)

Рис. 4. Конфигурация поля входных нейронов модели: а) для памяти без сохранения цветовой информации, б) для памяти с сохранением информации о цвете. 

         В случае отсутствия необходимости сохранения цветовой информации (рис. 4а) цветовые составляющие каждого элемента входного изображения интегрируются на нейроне отображающем этот элемент во входном уровне памяти.

         Для того чтобы модель могла обрабатывать всю цветовую информацию необходимо отображать каждую цветовую составляющую элемента изображения на отдельном нейроне входного уровня (рис. 4б).

         Модель нейронного ансамбля. Рассмотрим произвольный ансамбль A^j,i, множество нейронов которого представляет собой однородную однослойную структуру, где каждый нейрон одновременно выполняет функции входного, выходного и управляющего нейронов (рис. 5).

В этом случае имеет место соотношение:

(9)

Рис. 5. Функциональная схема нейронного ансамбля

Структура связей таких ансамблей нейронов ансамблей соседних уровней продемонстрирован на рис. 6. 

Рис. 6. Взаимодействие ансамблей разных уровней

Заключение

1. Представленная система памяти и распознавания образов кажется перспективной для решения задач формирования модели внешней среды, ориентированную на распознавание сложных объектов и создания интеллектуального интерфейса между человеком-оператором и роботом.

2. Этого типа системы памяти так же могут найти применение там, где требуется распознавание, получение обобщенной информации о видеоизображениях, и т.п.

Литература

[1] Е.И. Юревич, А.В. Бахшиев. О новом подходе к созданию технического зрения // Мехатроника, автоматизация, управление / Труды Первой Всероссийской научно-технической конференции с международным участием (г. Владимир, 28-30 июня 2004г). – М.: Новые технологии, 2004. – с.268-271.

[2] Бахшиев А. В., Романов С. П. Математическое моделирование процессов преобразования импульсных потоков в биологическом нейроне // Нейрокомпьютеры: разработка, применение.  №3, стр. 71-80, 2009.

[3] Бахшиев А.В. Компьютерное моделирование естественных нейронных сетей // Материалы XIV научно-технической конференции “Экстремальная робототехника” СПб., изд. Астерион, 2004.