УСТОЙЧИВОСТЬ  РЕКУРСИВНЫХ НЕЙРОННЫХ  СЕТЕЙ  ЦИЛИНДРИЧЕСКОЙ  АРХИТЕКТУРЫ  С  ЗАПАЗДЫВАЮЩИМИ  ВЗАИМОДЕЙСТВИЯМИ 

Иванов  Сергей  Александрович

аспирант  кафедры  математического  анализа 

Челябинского  государственного  педагогического  университета (ЧГПУ),  г.  Челябинск

E-mail:  ivanovlord@yandex.ru

Невзорова  Елена  Николаевна

магистрант,  ЧГПУ,  г.  Челябинск

Козлова  Светлана  Анатольевна

магистрант,  ЧГПУ,  г.  Челябинск

STABILITY  OF  RECURSIVE  NEURAL NETWORKS  OF  CYLINDRICAL  ARCHITECTURE WITH DELAYED  INTERACTIONS

Ivanov  Sergey

post-graduate  student,  Dept.  of  Mathematical  Analysis, 

Chelyabinsk  State  Pedagogical  University  (CSPU)

Nevzorova  Elena

graduate  student,  Dept.  of  Computer  Science  (CSPU)

Kozlova  Svetlana

graduate  student,  Dept.  of  Computer  Science  (CSPU)

Работа  поддержана  грантом  Министерства  образования  и  науки  1.1711.2011  и  грантом  для  аспирантов  Челябинского  государственного  педагогического  университета.  Авторы  благодарны  проф.  Кипнису М.М.  за  постановку  задачи  и  ценные  советы.

АННОТАЦИЯ

Экспериментально  получены  области  устойчивости  дискретных  нейронных  сетей  с  цилиндрической  топологией  связей  в  пространстве  параметров.  Задача  сводится  к  проблеме  устойчивости  матричных  разностных  уравнений  высоких  порядков  с  запаздыванием. 

ABSTRACT

The  stability  domains  of  a  discrete  neural  network  are  obtained  by  numerical  experiments.  The  network  has  a  cylindrical  architecture.  The  problem  is  reduced  to  the  matrix  delay  equations  of  higher  order. 

Ключевые  слова:  нейронные  сети;  разностные  матричные  уравнения;  устойчивость  разностных  уравнений;  цилиндрические  нейронные  сети.

Keywords:  neural  networks;  difference  matrix  equations;  stability;  cylinder.

Мы  рассматриваем  нейронную  сеть  из  шести  нейронов  с  цилин­дрической  топологией  связей  с  равным  запаздыванием  между  нейронами  в  сети.  В  статье  [1]  приведены  геометрические  алгоритмы  для  проверки  на  устойчивость  матричного  разностного  уравнения  с  двумя  запаздываниями.

Рисунок  1.  Цилиндрическая  нейронная  сеть с  шестью  нейронами

Рассмотрим  дискретную  модель  нейронной  сети  с  цилиндри­ческой  топологией  связей.  В  модели  взаимодействие  различных  нейронов  запаздывает  на  тактов.  Силу  воздействия  нейрона  с  «меньшим»  номером  на  нейрон  с  «большим»  обозначим  посредством  ,  а  силу  обратного  воздействия  посредством  .  Модель  имеет  вид

                                                     (1)

Для  сетей  с  цилиндрической  топологией  уравнение  (1)  примет  вид:

                                                   (2)

где:    —  единичная  матрица, 

  —  коэффициент  затухания  собственных  колебаний  нейрона, 

—  матрица  взаимодействий  между  нейронами  в  сети.  Здесь    есть  мерный  вектор  состояния  нейронной  сети  в  момент  . 

Для  сети  из  шести  нейронов  с  цилиндрической  конфигурацией  матрица  взаимодействий    размера    примет  вид

.                                                                             (3)

Характеристическое  уравнение  для  матричного  уравнения  (2)  имеет  вид

                                                                                      (4)

где: 

                                                                              (5)

Для  изучения  устойчивости  уравнения  (2)  с  матрицей  (3)  будем  использовать  программу  Маткад.  Мы  фиксируем  запаздывание    и  коэффициент  демпфирования  .  Затем  перебираем  значения    из  некоторого  интервала  с  некоторым  шагом.  Для  каждого  значения  мы  подбираем  граничные  значения  ,  в  окрестности  которых  устойчивость  системы  граничит  с  неустойчивостью.  Этот  подбор  происходит  следующим  образом.  Мы  ищем  корни  уравнения  (4)  с  учетом  (5),  и  в  качестве  искомого  значения    берем  то  значение,  при  котором  все  корни  характеристического  уравнения  (4)  находятся  внутри  единичного  круга  на  комплексной  плоскости,  а  по  крайней  мере  один  корень  на  границе  круга.  В  результате  мы  получаем  область  устойчивости  в  пространстве  параметров  .  В  конце  создаем  график,  иллюстрирующий  полученную  область  устойчивости  для  выбранных  параметров    и  .

Результаты  вычислений  области  устойчивости  для  запаздываний  на  1,2  и  3  такта  показаны  на  Рис.  2.

Рисунок  2.  Области  устойчивости  в  пространстве  параметров  (a,b)  для  γ=0,6,  k=1,  2,  3

Полученные  области  позволят  решить  вопрос  об  устойчивости  исследуемой  модели  в  зависимости  от  интенсивности  взаимодействия  между  нейронами.

Полученные  результаты  будут  отправной  точкой  для  дальней­шего  развития  теории  об  устойчивости  цилиндрической  нейронной  сети  с  различным  числом  нейронов  в  сети.

Рекурсивные  нейронные  сети  с  топологией  связей,  отличной  от  цилиндрической,  изучены  в  работах  [2,  3].  Непрерывные  модели  нейронных  сетей  исследуются  в  работе  [4]  на  основе  теории  конусов  устойчивости  для  дифференциальных  уравнений  с  запаздываниями  [5]. 

Список  литературы:

1. Заенцов  И.В.,  Нейронные  сети:  основные  модели.  Издательство  Воронежского  университета,  Воронеж,  1999.

2. Иванов  С.А.  Область  устойчивости  в  пространстве  параметров  рекурсив­ных  нейронных  сетей  с  топологией  многомерного  куба.  Челябинск:  Вестник  ЮУрГУ  серия  Математика.  Механика.  Физика  Выпуск  7,  2012.

3. Ivanov  S.A.,  Kipnis  M.M.  Stability  analysis  of  discrete-time  neural  networks  with  delayed  interactions:  torus,  ring,  grid,  line.  International  Journal  of  Pure  and  Applied  Math.  (2012)  V.  78(5),  p.  691—709.

4. Khokhlova  T.N.,  Kipnis  M.M.  Numerical  and  qualitative  stability  analysis  of  ring  and  linear  neural  networks  with  a  large  number  of  neurons,  International  Journal  of  Pure  and  Applied  Math.  (2012)  V.  76(3),  pp.  403—419.

5. Khokhlova  T.N.,  Kipnis  M.M.,  Malygina  V.V.  The  stability  cone  for  a  delay  differential  matrix  equation,  Appl.  Math.Letters  (2011)  V.  24,  pp.  42—745.