АППРОКСИМАЦИЯ ФУНКЦИИ С ИСПОЛЬЗОВАНИЕМ НЕЙРОННОЙ СЕТИ

Аппроксимация — это способ нахождения функции, которая наиболее близко соответствует таблице значений. При аппроксимации выбирается вид функции и определяются параметры этой функции, таким образом, что значения аппроксимирующей функции наиболее приближены к табличным значениям. На практике информация представляется в виде массивов числовых данных, которые являются дискретным представлением функциональных зависимостей, характеризующих исследуемые объекты и процессы разной природы. Работа с такими массивами связана с рядом серьёзных трудностей, возникающих при их использовании, например, в задачах математического моделирования; при восстановлении значений дискретно заданной функции, а также при хранении и скоростной передаче по каналам связи больших и сверхбольших по объему массивов. Для устранения этих задач применяется математическая обработка массивов числовых данных с использованием аппарата приближения (аппроксимации) функций с целью сжатия этих массивов путём замены дискретного представления функциональных зависимостей аналитическими выражениями с небольшим числом параметров коэффициентов [1].

Рассмотрим функциональную сеть полиномов, каждый узел которой соответствует члену некоторого полинома n-ой степени . Значение полинома определяется в узле, суммирующем значения выходов  на рисунке 1.

Произвольная инициализация весовых коэффициентов влечет за собой существенно разные результаты обучения сети, так как каждое слагаемое полинома g(x) линейно, изменение любого из них может привести к изменению ошибки, в частности к ее уменьшению или увеличению. Данный факт может привести к постоянному изменению весовых коэффициентов одного из узлов сети в ущерб других.

Рисунок 1. Структура функциональной сети полинома

В целях минимизации вероятности лавинного эффекта можно  использовать два узла с противоположными по знаку коэффициентами для определения слагаемого полинома заданной степени, т.е. узел сети представляющий  заменяется на два совместных узла  и  ( > 0,  < 0). Такое разделение позволит организовать «конкуренцию» между парами узлов сети и изменять тот из них, для которого ошибка называется более существенной. В силу линейности коэффициентов можно ожидать резкое увеличение корректирующих значений, что может повлечь «лавинный» эффект изменения искомых параметров [2]. Для ее решения можно заменить положительные значения  на функцию  на рисунке 2, а отрицательные – на  на рисунке 3.

Рисунок 2. График функции положительных коэффициентов

Рисунок 3. График функции отрицательных коэффициентов

Данное преобразование позволит определить гладкую функцию при корректировке коэффициентов.

Суперпозиция двух полиномов степени n и m определяет полином степени n + m. Основываясь на этом факте, в данной работе предлагается вместо одного слоя для полинома степени n + m использовать два слоя, соответствующие полиномам степени n и m.

Предложенная модель нейронной сети позволяет искать аппроксимирующий полином произвольной степени при небольшом размере сети.

Степень аппроксимирующего полинома и его свойства, прежде всего, зависят от топологии сети. Максимальная степень достигается в полносвязанных сетях.

Список литературы:

1. Хайкин С. Нейронные сети. Полный курс. М.: Вильямс, 2006. — 1104 с.
2. Информационно-аналитический ресурс, посвященный машинному обучению. URL: http://www.machinelearning.ru/ (дата обращения 24.04.2020)