МОДЕЛИРОВАНИЕ ПРОЦЕССОВ НА ОСНОВЕ НЕЙРОННЫХ СЕТЕЙ

Антипин Алексей Леонидович1, Зеленина Лариса Ивановна2
1Северный (Арктический) Федеральный Университет им. М.В.Ломоносова, магистрант, Институт Математики, информационных и космических технологий
2Северный (Арктический) Федеральный Университет им. М.В.Ломоносова, кандидат технических наук, доцент кафедры Прикладной математики и высокопроизводительных вычислений Института математики, информационных и космических технологий

Аннотация
В данной работе рассматривается использование искусственных нейронных сетей (ИНС) для широкого спектра задач по аппроксимации, интерполяции, распознавании символов, образов, сжатия информации, прогнозирования.

Ключевые слова: активационная функция, весовые коэффициенты, моделирование временных рядов, нейронные сети


PROCESS MODELING BASED ON NEURAL NETWORKS

Antipin Alexey Leonidovich1, Zelenina Larisa Ivanovna2
1Northern (Arctic) Federal University named after M.V. Lomonosov, master student, Institute of Math, information and space technologies
2Northern (Arctic) Federal University named after M.V. Lomonosov, Ph.D., associate professor of the Department of Applied Mathematics and Mathematics Institute of High Performance Computing, Information and Space Technologies

Abstract
In this paper we consider the use of artificial neural networks for a wide range of tasks, approximation, interpolation, recognition of symbols, images, data compression, forecasting.

Рубрика: 05.00.00 ТЕХНИЧЕСКИЕ НАУКИ

Библиографическая ссылка на статью:
Антипин А.Л., Зеленина Л.И. Моделирование процессов на основе нейронных сетей // Современные научные исследования и инновации. 2015. № 7. Ч. 4 [Электронный ресурс]. URL: https://web.snauka.ru/issues/2015/07/55119 (дата обращения: 14.03.2024).

Нервная система человеческого организма состоит из нейронов, соединенных нервными волокнами, осуществляющих передачу электрических импульсов между нейронами. Строение биологического нейрона представлено на рисунке 1. Следует отметить, что отростки нервных волокон типа дендритов принимают импульсы, а типа аксона, который единстенен, – передаёт импульс. Взаимодействие аксона с дендритами других нейронов осуществляется через синапсы, влияющих на силу импульса. [1]

 

Рисунок 1 — Строение биологического нейрона

 

Определяется, что, когда синапс проходит, сила импульса изменяется в определенное число раз, именуемое весом синапса. Импульсы, которые подошли к нейрону в одно время по нескольким дендритам, суммируются. Если суммарный импульс превышает некоторый установленный порог, нейрон будет возбуждаться, сформирует свой собственный импульс и передаст его далее по аксону. Стоит отметить, что веса синапсов способны меняться со временем, а значит, может измениться и поведение соответствующего нейрона. [1]

Можно построить математическую модель нейрона. Пусть под нейроном понимается искусственный нейрон или одна ячейка нейронной сети. Любой нейронов может быть либо возбужден, либо заторможен. Он имеет группу синапсов – входных однонаправленных связей, которые соединены с выходами других нейронов, а ещё имеет аксон – выход данного нейрона, с которым сигнал (либо возбуждения, либо торможения) будет поступать на синапсы следующих нейронов.

Рисунок 2 — Строение искусственного нейрона

Каждый из синапсов характеризуется величиной синоптической связи или ее весом . Физический смысл показателя веса эквивалентен электрической проводимости. [4]

Состояние нейрона в текущий момент инициализируется, как взвешенная сумма его входов:

Выход нейрона это функция его состояния: 

Причем – активационная функция, имеющая следующие виды (рисунок 3):

а) функция единичного скачка; б) линейный порог (гистерезис);в) сигмоид – гиперболический тангенс; г) сигмоид

Рисунок 3 — Графики активационных функций [1]

 

Функция единичного скачка, используемая в классическом искусственном нейроне [2]:

Эта функция очень проста, поэтому не позволяет смоделировать схемы с непрерывными сигналами. Также у неё отсутствует первая производная. Этот факт затрудняет применение градиентных методов для обучения таких нейросетей. [2]

Функция линейный порог (гистерезис):

Эту функцию очень легко рассчитать, но есть и недостаток: она имеет разрывную первую производную в точках  и . Этот факт значительно усложняет алгоритм обучения.

Нелинейная функция с насыщением, именуемая также логистической функцией или сигмоидом (функция S-образного вида):

Очень часто применяется для многослойных персептронов и других сетей с непрерывными сигналами. [2]

Функция гиперболический тангенс, применимая для сетей с непрерывными сигналами:

Данная функция симметрична относительно начала координат. [2]

Итак, искусственные нейронные сети (ИНС) – это совокупность элементарных обработчиков – искусственных нейронов, которые связаны между собой синаптическими соединениями. Когда данные обрабатываются сетью, аппарат ИНС применяется в качестве самостоятельного компонента системы управления или принятия решений. Данный аппарат применяется для широкого спектра задач: аппроксимация, интерполяция, распознавание символов, образов, сжатие информации, прогнозирование. Однако всегда ИНС – универсальный аппроксиматор функции нескольких переменных. [3]

Особенностью аппарата ИНС можно считать минимальное участие аналитика в формировании модели, она сама обучается, алгоритмы обучения сети подстраиваются и адаптируют свои весовые коэффициенты в соответствии со структурой данных, представленных для обучения. Часто, чтобы увеличить прогностическую способность, нейросеть трансформирует исходные начальные данные для увеличения числа входных нейронов.

Идея моделирования временного ряда с использованием механизма ИНС следующая: в ИНС формируется определенная структура, которая описывает поведение исследуемой системы в моменты времени. После этого по предыстории происходит предсказание будущего поведения системы. Чтобы обучить такие ИНС, нужно изменять весовые коэффициенты на основании изменения фактической погрешности прогнозирования на итерациях. [3]

Главное сложностью в построении такой нейросетевой модели является формирование обучающей выборки, выполняющей требования к полноте – выборка не должна содержать пропуски, а должна включать в себя все допустимые примеры исследуемого диапазона. Также важное требование – непротиворечивость (выборка не должна содержать противоречивых примеров). Чтобы проверить обучающую выборку на соответствие требованиям, необходима оценка качества, а также определение понятий качества выборки, критериев оценки качества и разработки математического аппарата для их оценки. Иногда, чтобы повысить прогностическую способность, допустимы (иногда нужны) дополнительные преобразования – методы фильтрации и восстановления данных (пример – вейвлет-преобразование). [3]

Существует большое количество нейросетей, которые различаются расположением нейронов и связей. Наиболее известный вид – многослойный персептрон. Это полносвязная модель без обратных связей. В данной модели количество слоёв и нейронов обусловлено постановкой задачи и мощностью ЭВМ. Количество весовых коэффициентов, то есть связей в сети, можно представить в видео формулы: [3]

В этой формуле:- количество слоёв ИНС, а  - количество нейронов на i-ом слое.

На рисунке 4 можно увидеть многослойный персептрон, который имеет один скрытый слой с семью нейронами, входной с тремя и выходной с одним нейроном. Весовых коэффициентов при этом двадцать восемь. [3]

Рисунок 4 – Многослойный персептрон, содержащий входной, выходной и скрытый слои


Библиографический список
  1. Компания “НейроПроект”, “АНАЛИТИЧЕСКИЕ ТЕХНОЛОГИИ для прогнозирования и анализа данных”, раздел “Нейронные сети” [Электронный ресурс]. Режим доступа: http://www.neuroproject.ru/neuro.php (Дата обращения: 9.11.2012)
  2. Заенцев И.В. Нейронные сети: основные модели// учебное пособие к курсу “Нейронные сети”, М.: 1999
  3. Крючин О.В. и другие “Прогнозирование временных рядов с помощью искусственных нейронных сетей и регрессионных моделей на примере прогнозирования котировок валютных пар”, электронный научный журнал “Исследовано в России” [Электронный ресурс]. Режим доступа: http://zhurnal.ape.relarn.ru/articles/2010/030.pdf (Дата обращения: 15.03.2015)
  4. Короткий С. “Нейронные сети: основные положения”, статья [Электронный ресурс]. Режим доступа: http://www.shestopaloff.ca/kyriako/Russian/Artificial_Intelligence/Some_publications/Korotky_Neuron_network_Lectures.pdf  (Дата обращения: 9.11.2012)




Количество просмотров публикации: Please wait

Все статьи автора «Зеленина Лариса Ивановна»


© Если вы обнаружили нарушение авторских или смежных прав, пожалуйста, незамедлительно сообщите нам об этом по электронной почте или через форму обратной связи.

Связь с автором (комментарии/рецензии к статье)

Оставить комментарий

Вы должны авторизоваться, чтобы оставить комментарий.

Если Вы еще не зарегистрированы на сайте, то Вам необходимо зарегистрироваться:
  • Регистрация