Нервная система человеческого организма состоит из нейронов, соединенных нервными волокнами, осуществляющих передачу электрических импульсов между нейронами. Строение биологического нейрона представлено на рисунке 1. Следует отметить, что отростки нервных волокон типа дендритов принимают импульсы, а типа аксона, который единстенен, – передаёт импульс. Взаимодействие аксона с дендритами других нейронов осуществляется через синапсы, влияющих на силу импульса. [1]

Определяется, что, когда синапс проходит, сила импульса изменяется в определенное число раз, именуемое весом синапса. Импульсы, которые подошли к нейрону в одно время по нескольким дендритам, суммируются. Если суммарный импульс превышает некоторый установленный порог, нейрон будет возбуждаться, сформирует свой собственный импульс и передаст его далее по аксону. Стоит отметить, что веса синапсов способны меняться со временем, а значит, может измениться и поведение соответствующего нейрона. [1]

Можно построить математическую модель нейрона. Пусть под нейроном понимается искусственный нейрон или одна ячейка нейронной сети. Любой нейронов может быть либо возбужден, либо заторможен. Он имеет группу синапсов – входных однонаправленных связей, которые соединены с выходами других нейронов, а ещё имеет аксон – выход данного нейрона, с которым сигнал (либо возбуждения, либо торможения) будет поступать на синапсы следующих нейронов.

Каждый из синапсов характеризуется величиной синоптической связи или ее весом . Физический смысл показателя веса эквивалентен электрической проводимости. [4]

Состояние нейрона в текущий момент инициализируется, как взвешенная сумма его входов:

Выход нейрона это функция его состояния: 

Причем F – активационная функция, имеющая следующие виды (рисунок 3):

Функция единичного скачка, используемая в классическом искусственном нейроне [2]:

Эта функция очень проста, поэтому не позволяет смоделировать схемы с непрерывными сигналами. Также у неё отсутствует первая производная. Этот факт затрудняет применение градиентных методов для обучения таких нейросетей. [2]

Функция линейный порог (гистерезис):

Эту функцию очень легко рассчитать, но есть и недостаток: она имеет разрывную первую производную в точках  и . Этот факт значительно усложняет алгоритм обучения.

Нелинейная функция с насыщением, именуемая также логистической функцией или сигмоидом (функция S-образного вида):

Очень часто применяется для многослойных персептронов и других сетей с непрерывными сигналами. [2]

Функция гиперболический тангенс, применимая для сетей с непрерывными сигналами:

Данная функция симметрична относительно начала координат. [2]

Итак, искусственные нейронные сети (ИНС) – это совокупность элементарных обработчиков – искусственных нейронов, которые связаны между собой синаптическими соединениями. Когда данные обрабатываются сетью, аппарат ИНС применяется в качестве самостоятельного компонента системы управления или принятия решений. Данный аппарат применяется для широкого спектра задач: аппроксимация, интерполяция, распознавание символов, образов, сжатие информации, прогнозирование. Однако всегда ИНС – универсальный аппроксиматор функции нескольких переменных. [3]

Особенностью аппарата ИНС можно считать минимальное участие аналитика в формировании модели, она сама обучается, алгоритмы обучения сети подстраиваются и адаптируют свои весовые коэффициенты в соответствии со структурой данных, представленных для обучения. Часто, чтобы увеличить прогностическую способность, нейросеть трансформирует исходные начальные данные для увеличения числа входных нейронов.

Идея моделирования временного ряда с использованием механизма ИНС следующая: в ИНС формируется определенная структура, которая описывает поведение исследуемой системы в моменты времени. После этого по предыстории происходит предсказание будущего поведения системы. Чтобы обучить такие ИНС, нужно изменять весовые коэффициенты на основании изменения фактической погрешности прогнозирования на итерациях. [3]

Главное сложностью в построении такой нейросетевой модели является формирование обучающей выборки, выполняющей требования к полноте – выборка не должна содержать пропуски, а должна включать в себя все допустимые примеры исследуемого диапазона. Также важное требование – непротиворечивость (выборка не должна содержать противоречивых примеров). Чтобы проверить обучающую выборку на соответствие требованиям, необходима оценка качества, а также определение понятий качества выборки, критериев оценки качества и разработки математического аппарата для их оценки. Иногда, чтобы повысить прогностическую способность, допустимы (иногда нужны) дополнительные преобразования – методы фильтрации и восстановления данных (пример – вейвлет-преобразование). [3]

Существует большое количество нейросетей, которые различаются расположением нейронов и связей. Наиболее известный вид – многослойный персептрон. Это полносвязная модель без обратных связей. В данной модели количество слоёв и нейронов обусловлено постановкой задачи и мощностью ЭВМ. Количество весовых коэффициентов, то есть связей в сети, можно представить в видео формулы: [3]

В этой формуле:- количество слоёв ИНС, а  - количество нейронов на i-ом слое.

На рисунке 4 можно увидеть многослойный персептрон, который имеет один скрытый слой с семью нейронами, входной с тремя и выходной с одним нейроном. Весовых коэффициентов при этом двадцать восемь. [3]

Все статьи автора «Зеленина Лариса Ивановна»