ЛАБОРАТОРНАЯ РАБОТА. НЕЙРОННЫЕ СЕТИ В ЗАДАЧАХ АППРОКСИМАЦИИ
нелинейных зависимостей
КРАТКАЯ СПРАВКА
Искусственные нейронные сети (ИНС) представляют собой вычислительные устройства, состоящие из взаимодействующих блоков — нейронов, служащих для обработки данных.
Формальный нейрон (рис. 4.3.1) представляет собой вычислительный элемент, состоящий из сумматора X и активационной функции к. На вход сумматораподаются три переменные х19 х2, х3, умноженные на коэффициенты а1? а2, а3, и значение порога Т. На выходе сумматора образуется взвешенная сумма
¿=1
В качестве активационной функции /г(^), характеризующей реакцию нейрона у на входное воздействие 8, может быть выбрана линейная
Л(£) = Ха'*' ~Т
г=1
или сигмоидная (логистическая) зависимость
Л(3) = 1/(1 +ехр(-5)).
Л ЧУ ЧУ ЧУ ЧУ
Ограничимся рассмотрением трехслоинои нейронной сети с одним (рис. 4.3.2а) и двумя (рис. 4.3.2б) входами и одним выходом, содержащей четыре нейрона с сигмоидными функциями и называемой многослойным персептроном.
Первый слой образуют повторители (о) с одним а1 = 1 (рис. 4.3.2а) и двумя а\ = 1, а\ = 1 (рис. 4.3.26) коэффициентами.
Второй слой нейронной сети с одним входом (рис. 4.3.2а) содержит векторы коэффициентов а2 =(а2,а|,а|) и поро-
Рис. 4.3.2 |
гов Т2 = (Т2,Т2, Т32), а второй слой нейронной сети с двумя входами (рис. 4.3.2б) — матрицу коэффициентов
,2 11 | а\2 | аГз |
2 21 | а2 а22 | а23 |
и такой же вектор порогов Т2 = (Т2, Т2, Т2).
Третий слой в обоих случаях содержит вектор коэффициентов а3 = {а3, а3, а3) и порог Т3.
Для нейронной сети характерны режимы обучения и контроля.
Пусть имеются данные хк или хк = (хк1, хк2) и ук, & = 1, 2, ..., А^, которые делятся на два множества: обучающее хк, дсА. и ук, ^ = 1, 2, ..., А^ и контрольное х/г, *А, и ук, & = АГ1 + 1, ..., .(V.
Обучение ИНС заключается в направленном изменении коэффициентов а1, а2, а3 и порогов Т2, Т3 с целью обеспечения требуемой близости рассчитанного по ИНС ук и заданного ук путем минимизации квадратической ошибки
J(a,T)ЛY(yk-yk(a,T)f (4.3.1)
^ к=1
методами обратного распространения ошибки, сопряженных градиентов, Левенберга — Макварда и др. [1, 2].
В режиме контроля на вход обученной нейронной сети поступают данные из контрольного множества хк или хк, к = N! + \, ..., А/-, вычисляются выходные значения ук и сравниваются с заданными ук.
Сформулируем задачу аппроксимации нелинейных зависимостей с одним х и двумя хь х2 входами и одним выходом у.
Пусть известны или заданы N значений зависимостей xh, yh и л:/г1, хк2, ук, k = 1, 2, ..., N. Требуется определить количество нейронов и значения коэффициентов а1, а2, а3 в нейронной сети с одним входом
У\г = f(x,a2 ,а3 ,Т2 ,Т3) (4.3.2)
и двумя входами
Ук = f(xiiX2,a2,a3,T2,T3), (4.3.3)
такие, чтобы расчетные выходы ук при входах xk и хк1> хк2 для k = 1, 2, Nx минимизировали критерий (4.3.1), адля k = Nx 4- 1, ..., N обеспечивали требуемое расхождение с ук.
Решение задач аппроксимации (4.3.1)-(4.3.3) будет осуществлено с помощью нейропакета Neural Networks, встроенного в программный комплекс STATISTICA.
4.3.1.
Еще по теме ЛАБОРАТОРНАЯ РАБОТА. НЕЙРОННЫЕ СЕТИ В ЗАДАЧАХ АППРОКСИМАЦИИ:
- НЕЙРОН
- НЕЙРОН-ДЕТЕКТОР
- ЭКСПЕРИМЕНТ ЛАБОРАТОРНЫЙ
- СОСТАВЛЯЮЩИЕ ПРОЦЕССА, ОСНОВНЫЕ ЗАДАЧИ И ФОРМЫ РАБОТЫ
- ЗАДАНИЯ ДЛЯ САМОСТОЯТЕЛЬНОЙ РАБОТЫ ПО РЕШЕНИЮ ПСИХОЛОГО-ПЕДАГОГИЧЕСКИХ ЗАДАЧ
- 3.6. Лабораторный опрос (Hall-test)
- §2. Основные задачи и содержание социально-педагогической работы с членами семей военнослужащих
- §1. Цель, задачи и направления работы по формированию уставных взаимоотношений в части (подразделении)
- 3.3. Научно-технические методы и средства, используемые для лабораторного исследования объектов
- 3.5. Подключение к сети
- Социальные сети
- В .А. Галкин, Ю .А. Григорьев. Телекоммуникации и сети, 2003
- 4.4. Подключение к сети