Алгоритм обучения нейросети для 661 группы

04.10.2010

2 комментария

	Денис	06.10.2010 в 14:04
Тарас Викторович, в пункте 6 в формуле появляется переменная ню. Что это? И какую её брать?

Taras

06.10.2010 в 18:03

Алгоритм вычисляет, в каком направлении нужно изменять весовые коэффициенты, но на какую величину их изменять неизвестно. За эту величину и отвечает параметр «ню» (вообще-то это «эта»). Если идти очень маленькими шагами, то гарантированно придем к минимуму, но за большое число шагов. Если сделать «эту» большой, приближаться к минимуму будем быстрее, но есть опасность, что алгоритм вообще ни к чему не сойдется. Иногда советуют брать эту величину сначала большой, а затем по ходу обучения плавно ее уменьшать.

В общем, надо сделать ее параметром алгоритма. Для пробы можно взять значение $\eta =0.01$ .

Персональная страничка
Диканева Тараса
Викторовича