Алгоритм обучения нейросети для 661 группы

NN.doc

2 комментария

  1. Денис

    Тарас Викторович, в пункте 6 в формуле появляется переменная ню. Что это? И какую её брать?

  2. Taras

    Алгоритм вычисляет, в каком направлении нужно изменять весовые коэффициенты, но на какую величину их изменять неизвестно. За эту величину и отвечает параметр «ню» (вообще-то это «эта»). Если идти очень маленькими шагами, то гарантированно придем к минимуму, но за большое число шагов. Если сделать «эту» большой, приближаться к минимуму будем быстрее, но есть опасность, что алгоритм вообще ни к чему не сойдется. Иногда советуют брать эту величину сначала большой, а затем по ходу обучения плавно ее уменьшать.

    В общем, надо сделать ее параметром алгоритма. Для пробы можно взять значение \eta =0.01.

Добавить комментарий