Страницы

Поиск по вопросам

понедельник, 18 февраля 2019 г.

Нейронные сети - почему веса синапсов случайны при инициализации системы?

Пытаюсь хотя-бы приблизительно понять нейронные сети, раз они стали настолько модными, что даже на фрилансе их запрашивают. Читаю эту серию: https://habrahabr.ru/post/312450/
"Важно помнить, что во время инициализации нейронной сети, веса расставляются в случайном порядке."
Почему? Для автора статьи это, может, очевидно. Для меня нет. Разве не может все обучение и работа пойти крахом, если программа изначально расставит неправильный вес?


Ответ

Цитата из Нейронные сети для обработки информации
3.9 методы инициализации весов ... На результаты обучения огромное влияние оказывает подбор начальных весов сети. Идеальными считаются начальные значения, достаточно близкие к оптимальным. При этом удается не только устранить задержки в точках локальных минимумов, но и значительно ускорить процесс обучения. К сожалению, не существует универсального метода подбора весов, который бы гарантировал нахождение наилучшей начальной точки для любой решаемой задачи. По этой причине в большинстве практических реализаций чаще всего применяется случайный подбор весов с равномерным распределением значений в заданном интервале. ...

Комментариев нет:

Отправить комментарий