Xavier initialization
- Зейвиер-инициализация, инициализация по Зейвиеру
#
в ИНС – назначение начальных весовых значений элементам сети таким образом, чтобы функции активации нейронов не попадали в зоны насыщения или мёртвые зоны. Другими словами, при инициализации нужно задавать не слишком малые и не слишком большие случайные весовые значения и обеспечивать одинаковые дисперсии, вариации для входных данных X и для выходных лейблов Y
Связные термины
activation function, artificial neural network, dead region, initialization, label, saturated region, variance, weight
