Instead of training the point weights, we consider
learning the distribution of the weights in the sense that
we train the student network to find an optimal distribution
of weights [1]}. Along this line, the variational method is an ideal framework for the neural network learning [2]}, [3]},
since we can use simple trial distribution to approximate the original intractable weight distribution.
The learning becomes then finding the optimal trial distribution parameterized by variational parameters [4]}.

Вместо обучения весов точек мы рассматриваем обучение распределению весов в том смысле, что обучаем сеть-ученика находить оптимальное распределение весов [1]. Вдоль этой линии вариационный метод является идеальным фреймворком для обучения нейронных сетей [2], [3], так как мы можем использовать простое пробное распределение для приближения исходного неразрешимого распределения весов. Обучение тогда сводится к поиску оптимального пробного распределения, параметризованного вариационными параметрами [4].