The binary perceptron offers an ideal candidate for understanding non-convex learning, because the analysis is still accessible from the statistical physics angle [1]}.
Here, we will use the perceptron and the teacher-student setting to perform the theoretical analysis of variational
continual learning,
in which the ground truth network is quenched before learning.

Двоичный перцептрон предлагает идеального кандидата для понимания несходимости обучения, поскольку анализ все еще доступен с точки зрения статистической физики [1].

Здесь мы будем использовать перцептрон и модель учитель-ученик для выполнения теоретического анализа вариационного непрерывного обучения, в котором истинная сеть фиксируется перед обучением.