is commonly considered [1]}. It is easy to see that \(\nabla _{\theta }L_1(\theta )=\phi e_y\) , and therefore (REF ) is implementable. Such a gradient-descent approach has found widespread applications in estimation, control, signal processing, and ML. More recently high-order tuners have been proposed for adjusting \(\theta \)  that uses both gradient and Hessian information
[2]}.

Обычно считается [1]. Легко заметить, что \(\nabla _{\theta }L_1(\theta )=\phi e_y\), и, следовательно, (REF) можно реализовать. Такой подход стохастического градиентного спуска нашел широкое применение в оценивании, управлении, обработке сигналов и машинном обучении. Более недавно были предложены высокоуровневые настройщики для корректировки \(\theta\), которые используют информацию как о градиенте, так и о гессиане [2].