Экспоненциальное скользящее среднее вычисляется по формуле: EMA_alpha f_{t+1} = alpha * EMA_alpha f_t + (1 - alpha) * f_{t+1} причем в начальный момент времени EMA_alpha f_0 = 0. На какое значение должно быть разделено экспоненциальное среднее

Взвешенное среднее некоторой величины \( f \) оценивается следующим образом:
\[
\bar{f}=\frac{\sum_{i=1}^{N} f_{i} w_{i}}{\sum_{i=1}^{N} w_{i}}
\]

где \( w_{i}- \) веса, с которыми взвешиваются значения \( f_{i} \).
Допустим, что мы отслеживаем экспоненциальное скользящее среднее:
\[
E M A_{\alpha} f_{t+1}=\alpha E M A_{\alpha} f_{t}+(1-\alpha) f_{t+1}
\]

причем в начальный момент времени \( E M A_{\alpha} f_{0}=0 \).
Если внимательно проанализировать эту процедуру, то можно понять, что экспоненциальное скользящее среднее не является взвешенным средним, а стремится к нему только при \( t \rightarrow \infty \).

Это особенно хорошо видно при \( t=1 \). Допустим, \( f_{1}=100, \alpha=0.9 \). Тогда \( E M A_{1} f=10 \), что далеко от взвешенного среднего, которое для одного примера должно равняться \( \bar{f}=100 \) (поскольку наблюдался всего один пример и он был равен 100, каким бы вес ни был, взвешенное среднее должно быть равно 100).

На какое значение должно быть разделено экспоненциальное среднее \( E M A_{\alpha} f_{t} \), чтобы получилось взвешенное среднее? \( \alpha \) обозначайте как alpha, возведение в степень обозначайте крышкой: \( a^{b} \) обозначайте как \( \mathrm{a}^{\wedge} \mathrm{b} \).

После получения правильного ответа, подумайте, как нужно поправить алгоритм Adam:
\[
x_{t+1}=x_{t}-\alpha \frac{E M A_{\beta_{1}} \nabla L_{t}}{\sqrt{E M A_{\beta_{2}}(\nabla L)_{t}^{2}+\epsilon}}
\]

чтобы в числителе и знаменателе были правильные оценки взвешенных средних на первых итерациях.