학습내용앞 강의에서 배운 경사 하강법 및 미니배치 경사 하강법보다 더 효율적인 알고리즘을 이해하기 위해 지수 가중 이동 평균을 먼저 이해해야 합니다.최근의 데이터에 더 많은 영향을 받는 데이터들의 평균 흐름을 계산하기 위해 지수 가중 이동 평균을 구합니다. 지수 가중 이동 평균은 최근 데이터 지점에 더 높은 가중치를 줍니다. θt 를 t 번째 날의 기온이라고 했을 때, 지수 가중 이동 평균( vt )의 식은 다음과 같습니다. vt=βvt−1+(1−β)θt 이 때 β 값은 하이퍼 파라미터로 최적의 값을 찾아야 하는데, 보통 사용하는 값은 0.9 입니다. (이에 대한 이유는 향후 배우게 될 것입니다.) vt 는 1−β 1 기간 동안 기온의 평균을 의미합니다. - β = 0.9일 때 10일의 기온 평균 - β = 0.5일 때 2일의 기온 평균
comment