학습목표

• 변수를 임의값으로 초기화하는 이유를 알 수 있다.

핵심키워드

• 가중치 초기화(weight initialization)

학습내용

• 신경망에서  $w$ 의 초기값을 0으로 설정한 후 경사 하강법을 적용할 경우 올바르게 작동하지 않습니다.
  •  $dw$ 를 계산했을 때 모든 층이 같은 값을 가지게 되기 때문입니다.
• 따라서 np.random.rand()를 이용해 0이 아닌 랜덤한 값을 부여해줘야 합니다.