𝑷𝒓𝒐𝒈𝒓𝒂𝒎𝒎𝒊𝒏𝒈/𝐴𝐼
[ML/DL] Gradient descent (경사 하강법)
블로그에 딥러닝에 대한 이론 지식 등도 정리를 해보려고 한다! 필자도 현재는 많이 배우는 단계라 (뭐든지 해보고 부딪히면서 배우는 스타일... 🤣), 공부한 내용을 글로 정리해두면 더 기억에 남을 것이라는 생각이 들었다. 오늘은 딥러닝에서 가장 흔하게 사용되는 알고리즘 중 하나인 Gradient descent, 즉 경사 하강법에 대해 알아보자! Gradient Descent (경사 하강법) 경사 하강법이란 1차 미분계수를 이용하여 에러를 최소화하기 위해 함수의 최소값을 찾아가는 iteractive한 방법이다. 쉽게 말하면 임의의 초기값을 기준으로, 최소값을 찾아나가는 데에 최적화된 알고리즘이다. 머신러닝에서는 경사하강법을 사용하여 모델의 매개변수를 업데이트하는 식으로 진행된다. 더 쉽게 이해하기 위해 위..
