🎯 Keyword 🎯 - Gradient Descent Gradient Descent는 iterative하게 최적 parameter θ 를 찾아가는 과정입니다. Gradient 함수를 미분하여 얻는 term으로 해당 함수의 변화하는 정도를 표현하는 값 우리가 최소로 하고 싶은 loss function과 error surface가 있다고 합시다. 1. 어떤 임의의 point에서 이 error surface에서 최소인 point를 찾아가는 것이 목적입니다. 2. 해당 error surface에서 최소인 point의 특징은 gradient가 0인 것입니다. 3. Gradient Descent에서는 error surface에서 Gradient가 0인 지점까지 θ를 바꿔 나가며 탐색합니다. 4. 해당 탐색 과정은..