반응형
stochastic
-
머신러닝: 최적화(Optimization) 공부하기 (Gradient descent, SGD)머신러닝 2020. 10. 5. 11:48
Optimization에 대해 알아보기전, Loss function에 대한 선행이 되어 있어야 한다. 머신러닝: Loss function이란? (Multiclass SVM loss, Softmax Classifier ) 다음과 같이 이미 classifer가 된 결과물이 있다. 하지만 보시다시피 각각의 이미지 값에 대해서 해당 label(cat, car, frog)들은 최고의 값을 갖지 못한다. 이러한 문제점�� seungjuitmemo.tistory.com 머신러닝 최적화란 loss function의 결괏값을 최소화하는 모델의 인자를 찾는 것 기울기 개념을 이용하여 경사도가 가장 심한 W의 element를 찾는다. W에 적당히 작은 h를 더해서 dW를 구..