ComputerVision Jack

Computing gradient in Simple Network 단순히 x -> Linear Model -> y 관계에서 추출된 cost(loss)에 대한 기울기 값은 dloss / dw (미분)을 통하여 알 수 있습니다. 코드 적으로 본다면 전에 작성 했던 gradient(x, y) 함수의 return 값 2 * x * (x * w - y) 입니다. 하지만 이런 복잡한 네트워크 상황에서 dloss / dw (미분)의 값을 우리는 예측하기 쉽지 않습니다. Chain Rule 따라서 이런 복잡한 네트워크 상황에 대해 우리는 체인 룰 방식을 적용하여 그 값을 역 추적해 나아갑니다. 김성훈 교수님이 강의해주신 내용을 바탕으로 체인룰을 적용해보겠습니다. 우선 f 로 표시 되어 있는 원은 퍼셉트론으로 생각하시면..