선형회귀(LR)-2 : 유도과정,다중선형회귀

선형회귀-1 포스팅에 이어서 진행됩니다.

 

cost function

편미분

w의 추정

이때 w1의 분모는 X의 분산, 분자는 Cov(X,Y) 즉, X,Y의 공분산을 뜻한다.

*공분산이란?

X,Y의 두 선형관계를 나타내는데,

X  ↑ , Y ↑  :양수의 공분산

X ↑ , Y ↓ :음수의 공분산( 둘 중 하나는 반대의 경향을 지니면)

 

공분산 별 관계그래프 출처:https://ko.wikipedia.org/wiki/%EA%B3%B5%EB%B6%84%EC%82%B0

추가적으로 오차와 잔차의 차이를 아는가?

잔차와 오차

다중선형회귀모형

각 변수 설명

행렬을 이용한 다중회귀분석의 추정w값.