■ 단순회귀모형 회귀계수 추정치 되돌아보기 ** 단순회귀모형에서는 편미분을 통해, 상수항(beta0)과 직선의 기울기(beta1)를 각각 계산하였다.그러나 다중회귀모형에서 회귀계수 추정치를 구할 때는 상수항까지 포함된 행렬, 그 자체를 바로 최적화하였다. => 따라서 이 차이가 발생한 지점(상수항을 넣어서 회귀계수를 계산하냐 마냐)을 중점으로 살펴보기로 함.■ 'No intercept' 모형에서 살펴보는, 상수항과 나머지 회귀계수 간의 관계 * 이렇게 상수항이 애초에 포함되지 않는 모형을 생각해본다고 하자. 이때 독립변수 X는 총 p개로 각 변수는 최적화된 회귀계수(beta1, beta2, beta3, ..., betap)를 가지고 있음. * 이제 이 모형을 '중심화'시켜볼 것임. * 이제 이렇게 살펴보..

■ y 벡터와 X 행렬의 공간

■ 먼저 다중선형회귀에서는 행렬을 이용해 데이터를 다룰 것임.따라서 아래와 같이 각 변수와 데이터가 정리됨.■ 최소 오차제곱합을 만족시키는 회귀계수 Beta 구하기* 이 과정은 단순선형회귀 모형에서 회귀계수를 구하는 방식과 동일한 과정을 따름.=> 오차의 제곱합을 최소화시키는 회귀계수를 찾는다!=> 이차함수인 오차제곱 함수의 최소값을 구한다. * 목적함수 S가 아래로 볼록한 이차함수이므로, 미분 후 0이 되는 상황에서 최소값이 생김.

지난 시간에 단순회귀모형(설명변수가 1개)에서 회귀계수들을 구하는 과정을 살펴보았음.오늘은 그 회귀계수의 추정량을 살펴보고,그 추정량들의 기댓값을 구해보도록 할 것.  ■ 단순회귀모형의 최소제곱 추정량의 기댓값▶ b1의 기댓값   ▶ b0의 기댓값→ 위에서 구한 b1 추정량의 기댓값을 이용할 것.■ 결론

■ 단순회귀모형 ■ 단순회귀모형의 최소제곱 추정