전체 글(59)
-
[회귀분석] 14. 표준화된 회귀계수, 베타계수
* 표준화된 회귀계수는 측정단위에 의존하지 않고, 순수 데이터들의 관계만 확인해볼 수 있다는 장점이 있다. * 단위가 말썽을 피울 때는 표준화 회귀계수를 이용하는 것이 방법이 될 수 있다. * (데이터 구조는 '[회귀분석] 12' 포스팅에서 사용했던 notation을 그대로 가져다 사용하겠음)
2025.04.03 -
[회귀분석] 13. 편회귀계수 해석
■ X2의 회귀계수 해석
2025.04.02 -
[회귀분석] 12. 왜 다중회귀모형 회귀계수는 단순회귀모형과 다른가?
■ 단순회귀모형 회귀계수 추정치 되돌아보기 ** 단순회귀모형에서는 편미분을 통해, 상수항(beta0)과 직선의 기울기(beta1)를 각각 계산하였다.그러나 다중회귀모형에서 회귀계수 추정치를 구할 때는 상수항까지 포함된 행렬, 그 자체를 바로 최적화하였다. => 따라서 이 차이가 발생한 지점(상수항을 넣어서 회귀계수를 계산하냐 마냐)을 중점으로 살펴보기로 함.■ 'No intercept' 모형에서 살펴보는, 상수항과 나머지 회귀계수 간의 관계 * 이렇게 상수항이 애초에 포함되지 않는 모형을 생각해본다고 하자. 이때 독립변수 X는 총 p개로 각 변수는 최적화된 회귀계수(beta1, beta2, beta3, ..., betap)를 가지고 있음. * 이제 이 모형을 '중심화'시켜볼 것임. * 이제 이렇게 살펴보..
2025.04.01 -
[회귀분석] 11. 사영행렬(Projection Matrix, or 모자 행렬(Hat matrix))
■ 행렬 공간을 표현했던 상황을 다시 떠올려봄.■ 따라서 다중선형회귀 모형은 아래와 같이 여러 형태로 기술될 수 있음.
2025.03.31 -
[회귀분석] 10. 다중선형회귀의 회귀계수 (② 행렬 공간을 이용한 풀이)
■ y 벡터와 X 행렬의 공간
2025.03.30 -
[기타] X^tAX 꼴 행렬곱 미분 ([회귀분석] 9 포스팅 보충)
■ 예시로 아래와 같은 3×1인 beta 벡터와 3×3인 A 행렬을 생각해보자.■ 스칼라를 벡터로 미분할 때 ■ 이제 미분 결과들을 바탕으로, 스칼라-벡터 미분 벡터를 구성해본다.=> 다음 일련의 과정은 행렬-벡터 곱을 반대 방향으로 응용한 것임.
2025.03.29