목차
논문 통계분석을 하다 보면 회귀분석을 사용하는 경우가 꽤 많습니다.
SPSS에서 분석을 돌리는 것까지는 어떻게든 따라 했는데, 막상 결과창을 보면 문제가 시작됩니다.
R²도 있고, F도 있고, t도 있고, β도 있고, p값까지….
😅
숫자는 잔뜩 나왔는데 그래서 어떤 숫자부터 봐야 하는지 헷갈리는 경우가 많습니다.
특히 p값만 확인하고 가설 채택 여부를 결정하기 쉬운데, 회귀분석은 하나의 숫자가 아니라 여러 결과를 함께 봐야 제대로 해석할 수 있습니다.
1. R², 이 회귀모형은 얼마나 설명하고 있을까?
먼저 많이 확인하는 것이 R²(결정계수)입니다.
쉽게 말하면 독립변수들이 종속변수의 변화를 어느 정도 설명하고 있는지를 보여주는 값입니다.
예를 들어 R²=.40이라면 해당 회귀모형이 종속변수 변동의 약 40%를 설명하고 있다고 해석할 수 있습니다.
하지만 여기서 주의할 점이 있습니다.
R²가 높다고 무조건 좋은 연구이고, 낮다고 잘못된 연구인 것은 아닙니다.
연구 분야와 변수의 특성에 따라 기대할 수 있는 설명력 자체가 다르기 때문입니다.
또한 독립변수를 추가하면 R²가 감소하지 않는 특성이 있기 때문에 여러 독립변수를 사용하는 경우에는 수정된 R²(Adjusted R²)도 함께 확인하는 경우가 많습니다.
2. F값은 회귀모형 전체를 확인합니다
R²를 확인했다면 다음으로 F값과 그에 따른 유의확률을 볼 수 있습니다.
F검정은 쉽게 말하면 현재 구성한 회귀모형이 종속변수를 설명하는 데 통계적으로 의미가 있는지를 전체적으로 확인하는 과정입니다.
여기서 중요한 포인트가 하나 있습니다.
F값이 유의하다고 해서 모든 독립변수가 각각 유의하다는 의미는 아닙니다.
전체 회귀모형은 유의하지만 그 안에 포함된 개별 독립변수 중에서는 유의하지 않은 변수가 존재할 수도 있습니다.
그래서 F검정 이후에는 각각의 회귀계수를 따로 살펴봐야 합니다.
3. β값은 변수의 영향 방향과 상대적인 크기를 볼 때 활용합니다
회귀분석 결과표에서 자주 등장하는 것이 β(표준화 회귀계수)입니다.
β가 양수라면 다른 조건이 동일할 때 독립변수가 증가할수록 종속변수가 증가하는 방향의 관계를, 음수라면 반대 방향의 관계를 나타냅니다.
여러 독립변수를 함께 넣은 다중회귀분석에서는 표준화된 β를 통해 변수들의 상대적인 관계 크기를 비교할 때 참고하기도 합니다.
예를 들어
A 변수 β=.42
B 변수 β=.18
처럼 나타났다면 동일한 모형 안에서 A가 B보다 종속변수와 더 강한 표준화된 관계를 보인다고 해석할 수 있습니다.
다만 β의 절댓값이 크다는 이유만으로 무조건 가장 중요한 변수라고 단정하는 것은 조심해야 합니다.
통계적 유의성과 연구의 이론적 맥락도 함께 확인해야 합니다.
4. t값과 p값은 개별 독립변수를 확인합니다
이제 많은 분들이 가장 먼저 찾는 p값이 등장합니다.
회귀분석에서 각 회귀계수에 대한 t검정은 해당 독립변수의 계수가 0과 유의하게 다른지를 확인하는 데 사용됩니다.
연구에서 설정한 유의수준을 기준으로 p값을 확인해 개별 변수의 통계적 유의성을 판단하게 됩니다.
하지만 여기에서도
p<.05 = 영향력이 크다
라고 해석하면 안 됩니다.
p값은 통계적 유의성을 판단하는 지표이고, 관계의 방향이나 크기는 회귀계수 등 다른 결과와 함께 살펴봐야 합니다.
5. 숫자를 따로 보지 말고 하나의 흐름으로 보세요
회귀분석 결과를 처음 접하면 각 숫자를 따로 외우려고 하기 쉽습니다.
하지만 실제로는 흐름으로 이해하면 훨씬 간단합니다.
R² → 모형이 어느 정도 설명하는가?
F → 회귀모형 전체가 통계적으로 유의한가?
β → 각 독립변수는 어떤 방향과 상대적 크기의 관계를 보이는가?
t·p → 개별 회귀계수가 통계적으로 유의한가?
여기에 여러 독립변수를 사용하는 다중회귀분석이라면 VIF와 공차한계 등을 통해 다중공선성까지 확인할 수 있습니다.
결과표에 숫자가 많아 보여도 각각의 역할을 구분하면 생각보다 구조가 명확해집니다.
회귀분석 결과를 논문에는 어떻게 적어야 할까?
여기서 또 한 번 막힙니다.
SPSS 결과는 이해했는데 이제 논문에 어떻게 작성해야 할지 고민되기 때문입니다.
예를 들어 단순히
p<.05이므로 유의하다
라고 끝내기보다는 회귀모형의 설명력과 전체 모형의 유의성, 개별 변수의 계수와 유의성을 순서대로 정리하는 편이 결과를 이해하기 쉽습니다.
논문의 연구문제나 가설과 연결해서 어떤 변수가 어떤 방향으로 관련되었고, 해당 관계가 통계적으로 유의했는지를 설명하는 것도 중요합니다.
SPSS 출력창을 그대로 붙이는 것이 아니라 필요한 결과를 선별해 논문용 통계표와 문장으로 정리하는 과정이 필요한 이유입니다.
📌 분석을 돌리는 것보다 결과를 읽는 게 더 어렵습니다
회귀분석은 SPSS 메뉴를 따라가면 결과 자체는 비교적 빠르게 얻을 수 있습니다.
하지만 R²와 β, F, t, p값을 각각 어떤 의미로 읽어야 하는지 모르면 결과가 나와도 논문에 활용하기 어렵습니다.
실제로 통계분석을 알아볼 때도 단순히 SPSS 분석 결과만 전달받는 것보다 결과표와 해석을 어느 수준까지 제공하는지 확인해보는 것이 좋습니다.
저도 관련 서비스를 찾아보다 더브레인처럼 논문 통계분석 결과와 해석까지 함께 다루는 곳을 보게 됐는데, 직접 분석하기 어려운 경우라면 이런 부분까지 비교해보는 것도 방법인 것 같습니다.
📓 정리
회귀분석 결과표가 복잡해 보인다면 우선 다섯 가지부터 구분해보면 좋습니다.
✔ R² : 회귀모형의 설명력
✔ F : 회귀모형 전체의 유의성 검정
✔ β : 표준화된 회귀계수로 방향과 상대적 관계 크기 확인
✔ t : 개별 회귀계수에 대한 검정통계량
✔ p값 : 통계적 유의성 판단에 활용
여기에 다중회귀분석이라면 다중공선성 등 필요한 가정과 진단 결과도 함께 살펴봐야 합니다.
결국 회귀분석은 p값 하나를 찾아 가설을 채택하거나 기각하는 과정이 아닙니다.
모형 전체를 먼저 보고, 그 안에서 각각의 변수가 어떤 결과를 보였는지 순서대로 읽어가는 것이 중요합니다.