회귀분석 결과표, 어디부터 봐야 할까? R²·β·t·p 한 번에 정리

논문 통계분석을 진행하다 보면 SPSS에서 회귀분석 결과표를 확인해야 하는 순간이 찾아옵니다.

그런데 막상 결과표를 열어보면 R², F, B, β, t, p 등 익숙하지 않은 통계 용어가 한꺼번에 등장합니다.

특히 회귀분석을 처음 접하는 대학원생이라면 어떤 수치를 먼저 확인해야 하는지, 유의확률만 보고 가설을 채택해도 되는지 헷갈리기 쉽습니다.

이번 글에서는 회귀분석 결과표를 읽는 순서와 주요 통계값의 의미, 그리고 논문에 결과를 작성할 때 주의해야 할 사항을 정리해 보겠습니다.

1. 회귀분석은 무엇을 확인하는 분석일까?

회귀분석(Regression Analysis)은 하나 이상의 독립변수가 종속변수와 어떤 관계를 가지는지 분석하는 통계기법입니다.

예를 들어 다음과 같은 연구를 진행한다고 가정해 보겠습니다.

연구 주제: 직무만족이 조직몰입에 미치는 영향

• 독립변수(X): 직무만족
• 종속변수(Y): 조직몰입
• 연구가설: 직무만족은 조직몰입에 정(+)의 영향을 미칠 것이다.

이때 회귀분석을 통해 직무만족이 높을수록 조직몰입도 높아지는 경향이 있는지, 그 관계가 통계적으로 유의한지 확인할 수 있습니다.

다만 회귀분석에서 유의한 관계가 나타났다고 해서 반드시 인과관계가 입증되는 것은 아닙니다.

인과관계를 주장하려면 연구설계, 변수의 시간적 선후관계, 교란변수 통제 등 추가적인 근거가 필요합니다.

2. R²(결정계수)는 무엇을 의미할까?

회귀분석 결과에서 먼저 확인할 수 있는 값 중 하나는 R²(R Square, 결정계수)입니다.

R²는 회귀모형이 종속변수의 변동을 어느 정도 설명하는지를 나타냅니다.

예를 들어 다음과 같은 결과가 나왔다고 가정해 보겠습니다.

여기서 R²가 .423이라면 회귀모형이 종속변수 변동의 약 42.3%를 설명한다고 해석할 수 있습니다.

그렇다면 R²는 높을수록 무조건 좋은 것일까요?

반드시 그렇지는 않습니다.

연구 분야와 분석 목적에 따라 기대할 수 있는 설명력은 달라집니다.

또한 독립변수를 추가하면 일반적인 최소제곱 회귀분석에서는 R²가 감소하지 않는 특성이 있습니다.

따라서 독립변수의 개수를 고려한 수정된 R²(Adjusted R Square)도 함께 확인하는 것이 좋습니다.

특히 여러 독립변수를 투입하는 다중회귀분석에서는 R²와 수정된 R²를 함께 살펴보는 것이 중요합니다.

3. F값과 유의확률은 왜 확인해야 할까?

SPSS 회귀분석 결과에서는 일반적으로 ANOVA 표를 통해 F값과 유의확률을 확인할 수 있습니다.

여기서 F검정은 회귀모형 전체가 통계적으로 유의한 설명력을 갖는지 판단하는 데 사용됩니다.

예를 들어 다음과 같은 결과가 나왔다고 가정해 보겠습니다.

유의수준을 .05로 설정했다면 p값이 .05보다 작으므로 회귀모형 전체가 통계적으로 유의하다고 판단할 수 있습니다.

다만 주의할 점이 있습니다.

회귀모형 전체가 유의하다는 것과 모든 독립변수가 유의하다는 것은 서로 다른 의미입니다.

예를 들어 독립변수가 3개인 다중회귀분석에서 F검정이 유의하더라도 개별 독립변수 중 일부는 유의하지 않을 수 있습니다.

따라서 전체 모형의 유의성을 확인한 뒤에는 각 독립변수의 회귀계수와 유의확률을 살펴봐야 합니다.

4. B와 β는 어떻게 다를까?

회귀분석 결과표에서 자주 혼동하는 값이 바로 B와 β입니다.

두 값 모두 독립변수와 종속변수의 관계를 설명하지만 해석하는 방식에는 차이가 있습니다.

① B: 비표준화 회귀계수

B는 다른 독립변수들을 일정하게 유지했을 때 독립변수가 1단위 증가하면 종속변수의 예측값이 얼마나 변하는지를 나타냅니다.

예를 들어 직무만족의 B값이 0.450이라면 직무만족이 1점 증가할 때 조직몰입의 예측값이 평균적으로 0.450점 증가한다고 해석할 수 있습니다.

② β: 표준화 회귀계수

β는 변수의 표준편차를 기준으로 표준화한 회귀계수입니다.

서로 다른 척도로 측정된 독립변수들의 관계 크기를 비교할 때 참고할 수 있습니다.

예를 들어 다음과 같은 결과가 나왔다고 가정해 보겠습니다.

이 경우 직무만족은 조직몰입과 가장 큰 양(+)의 표준화 회귀계수를 보이며, 직무스트레스는 음(-)의 관계를 나타냅니다.

다만 β의 절댓값이 크다는 이유만으로 해당 변수가 인과적으로 가장 중요하다고 단정해서는 안 됩니다.

변수 간 상관관계, 다중공선성, 측정 신뢰도 등을 함께 고려해야 합니다.

5. t값과 p값으로 가설을 판단하는 방법

회귀분석에서 개별 독립변수의 통계적 유의성을 확인할 때는 t값과 p값을 살펴봅니다.

t값은 회귀계수가 0이라는 귀무가설을 검정하는 통계량입니다.

p값은 귀무가설이 참이라는 가정하에 관측된 결과만큼 또는 그보다 극단적인 결과가 나타날 확률을 의미합니다.

예를 들어 다음과 같은 결과가 나왔다고 가정해 보겠습니다.

유의수준을 .05로 설정했다면 세 변수 모두 통계적으로 유의한 관계를 보입니다.

여기서 중요한 것은 유의확률과 회귀계수의 방향을 함께 확인하는 것입니다.

예를 들어 직무스트레스의 p값이 .033이므로 통계적으로 유의하지만, β가 음수이기 때문에 조직몰입과 부(-)의 관계가 있다고 해석해야 합니다.

만약 연구가설에서 정(+)의 관계를 예상했다면 유의확률이 .05보다 작더라도 가설이 예상한 방향으로 지지되었다고 볼 수 없습니다.

또한 p값이 작다고 해서 관계의 크기가 반드시 크거나 실무적으로 중요하다는 의미는 아닙니다.

6. 회귀분석 결과표에서 놓치기 쉬운 확인 사항

회귀분석에서는 R²와 p값만 확인하고 분석을 마무리하는 경우가 있습니다.

하지만 논문에 결과를 제시하기 전에는 회귀분석의 기본 가정과 진단 결과도 점검해야 합니다.

① 다중공선성 확인

독립변수 간 상관관계가 지나치게 높으면 회귀계수의 추정이 불안정해질 수 있습니다.

SPSS에서는 공차(Tolerance)와 VIF(분산팽창지수)를 확인할 수 있습니다.

VIF가 높다면 다중공선성 문제를 검토해야 하지만, 하나의 기준만으로 기계적으로 판단하는 것은 적절하지 않습니다.

② 잔차의 특성 확인

선형성, 오차의 독립성, 등분산성 등 회귀분석의 주요 가정을 점검해야 합니다.

잔차 산점도, Q-Q 도표 등의 진단 자료를 활용할 수 있습니다.

③ 이상치와 영향력이 큰 관측값 확인

일부 관측값이 회귀계수에 지나치게 큰 영향을 미칠 수 있습니다.

표준화 잔차, Cook’s Distance 등의 지표를 참고하여 검토할 수 있습니다.

④ 분석에 사용된 표본 수 확인

결측값 처리 등의 이유로 실제 회귀분석에 사용된 표본 수가 전체 설문 응답자 수와 달라질 수 있습니다.

따라서 최종 분석 표본 수를 정확하게 확인하고 논문에 기재해야 합니다.

7. 논문에는 회귀분석 결과를 어떻게 작성할까?

앞서 살펴본 내용을 바탕으로 회귀분석 결과를 작성해 보겠습니다.

다음은 이해를 돕기 위한 가상의 예시입니다.

연구가설: 직무만족은 조직몰입에 정(+)의 영향을 미칠 것이다.

분석 결과가 다음과 같다고 가정하겠습니다.

논문 결과 작성 예시

직무만족이 조직몰입에 미치는 영향을 확인하기 위해 단순회귀분석을 실시하였다.

분석 결과, 회귀모형은 통계적으로 유의하였으며(F(1, 148) = 108.57, p ＜ .001), 모형의 설명력은 약 42.3%로 나타났다(R² = .423).

직무만족은 조직몰입에 통계적으로 유의한 정(+)의 관계를 보였으며(B = .450, β = .650, t = 10.420, p ＜ .001), 이에 따라 연구가설은 지지되었다.

이처럼 논문에서는 단순히 유의확률만 제시하기보다 모형의 설명력, 회귀계수, 통계적 유의성, 가설의 방향을 함께 작성하는 것이 좋습니다.

실제 논문에 적용할 때는 분석 결과의 반올림 방식과 자유도, 표본 수 등을 일관되게 확인해야 합니다.

마무리. 회귀분석 결과는 숫자를 읽는 순서가 중요합니다

회귀분석 결과표에는 다양한 통계값이 등장하지만, 각각의 역할을 이해하면 결과를 해석하는 과정이 훨씬 수월해집니다.

먼저 R²를 통해 모형의 설명력을 확인하고, F검정으로 전체 모형의 유의성을 살펴봅니다.

이후 B와 β를 통해 독립변수의 관계 방향과 크기를 확인하고, t값과 p값으로 개별 회귀계수의 통계적 유의성을 판단할 수 있습니다.

마지막으로 다중공선성, 잔차, 이상치 등 회귀분석의 주요 가정을 점검해야 합니다.

더브레인은 SPSS 기반 통계분석을 통해 학위논문과 연구보고서에 필요한 통계표 작성 및 결과 해석 등을 지원하고 있습니다.

통계분석 결과를 확인할 때는 유의확률 하나에 집중하기보다 연구가설과 분석 결과가 어떤 관계를 보여주는지 종합적으로 살펴보시기 바랍니다.

회귀분석 결과표는 R²로 설명력을 확인하고, F값으로 모형의 유의성을 살펴본 뒤, B·β·t·p를 통해 개별 변수의 관계와 가설 지지 여부를 판단하는 순서로 읽으면 이해하기 쉽습니다.