8편 · 다변량 분석과 시계열 분석 — MDS·PCA·ARIMA
이번 강의에서 배울 것
- MDS의 목적과 계량적·비계량적 MDS, 스트레스 값의 의미를 설명한다.
- PCA 출력에서 누적 기여율로 주성분 수를 결정하고 스크리 플롯·바이플롯을 해석한다.
- 정상성의 조건과 비정상 시계열을 정상화하는 방법을 말한다.
- AR·MA·ARIMA 모형을 ACF·PACF와 연결하고 ARIMA(p, d, q)를 해석한다.
학습 경로 · 3과목 2장 (3)
← 7편 · 기초통계와 회귀분석 · 다음: 9편 · 데이터마이닝과 분류분석 →
범위: 교재 3과목 2장 04 "다변량 분석"(다차원 척도법, 주성분분석), 05 "시계열 분석"(개요, 시계열 모형).
형광펜 읽는 법: 노랑 핵심 정의·결론 · 빨강 시험에서 헷갈리는 구분·함정 · 파랑 외워야 할 순서·목록
단원 도입
| 출제 포인트 | 빈도 | 이렇게 나온다 |
|---|---|---|
| PCA 출력 해석 (누적 기여율 → 주성분 수) | ★★★ | "80% 설명에 필요한 주성분 수는?" |
| ARIMA(p, d, q) 해석 | ★★★ | 차분 횟수, ARMA·ARI·IMA 변환 |
| 정상성 조건과 정상화 방법 | ★★★ | 평균 비일정 → 차분, 분산 비일정 → 변환 |
| AR은 PACF, MA는 ACF | ★★ | 절단되는 함수 고르기 |
| 분해시계열 4요인 | ★★ | 설명 → 요인 |
| MDS 스트레스, 계량·비계량 | ★★ | 스트레스 0에 가까울수록 좋음 |
| 스크리 플롯, 바이플롯 | ★ | 주성분 수, 변수의 영향 방향 |
PART 1 · 다변량 분석
1. 다차원 척도법 (MDS)
- 거리는 주로 유클리드 거리를 쓴다.
- 스트레스(Stress): 원래 거리와 저차원 공간의 거리가 얼마나 어긋나는지 나타내는 적합도 지표. 0에 가까울수록 적합도가 좋다 (보통 0.05 이하면 매우 좋음, 0.2 이상이면 나쁨).
- 축 자체에는 의미가 없어 x축·y축을 해석하지 않는다 — 점들의 상대적 위치(가까움) 를 해석한다.
| 종류 | 데이터 | R 함수 |
|---|---|---|
| 계량적 MDS | 구간·비율척도(양적 자료) | cmdscale() |
| 비계량적 MDS | 순서척도 | isoMDS() (MASS 패키지), sammon() |
2. 주성분분석 (PCA)
- 제1주성분(PC1): 데이터의 분산이 가장 큰 방향 — 전체 변동을 가장 많이 설명.
- 제2주성분: PC1과 직교(상관 0) 하면서 남은 변동을 가장 많이 설명.
- 변수들의 단위가 다르면 표준화한 뒤 분석한다 →
prcomp(data, scale. = TRUE)또는 상관행렬 사용. - 쓰임: 차원 축소, 시각화, 다중공선성 해결(상관 높은 변수를 주성분으로 묶음), 회귀·군집의 전처리.
주성분 수를 정하는 기준
- 누적 기여율(누적 분산 비율) 이 70%부터 90% 사이가 되는 최소 개수 (보통 80% 이상).
- 고유값(Eigenvalue)이 1 이상인 주성분만 (또는 평균 고유값 이상).
- 스크리 플롯(Scree plot): x축 주성분 번호, y축 고유값(분산). 기울기가 완만해지는(엘보) 지점 직전까지의 개수.
그림 8-1 · 주성분 수를 정하는 세 기준 — 누르면 원본 크기로 열린다.
바이플롯(Biplot) 읽기
- x축은 PC1, y축은 PC2이고, 원래 변수는 화살표로 표시된다.
- 화살표가 어느 축과 평행할수록 그 주성분에 대한 영향력이 크다.
- 화살표가 길수록 그 변수의 분산(기여)이 크다.
- 화살표끼리 같은 방향이면 양의 상관, 반대면 음의 상관, 직각이면 상관이 거의 없다.
- 점(관측치)이 화살표 방향으로 멀리 있으면 그 변수 값이 크다.
그림 8-2 · 바이플롯 읽는 법 — 누르면 원본 크기로 열린다.
PART 2 · 시계열 분석
3. 시계열과 정상성
시계열(Time series): 시간 순서대로 관측된 자료 — 주가, 기온, 월별 매출.
비정상 시계열을 정상 시계열로 바꾸는 방법
| 문제 | 처리 |
|---|---|
| 평균이 일정하지 않음 (추세) | 차분(Differencing) — 현 시점 값에서 이전 시점 값을 뺌 |
| 계절성이 있음 | 계절 차분 — 한 주기 전 값을 뺌 (월별이면 12개월 전) |
| 분산이 일정하지 않음 | 변환(Transformation) — 로그 변환, 제곱근, Box-Cox 변환 |
그림 8-3 · 정상 시계열로 만드는 법 — 누르면 원본 크기로 열린다.
백색잡음(White noise): 시계열 모형의 오차항. 평균이 0, 분산이 일정하고, 시점끼리 자기상관이 없는 대표적인 정상 시계열. 정규분포를 따르면 가우시안 백색잡음.
4. 시계열 모형
| 모형 | 뜻 | 차수 판단 |
|---|---|---|
| AR(p) 자기회귀 | 현재 값을 자기 자신의 과거 p개 값과 백색잡음으로 설명 | PACF가 p + 1 시차부터 절단(급격히 0) |
| MA(q) 이동평균 | 현재 값을 과거 q개 백색잡음(오차) 의 선형 결합으로 설명. 항상 정상성 만족 | ACF가 q + 1 시차부터 절단 |
| ARMA(p, q) | AR + MA | ACF·PACF 모두 점차 감소 |
| ARIMA(p, d, q) | 비정상 시계열을 d번 차분해 ARMA(p, q)로 만든 모형 | d를 먼저 정하고 p, q 결정 |
- ACF(자기상관함수), PACF(부분자기상관함수).
- ARIMA(p, d, q)에서 p는 AR 차수, d는 차분 횟수, q는 MA 차수.
식으로 구분하기 (a_t는 시점 t의 백색잡음):
AR(p) : Z_t = phi_1 Z_(t-1) + ... + phi_p Z_(t-p) + a_t
MA(q) : Z_t = a_t - theta_1 a_(t-1) - ... - theta_q a_(t-q)
ARMA : 과거 관측값 Z와 과거 오차 a를 함께 사용교재나 소프트웨어에 따라 MA 계수 앞의 부호는 +로 쓰기도 한다. 부호보다 AR은 과거의 관측값, MA는 과거의 오차항을 사용한다는 구조를 먼저 확인한다.
| 관찰되는 형태 | 1차 판단 |
|---|---|
| ACF는 서서히 감소, PACF가 lag p 뒤 절단 | AR(p) 후보 |
| ACF가 lag q 뒤 절단, PACF는 서서히 감소 | MA(q) 후보 |
| ACF와 PACF가 모두 서서히 감소 | ARMA(p, q) 후보 |
그림 8-4 · AR(3)의 ACF와 PACF — 누르면 원본 크기로 열린다.
| 경우 | 의미 |
|---|---|
| d = 0 | 차분이 필요 없는 정상 시계열 → ARMA(p, q) |
| p = 0 | IMA(d, q) → d번 차분하면 MA(q) |
| q = 0 | ARI(p, d) → d번 차분하면 AR(p) |
5. 평활법
| 방법 | 내용 |
|---|---|
| 이동평균법 | 일정 기간의 관측값을 같은 가중치로 평균해 추세를 파악 |
| 지수평활법 | 모든 과거 관측값을 쓰되 최근 값일수록 큰 가중치를 줌, 단기 불규칙 변동을 평활 |
6. 분해시계열
시계열에 영향을 주는 요인을 분리해 분석한다. 추세 · 계절 · 순환 · 불규칙 ("추계순불")
| 요인 | 내용 | 예 |
|---|---|---|
| 추세 요인(Trend) | 장기적으로 오르거나 내리는 경향 (선형·이차·지수 형태) | 인구 증가에 따른 판매 증가 |
| 계절 요인(Seasonal) | 고정된 주기(요일·월·분기)로 반복 | 여름마다 늘어나는 아이스크림 판매 |
| 순환 요인(Cyclical) | 알려지지 않은 주기로 반복, 경제·사회적 요인 | 경기 순환 |
| 불규칙 요인(Irregular) | 위 세 가지로 설명되지 않는 잔차 | 갑작스러운 파업 |
그림 8-5 · 시계열을 네 요인으로 나누기 — 누르면 원본 크기로 열린다.
단원 마무리
장 요약
- MDS: 거리 보존 저차원 시각화, 스트레스 0에 가까울수록 좋음, 계량적(구간·비율) vs 비계량적(순서).
- PCA: 상관된 변수 → 서로 독립인 주성분, PC1이 분산 최대. 주성분 수는 누적 기여율 70부터 90% · 고유값 1 이상 · 스크리 플롯 엘보.
- 정상성: 평균·분산 일정, 공분산은 시차에만 의존. 평균 비일정 → 차분 · 분산 비일정 → 변환.
- AR(p)은 PACF 절단, MA(q)는 ACF 절단, ARIMA(p, d, q)는 d번 차분하면 ARMA(p, q).
- 분해시계열: 추세 · 계절(고정 주기) · 순환(미지 주기) · 불규칙.
단답형 연습
- MDS에서 원래 거리와 표현된 거리의 불일치 정도를 나타내는 값은? ______________
- 구간·비율척도 자료에 쓰는 MDS는? ______________
- PCA에서 주성분 수를 고를 때 기울기가 완만해지는 지점을 보는 그래프는? ______________
- PCA 결과를 PC1·PC2 평면에 관측치와 변수 화살표로 함께 그린 그래프는? ______________
- 평균이 일정하지 않은 시계열을 정상화하는 방법은? ______________
- 평균 0, 분산 일정, 자기상관이 없는 시계열 오차항은? ______________
- AR 모형의 차수를 판단하는 함수는? ______________
- ARIMA(p, d, q)에서 d의 뜻은? ______________
- 최근 관측값에 더 큰 가중치를 주는 평활법은? ______________
- 분해시계열에서 고정된 주기로 반복되는 요인은? ______________
책을 덮고 꺼내 보기
- PCA의 제1주성분은 방향이다.
- 분산이 일정하지 않은 시계열은 등으로 정상화한다.
- MA 모형의 차수는 로 판단한다.
- ARIMA(0, 1, 2)는 한 번 차분하면 모형이 된다.
MDS의 목적과 스트레스 해석은?
개체 간 거리 정보를 보존하며 2·3차원 점으로 표현해 관계를 시각화한다. 스트레스는 0에 가까울수록 적합도가 좋다.
PCA에서 주성분 수를 정하는 세 기준은?
누적 기여율 70부터 90%(보통 80% 이상), 고유값 1 이상, 스크리 플롯에서 기울기가 완만해지기 직전.
PCA가 다중공선성 해결에 쓰이는 이유는?
상관이 높은 변수들을 서로 상관이 없는(직교하는) 주성분으로 바꾸기 때문이다.
정상성의 조건과 정상화 방법은?
평균 일정, 분산 일정, 공분산이 시차에만 의존. 평균이 비일정하면 차분, 계절성은 계절 차분, 분산이 비일정하면 로그·Box-Cox 변환.
AR과 MA의 정의와 차수 판단 함수는?
AR(p)는 자기 과거 값으로 현재를 설명하며 PACF로, MA(q)는 과거 백색잡음의 결합으로 설명하며 ACF로 차수를 정한다.
ARIMA(p, d, q)의 특수한 경우 세 가지는?
d가 0이면 ARMA(p, q), p가 0이면 IMA(d, q), q가 0이면 ARI(p, d).
분해시계열 4요인은?
추세(장기 증감), 계절(고정 주기), 순환(알려지지 않은 주기), 불규칙(설명되지 않는 잔차).
다음으로 갈 기준: PCA 출력에서 주성분 수를 고르고 ARIMA 표기를 풀어 말할 수 있으면 데이터마이닝으로 간다: 9편 · 데이터마이닝과 분류분석.
정답과 해설
확인 문제 정답
- 비계량적 MDS.
- 데이터의 분산이 가장 큰 방향이며, 전체 변동을 가장 많이 설명한다.
- PC2까지 81%이므로 3개(PC3까지 93%).
- 평균이 일정, 분산이 일정, 공분산이 시차에만 의존.
- d가 0이므로 ARMA(3, 2).
- 순환 요인.
단답형 정답
- 스트레스(Stress)
- 계량적 MDS
- 스크리 플롯(Scree plot)
- 바이플롯(Biplot)
- 차분(Differencing)
- 백색잡음(White noise)
- PACF(부분자기상관함수)
- 차분 횟수
- 지수평활법
- 계절 요인
내용을 이해했다면 학습 완료를 체크해 주세요.