05. Moving Average Model(2) & ARMA Model

오랜만에 시계열 포스팅..

 

이번 포스팅에서는 MA 모델을 이용해 예측하는 과정과 ARMA 모델에 대해 알아보려고 한다.

 

---

 

$x_t \sim MA(q)$의 s-step 예측 $x_T[s] = E[x_{T+s}|I_T]$는 다음과 같다,

 

 

 

 

$$x_T[s]=\mu~\text{for}~s>q.$$

 

MA 모델은 일정 시점부터 일정한 값의 예측값이 나오게 된다.

 

AR 모델의 s-step 예측을 상기시키면서 차이가 무엇인지 생각해보면 좋을것 같다.

 

---

 

지금까지 AR 모델과 MA 모델을 알아보았는데 이때 누구나 가질 수 있는 의문점이 생긴다.

 

바로 "AR 모델과 MA 모델을 합친 모델은 없을까?"이다.

 

그 모델은 바로 ARMA 모델이다.

 

Def 4.1 시계열 $x_t$가 $\varepsilon ~WN(0, \sigma_{\varepsilon}^2)$에 대해 AR 부분의 차수가 $p$, MA 부분의 차수가 $q$인 $x_t = \phi_0 + \sum_{i=1}^{p}\phi_i x_{t-i} + \varepsilon_t + \sum_{j=1}^{q} \theta_j \varepsilon_{t-j}$를 만족할 때, $x_t$가 $ARMA(p,q)$ 모델을 따른다고 하고, $x_t \sim ARMA(p,q)$라 쓴다.

ARMA 모델과 관련된 중요한 정리가 있는데 다음과 같다.

 

Thm 4.2 $x_t \sim ARMA(p,q)$에 대해 (1) AR char. ft. $\phi(z)=0$의 모든 해의 크기가 1보다 클 때, $x_t$는 정상성을 가진다. (2) MA char. ft. $\theta(z)=0$의 모든 해의 크기가 1보다 클 때, AR 모델로 변환 가능하다.

위 정리는 AR 모델과 MA 모델에서 배운 정리가 ARMA 모델로 확장이 가능하다는 정리임을 알 수 있다.

 

이제 우리는 한가지 의문점이 생긴다.

 

AR 모델의 차수는 PACF가, MA 모델의 차수는 ACF가 결정했다면 ARMA 모델의 차수는 무엇이 결정할까?

 

그것은 바로 "Information Criteria(IC)"이다.

 

IC는 대표적으로 Akaike IC(AIC)와 Schwartz-Bayesian IC(BIC)가 있다.

 

자세한 식은 생략하고, IC 식에 임의의 차수를 넣어 가장 값이 작게 나오는 차수를 선택하면 된다.

 

실제 필드에서는 $p$와 $q$의 최댓값을 2로 설정하고 IC값을 계산한다고 한다.

 

이렇게 차수가 설정되면 다음과 같이 s-step 예측을 실시할 수 있다.

 

$$x_T[s] = \phi_0 + \sum_{i=1}^p \phi_i x_T[s-i]+ \sum_{j=1}^q \theta_j \varepsilon_T[s-j],$$

 

where $x_T[s-i]=x_{T+s-1}$ if $s\le i$; and $\varepsilon_T[s-j]=\varepsilon_{T+s-j}$ if $ s \le j$ and $\varepsilon_T[s-j]=0$ if $s>j$.

 

---

 

오늘은 MA 모델은 이용해 예측하는 방법과 ARMA 모델에 대해 알아보았다.

 

다음 시간에는 AR, MA, ARMA 모델을 이용해 실제 코딩으로 예측하는 과정에 대해 알아보자.

 

오늘은 여기까지.