시계열&계량경제학

계량경제학 #8 자기상관 하에서의 선형회귀 모형 (1): 시계열적 상관, Ergodicity, MDS

seungbeomdo 2023. 5. 26. 21:06

1. 시계열적 상관

 

  • 고전적 선형회귀 모형을 구성하는 가정 중 하나는 데이터셋이 IID하다는 것이다. 즉 다음과 같은 임의의 두 데이터 포인트가 독립이고 동일한 분포를 가진다.

$$[Y_{t}, X_{t1}, X_{t2}, … , X_{tk}], \, [Y_{\tau}, X_{\tau1}, X_{\tau2}, … , X_{\tau k}]$$

 

  • 그런데 대부분의 경제 데이터들, 특히 금융 시계열 데이터들은 IID 가정을 불충족한다. 특히 독립성 가정에 문제가 있다. 이러한 데이터들에는 시계열적 상관이 존재한다고 말한다.

 

  • 이 글에서는 독립성은 불만족하지만, 정상성(Strict한 의미에서의 Stationary는 Identicalness와 동일하다)은 만족하는 데이터에 대한 OLS 추정을 다룬다.

 


2. Ergodic process와 MDS process

 

  • 오차가 시계열적 상관을 가질 때의 경우를 다루기 위해서 몇 가지 개념이 필요하다.

 

1) Ergodic process

  • Ergodicity는 Independence의 Asymptotic version이라고 얘기할 수 있다. 샘플의 크기가 무한히 증가할 때, 시계열은 평균적으로 독립이 된다.

 

  • 수학적으로 표현하면, 시계열 $X_{t}$가 다음을 만족할 때, $X_{t}$는 Ergodic process이다.

$$\lim_{n\rightarrow\infty} \frac{1}{n}\Sigma_{j=1}^{n}P(X_{t}=A, X_{t+j}=B)=P(X_{t}=A)*P(X_{t}=B)$$

 

  • 시계열 $X_{t}$가 독립성을 만족하지 못하더라도, Ergodic하고 Strictly stationary하다면 Law of Large Number가 성립한다는 중요한 성질이 있다.

 

2) MDS process

  • MDS process는 Martingale process로부터 유도된다.
  • 시계열 $Y_{t}$가 다음의 조건을 만족할 때, $Y_{t}$는 Martingale process이다.

$$E[Y_{t}|\mathcal{F}_{t-1}] = Y_{t-1}$$

  • where

$$\mathcal{F}_{t-1} = [Y_{t-1}, Y_{t-2}, … ]$$

  • 즉 t기까지의 정보집합이 모두 주어져있을 때, t+1기의 기대값은 t기의 값과 동일하다.

 

  • 시계열 $Y_{t}$가 다음의 조건을 만족할 때, $Y_{t}$는 MDS; Martingale Difference Sequence이다.

$$E[Y_{t}|\mathcal{F}_{t-1}] = 0$$

  • where

$$\mathcal{F}_{t-1} = [Y_{t-1}, Y_{t-2}, … ]$$

  • 즉 t기까지의 정보집합이 모두 주어져있을 때, t+1기의 기대값은 0이다. 마팅게일 프로세스를 1차 차분한 것과 동일해서, MDS라고 부른다.

 

  • 시계열 $Y_{t}$가 독립이 아니더라도, Strictly stationary한 MDS라면, 중심극한정리가 성립한다는 중요한 성질이 있다.

 


3. 오차항이 MDS인 경우

 

  • 시계열 상관을 가지는 데이터로 회귀모형을 만들 때, 두 가지의 경우가 있다. 첫번째는 오차항이 MDS인 경우이다.

 

  • 정보집합

$$\mathcal{F}_{t-1} = [\mathsf{X}_{t}, {U}_{t-1}, \mathsf{X}_{t-1}, {U}_{t-1}, … ]$$

  • 에 대하여 오차항 $U_{t}$가 MDS process일 때 OLS 추정량은 consistency와 asymptotic normality가 모두 성립한다.

 

1) Consistency

$$\hat{\beta}_{n} \rightarrow ^{a.s.} \beta _{*}$$

2) Asympototic Normality

$$\sqrt{n}(\hat{\beta}_{n} - \beta_{*}) \sim ^{A} N(0, E[\mathsf{X}_{t} \mathsf{X}_{t}^{T}]^{-1}E[U_{t}^{2}\mathsf{X}_{t} \mathsf{X}_{t}^{T}]E[\mathsf{X}_{t} \mathsf{X}_{t}^{T}]^{-1})$$

 

  • 사실 오차항이 MDS라면, 오차항은 시계열적 상관을 가지지 않는다. 따라서 이 경우에는 IID 조건 하에서의 OLS와 동일하다.