機器學習演算法複習--ARMA

weixin_33894992發表於2011-12-22
機器學習演算法

ARMA模型概述

　　ARMA 模型（Auto-Regressive and Moving Average Model）是研究時間序列的重要方法，由自迴歸模型（簡稱AR模型）與滑動平均模型（簡稱MA模型）為基礎“混合”構成。在市場研究中常用於長期追蹤資料的研究，如：Panel研究中，用於消費行為模式變遷研究；在零售研究中，用於具有季節變動特徵的銷售量、市場規模的預測等。

[編輯]

ARMA模型三種基本形式[1]

　　1.自迴歸模型（AR：Auto-regressive）；

　　自迴歸模型AR(p)：如果時間序列yt滿足y_t=\phi_1 y_{t-1}+\ldots+\phi y_{t-p}+\epsilon_t

　　其中εt是獨立同分布的隨機變數序列，且滿足：

　　E(εt) = 0　　Var(\epsilon_t)=\sigma^2_\epsilon>0

　　則稱時間序列為yt服從p階的自迴歸模型。或者記為φ(B)yt = εt。

　　自迴歸模型的平穩條件：

　　滯後運算元多項式\phi (B)=1-\phi_1(B)+\ldots+\phi_p B_p的根均在單位圓外，即φ(B) = 0的根大於1。

　　2.移動平均模型（MA：Moving-Average）

　　移動平均模型MA(q):如果時間序列yt滿足y_t=\epsilon_t-\theta_1\epsilon_{t-1}-\ldots-\theta_q\epsilon_{t-q}

　　則稱時間序列為yt服從q階移動平均模型；

　　移動平均模型平穩條件：任何條件下都平穩。

　　3.混合模型（ARMA：Auto-regressive Moving-Average）

　　ARMA(p,q)模型：如果時間序列yt滿足：y_t=\theta_1y_{t-1}+\ldots+\theta_p y_{t-p}+\epsilon_t-\theta_1\epsilon_{t-1}-\theta_q\epsilon_{t-q}

　　則稱時間序列為yt服從(p,q)階自迴歸滑動平均混合模型。或者記為φ(B)yt = θ(B)εt

　　特殊情況：q=0，模型即為AR(p)，p=0，模型即為MA(q)，

[編輯]

ARMA模型的基本原理

　　將預測指標隨時間推移而形成的資料序列看作是一個隨機序列，這組隨機變數所具有的依存關係體現著原始資料在時間上的延續性。一方面，影響因素的影響，另一方面，又有自身變動規律，假定影響因素為x1，x2，…，xk，由迴歸分析，

　　Y=\beta_0+\beta_1 x_1+\beta_2 x_2+\ldots+\beta_k x_k+e

　　其中Y是預測物件的觀測值， e為誤差。作為預測物件Yt受到自身變化的影響，其規律可由下式體現，

　　Y_t=\beta_0+\beta_1 x_{t-1}+\beta_2 x_{t-2}+\ldots+\beta_p x_{t-p}+e_t

　　誤差項在不同時期具有依存關係，由下式表示，

　　e_t=\alpha_0+\alpha_1 e_{t-1}+\alpha_2 e_{t-2}+\ldots+\alpha_q e_{t-q}+\mu_t

　　由此，獲得ARMA模型表示式：

　　Y_t=\beta_0+\beta_1 x_{t_1}+\beta_2 x_{t-2}+\ldots+\beta_p x_{t-q}+\alpha_0+\alpha_1 e_{t-1}\alpha_2 e_{t-2}+\ldots+\alpha_q e_{t-q}+\mu_t

相關文章