文章目录

• 随机过程 基本概念和基本类型
• • 基本概念
  • 有限维分布和 Kolmogorov 定理
  • 基本类型
  • • 平稳过程
    • • 平稳过程的定义
      • 平稳过程的遍历性
    • 独立增量过程

随机过程 基本概念和基本类型

基本概念

随机过程 ：定义为概率空间 (Ω,F,P)(\Omega,\,F,\,P)(Ω,F,P) 上的一族随机变量 {X(t),t∈T}\{X(t),\,t\in T\}{X(t),t∈T} ，其中 TTT 称为指标集或参数集。

• 随机过程即所研究的无穷多个（可能不是相互独立的）随机变量。
• 通常将随机变量解释为一个物理、自然或社会系统

状态空间：X(t)X(t)X(t) 表示系统在时刻 t 所处的状态，X(t) 的所有可能状态构成的集合为状态空间，记作 S 。

• 根据 TTT 的离散或连续取值不同，可以将状态空间分为离散状态空间或连续状态空间；同样随机过程也分为离散参数的随机过程和连续参数的随机过程。

随机序列：当 T={0,1,⋯}T=\{0,\,1,\,\cdots\}T={0,1,⋯} 时，称为随机序列或时间序列，通常记作 {X(n),n≥0}\{X(n),\,n\geq0\}{X(n),n≥0}

例：（Brown 运动）植物学家 Brown 注意到漂浮在叶面上的微小粒子不断进行无规则的运动，若以 (X(t),Y(t))(X(t),\,Y(t))(X(t),Y(t)) 表示粒子在平面坐标上的位置，则它是平面上的 Brown 运动。

有限维分布和 Kolmogorov 定理

研究随机现象主要是研究其统计规律性。对于随机过程，我们需要随机过程在不同时刻的多维分布。（不是有限个的分布，而是一族联合分布）。

随机过程的 nnn 维分布 ：对于有限个 t1,t2,⋯,tn∈Tt_1,\,t_2,\,\cdots,\,t_{n}\in Tt1​,t2​,⋯,tn​∈T ，定义为：
Ft1,t2,⋯,tn(x1,x2,⋯xn)=P(X(t1)≤x1,⋯X(tn)≤xn)F_{t_1,\,t_2,\,\cdots,\,t_{n}}(x_1,\,x_2,\,\cdots\,x_n)=P(X(t_1)\leq x_1,\cdots X(t_n)\leq x_n) Ft1​,t2​,⋯,tn​​(x1​,x2​,⋯xn​)=P(X(t1​)≤x1​,⋯X(tn​)≤xn​)
有限维分布族 ：随机过程的所有一维分布、二维分布、…… nnn 维分布的全体：
{Ft1,t2,⋯,tn(x1,x2,⋯xn),t1,t2,⋯tn∈T,n≥1}\{F_{t_1,\,t_2,\,\cdots,\,t_{n}}(x_1,\,x_2,\,\cdots\,x_n),\,t_1,\,t_2,\,\cdots\,t_n\in T,\,n \geq 1\} {Ft1​,t2​,⋯,tn​​(x1​,x2​,⋯xn​),t1​,t2​,⋯tn​∈T,n≥1}

• 对称性：对于某个 nnn 维分布，随机变量位置的顺序并不影响该分布的取值（相应的时间也要重新排位置）
• 相容性：对于 m

Kolmogorov 定理 ：设某个分布函数族 {Ft1,t2,⋯,tn(x1,x2,⋯xn),t1,t2,⋯tn∈T,n≥1}\{F_{t_1,\,t_2,\,\cdots,\,t_{n}}(x_1,\,x_2,\,\cdots\,x_n),\,t_1,\,t_2,\,\cdots\,t_n\in T,\,n \geq 1\}{Ft1​,t2​,⋯,tn​​(x1​,x2​,⋯xn​),t1​,t2​,⋯tn​∈T,n≥1} 满足上面的对称性和相容性，则必然存在一个随机过程 {X(t),t∈T}\{ X(t),\,t\in T \}{X(t),t∈T} ，使得该分布函数组恰好是这个随机过程的有限维分布族。

• Kolmogorov 定理说明了随机过程的有限维分布族是随机过程概率特征的完整描述。实际中要知道随机过程的所有有限维分布是不可能的，我们可以用一些数字特征来刻画。

设 {X(t),t∈T}\{X(t),\,t\in T\}{X(t),t∈T} 是一随机过程：

• 均值函数 ：称 X(t)X(t)X(t) 的期望 μX(t)=E[X(t)]\mu_X(t)=E[X(t)]μX​(t)=E[X(t)] 为过程的均值函数；

• 二阶矩过程 ：若 ∀t∈T\forall t\in T∀t∈T ，E[X2(t)]E[X^{2}(t)]E[X2(t)] 都存在，则称该随机过程为二阶矩过程；二阶矩过程的基础上：

  • 协方差函数 ： γ(t1,t2)=E[(X(t1)−μX(t1))(X(t2)−μX(t2))]\gamma(t_1,\,t_2)=E[(X(t_1)-\mu_X(t_1))(X(t_2)-\mu_X(t_2))]γ(t1​,t2​)=E[(X(t1​)−μX​(t1​))(X(t2​)−μX​(t2​))]
  • 方差函数： Var[X(t)]=γ(t,t)=E[(X(t)−μX(t))2]Var[X(t)]=\gamma(t,\,t)=E[(X(t)-\mu_X(t))^{2}]Var[X(t)]=γ(t,t)=E[(X(t)−μX​(t))2]
  • 自相关函数：RX(s,t)=E(X(s)X(t))R_X(s,\,t)=E(X(s)X(t))RX​(s,t)=E(X(s)X(t)) （s,t∈Ts,\,t \in Ts,t∈T）

由 Schwartz 不等式知道，二阶矩过程的协方差函数和自相关函数存在，且有 γ(s,t)=RX(s,t)−μX(s)μX(t)\gamma(s,\,t)=R_X(s,\,t)-\mu_X(s)\mu_X(t)γ(s,t)=RX​(s,t)−μX​(s)μX​(t) （直接展开 γ(s,t)\gamma(s,\,t)γ(s,t) 的表达式就可以得到）

例：X(t)=X0+tVX(t)=X_0+tVX(t)=X0​+tV （t∈[a,b]t\in[a,\,b]t∈[a,b]），X0X_0X0​ 和 VVV 是相互独立的、服从标准正态分布的随机变量

解：可知 X(t)X(t)X(t) 也是服从正态分布的，因此只要知道其一阶矩和二阶矩，就可以确定它的分布。并且 (X(t1),X(t2),⋯,X(tn))(X(t_1),\,X(t_2),\,\cdots,\,X(t_n))(X(t1​),X(t2​),⋯,X(tn​)) 服从 nnn 维正态分布。有：
μX(t)=E[X0+tV]=E[X0]+tE[V]=0γ(t1,t2)=E[(X0+t1V)(X0+t2V)]=E(X02)+t1t2E(V2)=1+t1t2\begin{align} \mu_X(t)=&\,E[X_0+tV] \\ =&\,E[X_0]+tE[V]=0 \\ \gamma(t_1,\,t_2)=&\,E[(X_0+t_1V)(X_0+t_2V)] \\ =&\,E(X_0^2)+t_1t_2E(V^2)=1+t_1t_2 \end{align} μX​(t)==γ(t1​,t2​)==​E[X0​+tV]E[X0​]+tE[V]=0E[(X0​+t1​V)(X0​+t2​V)]E(X02​)+t1​t2​E(V2)=1+t1​t2​​​

基本类型

平稳过程

平稳过程的定义

平稳过程：该过程处于平稳状态，其主要性质和变量之间的时间间隔有关，与所考察的起始点无关。

严平稳过程：若随机过程 {X(t),t∈T}\{X(t),\,t\in T\}{X(t),t∈T} 对任意的 t1,t2,⋯tn∈Tt_1,\,t_2,\,\cdots\,t_n\in Tt1​,t2​,⋯tn​∈T 和任意的 hhh 使 ∀i∈[1,n]\forall i\in [1,\,n]∀i∈[1,n] ti+h∈Tt_i+h\in Tti​+h∈T ，有这间隔 hhh 的 nnn 个随机变量分布相同，记为：
(X(t1+h),X(t2+h),⋯X(tn+h))=d(X(t1),X(t2),⋯X(tn))(X(t_1+h),\,X(t_2+h),\,\cdots X(t_n+h))\overset{d}{=} (X(t_1),\,X(t_2),\,\cdots X(t_n)) (X(t1​+h),X(t2​+h),⋯X(tn​+h))=d(X(t1​),X(t2​),⋯X(tn​))
则称随机过程 {X(t),t∈T}\{X(t),\,t\in T\}{X(t),t∈T} 是严平稳的

宽平稳过程 ：也称二阶平稳过程，若随机过程 X(t)X(t)X(t) 的所有二阶矩都存在，并且 E[X(t)]=μE[X(t)]=\muE[X(t)]=μ （均值函数恒为 0），协方差函数 γ(t,s)\gamma(t,\,s)γ(t,s) 只与时间差 t−st-st−s 有关，则称该过程为宽平稳过程。具有如下特点：

• 因为 γ(s,t)=γ(0,t−s)\gamma(s,\,t)=\gamma(0,\,t-s)γ(s,t)=γ(0,t−s) ，所以可以直接记为 γ(t−s)\gamma(t-s)γ(t−s)
• γ(t)\gamma(t)γ(t) 图形是轴对称分布的，γ(t)=γ(−t)\gamma(t)=\gamma(-t)γ(t)=γ(−t)
• γ(0)\gamma(0)γ(0) 就是 X(t)X(t)X(t) 的方差，γ(0)=Var[X(t)]\gamma(0)=Var[X(t)]γ(0)=Var[X(t)]
• ∣γ(t)∣≤γ(0)|\gamma(t)|\leq\gamma(0)∣γ(t)∣≤γ(0) ，∀t∈T\forall t\in T∀t∈T
• γ(t)\gamma(t)γ(t) 具有非负定性（就是半正定性），即：对任意时刻 tkt_ktk​ 和实数 aka_kak​ （k=1,2,⋯Nk=1,2,\cdots Nk=1,2,⋯N），有：
  ∑i=1N∑j=1Naiajγ(ti−tj)≥0\sum\limits_{i=1}^N\sum\limits_{j=1}^Na_ia_j\gamma(t_i-t_j)\geq0 i=1∑N​j=1∑N​ai​aj​γ(ti​−tj​)≥0
  （以下的平稳过程就是指宽平稳过程）

平稳序列：当参数 t 仅取整数或自然数时，平稳过程称为平稳序列

例：（移动平均/滑动平均序列）设 {εn,n∈Z}\{\varepsilon_n,\,n\in Z\}{εn​,n∈Z} 为一两两不相关的有相同均值 μ\muμ 和相同方差 σ2\sigma^{2}σ2 的随机变量序列，a1,a2,⋯aka_1,\,a_2,\,\cdots a_ka1​,a2​,⋯ak​ 为任意 kkk 个实数，考虑如下序列：
Xn=a1εn+a2εn−1+⋯+akεn−k+1X_n=a_1\varepsilon_n+a_2\varepsilon_{n-1}+\cdots+a_{k}\varepsilon_{n-k+1} Xn​=a1​εn​+a2​εn−1​+⋯+ak​εn−k+1​
有：
E(Xn)=μ(a1+a2+⋯+an)E(X_n)=\mu(a_1+a_2+\cdots+a_n) E(Xn​)=μ(a1​+a2​+⋯+an​)
令 ξi=εi−μ\xi_i=\varepsilon_i-\muξi​=εi​−μ ，则协方差函数：
γ(n,n+τ)=E[(Xn−μ(a1+a2+⋯+an))(Xn+τ−μ(a1+a2+⋯+an))]=E[(a1ξn+a2ξn−1+⋯+akξn−k+1)(a1ξn+τ+a2ξn+τ−1+⋯+akξn+τ−k+1)]\begin{array}{l} \gamma(n,\,n+\tau) \\ =E[(X_n-\mu(a_1+a_2+\cdots+a_n))(X_{n+\tau}-\mu(a_1+a_2+\cdots+a_n))] \\ =E[(a_1\xi_n+a_2\xi_{n-1}+\cdots+a_k\xi_{n-k+1})(a_1\xi_{n+\tau}+a_2\xi_{n+\tau-1}+\cdots+a_k\xi_{n+\tau-k+1})] \\ \end{array} γ(n,n+τ)=E[(Xn​−μ(a1​+a2​+⋯+an​))(Xn+τ​−μ(a1​+a2​+⋯+an​))]=E[(a1​ξn​+a2​ξn−1​+⋯+ak​ξn−k+1​)(a1​ξn+τ​+a2​ξn+τ−1​+⋯+ak​ξn+τ−k+1​)]​
注意到 E[ξiξj]={0i≠jσ2i=jE[\xi_i\xi_j]=\left\{\begin{array}{ll}0 & i\neq j \\ \sigma^{2} & i=j \end{array} \right.E[ξi​ξj​]={0σ2​i=ji=j​ ，所以：
={σ2(akak−τ+ak−1ak−τ−1+⋯+aτ+1a1)τσ2(ak​ak−τ​+ak−1​ak−τ−1​+⋯+aτ+1​a1​)0​τ 因此协方差函数 γ(τ)\gamma(\tau)γ(τ) 仅与时间间隔 τ\tauτ 有关，故 XnX_nXn​ 是平稳序列

平稳过程的遍历性

何种条件下，平稳过程对时间的平均值可以等于过程的均值？对于某个平稳过程，最重要的是确定其均值 μμμ 和协方差函数 γ\gammaγ 。为估计这两个量，我们可以对随机过程 Xn{Xn}Xn 作大量观察，以 Xj(t)X_j(t)Xj​(t) 作为第 jjj 次观察中时刻 ttt 的值。由大数定律知，可以做出如下估计：
μ^=1n(X1(t)+X2(t)+⋯+Xn(t))γ^(τ)=1n∑k=1nE[(Xk(t+τ)−μ^)(X(t)−μ^)]\begin{array}{l} \hat{\mu}=\frac{1}{n}(X_1(t)+X_2(t)+\cdots+X_n(t)) \\ \hat{\gamma}(\tau)=\frac{1}{n}\sum\limits_{k=1}^n E[(X_k(t+\tau)-\hat{\mu})(X(t)-\hat{\mu})] \end{array} μ^​=n1​(X1​(t)+X2​(t)+⋯+Xn​(t))γ^​(τ)=n1​k=1∑n​E[(Xk​(t+τ)−μ^​)(X(t)−μ^​)]​
但是对某一随机过程做多次观测是难以做到的，更容易做到的是对某一随机过程仅做一次观测，得到一条样本路径。对于平稳序列，只要加上一些条件，就可以一次观测中估计 μ\muμ 和 γ\gammaγ ，这就是平稳序列的遍历性。

遍历性：设 X={X(t),−∞X(t),−∞ Xˉ=lim⁡T→∞12T∫−TTX(t)dt=μ\bar{X}=\lim_{T\to \infty}\frac{1}{2T}\int_{-T}^TX(t)\,dt=\mu Xˉ=T→∞lim​2T1​∫−TT​X(t)dt=μ
或者（离散参数随机过程）：
Xˉ=lim⁡N→∞12N+1∑k=−NNX(k)=μ\bar{X}=\lim_{N\to \infty}\frac{1}{2N+1}\sum\limits_{k=-N}^NX(k)=\mu Xˉ=N→∞lim​2N+11​k=−N∑N​X(k)=μ
则称 XXX 的均值具有遍历性。这里的极限指的是均方意义下的极限，即：
lim⁡T→∞E[∣12T∫−TTX(t)dt−μ)∣2]=0\lim_{T\to \infty}E\left[\left| \frac{1}{2T}\int_{-T}^TX(t)\,dt-\mu)\right|^{2} \right]=0 T→∞lim​E​​2T1​∫−TT​X(t)dt−μ)​2​=0
如果（连续参数随机过程）：
γˉ(τ)=lim⁡T→∞12T∫−TT(X(t+τ)−μ)(X(t)−μ)dt=γ(τ)\bar{\gamma}(\tau)=\lim_{T\to \infty}\frac{1}{2T}\int_{-T}^T(X(t+\tau)-\mu)(X(t)-\mu)\,dt=\gamma(\tau) γˉ​(τ)=T→∞lim​2T1​∫−TT​(X(t+τ)−μ)(X(t)−μ)dt=γ(τ)
或者（离散参数随机过程）：
γˉ(τ)=lim⁡N→∞12N+1∑k=−NN(X(k+τ)−μ)(X(k)−μ)=γ(τ)\bar{\gamma}(\tau)=\lim_{N\to \infty}\frac{1}{2N+1}\sum\limits_{k=-N}^N(X(k+\tau)-\mu)(X(k)-\mu)=\gamma(\tau) γˉ​(τ)=N→∞lim​2N+11​k=−N∑N​(X(k+τ)−μ)(X(k)−μ)=γ(τ)
则称 XXX 的协方差具有遍历性，极限同样是均方意义下的极限。若一个随机过程同时具有均值遍历性和协方差遍历性，则称该随机过程具有遍历性。

（当上述参数集为非负数时，相应的积分区间和求和区间需要改成 ∫0T\int\limits_{0}^T0∫T​ 和 ∑k=0N\sum\limits_{k=0}^Nk=0∑N​ ）

均值遍历性定理：分为离散和连续的情况

• 设 X={Xn,n∈Z}X=\{X_n,\,n\in Z\}X={Xn​,n∈Z} 是平稳序列，其协方差函数为 γ(τ)\gamma(\tau)γ(τ) ，则 XXX 的均值具有遍历性质的充要条件为：

lim⁡N→∞1N∑τ=0N−1γ(τ)=0\lim_{N\to \infty}\frac{1}{N}\sum\limits_{\tau=0}^{N-1}\gamma(\tau)=0 N→∞lim​N1​τ=0∑N−1​γ(τ)=0

• 设 X={Xt,−∞Xt​,−∞

lim⁡T→∞1T∫02T(1−τ2T)γ(τ)dτ=0\lim_{T\to \infty}\frac{1}{T}\int_{0}^{2T}(1-\frac{\tau}{2T})\gamma(\tau)\,d\tau=0 T→∞lim​T1​∫02T​(1−2Tτ​)γ(τ)dτ=0

证明：离散和连续的情况证明方法相同，这里证明连续时间的均值遍历性定理：

这里首先计算 Xˉ\bar{X}Xˉ 的均值和方差，记：
XˉT=12T∫−TTX(t)dt\bar{X}_T=\frac{1}{2T}\int_{-T}^TX(t)\,dt XˉT​=2T1​∫−TT​X(t)dt
有：（最后一步是因为 E(X(t))=μE(X(t))=\muE(X(t))=μ ）
E(Xˉ)=E(lim⁡T→∞XˉT)=lim⁡T→∞E(XˉT)=lim⁡T→∞12T∫−TTE(X(t))dt=μE(\bar{X})=E(\lim_{T\to\infty}\bar{X}_T)=\lim_{T\to\infty}E(\bar{X}_T)=\lim_{T\to\infty}\frac{1}{2T}\int_{-T}^TE(X(t))\,dt=\mu E(Xˉ)=E(T→∞lim​XˉT​)=T→∞lim​E(XˉT​)=T→∞lim​2T1​∫−TT​E(X(t))dt=μ

进而：
Var(Xˉ)=E[(Xˉ−E(Xˉ))2]=E{[lim⁡T→∞12T∫−TT(X(t)−μ)dt]2}=lim⁡T→∞14T2E{[∫−TT(X(t)−μ)dt]2}=lim⁡T→∞14T2∫−TT∫−TTE[(X(t)−μ)(X(s)−μ)]dtds=lim⁡T→∞14T2∫−TT∫−TTγ(t−s)dtds\begin{align} Var(\bar{X})=&\,E[(\bar{X}-E(\bar{X}))^2] \\ =&\, E\left\{\left[ \lim_{T\to\infty}\frac{1}{2T}\int_{-T}^T(X(t)-\mu)dt \right]^2 \right\} \\ =&\, \lim_{T\to\infty}\frac{1}{4T^2}E\left\{\left[ \int_{-T}^T(X(t)-\mu)dt \right]^2 \right\} \\ =&\, \lim_{T\to\infty}\frac{1}{4T^2}\int_{-T}^T\int_{-T}^TE[(X(t)-\mu)(X(s)-\mu)]\,dtds \\ =&\, \lim_{T\to\infty}\frac{1}{4T^2}\int_{-T}^T\int_{-T}^T\gamma(t-s)\,dtds \end{align} Var(Xˉ)=====​E[(Xˉ−E(Xˉ))2]E⎩⎨⎧​[T→∞lim​2T1​∫−TT​(X(t)−μ)dt]2⎭⎬⎫​T→∞lim​4T21​E⎩⎨⎧​[∫−TT​(X(t)−μ)dt]2⎭⎬⎫​T→∞lim​4T21​∫−TT​∫−TT​E[(X(t)−μ)(X(s)−μ)]dtdsT→∞lim​4T21​∫−TT​∫−TT​γ(t−s)dtds​​
上述积分中做变量替换，{τ=t−sv=t+s\left\{\begin{array}{l} \tau = t-s \\ v=t+s \end{array}\right.{τ=t−sv=t+s​ ，Jacobi 行列式为： J=∣1−111∣−1=12J=\left|\begin{array}{cc} 1 & -1 \\ 1 & 1 \end{array}\right|^{-1}=\frac{1}{2}J=​11​−11​​−1=21​ ；上述式子可变为：
Var(Xˉ)=lim⁡T→∞18T2∫−2T2Tγ(τ)dτ∫−(2T−∣τ∣)2T−τdv=lim⁡T→∞14T2∫−2T2Tγ(τ)(2T−∣τ∣)dτ=lim⁡T→∞12T2∫02Tγ(τ)(2T−τ)dτ=lim⁡T→∞1T∫02T(1−τ2T)γ(τ)dτ\begin{align} Var(\bar{X})=&\, \lim_{T\to\infty}\frac{1}{8T^2}\int_{-2T}^{2T}\gamma(\tau)\,d\tau\int_{-(2T-|\tau|)}^{2T-\tau}\,dv \\ =&\, \lim_{T\to\infty}\frac{1}{4T^2}\int_{-2T}^{2T}\gamma(\tau)(2T-|\tau|)\,d\tau \\ =&\, \lim_{T\to\infty}\frac{1}{2T^2}\int_{0}^{2T}\gamma(\tau)(2T-\tau)\,d\tau \\ =&\, \lim_{T\to \infty}\frac{1}{T}\int_{0}^{2T}(1-\frac{\tau}{2T})\gamma(\tau)\,d\tau \end{align} Var(Xˉ)====​T→∞lim​8T21​∫−2T2T​γ(τ)dτ∫−(2T−∣τ∣)2T−τ​dvT→∞lim​4T21​∫−2T2T​γ(τ)(2T−∣τ∣)dτT→∞lim​2T21​∫02T​γ(τ)(2T−τ)dτT→∞lim​T1​∫02T​(1−2Tτ​)γ(τ)dτ​​
在均方收敛的意义下，满足均值遍历性的条件为：
0=lim⁡T→∞E[∣12T∫−TTX(t)dt−μ)∣2]=lim⁡T→∞E[(XˉT−μ)2]=E[lim⁡T→∞(XˉT−μ)2]=E[(Xˉ−E(Xˉ))2]=Var(Xˉ)\begin{align} 0=&\,\lim_{T\to \infty}E\left[\left| \frac{1}{2T}\int_{-T}^TX(t)\,dt-\mu)\right|^{2} \right] \\ =&\,\lim_{T\to \infty}E\left[ (\bar{X}_T-\mu)^{2} \right] \\ =&\,E\left[\lim_{T\to \infty}(\bar{X}_T-\mu)^{2} \right] \\ =&\,E\left[(\bar{X}-E(\bar{X}))^{2} \right]=Var(\bar{X}) \\ \end{align} 0====​T→∞lim​E​​2T1​∫−TT​X(t)dt−μ)​2​T→∞lim​E[(XˉT​−μ)2]E[T→∞lim​(XˉT​−μ)2]E[(Xˉ−E(Xˉ))2]=Var(Xˉ)​​
因此是否满足均值遍历性和 Var(Xˉ)Var(\bar{X})Var(Xˉ) 是否为 000 等价，即与 lim⁡T→∞1T∫02T(1−τ2T)γ(τ)dτ\lim_{T\to \infty}\frac{1}{T}\int_{0}^{2T}(1-\frac{\tau}{2T})\gamma(\tau)\,d\taulimT→∞​T1​∫02T​(1−2Tτ​)γ(τ)dτ 是否为 000 等价。

由均值遍历性定理可以得出两个推论：

• 推论一：若 ∫−∞∞∣γ(τ)∣dτ<∞\int_{-\infty}^{\infty}|\gamma(\tau)|d\tau < \infty∫−∞∞​∣γ(τ)∣dτ<∞ ，则均值遍历性定理成立

证明：上述对 (1−τ2T)γ(τ)(1-\frac{\tau}{2T})\gamma(\tau)(1−2Tτ​)γ(τ) 的积分中，τ\tauτ 的取值范围为 [0,2T][0,\,2T][0,2T] ，因此 0≤(1−τ2T)≤10\leq (1-\frac{\tau}{2T})\leq10≤(1−2Tτ​)≤1 ，故 ∣(1−τ2T)γ(τ)∣<∣γ(τ)∣\left| (1-\frac{\tau}{2T})\gamma(\tau) \right|<|\gamma(\tau)|​(1−2Tτ​)γ(τ)​<∣γ(τ)∣ ，因此：
∣Var(Xˉ)∣=lim⁡T→∞1T∣∫02T(1−τ2T)γ(τ)dτ∣≤lim⁡T→∞1T∫02T∣γ(τ)∣dτ≤lim⁡T→∞1T∫0∞∣γ(τ)∣dτ=0\begin{align} |Var(\bar{X})|=&\, \lim_{T\to \infty}\frac{1}{T}\left|\int_{0}^{2T}(1-\frac{\tau}{2T})\gamma(\tau)\,d\tau\right| \\ \leq&\, \lim_{T\to \infty}\frac{1}{T}\int_{0}^{2T}\left|\gamma(\tau)\right|\,d\tau \\ \leq&\, \lim_{T\to \infty}\frac{1}{T}\int_{0}^{\infty}\left|\gamma(\tau)\right|\,d\tau = 0 \\ \end{align} ∣Var(Xˉ)∣=≤≤​T→∞lim​T1​​∫02T​(1−2Tτ​)γ(τ)dτ​T→∞lim​T1​∫02T​∣γ(τ)∣dτT→∞lim​T1​∫0∞​∣γ(τ)∣dτ=0​​

• 推论二：对平稳序列而言，若 γ(τ)→0(τ→∞)\gamma(\tau)\to0\quad(\tau\to\infty)γ(τ)→0(τ→∞) ，则均值遍历性定理成立

证明：若 γ(τ)→0(τ→∞)\gamma(\tau)\to0\quad(\tau\to\infty)γ(τ)→0(τ→∞) ，则由 Stolz 定理知：

令 bN=Nb_N=NbN​=N ，aN=∑=0N−1a_N=\sum\limits_{=0}^{N-1}aN​==0∑N−1​ ，有：
lim⁡N→∞aN+1−aNbN+1−bN=lim⁡N→∞γ(N)1=0\lim_{N\to\infty}\frac{a_{N+1}-a_N}{b_{N+1}-b_N}=\lim_{N\to\infty}\frac{\gamma(N)}{1}=0 N→∞lim​bN+1​−bN​aN+1​−aN​​=N→∞lim​1γ(N)​=0
故：
lim⁡N→∞1N∑τ=0N−1γ(τ)=lim⁡N→∞aNbN=0\lim_{N\to \infty}\frac{1}{N}\sum\limits_{\tau=0}^{N-1}\gamma(\tau)=\lim_{N\to \infty}\frac{a_N}{b_N}=0 N→∞lim​N1​τ=0∑N−1​γ(τ)=N→∞lim​bN​aN​​=0
协方差遍历性定理：设 X={Xt,−∞Xt​,−∞ lim⁡T→∞1T∫02T(1−τ12T)[B(τ1)−γ2(τ)]dτ1=0\lim_{T\to \infty}\frac{1}{T}\int_{0}^{2T}(1-\frac{\tau_1}{2T})[B(\tau_1)-\gamma^2(\tau)]\,d\tau_1=0 T→∞lim​T1​∫02T​(1−2Tτ1​​)[B(τ1​)−γ2(τ)]dτ1​=0
其中 B(τ1)=E[X(t+τ+τ1)X(t+τ)X(t+τ1)X(t)]B(\tau_1)=E[X(t+\tau+\tau_1)X(t+\tau)X(t+\tau_1)X(t)]B(τ1​)=E[X(t+τ+τ1​)X(t+τ)X(t+τ1​)X(t)]

例：设 X(t)=acos⁡(wt+θ)X(t)=a\cos(wt+\theta)X(t)=acos(wt+θ) ，θ∼U(0,2π)\theta\sim U(0,\,2\pi)θ∼U(0,2π) ，w≠0w\not=0w=0 ，则 X={Xt,−∞Xt​,−∞

证明：其均值函数为：
E(X(t))=12π∫02πacos⁡(wt+θ)dθ=0E(X(t))=\frac{1}{2\pi}\int_{0}^{2\pi}a\cos(wt+\theta)\,d\theta=0 E(X(t))=2π1​∫02π​acos(wt+θ)dθ=0
其协方差函数为：
γ(τ)=E[X(t+τ)X(t)]=a2E[cos⁡(wt+wτ+θ)cos⁡(wt+θ)]=12a2E[cos⁡(2wt+2θ+wτ)+cos⁡(wτ)]=a24π∫02π(cos⁡(2wt+2θ+wτ)+cos⁡(wτ))dθ=a22cos⁡(wτ)\begin{align} \gamma(\tau)=&\,E[X(t+\tau)X(t)] \\ =&\,a^2E[\cos(wt+w\tau+\theta)\cos(wt+\theta)]\\ =&\,\frac{1}{2}a^2E[\cos(2wt+2\theta+w\tau)+\cos(w\tau)] \\ =&\,\frac{a^2}{4\pi}\int_{0}^{2\pi}(\cos(2wt+2\theta+w\tau)+\cos(w\tau))d\theta \\ =&\,\frac{a^2}{2}\cos(w\tau) \end{align} γ(τ)=====​E[X(t+τ)X(t)]a2E[cos(wt+wτ+θ)cos(wt+θ)]21​a2E[cos(2wt+2θ+wτ)+cos(wτ)]4πa2​∫02π​(cos(2wt+2θ+wτ)+cos(wτ))dθ2a2​cos(wτ)​​
因此该过程是平稳过程，由于：
lim⁡T→∞1T∫02T(1−τ2T)γ(τ)dτ=lim⁡T→∞a22T∫02T(1−τ2T)cos⁡(wτ)dτ\lim_{T\to \infty}\frac{1}{T}\int_{0}^{2T}(1-\frac{\tau}{2T})\gamma(\tau)\,d\tau=\lim_{T\to \infty}\frac{a^2}{2T}\int_{0}^{2T}(1-\frac{\tau}{2T})\cos(w\tau)\,d\tau T→∞lim​T1​∫02T​(1−2Tτ​)γ(τ)dτ=T→∞lim​2Ta2​∫02T​(1−2Tτ​)cos(wτ)dτ
分部积分：
=a22Twsin⁡2Tw+a24T2∫02Tcos⁡wτdτ=a22Twsin⁡2Tw+a24T2wsin⁡2Tw→0=\frac{a^2}{2Tw}\sin2Tw+\frac{a^2}{4T^2}\int_{0}^{2T}\cos w\tau\,d\tau=\frac{a^2}{2Tw}\sin2Tw+\frac{a^2}{4T^2w}\sin2Tw\to0 =2Twa2​sin2Tw+4T2a2​∫02T​coswτdτ=2Twa2​sin2Tw+4T2wa2​sin2Tw→0
由均值遍历性定理得， XXX 满足均值遍历性

独立增量过程

虽然 X(t)X(t)X(t) 之间常常不是相互独立的，但人们发现许多过程的增量式相互独立的，我们称之为独立增量过程。

独立增量过程：对任意 t1,t2,⋯,tn∈Tt_1,\,t_2,\,\cdots,\,t_n\in Tt1​,t2​,⋯,tn​∈T ，t1X(t),t∈T} 为独立增量过程。

平稳增量过程：对任意 t1t_1t1​ ，t2t_2t2​ ，有 X(t1+h)−X(t1)=dX(t2−h)−X(t2)X(t_1+h)-X(t_1)\overset{d}{=}X(t_2-h)-X(t_2)X(t1​+h)−X(t1​)=dX(t2​−h)−X(t2​) ，则称 {X(t),t∈T}\{X(t),\,t\in T\}{X(t),t∈T} 是平稳增量过程

平稳独立增量过程：兼有独立增量和独立增量的过程称为平稳独立增量过程。

假设随机过程 X(t)X(t)X(t) 的特征函数为 ψX(t)(a)=E[eiaX(t)]\psi_{X(t)}(a)=E[e^{iaX(t)}]ψX(t)​(a)=E[eiaX(t)] ，有如下定理：设 {X(t),t≥0}\{X(t),\,t\geq 0\}{X(t),t≥0} 是一个独立增量过程，则 X(t)X(t)X(t) 具有平稳增量的充分必要条件为，其特征函数具有可乘性，即：
ψX(t+s)(a)=ψX(t)(a)ψX(s)(a)\psi_{X(t+s)}(a)=\psi_{X(t)}(a)\psi_{X(s)}(a) ψX(t+s)​(a)=ψX(t)​(a)ψX(s)​(a)
平稳独立增量过程的均值函数一定是时间 ttt 的线性函数。Poisson 过程和 Brown 运动都是这类过程。