随机过程:从理论基础到实际应用

在我们的日常生活中,许多现象都表现出随时间变化的不确定性:股票价格的波动、城市交通流量的变化、手机信号的强弱、生物种群数量的增减……这些过程的共同特点是,它们的未来状态无法被精确预测,只能通过概率分布来描述。随机过程(Stochastic Process)正是研究这类随时间演化的随机现象的数学工具。

与确定性过程(如行星运动、单摆振动)不同,随机过程的核心在于“随机性”——系统的演化受到内在或外在随机因素的影响,因此我们需要用概率理论来刻画其统计规律。从物理学中的布朗运动到金融学中的期权定价,从通信工程中的信号处理到生物学中的基因漂移,随机过程理论为理解和建模这些复杂系统提供了统一的框架。

本文将系统梳理随机过程的基本概念、核心模型及其应用,旨在帮助读者从入门到逐步掌握这一领域的关键思想。无论你是理工科学生、科研人员,还是对随机现象感兴趣的爱好者,本文都将为你打开随机过程的大门。

目录#

  1. 随机过程的数学基础

    • 1.1 基本定义与符号
    • 1.2 概率空间与随机变量回顾
    • 1.3 随机过程的分类
    • 1.4 有限维分布族与Kolmogorov存在定理
  2. 随机过程的基本类型

    • 2.1 平稳过程
    • 2.2 独立增量过程
  3. 马尔可夫过程

    • 3.1 马尔可夫性与转移概率
    • 3.2 离散时间马尔可夫链
    • 3.3 连续时间马尔可夫链
  4. 泊松过程

    • 4.1 基本定义与性质
    • 4.2 等价刻画与推导
    • 4.3 非齐次泊松过程
    • 4.4 应用案例:排队论与可靠性分析
  5. 布朗运动

    • 5.1 历史背景与定义
    • 5.2 基本性质与推导
    • 5.3 鞅性质与应用:Black-Scholes模型
  6. 鞅论初步

    • 6.1 鞅的定义与基本性质
    • 6.2 上鞅与下鞅
    • 6.3 应用:公平赌博与最优停时
  7. 随机过程的应用领域

    • 7.1 金融学:风险建模与期权定价
    • 7.2 物理学:扩散与热传导
    • 7.3 工程学:信号处理与通信
    • 7.4 生物学:种群动态与流行病传播
  8. 随机过程的数值模拟

    • 8.1 蒙特卡洛方法简介
    • 8.2 马尔可夫链蒙特卡洛(MCMC)
    • 8.3 布朗运动的模拟实现
  9. 总结与展望

  10. 参考文献

1. 随机过程的数学基础#

1.1 基本定义与符号#

随机过程是一族依赖于参数的随机变量。严格来说,设(Ω,F,P)(\Omega, \mathcal{F}, P)是一个概率空间,TT是一个参数集(通常代表“时间”),若对每个tTt \in T,都有一个定义在Ω\Omega上的随机变量X(t,ω)X(t, \omega)(简记为X(t)X(t)),则称{X(t),tT}\{X(t), t \in T\}为一个随机过程。

  • 参数集TT:可以是离散的(如T={0,1,2,}T = \{0, 1, 2, \ldots\},表示“离散时间”)或连续的(如T=[0,+)T = [0, +\infty),表示“连续时间”)。
  • 状态空间SS:随机变量X(t)X(t)的取值集合,即S={X(t,ω)ωΩ}S = \{X(t, \omega) | \omega \in \Omega\}。可以是离散的(如整数集Z\mathbb{Z})或连续的(如实数集R\mathbb{R})。

直观理解:对固定的ωΩ\omega \in \Omega(即一个“样本路径”),X(t,ω)X(t, \omega)是参数tt的函数,描述了一个具体的演化轨迹;对固定的ttX(t,ω)X(t, \omega)是一个随机变量,描述了该时刻系统的状态分布。

1.2 概率空间与随机变量回顾#

为了严格定义随机过程,我们需要回顾概率论的基本框架:

  • 概率空间:由样本空间Ω\Omega(所有可能结果的集合)、σ\sigma-代数F\mathcal{F}(可测事件的集合)和概率测度PP(满足非负性、规范性和可列可加性的集函数)组成,记为(Ω,F,P)(\Omega, \mathcal{F}, P)
  • 随机变量:从Ω\Omega到状态空间SS的可测函数X:ΩSX: \Omega \to S,即对任意BB(S)B \in \mathcal{B}(S)SS上的Borel集),有X1(B)FX^{-1}(B) \in \mathcal{F}。其统计规律由分布函数FX(x)=P(Xx)F_X(x) = P(X \leq x)描述。

随机过程可以视为“依赖时间的随机变量”,因此需要将概率空间的概念推广到“一族随机变量”的情形。

1.3 随机过程的分类#

根据参数集TT和状态空间SS的离散/连续性,随机过程可分为四类:

参数集TT离散状态空间SS连续状态空间SS
离散(如N\mathbb{N}离散时间离散状态过程(如马尔可夫链)离散时间连续状态过程(如离散时间随机游走)
连续(如[0,+)[0, +\infty)连续时间离散状态过程(如泊松过程)连续时间连续状态过程(如布朗运动)

此外,还可根据过程的统计性质分类,如平稳过程、独立增量过程、马尔可夫过程等,这将在后续章节详细讨论。

1.4 有限维分布族与Kolmogorov存在定理#

随机过程的统计规律由其有限维分布族完全刻画。对任意正整数nn和任意t1<t2<<tnTt_1 < t_2 < \cdots < t_n \in T,定义nn维分布函数:

Ft1,t2,,tn(x1,x2,,xn)=P(X(t1)x1,X(t2)x2,,X(tn)xn)F_{t_1, t_2, \ldots, t_n}(x_1, x_2, \ldots, x_n) = P(X(t_1) \leq x_1, X(t_2) \leq x_2, \ldots, X(t_n) \leq x_n)

所有这些分布函数的集合称为随机过程的有限维分布族。

为保证这样的分布族能对应一个实际的随机过程,需要满足相容性条件

  1. 对称性:对指标的任意置换π\pi,有
Ftπ(1),,tπ(n)(xπ(1),,xπ(n))=Ft1,,tn(x1,,xn)F_{t_{\pi(1)}, \ldots, t_{\pi(n)}}(x_{\pi(1)}, \ldots, x_{\pi(n)}) = F_{t_1, \ldots, t_n}(x_1, \ldots, x_n)
  1. 相容性:对m<nm < n,有
Ft1,,tm(x1,,xm)=Ft1,,tm,tm+1,,tn(x1,,xm,+,,+)F_{t_1, \ldots, t_m}(x_1, \ldots, x_m) = F_{t_1, \ldots, t_m, t_{m+1}, \ldots, t_n}(x_1, \ldots, x_m, +\infty, \ldots, +\infty)

Kolmogorov存在定理指出:若一个有限维分布族满足上述相容性条件,则必存在一个概率空间(Ω,F,P)(\Omega, \mathcal{F}, P)和定义在其上的随机过程{X(t),tT}\{X(t), t \in T\},使得该过程的有限维分布族恰好为给定的分布族。这一定理为随机过程的构造提供了理论基础。

2. 随机过程的基本类型#

2.1 平稳过程#

平稳过程是一类统计性质不随时间平移而变化的随机过程,广泛应用于信号处理、通信等领域。

2.1.1 严平稳与宽平稳#

  • 严平稳过程(Strictly Stationary Process):对任意nNn \in \mathbb{N}t1,,tnTt_1, \ldots, t_n \in T和任意时移τ\tau(使得ti+τTt_i + \tau \in T),有
Ft1,,tn(x1,,xn)=Ft1+τ,,tn+τ(x1,,xn)F_{t_1, \ldots, t_n}(x_1, \ldots, x_n) = F_{t_1 + \tau, \ldots, t_n + \tau}(x_1, \ldots, x_n)

即有限维分布对时间平移不变。

  • 宽平稳过程(Wide-Sense Stationary Process):若过程满足:
    1. 均值函数为常数:E[X(t)]=μE[X(t)] = \mu(与tt无关);
    2. 自相关函数仅依赖于时间差:R(t1,t2)=E[X(t1)X(t2)]=R(t2t1)R(t_1, t_2) = E[X(t_1)X(t_2)] = R(t_2 - t_1)

关系:严平稳过程若二阶矩存在,则必为宽平稳过程;反之不成立(宽平稳不一定严平稳)。对正态过程(有限维分布均为正态分布的过程),两者等价。

2.1.2 相关函数与功率谱密度#

对宽平稳过程,自相关函数R(τ)=E[X(t)X(t+τ)]R(\tau) = E[X(t)X(t + \tau)]是刻画过程相关性的核心工具,具有性质:

  • R(0)=E[X(t)2]R(0) = E[X(t)^2](二阶矩);
  • R(τ)=R(τ)R(-\tau) = R(\tau)(对称性);
  • R(τ)R(0)|R(\tau)| \leq R(0)(柯西-施瓦茨不等式)。

功率谱密度(Power Spectral Density, PSD) 是自相关函数的傅里叶变换:

S(ω)=+R(τ)eiωτdτS(\omega) = \int_{-\infty}^{+\infty} R(\tau) e^{-i\omega \tau} d\tau

它描述了过程的功率在频率域上的分布,是信号处理中分析噪声、滤波的重要工具。

2.2 独立增量过程#

独立增量过程是一类具有“增量独立性”的过程,其未来变化与过去状态无关,是构建许多重要随机过程(如泊松过程、布朗运动)的基础。

2.2.1 定义与性质#

{X(t),t0}\{X(t), t \geq 0\}是定义在T=[0,+)T = [0, +\infty)上的随机过程,且X(0)=0X(0) = 0(不妨设初值为0,否则可令Y(t)=X(t)X(0)Y(t) = X(t) - X(0))。若对任意0t0<t1<<tn0 \leq t_0 < t_1 < \cdots < t_n,增量X(t1)X(t0),X(t2)X(t1),,X(tn)X(tn1)X(t_1) - X(t_0), X(t_2) - X(t_1), \ldots, X(t_n) - X(t_{n-1})相互独立,则称X(t)X(t)独立增量过程

若进一步对任意s<ts < t,增量X(t)X(s)X(t) - X(s)的分布仅依赖于tst - s(与起点ss无关),则称为平稳独立增量过程

2.2.2 例子:随机游走#

离散时间随机游走是最简单的独立增量过程之一。设ξ1,ξ2,\xi_1, \xi_2, \ldots是独立同分布的随机变量(如P(ξi=1)=p,P(ξi=1)=q=1pP(\xi_i = 1) = p, P(\xi_i = -1) = q = 1 - p),定义

X(0)=0,X(n)=ξ1+ξ2++ξn(n1)X(0) = 0, \quad X(n) = \xi_1 + \xi_2 + \cdots + \xi_n \quad (n \geq 1)

{X(n),nN}\{X(n), n \in \mathbb{N}\}是离散时间独立增量过程,增量X(n)X(m)=ξm+1++ξnX(n) - X(m) = \xi_{m+1} + \cdots + \xi_nX(k)X(k)kmk \leq m)独立。

性质

  • 均值:E[X(n)]=nE[ξ1]=n(pq)E[X(n)] = n E[\xi_1] = n(p - q)
  • 方差:Var(X(n))=nVar(ξ1)=4npqVar(X(n)) = n Var(\xi_1) = 4npq(若ξi\xi_i为±1);
  • p=q=1/2p = q = 1/2时,为对称随机游走,均值为0。

3. 马尔可夫过程#

马尔可夫过程(Markov Process)是一类具有“无记忆性”(马尔可夫性)的随机过程,其核心思想是:未来的状态仅依赖于当前状态,而与过去的状态无关。这一特性极大简化了对过程演化的分析,使其成为应用最广泛的随机过程之一。

3.1 马尔可夫性与转移概率#

马尔可夫性(Markov Property):对任意nNn \in \mathbb{N}t1<t2<<tn<tt_1 < t_2 < \cdots < t_n < t,有

P(X(t)BX(t1)=x1,,X(tn)=xn)=P(X(t)BX(tn)=xn)P(X(t) \in B | X(t_1) = x_1, \ldots, X(t_n) = x_n) = P(X(t) \in B | X(t_n) = x_n)

直观理解:“给定现在,未来与过去独立”。

转移概率:描述从一个状态转移到另一个状态的概率。对离散时间过程,记P(Xn+1=jXn=i)=pijP(X_{n+1} = j | X_n = i) = p_{ij}为一步转移概率;对连续时间过程,记P(X(t)=jX(s)=i)=p(s,i;t,j)P(X(t) = j | X(s) = i) = p(s, i; t, j)t>st > s)为转移概率函数。

3.2 离散时间马尔可夫链#

离散时间马尔可夫链(DTMC) 是参数集T={0,1,2,}T = \{0, 1, 2, \ldots\}、状态空间SS(通常为离散集,如{0,1,2,}\{0, 1, 2, \ldots\})的马尔可夫过程,记为{Xn,n0}\{X_n, n \geq 0\}

3.2.1 转移矩阵与Chapman-Kolmogorov方程#

一步转移概率组成的矩阵P=(pij)i,jSP = (p_{ij})_{i, j \in S}称为转移矩阵,满足:

  • pij0p_{ij} \geq 0(非负性);
  • jSpij=1\sum_{j \in S} p_{ij} = 1(行和为1,概率归一性)。

n步转移概率pij(n)=P(Xm+n=jXm=i)p_{ij}^{(n)} = P(X_{m+n} = j | X_m = i)满足Chapman-Kolmogorov方程

pij(n+m)=kSpik(n)pkj(m)p_{ij}^{(n+m)} = \sum_{k \in S} p_{ik}^{(n)} p_{kj}^{(m)}

即n+m步转移概率等于先n步到k,再m步到j的概率之和。这一方程可用矩阵表示为P(n+m)=P(n)P(m)P^{(n+m)} = P^{(n)} P^{(m)},其中P(n)=PnP^{(n)} = P^n(矩阵幂)。

3.2.2 状态分类#

根据马尔可夫链的长期行为,状态可分为:

  • 常返态(Recurrent State):从状态ii出发,以概率1无穷多次返回ii,即P(lim supn{Xn=i}X0=i)=1P(\limsup_{n \to \infty} \{X_n = i\} | X_0 = i) = 1
  • 暂态(Transient State):从状态ii出发,返回ii的概率小于1,即最终会离开并永不返回。
  • 周期(Period):状态ii的周期d(i)=gcd{n1pii(n)>0}d(i) = \gcd\{n \geq 1 | p_{ii}^{(n)} > 0\},若d(i)=1d(i) = 1,称ii非周期态

重要结论

  • 常返态与暂态具有“类属性”:若ii常返且ii可达jj(存在nn使pij(n)>0p_{ij}^{(n)} > 0),则jj也常返;
  • 不可约马尔可夫链(所有状态相互可达)要么全为常返态,要么全为暂态;
  • 非周期、不可约、常返的马尔可夫链称为遍历链,其n步转移概率收敛到平稳分布。

3.2.3 平稳分布与极限定理#

平稳分布π=(πi)iS\pi = (\pi_i)_{i \in S}是满足π=πP\pi = \pi P(即πj=iπipij\pi_j = \sum_i \pi_i p_{ij})的概率分布(iπi=1\sum_i \pi_i = 1πi0\pi_i \geq 0)。对遍历链,有:

limnpij(n)=πj(i,jS)\lim_{n \to \infty} p_{ij}^{(n)} = \pi_j \quad (\forall i, j \in S)

即n步转移概率收敛到平稳分布,且与初始状态无关。平稳分布的物理解释是:当过程达到平稳状态时,处于状态jj的概率为πj\pi_j

例子:赌徒破产问题
设赌徒每次以概率pp赢1元,以概率q=1pq=1-p输1元,初始资金为ii,目标资金为NN(破产或达到目标则停止)。这是一个有限状态马尔可夫链,状态空间{0,1,,N}\{0, 1, \ldots, N\}(0和N为吸收态)。通过求解边界条件,可得到赌徒破产的概率为:

P(破产X0=i)={(q/p)i(q/p)N1(q/p)Npq,NiNp=q=1/2.P(\text{破产} | X_0 = i) = \begin{cases} \frac{(q/p)^i - (q/p)^N}{1 - (q/p)^N} & p \neq q, \\ \frac{N - i}{N} & p = q = 1/2. \end{cases}

3.3 连续时间马尔可夫链#

连续时间马尔可夫链(CTMC) 的参数集T=[0,+)T = [0, +\infty),状态空间离散,其马尔可夫性表现为:对s<ts < t,有

P(X(t)=jX(s)=i,X(u)=xu,u<s)=P(X(t)=jX(s)=i)P(X(t) = j | X(s) = i, X(u) = x_u, u < s) = P(X(t) = j | X(s) = i)

3.3.1 转移速率矩阵#

对CTMC,转移概率函数pij(t)=P(X(t)=jX(0)=i)p_{ij}(t) = P(X(t) = j | X(0) = i)满足:

  • pij(0)=δijp_{ij}(0) = \delta_{ij}δij=1\delta_{ij}=1i=ji=j,否则0);
  • 连续性:limt0pij(t)=δij\lim_{t \to 0} p_{ij}(t) = \delta_{ij}

转移速率(生成)矩阵Q=(qij)i,jSQ = (q_{ij})_{i, j \in S}定义为:

qij=limt0pij(t)δijt(ij),qii=jiqijq_{ij} = \lim_{t \to 0} \frac{p_{ij}(t) - \delta_{ij}}{t} \quad (i \neq j), \quad q_{ii} = -\sum_{j \neq i} q_{ij}

其中qijq_{ij}iji \neq j)称为从iijj的转移速率,表示单位时间内从ii转移到jj的“强度”;qiiq_{ii}为状态ii的退出速率。

CTMC的转移概率满足柯尔莫哥洛夫微分方程

P(t)=QP(t)(前向方程),P(t)=P(t)Q(后向方程)P'(t) = Q P(t) \quad (\text{前向方程}), \quad P'(t) = P(t) Q \quad (\text{后向方程})

其中P(t)=(pij(t))P(t) = (p_{ij}(t))

3.3.2 生灭过程举例#

生灭过程是一类重要的CTMC,状态空间为{0,1,2,}\{0, 1, 2, \ldots\},仅允许在相邻状态间转移:

  • nnn+1n+1(“出生”):速率为λn\lambda_n
  • nnn1n-1(“死亡”):速率为μn\mu_nμ0=0\mu_0 = 0)。

其生成矩阵为:

Q=(λ0λ000μ1(λ1+μ1)λ100μ2(λ2+μ2)λ2)Q = \begin{pmatrix} -\lambda_0 & \lambda_0 & 0 & 0 & \cdots \\ \mu_1 & -(\lambda_1 + \mu_1) & \lambda_1 & 0 & \cdots \\ 0 & \mu_2 & -(\lambda_2 + \mu_2) & \lambda_2 & \cdots \\ \vdots & \vdots & \vdots & \vdots & \ddots \end{pmatrix}

生灭过程可用于建模人口增长、排队系统(顾客到达为“生”,离开为“死”)等。

4. 泊松过程#

泊松过程是描述“随机事件发生次数”的基本模型,如电话呼叫到达、交通事故发生、放射性衰变等,其核心是“事件以恒定速率独立随机地发生”。

4.1 基本定义与性质#

泊松过程(Poisson Process) 是定义在T=[0,+)T = [0, +\infty)上的计数过程{N(t),t0}\{N(t), t \geq 0\}(即N(t)N(t)表示[0,t][0, t]内事件发生的次数,取值为非负整数,单调不减右连续),满足:

  1. N(0)=0N(0) = 0
  2. 独立增量性:对0t0<t1<<tn0 \leq t_0 < t_1 < \cdots < t_n,增量N(t1)N(t0),,N(tn)N(tn1)N(t_1)-N(t_0), \ldots, N(t_n)-N(t_{n-1})独立;
  3. 平稳增量性:对s<ts < tN(t)N(s)Poisson(λ(ts))N(t) - N(s) \sim \text{Poisson}(\lambda(t - s)),其中λ>0\lambda > 0称为强度参数(单位时间内事件发生的平均次数)。

概率分布:对t>st > s,有

P(N(t)N(s)=k)=(λ(ts))kk!eλ(ts)(k=0,1,2,)P(N(t) - N(s) = k) = \frac{(\lambda(t - s))^k}{k!} e^{-\lambda(t - s)} \quad (k = 0, 1, 2, \ldots)

特别地,E[N(t)]=λtE[N(t)] = \lambda t(均值函数),Var(N(t))=λtVar(N(t)) = \lambda t(方差函数)。

4.2 泊松过程的等价刻画#

除上述定义外,泊松过程还有以下等价刻画(均假设N(0)=0N(0) = 0且路径右连续):

  1. 独立增量 + 平稳增量 + 普通性:普通性指limh0P(N(h)2)h=0\lim_{h \to 0} \frac{P(N(h) \geq 2)}{h} = 0(小时间内几乎不可能发生两次以上事件),且limh0P(N(h)=1)h=λ\lim_{h \to 0} \frac{P(N(h) = 1)}{h} = \lambda

  2. 事件间间隔时间独立同分布:设T1=inf{t>0N(t)=1}T_1 = \inf\{t > 0 | N(t) = 1\}(首次事件发生时间),Tn=inf{t>Tn1N(t)=n}Tn1T_n = \inf\{t > T_{n-1} | N(t) = n\} - T_{n-1}(第n1n-1次与第nn次事件的间隔时间),则T1,T2,T_1, T_2, \ldots独立同分布,且均服从参数为λ\lambda的指数分布,即fT(t)=λeλtf_T(t) = \lambda e^{-\lambda t}t0t \geq 0)。

证明思路:指数分布的无记忆性(P(T>s+tT>s)=P(T>t)P(T > s + t | T > s) = P(T > t))与泊松过程的独立增量性等价,因此间隔时间必为指数分布。

4.3 非齐次泊松过程#

当事件发生的速率随时间变化时,需推广为非齐次泊松过程,其强度为时间的函数λ(t)>0\lambda(t) > 0t0t \geq 0)。此时,[s,t][s, t]内事件发生次数的分布为:

P(N(t)N(s)=k)=(stλ(u)du)kk!estλ(u)duP(N(t) - N(s) = k) = \frac{(\int_s^t \lambda(u) du)^k}{k!} e^{-\int_s^t \lambda(u) du}

其中m(t)=0tλ(u)dum(t) = \int_0^t \lambda(u) du称为均值函数

非齐次泊松过程可通过“时间尺度变换”转化为齐次泊松过程:令Y(t)=N(m1(t))Y(t) = N(m^{-1}(t))(若m(t)m(t)严格递增且连续),则Y(t)Y(t)是强度为1的齐次泊松过程。

4.4 应用案例:排队论与可靠性分析#

排队论(Queueing Theory)#

排队系统通常由“顾客到达过程”“服务台数量”“服务时间分布”三要素构成。若顾客到达服从强度为λ\lambda的泊松过程,服务时间服从参数为μ\mu的指数分布,单服务台,则该系统记为M/M/1M/M/1模型(M:Markov性,即泊松到达/指数服务)。

系统的平稳分布πn=P(系统中有n个顾客)\pi_n = P(\text{系统中有} n \text{个顾客})为:

πn=(1ρ)ρn(n0)\pi_n = (1 - \rho) \rho^n \quad (n \geq 0)

其中ρ=λ/μ\rho = \lambda/\mu为“服务强度”,需满足ρ<1\rho < 1(否则队列无限增长)。

可靠性分析#

设一个系统受随机冲击影响,冲击到达服从强度为λ\lambda的泊松过程,每次冲击以概率pp导致系统失效(独立)。则系统的生存概率(tt时刻未失效的概率)为:

P(T>t)=eλtpP(T > t) = e^{-\lambda t p}

即系统寿命TT服从参数为λp\lambda p的指数分布。

5. 布朗运动#

布朗运动(Brownian Motion)是连续时间、连续状态的随机过程,由英国植物学家罗伯特·布朗(Robert Brown)于1827年观察花粉颗粒在水中的不规则运动发现,后由爱因斯坦从物理角度解释,最终由维纳(Wiener)严格定义,故又称维纳过程

5.1 历史背景与定义#

1905年,爱因斯坦通过假设花粉颗粒受到水分子的随机碰撞,推导出其位移服从正态分布,奠定了布朗运动的物理基础。1923年,维纳给出了严格的数学定义:

布朗运动{W(t),t0}\{W(t), t \geq 0\}是满足以下条件的随机过程:

  1. W(0)=0W(0) = 0
  2. 独立增量性:对0t0<t1<<tn0 \leq t_0 < t_1 < \cdots < t_n,增量W(t1)W(t0),,W(tn)W(tn1)W(t_1)-W(t_0), \ldots, W(t_n)-W(t_{n-1})独立;
  3. 平稳增量性:对s<ts < tW(t)W(s)N(0,σ2(ts))W(t) - W(s) \sim N(0, \sigma^2(t - s))(正态分布,均值0,方差σ2(ts)\sigma^2(t - s));
  4. 路径连续性:对几乎所有ω\omegatW(t,ω)t \mapsto W(t, \omega)是连续函数。

通常取σ2=1\sigma^2 = 1,称为“标准布朗运动”。

5.2 基本性质与推导#

基本性质#

  1. 正态性:对任意t1<<tnt_1 < \cdots < t_n(W(t1),,W(tn))(W(t_1), \ldots, W(t_n))服从多元正态分布;
  2. 均方连续性limstE[(W(t)W(s))2]=0\lim_{s \to t} E[(W(t) - W(s))^2] = 0
  3. 路径非可微性:几乎所有路径处处不可微(直观:运动极不规则,瞬时速度不存在);
  4. 自相似性:对任意c>0c > 0{c1/2W(ct),t0}\{c^{-1/2} W(c t), t \geq 0\}{W(t),t0}\{W(t), t \geq 0\}有相同分布。

性质推导:二次变差#

布朗运动的二次变差(描述路径波动的累积)为:

limmaxΔti0i=1n(W(ti)W(ti1))2=t(a.s.)\lim_{\max \Delta t_i \to 0} \sum_{i=1}^n (W(t_i) - W(t_{i-1}))^2 = t \quad (\text{a.s.})

这一性质是随机微积分的核心,表明布朗运动的路径虽然连续,但“波动极大”,其二次变差不为零(与普通函数不同)。

5.3 布朗运动的鞅性质#

布朗运动是一类特殊的鞅:

  • {W(t),t0}\{W(t), t \geq 0\}是鞅:E[W(t)Fs]=W(s)E[W(t) | \mathcal{F}_s] = W(s)s<ts < tFs\mathcal{F}_s为到ss时刻的信息);
  • {W(t)2t,t0}\{W(t)^2 - t, t \geq 0\}是鞅:E[W(t)2tFs]=W(s)2sE[W(t)^2 - t | \mathcal{F}_s] = W(s)^2 - s

鞅性质在金融中至关重要,例如用于推导期权定价公式。

5.4 应用:金融中的Black-Scholes模型#

1973年,Black和Scholes基于布朗运动建立了期权定价模型,假设股票价格S(t)S(t)服从几何布朗运动

dS(t)=μS(t)dt+σS(t)dW(t)dS(t) = \mu S(t) dt + \sigma S(t) dW(t)

其中μ\mu为漂移率(预期收益率),σ\sigma为波动率(风险),W(t)W(t)为标准布朗运动。

通过求解上述随机微分方程(SDE),得到股票价格的显式解:

S(t)=S(0)exp((μσ2/2)t+σW(t))S(t) = S(0) \exp\left( (\mu - \sigma^2/2) t + \sigma W(t) \right)

利用无套利原理和鞅定价方法,Black-Scholes模型推导出欧式看涨期权的价格为:

C=S0Φ(d1)KerTΦ(d2)C = S_0 \Phi(d_1) - K e^{-r T} \Phi(d_2)

其中d1=ln(S0/K)+(r+σ2/2)TσTd_1 = \frac{\ln(S_0/K) + (r + \sigma^2/2)T}{\sigma \sqrt{T}}d2=d1σTd_2 = d_1 - \sigma \sqrt{T}Φ\Phi为标准正态分布函数,rr为无风险利率,KK为行权价,TT为到期时间。这一公式 revolutionized 金融衍生品市场。

6. 鞅论初步#

(Martingale)是一类“公平”的随机过程,其未来的期望等于当前值,广泛应用于随机分析、金融、统计等领域。

6.1 鞅的定义与基本性质#

:设{Ft,tT}\{\mathcal{F}_t, t \in T\}是一个滤波(递增的σ\sigma-代数族,代表“信息流”),随机过程{M(t),tT}\{M(t), t \in T\}称为关于Ft\mathcal{F}_t的鞅,若满足:

  1. E[M(t)]<E[|M(t)|] < \infty(可积性);
  2. M(t)M(t)关于Ft\mathcal{F}_t可测(适应性);
  3. 对任意s<ts < t,有E[M(t)Fs]=M(s)E[M(t) | \mathcal{F}_s] = M(s)(鞅性条件)。

直观理解:在公平赌博中,赌徒的财富过程是鞅——给定当前信息,未来财富的期望等于当前财富,没有套利机会。

例子

  • 标准布朗运动W(t)W(t)是鞅;
  • 对称随机游走X(n)=ξ1++ξnX(n) = \xi_1 + \cdots + \xi_nξi\xi_i独立同分布,P(ξi=±1)=1/2P(\xi_i = \pm 1) = 1/2)是鞅;
  • W(t)2tW(t)^2 - t是鞅(布朗运动的二次变差鞅)。

6.2 上鞅与下鞅#

  • 上鞅:若E[M(t)Fs]M(s)E[M(t) | \mathcal{F}_s] \leq M(s)(未来期望小于等于当前值,如“不利赌博”);
  • 下鞅:若E[M(t)Fs]M(s)E[M(t) | \mathcal{F}_s] \geq M(s)(未来期望大于等于当前值,如“有利赌博”)。

Jensen不等式:若M(t)M(t)是鞅,ϕ\phi是凸函数且E[ϕ(M(t))]<E[|\phi(M(t))|] < \infty,则ϕ(M(t))\phi(M(t))是下鞅。例如,M(t)2M(t)^2是下鞅(ϕ(x)=x2\phi(x) = x^2凸)。

6.3 应用:公平赌博与最优停时#

停时(Stopping Time):一个随机变量τ\tau称为关于Ft\mathcal{F}_t的停时,若对任意tt{τt}Ft\{\tau \leq t\} \in \mathcal{F}_t(即“是否在tt时刻前停止”由当前信息决定)。

鞅的停时定理:若τ\tau是有界停时(存在TT使τT\tau \leq T a.s.),则E[M(τ)]=E[M(0)]E[M(\tau)] = E[M(0)]

应用:在公平赌博中,无论采用何种停时策略(如“赢到100元就停”),最终收益的期望等于初始赌本,无法通过策略改变期望收益。这表明“赌博必胜法”不存在。

7. 随机过程的应用领域#

随机过程理论已渗透到自然科学、工程技术、社会科学等多个领域,以下列举典型应用:

7.1 金融学:风险建模与期权定价#

  • 资产价格建模:用几何布朗运动描述股票、汇率等资产价格的波动;
  • 风险度量:利用马尔可夫链模型信用评级转移,计算违约概率;
  • 期权定价:Black-Scholes模型基于布朗运动和鞅定价理论,为衍生品定价提供统一框架;
  • 风险管理:通过随机过程模拟市场极端事件(如“黑天鹅”),评估风险价值(VaR)。

7.2 物理学:扩散与热传导#

  • 扩散过程:布朗运动是扩散方程ut=D2ux2\frac{\partial u}{\partial t} = D \frac{\partial^2 u}{\partial x^2}的基本解,描述粒子在介质中的随机扩散;
  • 热传导:温度场的演化可通过随机过程建模,与布朗运动的概率分布有深刻联系;
  • 统计力学:马尔可夫链蒙特卡洛(MCMC)方法用于模拟复杂系统的平衡态分布。

7.3 工程学:信号处理与通信#

  • 噪声建模:电子系统中的热噪声、散粒噪声可建模为平稳过程或白噪声(功率谱密度为常数的宽平稳过程);
  • 信道编码:利用马尔可夫链模型分析通信信道的误码率;
  • 控制理论:随机控制中,用伊藤积分(基于布朗运动的随机积分)描述系统的随机扰动。

7.4 生物学:种群动态与流行病传播#

  • 种群增长:生灭过程可模拟种群数量的随机变化(出生为“生”,死亡为“死”);
  • 流行病传播:SIR模型(易感者-感染者-康复者)可扩展为随机过程,考虑感染率、康复率的随机性;
  • 基因漂移:群体遗传学中,等位基因频率的变化可用随机游走或扩散过程描述。

8. 随机过程的数值模拟#

由于随机过程的解析解往往难以获得,数值模拟成为研究其性质和应用的重要工具。

8.1 蒙特卡洛方法简介#

蒙特卡洛方法(Monte Carlo Method)通过生成大量随机样本,利用大数定律近似计算概率、期望等统计量。其核心思想是:

E[X]1Ni=1NXiE[X] \approx \frac{1}{N} \sum_{i=1}^N X_i

其中X1,,XNX_1, \ldots, X_N是独立同分布的样本。

步骤

  1. 构建与问题相关的随机过程模型;
  2. 生成过程的样本路径;
  3. 对样本路径进行统计分析(如计算均值、方差、概率等)。

8.2 马尔可夫链蒙特卡洛(MCMC)#

当目标分布复杂(如高维、无显式密度)时,MCMC通过构造一个平稳分布为目标分布的马尔可夫链,生成样本并进行统计推断。Metropolis-Hastings算法是最基本的MCMC方法:

  1. 从当前状态xx,按 proposal 分布q(yx)q(y | x)生成候选状态yy
  2. 计算接受概率α(x,y)=min(1,π(y)q(xy)π(x)q(yx))\alpha(x, y) = \min\left(1, \frac{\pi(y) q(x | y)}{\pi(x) q(y | x)}\right)
  3. 以概率α\alpha接受yy,否则保留xx

MCMC在贝叶斯统计、机器学习(如深度信念网络训练)中应用广泛。

8.3 布朗运动的模拟实现#

标准布朗运动W(t)W(t)的样本路径可通过以下步骤模拟:

  1. 将时间区间[0,T][0, T]离散化为NN步,步长Δt=T/N\Delta t = T/N
  2. 生成独立同分布的正态随机变量ξ1,,ξNN(0,Δt)\xi_1, \ldots, \xi_N \sim N(0, \Delta t)
  3. 构造路径:W(0)=0W(0) = 0W(kΔt)=W((k1)Δt)+ξkW(k \Delta t) = W((k-1)\Delta t) + \xi_k

Python代码示例

import numpy as np
import matplotlib.pyplot as plt
 
T = 1.0  # 总时间
N = 1000  # 步数
dt = T / N  # 步长
t = np.linspace(0, T, N+1)  # 时间网格
xi = np.random.normal(0, np.sqrt(dt), N)  # 增量
W = np.zeros(N+1)
W[1:] = np.cumsum(xi)  # 累积和构造路径
 
plt.plot(t, W)
plt.xlabel('t')
plt.ylabel('W(t)')
plt.title('Simulation of Standard Brownian Motion')
plt.show()

9. 总结与展望#

本文系统介绍了随机过程的核心概念、基本模型(马尔可夫链、泊松过程、布朗运动、鞅)及其应用。从数学基础到实际案例,我们看到随机过程如何为不确定性现象提供精确的建模工具:

  • 理论层面:随机过程将概率理论从静态推广到动态,通过有限维分布族、马尔可夫性、鞅性等概念刻画系统的演化规律;
  • 应用层面:从金融市场的期权定价到物理学的扩散方程,从通信系统的噪声分析到生物学的种群模型,随机过程无处不在。

未来方向

  • 高维随机过程:大数据时代,高维系统(如多资产金融市场、神经网络动力学)的随机建模是挑战;
  • 非高斯过程:实际中许多现象不服从正态分布,需研究Levy过程、分数布朗运动等非高斯模型;
  • 机器学习与随机过程的融合:利用随机过程理论分析深度学习的泛化能力、优化动态,或用机器学习方法加速随机过程的模拟与推断。

随机过程是一门“描述不确定性的数学”,掌握它不仅能提升我们对随机世界的理解,更能为解决复杂实际问题提供强大工具。

10. 参考文献#

  1. 陈木法. (2007). 随机过程论. 北京师范大学出版社.
  2. Ross, S. M. (2014). Introduction to Probability Models (11th ed.). Academic Press.
  3. Karlin, S., & Taylor, H. M. (1975). A First Course in Stochastic Processes. Academic Press.
  4. Klebaner, F. C. (2012). Introduction to Stochastic Calculus with Applications (3rd ed.). Imperial College Press.
  5. Øksendal, B. (2003). Stochastic Differential Equations: An Introduction with Applications (6th ed.). Springer.
  6. 王梓坤. (1996). 概率论基础及其应用. 科学出版社.