随机过程知识点汇总
第一章 随机过程的基本概念与基本类型 一．随机变量及其分布
1．随机变量X ， 分布函数)()(x X P x F ≤=
离散型随机变量X 的概率分布用分布列 )(k k x X P p == 分布函数∑=k
p
x F )(
连续型随机变量X 的概率分布用概率密度)(x f 分布函数?
∞
-=x
dt t f x F )()(
2．n 维随机变量),,,(21n X X X X =
其联合分布函数),,,,(),,,()(221121n n n x X x X x X P x x x F x F ≤≤≤== 离散型 联合分布列 连续型 联合概率密度 ３．随机变量的数字特征
数学期望：离散型随机变量X ∑=
k k p x EX 连续型随机变量X ?∞
∞-=dx x xf EX )(
方差：2
2
2
)()(EX EX EX X E DX -=-= 反映随机变量取值的离散程度 协方差（两个随机变量Y X ,）：EY EX XY E EY Y EX X E B XY ?-=--=)()])([( 相关系数（两个随机变量Y X ,）：DY
DX B XY XY ?=
ρ 若0=ρ，则称Y X ,不相关。
独立?不相关?0=ρ
４．特征函数)()(itX
e
E t g = 离散 ∑=k itx p e
t g k
)( 连续 ?∞
∞-=dx x f e t g itx )()(
重要性质：1)0(=g ，1)(≤t g ，)()(t g t g =-，k k k EX i g =)0(
５．常见随机变量的分布列或概率密度、期望、方差
０－１分布 q X P p X P ====)0(,)1( p EX = pq DX =
二项分布 k
n k k n q p C k X P -==)( np EX = npq DX =
泊松分布 !
)(k e
k X P k
λλ
-== λ=EX λ=DX 均匀分布略
正态分布),(2
σa N 2
22)(21)(σσ
πa x e
x f --
=
a EX = 2
σ=DX
指数分布 ???<≥=-0,
00,)(x x e x f x λλ λ1=EX 21
λ=DX
６．Ｎ维正态随机变量),,,(21n X X X X =的联合概率密度),(~B a N X
)}()(2
1
ex p{|
|)2(1),,,(12
12
21a x B a x B x x x f T n
n ---=
-π
),,,(21n a a a a =，),,,(21n x x x x =，n n ij b B ?=)(正定协方差阵
二．随机过程的基本概念 １．随机过程的一般定义
设),
(P Ω是概率空间，T 是给定的参数集，若对每个T t ∈，都有一个随机变量X 与之对应，
则称随机变量族{}T t e t X ∈),,(是),
(P Ω上的随机过程。简记为{}T t t X ∈),(。
含义：随机过程是随机现象的变化过程，用一族随机变量才能刻画出这种随机现象的全部统计规
律性。另一方面，它是某种随机实验的结果，而实验出现的样本函数是随机的。
当t 固定时，),(e t X 是随机变量。当e 固定时，),(e t X 时普通函数，称为随机过程的一个样本函数或轨道。
分类：根据参数集T 和状态空间I 是否可列，分四类。 也可以根据)(t X 之间的概率关系分类，如独立增量过程，马尔可夫过程，平稳过程等。 ２．随机过程的分布律和数字特征
用有限维分布函数族来刻划随机过程的统计规律性。随机过程{}T t t X ∈),(的一维分布，二维分布，…，n 维分布的全体称为有限维分布函数族。随机过程的有限维分布函数族是随机过程概率特征的完整描述。在实际中，要知道随机过程的全部有限维分布函数族是不可能的，因此用某些统计特征来取代。
（１）均值函数)()(t EX t m X = 表示随机过程{}T t t X ∈),(在时刻t 的平均值。 （２）方差函数2
)]()([)(t m t X E t D X X -=表示随机过程在时刻t 对均值的偏离程度。
（３）协方差函数
)
()()]()([))]
()())(()([(),(t m s m t X s X E t m t X s m s X E t s B X X X X X -=--= 且有)(),(t D t t B X X =
（４）相关函数)]()([),(t X s X E t s R X = (3)和(4)表示随机过程在时刻s ，t 时的线性相关程度。
（５）互相关函数：{}T t t X ∈),(，{
}T t t Y ∈),(是两个二阶距过程，则下式称为它们的互协方差函数。
)
()()]()([))]
()())(()([(),(t m s m t Y s X E t m t Y s m s X E t s B Y X Y X Y X -=--=，那么)]()([),(t Y s X E t s R XY =，称为互相关函数。
若)()()]()([t m s m t Y s X E Y X =，则称两个随机过程不相关。 ３．复随机过程 t t t jY X Z +=
均值函数t t Z jEY EX t m +=)( 方差函数
]))(())([(|])([|)(2t m Z t m Z E t m Z E t D Z t Z t Z t Z --=-=
协方差函数
)
()(][]
))(())([(),(t m s m Z Z E t m Z s m Z E t s B Z Z t s Z t Z s Z -=--=相关函数][),(t s Z Z Z E t s R =
４．常用的随机过程
（１）二阶距过程：实（或复）随机过程{}T t t X ∈),(，若对每一个T t ∈，都有∞<2
)(t X E （二
阶距存在），则称该随机过程为二阶距过程。
（2）正交增量过程：设{}T t t X ∈),(是零均值的二阶距过程，对任意的T t t t t ∈<<<4321，有
0]))()(())()([(3412=--t X t X t X t X E ，则称该随机过程为正交增量过程。
其协方差函数)),(m in(),(),(2
t s t s R t s B X X X σ==
（3）独立增量过程：随机过程{}T t t X ∈),(，若对任意正整数2≥n ，以及任意的T t t t n ∈<<< 21，随机变量)()(,),()(),()(13412----n n t X t X t X t X t X t X 是相互独立的，则称{}T t t X ∈),(是独立增量过程。 进一步，如{}T t t X ∈),(是独立增量过程，对任意t s <，随机变量)()(s X t X -的分
布仅依赖于s t -，则称{}T t t X ∈),(是平稳独立增量过程。
（4）马尔可夫过程：如果随机过程{}T t t X ∈),(具有马尔可夫性，即对任意正整数n 及
T t t t n ∈<<< 21，0))(,,)((1111>==--n n x t X x t X P ，都有
{}{}111111)()()(,,)()(----=≤===≤n n n n n n n n x t X x t X P x t X x t X x t X P ，则则称{}
T t t X ∈),(是马尔可夫过程。
（5）正态过程：随机过程{}T t t X ∈),(，若对任意正整数n 及T t t t n ∈,,,21 ，（)()(),(21n t X t X t X ）是n 维正态随机变量，其联合分布函数是n 维正态分布函数，则称
{}T t t X ∈),(是正态过程或高斯过程。
（6）维纳过程：是正态过程的一种特殊情形。
设{
}∞<<-∞t t W ),(为实随机过程，如果，①0)0(=W ；②是平稳独立增量过程；③对任意t s ,增量)()(s W t W -服从正态分布，即0)
,0(~)()(22
>--σσs t N s W t W 。则称
{}∞<<-∞t t W ),(为维纳过程，或布朗运动过程。
另外：①它是一个Markov 过程。因此该过程的当前值就是做出其未来预测中所需的全部信息。 ②维纳过程具有独立增量。该过程在任一时间区间上变化的概率分布独立于其在任一的其他时间区间上变化的概率。③它在任何有限时间上的变化服从正态分布，其方差随时间区间的长度呈线性增加。 （7）平稳过程： 严（狭义）平稳过程：{}T t t X ∈),(，如果对任意常数τ和正整数n 及T t t t n ∈,,,21 ，
T t t t n ∈+++τττ,,,21 ，（)()(),(21n t X t X t X ）与（)()(),(21τττ+++n t X t X t X ）有相
同的联合分布，则称{}T t t X ∈),(是严（狭义）平稳过程。
广义平稳过程：随机过程{}T t t X ∈),(，如果①{}T t t X ∈),(是二阶距过程；②对任意的T t ∈，
常数==)()(t EX t m X ；③对任意T t s ∈，，)()]()([),(s t R t X s X E t s R X X -==，或仅与时间
差s t -有关。则满足这三个条件的随机过程就称为广义平稳过程，或宽平稳过程，简称平稳过程。
第二章 泊松过程
一．泊松过程的定义（两种定义方法）
１，设随机计数过程{}(),0X t t ≥，其状态仅取非负整数值，若满足以下三个条件，则称：
{}T t t X ∈),(是具有参数λ的泊松过程。①(0)0X =；②独立增量过程，对任意正整数n ，以及任意的
T t t t n ∈<<< 21)()(,),()(),()(12312----n n t X t X t X t X t X t X 相互独立，即不同时间间隔
的计数相互独立；③在任一长度为t 的区间中，事件Ａ发生的次数服从参数0t λ>的的泊松分布，即对任意,0t s >，有{}()()()0,1,
!
n
t
t P X t s X s n e
n n λλ-+-==
=
[()]E X t t λ=，[()]
E X t t
λ=
，表示单位时间内时间Ａ发生的平均个数，也称速率或强度。 ２，设随机计数过程{}(),0X t t ≥，其状态仅取非负整数值，若满足以下三个条件，则称：{}(),0X t t ≥是具有参数
λ的泊松过程。①(0)0X =；②独立、平稳增量过程；③
{}{}()()1()
()()2()
P X t h X t h o h P X t h X t o h λ+-==+???
+-≥=??。 第三个条件说明，在充分小的时间间隔内，最多有一个事件发生，而不可能有两个或两个以上事件同时发生，也称为单跳性。 二．基本性质
１，数字特征 ()[()][()]X m t E X t t D X t λ=== (1)
(,)(1)
X s t s t R s t t s s t
λλλλ+
+≥?
(,)(,)()()min(,)X X X X B s t R s t m s m t s t λ=-= 推导过程要非常熟悉
２，n T 表示第1n -事件Ａ发生到第n 次事件发生的时间间隔，{},1n T n ≥是时间序列，随机变量n
T 服从参数为λ的指数分布。概率密度为,0()0,0t e t f t t λλ-?≥=?
()0,0n t T e t F t t λ-?-≥=?
均值
为1
n ET λ
=
证明过程也要很熟悉 到达时间的分布 略
三．非齐次泊松过程 到达强度是t 的函数
①(0)0X =；②独立增量过程；③{}{
}()()1()()
()()2()P X t h X t t h o h P X t h X t o h λ+-==+???+-≥=??。 不具有平稳增量
性。
均值函数0
()[()]()t
X m t E X t s ds λ==
?
定理：{}(),0X t t ≥是具有均值为0
()()t
X m t s ds λ=
?的非齐次泊松过程，则有
{}{}[()()]()()exp [()()]!
n
X X X X m t s m t P X t s X t n m t s m t n +-+-==-+-
四．复合泊松过程
设{}(),0N t t ≥是强度为λ的泊松过程，{},1,2,
k Y k =是一列独立同分布的随机变量，且与
{}(),0N t t ≥独立，令()
1
()N t k k X t Y ==∑
则称{}(),0X t t ≥为复合泊松过程。
重要结论：
{}(),0X t t ≥是独立增量过程；若
21()E Y <∞，则1[()]()E X t tE Y λ=，
21[()]()D X t tE Y λ=
第五章 马尔可夫链
泊松过程是时间连续状态离散的马氏过程，维纳过程是时间状态都连续的马氏过程。时间和状态都离散的马尔可夫过程称为马尔可夫链。
马尔可夫过程的特性：马尔可夫性或无后效性。即：在过程时刻0t 所处的状态为已知的条件下，过程在时刻0t t >所处状态的条件分布与过程在时刻0t 之前所处的状态无关。也就是说，将来只与现在
有
关
，
而
与
过
去
无
关
。
表
示
为
{}{}111111)()()(,,)()(----=≤===≤n n n n n n n n x t X x t X P x t X x t X x t X P
一．马尔可夫链的概念及转移概率
1．定义：设随机过程{},∈n X n T ，对任意的整数∈n T 和任意的011,,
,n i i i I +∈，条件概率满足
{}{}11001111,,
,n n n n n n n n P X i X i X i X i P X i X i ++++=======，则称{},∈n X n T 为马尔可夫
链。
马尔可夫链的统计特性完全由条件概率{}
11n n n n P X i X i ++==所决定。
2．转移概率 {}
1n n P X j X i +==相当于随机游动的质点在时刻n 处于状态i 的条件下，下一步转
移到j 的概率。记为()ij p n 。则()ij p n {}
1n n P X j X i +===称为马尔可夫链在时刻n 的一步转移概率。若齐次马尔可夫链，则()ij p n 与n 无关，记为ij p 。
[]
,1,2,
ij P p i j I I =∈= 称为系统的一步转移矩阵。性质：每个元素0ij p ≥，每行的和
为1。
3．n 步转移概率()n ij p ={}
m n m P X j X i +== ；()()[],1,2,n n ij P p i j I I =∈=称为n 步转
移矩阵。 重要性质：①()
()()n l n l ij ik kj k I
p p p -∈=∑ 称为C K -方程，证明中用到条件概率的乘法公式、马尔可夫
性、齐次性。
掌握证明方法：
{}{}{}
{}
{}
{}{}{}
{}
()()()()()
,,,,,,,()()m m n n ij m n m m m m l m n k T
m m m l m n m m l k T
m m l m n l l l n l kj ik ik kj k I
k I
P X i X j p P X j X i P X i P X i X k X j P X i P X i X k X j P X i X k P X i X k P X i p m l p m p p ++++∈+++∈+--∈∈==================?
====+?=?∑
∑
∑∑
②()
n n P
P = 说明n 步转移概率矩阵是一步转移概率矩阵的n 次乘方。
4．{},∈n X n T 是马尔可夫链，称{}0j p P X j ==为初始概率，即0时刻状态为j 的概率；称
{}()j n p n P X j ==为绝对概率，即n 时刻状态为j 的概率。{}12(0),,T P p p =为初始概率向量，
{}12()(),(),
T P n p n p n =为绝对概率向量。
定理：①()
()n j i ij
i I
p n p p
∈=
∑矩阵形式：()
()(0)T T n P n P P
=②()(1)j i ij
i I
p n p n p
∈=
-∑
定理：{}1
11122,,
,n n n n i ii i i i I
P X i X i X i p p p -∈====∑ 说明马氏链的有限维分布完全由它的初
始概率和一步转移概率所决定。