如需转载，请注明出处：danscarlett的博客园
参考资料：北京邮电大学出版社《概率论与随机过程》
为了更好地理解隐马尔科夫链，特意翻出了随机过程的教科书来进行学习。以下是我整理出的笔记。
注意：这只是为理解隐马尔科夫链做准备的。学习概率论的同学请转到其他博客~
一 随机过程的概念
1 随机过程的概念
随机变量的特点：在每次试验的结果中，以一定的概率取某些实现未知、但为确定的“数值”。
在实际问题中，我们需要研究在试验过程中随着时间而变化的随机变量，即随时间的改变而随机变化的过程。
随机过程：随参数（比如时间）改变而随机变化的过程称为随机过程，把这个参数称为时间。
在一次试验中，随机过程取一个样本向量或样本数列或样本函数，但究竟取哪一个则带有随机性。但在大量的观察中，样本的出现是有统计规律性的。
2 随机过程的分类
（1）连续型随机过程：T是连续集，且对于任意的t∈T，X(t)是连续型随机变量，也就是时间和状态皆为连续的情况。
（2）离散型随机过程：T是连续集，且对于任意的t∈T，X(t)是离散型随机变量。
（3）连续型随机序列：T是离散集，且对于任意的t∈T，X(t)是连续型随机变量，它对应于时间离散、状态连续的情况，实际上，它可以用队连续性随机变量进行顺序等时间间隔采样得到。。
（4）离散型随机序列：随机数字序列，随机过程的时间和状态都是离散的，为了适应数字化的需求，对连续型随机过程进行等时间间隔采样，派兵将采样值量化、分层，即得到这种连三随机过程，
由以上可知，最基本的是连续型随机过程，其他三类只是对它做离散处理而得。
2 随机过程的概率分布和数字特征
1 随机过程的概率分布
随机过程在任一时刻的状态是随机变量，由此可以利用随机变量的统计描述方法来描述随机过程的统计特性。
给定随机过程{X(t)}，对于每个特定的t∈T,随机变量X(t)的分布函数一般与t有关，记为
F(x,t) = P{X(t)≤x},x∈R1
称他为随机过程{X(t)}的以为分布函数，称
F1 = {F(x,t),t∈T}
为{X(t)}的一维分布函数。
对于取定的n，我们称
Fn={F(x1,x2,…,xn;t1,t2,…,tn)，ti∈T，i=1,2,……,n}
随机过程的有限维分布函数族能完整地刻画随机过程的统计特征。
2 随机过程的数字特征
（略，请双击上方小标题查看）
三 几类重要的随机过程
1 马尔可夫过程
当过程在时刻 t0 所处的状态为已知时，过程在时刻t(t > t0 )处的状态，而与过程在 t0 时刻以前所处的状态无关。这种特性称为无后效性或者马尔可夫性。
2 平稳过程
过程的统计特性不随时间的推移而改变，
3 高斯(正态)随机过程
如果对任意正整数n，任意t1,t2,t3……tn∈T，X（t1）,X(t2),……X(tn)的联合分布是n维正态分布，则称{X（t）}是高斯过程或者正态过程。