语音识别中GMM-HMM的相关知识

本文讲阐述在语音识别中GMM-HMM的知识。其中包括了对GMM（Gauss Mixture Model）和HMM（Hidden Markov Model）的定义、原理及其算法的介绍。

GMM（高斯混合模型）

设有随机变量X，则混合高斯模型可以用下式表示：

p (x) = \sum_{k = 1}^{K} π_{n} N (x | μ_{k}, \sum_{k})

其中

N (x | μ_{k}), \sum_{k}

称为高斯混合模型中的第K个分量。且满足：

\sum_{k = 1}^{K} π_{k} = 1 ， 0 \leq π_{k} \leq 1

可以看到

π_{k}

相当于每个分量

N (x | μ_{k}, \sum_{k})

的权重。

GMM参数估计过程

GMM的贝叶斯理解

在GMM的定义中， $π_{k}$ 是混合系数，表示第K个分布被选中的概率。下面引入一个K维随机变量Z，其中 $z_{k}$ 定义如下：

z_{k} = {\begin{matrix} 1 & s e l e c t & k \\ 0 & o t h e r s \end{matrix}, 1 \leq k \leq K

记第k个分布被选中的概率为

p (z_{k} = 1) = p_{k}

，那么第k个分布未被选中的概率为

p (z_{k} = 0) = 1 - p_{k}

。因此，有：

\sum_{K} z_{k} = 1

。假设

z_{k}

之间是独立同分布的，则z的联合概率分布形式为：

p (z) = p (z_{1}) p (z_{2}) . . . p (z_{k}) = \prod_{k = 1}^{K} p_{k}^{z_{k}}

类似的，给定z的一个特定的值，x关于z的条件概率分布是一个高斯分布

p (x | z_{k} = 1) = N (x | m_{k}, \sum_{k})

，也可以写成

p (x | z) = \prod_{k = 1}^{K} N {(x | m, \sum_{k})}^{z_{k}}

联合概率分布为

p (z) p (x | z)

，从而x的边缘概率分布可以通过将联合概率分布对所有的z求和的方式得到，即

p (x) = \sum_{Z} p (z) p (x | z) = \sum_{k = 1}^{K} (\prod_{k = 1}^{K} (p_{k}^{z_{k}}) N {(x | m_{k}, \sum_{k})}^{z_{k}}) = \sum_{k = 1}^{K} p_{k} N (x | m_{k}, \sum_{k})

根据贝叶斯定理，后验概率可以表示为：

γ (z_{k}) = p (z_{k} = 1 | x) = p (z_{k} = 1) p (x | z_{k} = 1) / \sum_{j = 1}^{K} p (z_{j} = 1) p (x | z_{j} = 1) = π_{k} N (x | μ_{k}, \sum_{k}) / \sum_{j = 1}^{K} π_{j} N (x | μ_{j}, \sum_{j})

EM 算法估计GMM参数

EM算法分两步，第一步先求出要估计参数的粗略值，第二部使用第一步的值最大似然估计。因此要先求出GMM的似然函数。
假设 $x = {x_{1}, x_{2}, . . ., x_{N}}$ ，GMM模型中有三个参数需要估计，分别为 $π, μ, \sum$ 。并且有：

p (x | π, μ, \sum) = \sum_{k = 1}^{K} π_{k} N (x | μ_{k}, \sum_{k})

为了估计这三个参数，需要分别求解出这三个参数的最大似然函数。先求解

μ_{k}

的最大似然函数。对上式取对数后在对

μ_{k}

求导并令导数为0即得到最大似然函数。

0 = - \sum_{n = 1}^{N} π_{k} N (x_{n} | μ_{k}, \sum_{k}) \sum_{k} (x_{n} - μ_{k}) / \sum_{j} π_{k} N (x_{n} | μ_{j}, \sum_{j})

注意到上式中分数的一项的形式正好是后验概率的形式。两边同乘

\sum_{k}^{- 1}

，重新整理可以得到：

μ_{k} = (1 / N_{k}) \sum_{n = 1}^{N} γ (z_{n k}) x_{n}

其中：

N_{k} = \sum_{n = 1}^{N} γ (z_{n k})

上面两式中，N表示点的数量。

γ (z_{n k})

表示点属于聚类k的后验概率。则

N_{k}

可以表示属于第k个聚类的点的数量。那么

μ_{k}

表示所有点的加权平均，每个点的权值是

\sum_{n = 1}^{N} γ (z_{n k})

，跟第k个聚类有关。
同理可求

\sum_{k}

的最大似然函数，可以得到：

\sum_{k} = (1 / N_{k}) \sum_{n = 1}^{N} γ (z_{n k}) (x_{n} - μ_{k}) {(x_{n} - μ_{k})}^{T}

最后剩下

π_{k}

的最大似然函数。注意到

π_{k}

有限制条件

\sum_{k = 1}^{K} π_{k} = 1

，因此我们需要加入拉格朗日因子

l n p (x | π, μ, \sum) + λ (\sum_{k = 1}^{K} π_{k} - 1)

求上式关于

π_{k}

的最大似然函数，得到：

0 = \sum_{n = 1}^{N} (N (x_{n} | μ_{k}, \sum_{k}) / \sum_{j} π_{j} N (x_{n} | μ_{j}, \sum_{j})) + λ

上式两边同乘

π_{k}

，可以得到

λ = - N

，进而可以得到

π_{k}

更简洁的表达式：

π_{k} = N_{k} / N

EM算法估计GMM参数化

μ_{k} = (1 / N_{k}) \sum_{n = 1}^{N} γ (z_{n k}) x_{n}

\sum_{k} = (1 / N_{k}) \sum_{n = 1}^{N} γ (z_{n k}) (x_{n} - μ_{k}) {(x_{n} - μ_{k})}^{T}

π_{k} = N_{k} / N

需要用到以上式子。我们先指定

π

，

μ

，

\sum

(以下将以上三式称为1,2,3)的初始值，带入后验概率公式计算出

γ (z_{n k})

，然后再将带入(1,2,3)式，得到

π_{k}, μ_{k}, \sum_{k}

；接着用求得的

π_{k}, μ_{k}, \sum_{k}

再带入后验概率公式得到新的

γ (z_{n k})

，再将更新后的带入(1,2,3)，如此往复，直到算法收敛。

EM 算法

1.定义分量数目K，对每个分量k设置 $π_{k}, μ_{k}, \sum_{k}$ 的初始值，然后计算

p (x | π, μ, \sum) = \sum_{k = 1}^{K} π_{k} N (x | μ_{k}, \sum_{k})

的对数似然函数。
2.E step
根据当前的

π_{k}, μ_{k}, \sum_{k}

计算后验概率

γ (z_{n k})

γ (z_{n k}) = π_{k} N (x_{n} | μ_{n}, \sum_{n}) / \sum_{j = 1} π_{j} N (x_{n} | μ_{j}, \sum_{j})

3.M step
根据E step中计算

γ (z_{n k})

再计算新的

π_{k}, μ_{k}, \sum_{k}

μ_{k}^{n e w} = (1 / N_{k}) \sum_{n = 1}^{N} γ (z_{n k}) x_{n}

\sum_{k}^{n e w} = (1 / N_{k}) \sum_{n = 1}^{N} γ (z_{n k}) (x_{n} - μ_{k}^{n e w}) {(x_{n} - μ_{k}^{n e w})}^{T}

π_{k}^{n e w} = N_{k} / N

其中：

N_{k} = \sum_{n = 1}^{N} γ (z_{n k})

4.计算后验概率的对数似然函数

l n p (x | π, μ, \sum) = \sum_{n = 1}^{N} l n {\sum_{k = 1}^{K} π_{k} N (x_{k} | μ_{k}, \sum_{k})}

5.检查参数是否收敛或对数似然函数是否收敛，若不收敛，则返回第2步。

HMM（隐马尔科夫模型）

隐马尔科夫模型是关于时序的概率模型，描述由一个隐蔽的马尔科夫链随机生成不可观测的状态随机序列，再由各个状态生成一个观测而产生观测随机序列的过程。隐藏的马尔科夫链随机生成的状态的序列，称为状态序列（state sequence）；每个状态生成一个观测，而由此产生的观测的随机序列，称为观测序列（observation sequence）。序列的每一个位置又可以看作是一个时刻。隐马尔科夫模型是统计模型，它用来描述一个含有隐含未知参数的马尔科夫过程。其难点是从可观察的参数中确定该过程的隐含参数。然后利用这些参数来做进一步的分析，例如模型识别。
隐马尔科夫模型由初始概率分布、状态转移概率分布以及观测概率分布确定。其形式定义如下：
设Q是所有可能的状态集合，V是所有可能的观测的集合。

Q = {q_{1}, q_{2}, . . ., q_{N}} ， V = {v_{1}, v_{2}, . . ., v_{M}}

其中，N是可能的状态数，M是可能的观测数。
I是长度为T的状态序列，O是对应的观测序列。

I = {i_{1}, i_{2}, . . ., i_{T}} ， O = {o_{1}, o_{2}, . . ., o_{T}}

A是状态转移概率矩阵:

A = {[a_{i j}]}_{N \times N}

其中，

a_{i j} = P (i_{t + 1} = q | i_{t} = q_{i}) ， i = 1, 2, . . ., N ； j = 1, 2, . . ., N

是在时刻t处于状态

q_{i}

的条件下在时刻t+1转移状态

q_{j}

的概率。
B是观测概率矩阵：

B = {[b_{j} (k)]}_{N \times N}

其中，

b_{j} (k) P (o_{t} = v_{k} | i_{t} = q_{j}) ， k = 1, 2, . . ., M ； j = 1, 2, . . ., N

是在时刻t处于状态

q_{j}

的条件下生成观测

v_{k}

的概率。

π

是初始状态概率向量：

π = (π_{i})

其中，

π_{i} = P (i_{1} = q_{i}) ， i = 1, 2, . . . N

是时刻t=1处于状态

q_{i}

的概率。
隐马尔科夫模型由初始概率向量

π

,状态转移矩阵A和观测概率矩阵B决定。

π

和A决定状态序列，B决定观测序列。因此，隐马尔科夫模型

λ

可以用三元符号表示，即

λ = (A, B, π)

A,B,

λ

称为隐马尔科夫模型的三要素。
从定义可知，隐马尔科夫模型做了两个基本假设：
（1）齐次马尔科夫性假设，即假设隐藏的马尔科夫链在任意时刻t的状态只依赖于其前一个状态，与其他时刻的状态及观测无关，也与时刻t无关。

P (i_{t} | i_{t - 1}, o_{t - 1}, . . ., i_{1}, o_{1}) = P (i_{1} | i_{t - 1})

（2）观测独立性假设，即假设任意时刻的观测只依赖于该时刻的马尔科夫链的状态，与其他观测及状态无关。

P (o_{t} | i_{T}, o_{T}, i_{T - 1}, o_{T - 1}, . . ., i_{t + 1}, o_{t + 1}, i_{t}, i_{t - 1}, o_{t - 1}, . . ., i_{1}, o_{1}) = P (i_{1} | i_{t - 1})

下面给出一个隐马尔科夫的例子。
假设存在三个不同的骰子。第一个骰子是六面体（这里成为D6），每个面（1，2，3，4，4，5，6）出现的概率均为1/6。第二个骰子是个四面体（D4），每个面（1，2，3，4）出现的概率为1/4。第三个骰子是八面体（D8），每个面（1，2，3，4，5，6，7，8）出现的概率是1/8。
语音识别中GMM-HMM的相关知识

假设我们开始投掷骰子，我们先从三个骰子中挑一个挑到任何一个的概率均为1/3，然后投掷骰子，得到一个数字，1，2，3，4，5，6，7，8中的一个。我们不停的重复上述过程，我们便可以得到一串数字，每个数字都是1，2，3，4，5，6，7，8中的一个。比如我们投掷5次骰子得到五个数字1，6，3，5，2，这串数字叫做可见状态链。但是在隐马尔科夫模型中，我们不仅仅有这么一串可见状态链，还有一串隐含状态链。比如这个例子中的隐含状态链就有可能是D6,D8,D8,D6,D4 。
一般来说，HMM说到的马尔科夫链其实是指隐马尔科夫链，因为隐含状态之间存在转换概率，在我们这个例子中D6的的下一个状态是D4,D6,D8的概率都是1/3。D4,D8的下一个状态是D4,D6,D8的概率也是1/3。我们假定是为了更好的说清楚，但是我们其实可以随意设定转换概率的。
同样的，尽管可见状态之间没有转换概率，但是隐含状态和可见状态之间有输出概率。如图所示
语音识别中GMM-HMM的相关知识

如果提前知道所有隐含状态之间的转换概率和输出概率，做模拟是相当容易的。但对于缺失的信息做起来就相当麻烦了，需要一些算法进行处理，这些算法我们在后面讲解。

观测序列的生成过程

输入：隐马尔科夫模型 $λ = (A, B, π)$ ，观测序列长度T
输出：观测序列 $O = (o_{1}, o_{2}, . . ., o_{T})$ 。
（1）按照初始状态分布 $π$ 产生状态 $i_{1}$
（2）令t=1
（3）按照状态 $i_{t}$ 的观测概率分布 $b_{i_{t}} (k)$ 生成 $o_{t}$
（4）按照状态 $i_{t}$ 的状态转移概率分布 ${a_{i_{t}, i_{t + 1}}}$ 产生状态 $i_{t + 1} ， i_{t + 1} = 1, 2, . . . N$
（5）令t=t+1；如果t

隐马尔科夫模型的3个基本问题

（1）概率计算问题。给定模型 $λ = (A, B, π)$ 和观测序列 $O = (o_{1}, o_{2}, . . ., o_{T})$ ，计算在模型 $λ$ 下序列O出现的概率 $P (O | λ)$ 。
（2）学习问题。已知观测序列 $O = (o_{1}, o_{2}, . . ., o_{T})$ ，估计模型 $λ = (A, B, π)$ 参数，使得在该模型下观测序列概率 $P (O | λ)$ 最大。即使用极大似然估计的方法估计参数。
（3）预测问题，也称为解码问题。已知模型 $λ = (A, B, π)$ 和观测序列 $O = (o_{1}, o_{2}, . . ., o_{T})$ ，求对给定观测序列条件概率 $P (O | I)$ 最大的状态序列 $I = (i_{1}, i_{2}, . . ., i_{T})$ 。
接下来我们将逐一介绍这三个基本问题的解法。

概率计算方法

在介绍前向算法和后向算法前，先介绍概念上可行但计算上不可行的直接计算法。

直接计算法

给定模型 $λ = (A, B, π)$ 和观测序列 $O = (o_{1}, o_{2}, . . ., o_{T})$ ，计算观测序列出现的概率 $P (O | λ)$ 。最直接的方法就是按照公式直接计算。通过列举所有可能的的长度为 $T$ 的序列 $I = (i_{1}, i_{2}, . . ., i_{T})$ ，求各个状态序列 $I$ 与观测序列 $O = (o_{1}, o_{2}, . . ., o_{T})$ 的联合概率 $P (O, I | λ)$ ,然后对所有可能的状态序列求和，得到 $P (O | λ)$
状态序列 $I = (i_{1}, i_{2}, . . ., i_{T})$ 的概率是

P (I | λ) = π_{i_{1}} a_{i_{1} i_{2}} a_{i_{3} i_{4}} . . . a_{i_{T - 1} i_{T}}

对于固定的状态序列

I = (i_{1}, i_{2}, . . ., i_{T})

，观测序列

O = (o_{1}, o_{2}, . . ., o_{T})

的概率是

P (O | I, λ)

，

P (O | I, λ) = b_{i_{1}} (o_{1}) b_{i_{2}} (o_{2}) . . . b_{i_{T}} (o_{T})

O

和

I

同时出现的联合概率为

P (O, I | λ) = P (O | I, λ) P (I | λ)

然后，对所有可能的状态序列

I

求和，得到观测序列

O

的概率，即

P (O, I | λ) = \sum_{I} P (O | I, λ) P (I | λ)

但是，利用上式的计算量很大，这种算法不可行。下面介绍计算观测序列概率

P (O | λ)

的有效算法：前向-后向算法。

前向算法

前向算法定义了一个前向概率隐马尔科夫模型的概念。给定 $λ$ ，定义到时刻 $t$ 部分观测序列为 $o_{1}, o_{2}, . . ., o_{t}$ 且状态为 $q_{i}$ 的概率为前向概率，记作：

α_{t} (i) = P (o_{1}, o_{2}, . . ., o_{t}, i_{t} = q_{i} | λ)

有了前向概率，我们就可以递推的求出前向概率

α_{t} (i)

及观测序列概率

P (O | λ)

。具体地推过程为：

α_{t + 1} (i) = [\sum_{j = 1}^{N} α_{t} (j) a_{j i}] b_{i} (o_{t + 1})

其中

a_{j i}

为转移概率，具体为：

a_{j i} = P (i_{t + 1} = q_{i} | i_{t} = q_{j})

而根据前向概率的定义：

a_{t} (i) = P (o_{1}, o_{2}, . . ., o_{t}, i_{t} = q_{t} | λ)

根据上面提到的齐次马尔科夫假设，有：

a_{j i} = P (i_{t + 1} = q_{i} | i_{t} = q_{j}) = P (i_{t + 1} q_{i} | o_{1}, o_{2}, . . ., o_{t}, i_{t} = q_{j})

因此可以将

α_{t} (j) a_{j i}

合并为：

P (o_{1}, o_{2}, . . ., o_{t}, i_{t} = q_{j}, i_{t + 1} = q_{i} | λ)

在经过求和符号处理之后，有：

\sum_{j = 1}^{N} α_{t} (j) α_{j i} = P (o_{1}, o_{2}, . . ., i_{t + 1} = q_{i} | λ)

然后递推式中

b_{i} (o_{t + 1})

的是观测概率，具体为：

b_{i} (o_{t + 1}) = P (o_{t + 1} | i_{t + 1} = q_{i}) = P (o_{t + 1} | o_{1}, o_{2}, . . ., o_{t}, i_{t + 1} = q_{i})

后面的连等成立是因为应用了前面提到的观测独立性假设。这样就有

α_{t + 1} (i) = P (o_{1}, o_{2}, . . ., o_{t}, o_{t + 1}, . . ., i_{t + 1} = q_{i} | λ)

最后为了得到，我们只要把马尔科夫状态序列的最后一个状态的所有前向概率进行求和就可以了，具体为：

P (O | λ) = \sum_{i = 1}^{N} α_{T} (i) = P (o_{1}, o_{2}, . . ., o_{t}, o_{t + 1}, . . ., o_{T} | λ)

后向算法

后向算法与前向算法类似，他定义了一个概念叫后向概率：给定隐马尔科夫模型 $λ$ ，定义在时刻 $t$ 状态为 $q_{i}$ 的条件下，从 $t + 1$ 到 $T$ 的部分观测序列为 $o_{t + 1}, o_{t + 2}, . . . o_{T}$ 的概率为后向概率，记作

β_{t} (i) = P (o_{t + 1}, o_{t + 2}, . . . o_{T} | i_{t} = q_{i}, λ)

同样也可以用递推的方法求得后向概率及观测概率。由于和前向算法类似这里推导过程忽略，介绍下后向算法的步骤：
输入：隐马尔科夫模型

λ

，观测序列

O

；
输出：观测序列概率

P (O | λ)

β_{T} (i) = 1, i = 1, 2, . . ., N

2. 对

t = T - 1, T - 2, . . ., 1

β_{T} (i) = \sum_{j = 1}^{N} a_{i j} b_{j} (o_{t + 1}) β_{t + 1} (j)

P (O | λ) = \sum_{i = 1}^{N} π_{i} b_{i} (o_{1}) β_{1} (i)

步骤1初始化后向概率，对最终时刻的所有状态

q_{i}

规定

β_{T} (i) = 1

。步骤2是后向概率的递推公式。步骤3求

P (O | λ)

的思路与步骤2一致，只是初始概率代替转移概率。
利用前向概率和后向概率的定义可以将观测序列概率

P (O | λ)

统一写成

P (O | λ) = \sum_{i = 1}^{N} \sum_{j = 1}^{N} α_{t} (i) a_{i j} b_{j} (o_{t + 1}) β_{t + 1} (j)

此时当

t = 1

和

t = T - 1

时分别为式子

P (O | λ) = \sum_{i = 1}^{N} α_{T} = P (o_{1}, o_{2}, . . ., o_{t}, o_{t + 1}, . . ., o_{T} | λ)

和

P (O | λ) = \sum_{i = 1}^{N} π_{i} b_{i} (o_{1}) β_{1} (i)

学习算法

隐马尔科夫模型的学习，根据训练数据是包括观测序列和对应的状态序列还是只有观测序列，可以分别由监督学习与非监督学习实现。接下来会先介绍监督学习算法，而后介绍非监督学习算法—— $B a u m - W e l c h$ 算法

监督学习算法

假设已给训练数据包含 $S$ 个长度相同的观测序列和对应的状态序列 ${(O_{1}, I_{1}), (O_{2}, I_{2}), . . ., (O_{S}, I_{S})}$ ,那么可以利用极大似然法来估计隐马尔科夫模型的参数。具体方法如下：
1. 转移概率 $a_{i j}$ 的估计
设样本中时刻 $t$ 处于状态i时刻 $t + 1$ 转移状态 $j$ 的频数为 $A_{i j}$ ，那么状态转移 $a_{i j}$ 的估计是

{\hat{a}}_{i j} = \frac{A_{i j}}{\sum_{j = 1}^{N} A_{i j}}, i = 1, 2, . . ., N; j = 1, 2, . . ., N

2. 观测概率

b_{j} (k)

的估计
设样本状态为

j

并观测为

k

的频数是

B_{j k}

，那么状态为

j

观测为

k

的概率

b_{j} (k)

的估计为

{\hat{b}}_{j} (k) = \frac{B_{j k}}{\sum_{k = 1}^{M} B_{j k}}, j = 1, 2, . . ., N; k = 1, 2, . . ., M

3.初始状态概率

π_{i}

的估计

{\hat{π}}_{i}

为

S

个样本中初始状态为

q_{i}

的频率由于监督学习需要使用训练数据，而人工标注训练数据往往代价更高，有时就会利用非监督学习的方法。

$B a u m - W e l c h$ 算法

学习问题即参数估计的问题的解决需要 $B a u m - W e l c h$ 算法，下面介绍 $B a u m - W e l c h$ 算法。
已知观测序列 $O$ ，估计模型参数 $λ$ ，使得在该模型下观测序列概率 $P (O | λ)$ 最大，由于状态序列未知，因此这可以看作是一个含有隐变量的参数估计问题，这一问题的解决依靠 $E M$ 算法，而 $B a u m - W e l c h$ 算法就是 $E M$ 算法在隐马尔科夫模型学习中的具体体现。
根据EM算法，我们需要先求出其Q函数，如下：

Q (λ, \bar{λ}) = \sum_{I} l o g P (O, I | λ) P (I | O, \bar{λ})

我们写出Q函数之后后面就要对它进行极大化，也就是说EM算法的M步骤。既然是最大化，那么只要保证不影响最终的结果，对Q函数进行最大化来说没有影响的常数因子乘除是可以的。我们注意到Q函数的后半部分为

P (I | O, \bar{λ}) = \frac{P (O, I | \bar{λ})}{P (O | \bar{λ})}

而

P (O | λ)

便是概率计算问题中我们解决的问题，对于固定的模型参数来说它是一个常量，因此我们为了后边计算方便可以在上面原先的

Q

函数的基础上乘以它，使得

Q

函数称为：

Q (λ, \bar{λ}) = \sum_{I} l o g P (O, I | λ) P (O, I | \bar{λ})

为什么要这么做呢？这是为了后面将概率计算问题中有意义的一些概率计算公式直接套进去。又因为完全数据可以写成这样：

l o g P (O, I | λ) = π_{i_{1}} b_{i_{1}} (o_{1}) a_{i_{1}} a_{i_{2}} b (o_{2}) . . . a_{i_{T - 1} i_{T}} b_{i_{T}} (o_{T})

于是Q函数可以写成

Q (λ, \bar{λ}) = \sum_{i = 1}^{N} l o g π_{i} P (O, i_{1} = i | \bar{λ}) + \sum_{i = 1}^{N} \sum_{j = 1}^{N} \sum_{t = 1}^{T - 1} l o g a_{i j} P (O, i_{t} = i, i_{t + 1} = j | \bar{λ}) + \sum_{j = 1}^{N} \sum_{t = 1}^{T} l o g b_{j} (o_{t}) P (O, i_{t} = j | \bar{λ})

可以看到，我们将三项中分别的对

I

的求和进行了划分。由于隐变量

I = (i_{1}, i_{2}, . . ., i_{T})

。原来的求和需要遍历所有的I的取值，然后进行求和，然而这基本上是不可能完成的任务。改写后，我们将遍历的空间进行了划分，同时很好的将

P (O, I | \bar{λ})

部分改写后也融入到求和之中。比如第一项，对

I

的遍历等价于先固定状态

i_{1}

，使其分别取值所有可能的状态，而

i_{2}, i_{3}, . . ., i_{T}

仍然像原来一样随便取值。这样，就把

I

空间划分为

N

个更小的空间。然后再把这

N

个空间的结果相加，等价于原来对空间

I

进行遍历。而且改写之后，

P (O, I | \bar{λ})

部分改变的就可以表示了。如果对

Q

函数的三项分别求极大值，在计算后会发现，最后的结果可以用一些有意义的概率来表示。这也就是之前对

Q

函数进行修改的原因。

（ $B a u m - W e l c h$ 算法）

输入：观测数据 $O = (o_{1}, o_{2}, . . ., o_{T})$ ；
输出：隐马尔科夫模型。
(1) 初始化
对 $n = 0, a_{i j}^{(0)}, b_{j}^{(0)}, π_{i}^{(0)}$ ,得到模型 $λ^{(0)} = (A^{(0)}, B^{(0)}, C^{(0)})$
(2) 递推。对 $n = 1, 2, . . .$

a_{i j}^{n + 1} = \frac{\sum_{t = 1}^{T - 1} ξ_{t} (i, j)}{\sum_{t = 1}^{T - 1} γ_{t} (i)}

b_{j} {(k)}^{(n + 1)} = \frac{\sum_{t = 1, o_{t} = v_{k}}^{T - 1} γ (j)}{\sum_{t = 1}^{T} γ_{t} (i)}

π_{i}^{n + 1} = γ_{1} (i)

(3) 终止。得到模型参数

λ^{(n + 1)} = (A^{(n + 1)}, B^{(n + 1)}, C^{(n + 1)})

$V i t e r b i$ 算法

下面介绍隐马尔科夫模型预测的算法：Viterbi 算法。
Viterbi 算法实际上是用动态规划解隐马尔科夫模型预测问题，即用动态规划求概率最大路径（最优路径）。这时一条路径对应着一个状态序列。根据动态规划原理，最优路径具有这样的特性：如果最优路径在时刻 $t$ 通过结点 $i_{t}^{*}$ ，那么这一路径从结点 $i_{t}^{*}$ 到终点 $i_{T}^{*}$ 的部分路径，对于 $i_{t}^{*}$ 到 $i_{T}^{*}$ 的所有可能的部分路径来说，必须是最优的。因为假如不是这样的，那么从 $i_{t}^{*}$ 到 $i_{T}^{*}$ 就有另外一条更好的路径存在，如果把它和从 $i_{1}^{*}$ 到达 $i_{t}^{*}$ 的部分路径连接在一起，就会形成一条比原来更优的路径，这是矛盾的。依据这一原理，我们只需从时刻 $t = 1$ 开始，递推地计算在时刻 $t$ 状态i的各条部分路径的最大概率，甚至得到时刻 $t = T$ 状态为 $i$ 的各条路径的最大概率。时刻 $t = T$ 的最大概率即为最优路径的概率，最优路径的终结点也同时得到。之后，为了找出最优路径的各个结点，从终结点 $i_{T}^{*}$ 开始，由后向前逐步求得结点 $i_{T - 1}^{*}, . . ., i_{1}^{*}$ ，得到最优路径 $I^{*} = (i_{1}^{*}, i_{2}^{*}, . . ., i_{T}^{*})$ 。这就是 $V i t e r b i$ 算法。
首先导入两个变量 $δ 和 ψ$ 。定义在时刻 $t$ 状态为i的所有单个路径 $(i_{1}, i_{2}, . . ., i_{t})$ 中概率最大值为

δ_{t} (i) = m a x P (i_{t} = i, i_{t - 1}, . . ., i_{1}, o_{t}, . . ., o_{1} | λ) ， i = 1, 2, . . ., N

δ_{t + 1} (i) = m a x P (i_{t + 1} = i, i_{t}, . . ., i_{1}, o_{t + 1}, . . ., o_{1} | λ) = m a x [δ_{t} (j) a_{i j}] b_{i} (o_{t + 1}) ， i = 1, 2, . . ., N; t = 1, 2, . . ., T - 1

定义在时刻

t

状态

i

的所有单个路径

(i_{1}, i_{2}, . . ., i_{t - 1}, i)

中概率最大的路径的第

t - 1

个结点为

ψ_{t} (i) = a r g m a x [δ_{t - 1} (j) a_{j i}] ， i = 1, 2, . . ., N

下面介绍维特比算法。

（ $V i t e r b i$ 算法）

输入：模型 $λ = (A, B, π)$ 和观测数据O=\left ( o_{1} ,o_{2},…,o_{T}\right )；
输出：最优路径 $I^{*} = (i_{1}^{*}, i_{2}^{*}, . . ., i_{T}^{*})$ 。
(1) 初始化

δ_{1} (i) = π_{i} b_{i} (o_{i}) ， i = 1, 2, . . ., N

ψ_{1} (i) = 0 ， i = 1, 2, . . ., N

(2) 递推。对

t = 2, 3, . . ., T

δ_{t} (i) = m a x [δ_{t - 1} (j) a_{j i}] b_{i} (o_{t}) ， i = 1, 2, . . ., N

ψ_{t} (i) = a r g m a x [δ_{t - 1} (j) a_{j i}] ， i = 1, 2, . . . N

(3) 终止。

P^{*} = m a x δ_{T} (i)

i_{T}^{*} = a r g m a x [δ_{T} (i)]

(4) 最优路径回溯。对

t = T - 1, T - 2, . . ., 1

i_{t}^{*} = ψ_{t + 1} (i_{t + 1}^{*})

求得最优路径

I^{*} = (i_{1}^{*}, i_{2}^{*}, . . ., i_{T}^{*})

。
隐马尔科夫模型是关于时许的概率模型，描述由一个隐藏的马尔科夫链随机生成不可观测的状态的序列，再由各个状态随机生成一个观测而产生观测的序列的过程。

参考文献

李航. 统计学习方法[M]. 清华大学出版社:李航, 2012. 171-189
http://blog.****.net/kl1411/article/details/78155120
http://blog.****.net/u011331731/article/details/72833134