隐马尔可夫模型 HMM - 日勿の部落格

基本概念#

$q$ 为隐状态， $y$ 为观测值。上图描述的是这样一件事情：假设在某个系统中，按照时间序列可以分为若干时间节点。在每一个时刻，我们可以通过观测得到一个结果（观测值 $y$ ），相应的，该时刻也存在一个隐状态 $q$ 。但这个观测值/隐状态发生的概率，和非常多的因素都有关系，例如之前时刻的历史观测值、历史状态、还有当前时刻的状态，因此非常难以求解。

隐状态，顾名思义，是一个我们是无法观测到的、隐藏起来的状态值。例如对于当前的股市，到底是牛市还是低谷，谁也不知道。因为并没有一个明确的指标，或者某个事物可以直接观测股市所处的状态，但股市的状态显然会影响到股价，因此“牛市 or 低谷”就是一个隐状态，而“股价”就是我们的观测值。

基于此，我们做出如下两个定义：

转移概率（transition probability）： $P(q_t|q_{t-1})$ ，从上一个时刻 t-1 时的状态，转移到当前时间 t 所处的状态的概率
发射概率（emission probability）： $P(y_t|q_t)$ ，已知当前隐状态，观测时的概率

两个假设#

齐次马尔可夫假设：任意时刻的隐状态只依赖前一时刻的隐状态，与其他时刻的状态和观测值无关即

P(q_t|q_1,...q_{t-1},y_1,...,y_{t-1}) = P(q_t|q_{t-1})

Discrete Transition Probability

观测独立性假设：任意时刻的观测值只依赖当前时刻的隐状态，与其他状态及观测值无关即

P(y_t|q_1,...q_{t-1},q_t,y_1,...,y_{t-1}) = P(y_t|q_t)

Continous/Discrete Measurement probability

从同一个状态 $q_{t-1}$ 转移到其他状态时，所有的转移概率，加起来和应该为 1。

这两个假设的作用，就是为了简化上文中，那个“和非常多的因素都有关系”的概率计算问题。

隐马尔可夫模型三要素#

P(y_1,y_2,y_3)=\displaystyle{\sum_{q_1=1}^k \sum_{q_2=1}^k \sum_{q_3=1}^k P(y_1,y_2,y_3,q_1,q_2,q_3)}

这个等式是基于全概率公式的推导。假设有三个事件 y1、y2和 y3，以及三个条件事件（隐状态） q1、q2和 q3。根据全概率公式，我们可以将事件 y1、y2和 y3的联合概率表示为对条件事件 q1、q2和 q3的求和。

首先，我们可以将向事件 y1、y2和 y3 添加隐状态 q1、q2和 q3：

1
p(y1, y2, y3) = p(y1, y2, y3, q1, q2, q3)

然后，根据全概率公式，我们可以将联合概率表示为对其所有可能取值的求和。在这个特定的情况下，条件事件 q1、q2和 q3都有 k 个可能的取值，因此我们需要对 q1、q2和 q3 分别进行求和。

这里的求和符号 $\sum$ 表示对所有可能取值的求和！！！

WARNING
切记这个设定，不然你下面推导的时候，会一直怀疑人生：“ $q_t$ 为什么一定是从 1 到 K 的整数取值？”

注意，下文中的很多符号，都会和你们最容易搜索到的（李航《统计学习方法》）有所不同，目的是为了简化符号表达，便于理解。但其本质都是类似的，建议可以对比学习一下。

其中，

\begin{align} &P(y_1,y_2,y_3,q_1,q_2,q_3) \\ \tag1 =&P(y_3|y_1,y_2,q_1,q_2,q_3) \times P(y_1,y_2,q_1,q_2,q_3) \\ \tag2 =&P(y_3|q_3) \times P(q_3|y_1,y_2,q_1,q_2) \times P(y_1,y_2,q_1,q_2) \\ \tag3 =&P(y_3|q_3) \times P(q_3|q_2) \times P(y_1,y_2,q_1,q_2) \\ =&\dotsb \end{align}

这一段做一些说明。（1）到（2）和（2）到（3）分别使用了 HMM 的观测独立性假设和齐次马尔可夫假设。等推导出（3）时，不难发现，式子进入了迭代状态，或者说剩下的 $P(y_1,y_2,q_1,q_2)$ 可以利用上面的操作如法炮制。总之，最后可以化简为下式

P(y_3|q_3) \times P(q_3|q_2) \times P(y_2|q_2) \times P(q_2|q_1) \times P(y_1|q_1) \times P(q_1)

规定 $P (q_1|q_0) = P(q_1)$

其中， $P(y_t|q_t)$ 的概率是已知的，即发射概率矩阵 B（由本文开头定义的那个发射概率所组成的一个矩阵，转移概率矩阵与之同理）； $P(q_t|q_{t-1})$ 的概率也已知，即转移概率矩阵 A。那 $P(q_1)$ 是多少呢？

对于转移概率矩阵 A， $P(q_t|q_{t-1})$ 的条件和概率其实分别给出了矩阵对应的行和列。例如 $P(q_t=j|q_{t-1}=i)$ 对应的就是矩阵 A 的 i 行 j 列取值，即 $a_{i,j}$ 。

隐马尔可夫模型三要素，The HMM Parameter $\lambda$ contains：

\lambda = \{A,B,\pi\}

其中， $\pi$ 就是初始状态概率向量 $\pi_i = P (q_1=i_{1,2,...,K})$ ，或者叫初始概率分布，也就是上面式子中最后一个未知项 $P(q_1)$ 。

所以进一步，我们可以总结一下

\begin{align} P(Y|\lambda) &= \displaystyle{\sum_Q[P(Y,Q|\lambda)]} \\ &= \displaystyle{\sum_{q_1=1}^k \dotsb \sum_{q_T=1}^k}[P(y_1,...,y_{T},q_1,...q_T|\lambda)] \\ &= \displaystyle{\sum_{q_1=1}^k \dotsb \sum_{q_T=1}^k}[P(y_1,...,y_{T},q_0,q_1,...q_T|\lambda)] \\ &= \displaystyle{\sum_{q_1=1}^k \dotsb \sum_{q_T=1}^k} P(q_1)P(y_1|q_1)P(q_2|q_1) \dotsb P(q_t|q_{t-1})P(y_t|q_t) \\ &= \displaystyle{\sum_{q_1=1}^k \dotsb \sum_{q_T=1}^k \pi(q_1) \prod_{t=2}^Ta_{q_{t-1},q_t}\,b_{q_t}(y_t)} \end{align}

转移概率 $P (q_t=j|q_{t-1}=i) \implies a_{i,j}$ ，发射概率 $P (y_t|q_t=j) \implies b_j(y_t)$

那么这长长的一串求了一个什么玩意呢？其实就是 HMM 的一个应用场景，即 $Evaluate\;P(Y|\lambda)$ ，也就是预估事件 Y 的概率 $p(y_1,...,y_T)$ 。

显然，由于 sum (求和)太多， $Q$ 的取值会有 $K^T$ 种。这个数值实在过于庞大，因此我们需要更简单的计算方法。

前向算法#

算法推导#

首先，我们来定义一个前向概率：

\begin{align} \alpha_i(t) = p(y_1,...,y_t,q_t=i|\lambda) \end{align}

其中， $\alpha_i(t)$ 指的是已知 $\lambda$ ，当时间 t 时，状态 $q_t$ 的值为 $i$ 时， $q_t$ 和截至时间 t 为止所有观测值的联合概率。

这不涉及什么数学问题，仅仅是做出了这么一个定义。那么这玩意如何帮助我们解决上面那个复杂计算的问题呢？

假设当 t=1 时，状态为 $i$

\alpha_i(1) = p(y_1,q_1=i) = p(y_1|q_1=i)p(q_1) = b_i(y_1)\pi(q_1)

这里的 $\lambda$ 就省略不写了

再来看一个，假设当 t=2 时，状态为 $j$

\begin{align} \alpha_j(2) &= p(y_1,y_2,q_2=j) \\ &= \displaystyle{\sum_{i=1}^K p(y_1,y_2,q_1=i,q_2=j)} \\ &= \displaystyle{\sum_{i=1}^K p(y_2|q_2=j)p(q_2=j|q_1=i)p(y_1,q_1=i)} \end{align}

发现没，最后一行的 $p(y_1,q_1=i)$ ，不就是 $\alpha_i(1)$ 吗？

接着上面的继续推

\begin{align} &= \displaystyle{\sum_{i=1}^K p(y_2|q_2=j)p(q_2=j|q_1=i)p(y_1,q_1=i)} \\ &= p(y_2|q_2=j)\,\displaystyle{\sum_{i=1}^K [p(q_2=j|q_1=i)\alpha_i(1)]} \\ &= b_j(y_2) [\sum_{i=1}^K a_{i,j}\alpha_i(1)] \end{align}

oh，爷の上帝，瞧瞧出现了什么！又是 TMD 递归！

\alpha_j(T) = b_j(y_T) \displaystyle{[\sum_{i=1}^K a_{i,j} \alpha_i(T-1)]}

根据这个规律不难看出，每个 $\alpha$ 都对应 K 个 sum，因此总共只需要计算 $K \cdot T$ ，比 $K^T$ 小多了。

依据 $\alpha$ 的定义，

\alpha_j(T) = p(y_1,...,y_T,q_T=j)

因此，我们所求的 $p(y_1,...,y_T)$ 跟上式就差了一个 $q_T$ 而已，那么按照老方法，我们把 $q_T$ 塞进去，再积分积掉

p(y_1,...,y_T) = \displaystyle{\sum_{j=1}^K \alpha_j(T)}

上面这个推导过程，其实就是 HMM 的 Forward Algorithm（前向算法）

当然，有 forward 就有 backward，不过两者求出的概率是一样的

代码实现#

1
import numpy as np
2

3
def forward(A, B, PI, observation, only_r = True):
4
    """观测序列概率的前向算法"""
5
    n_state = len(A)  # 可能的状态数
6
    T = len(observation)
7
    alpha = np.zeros((T, n_state))
8

9
    # 初始化前向概率
10
    for i in range(n_state):
11
        alpha[0][i] = PI[i] * B[i][observation[0]]
12

13
    # 递推计算前向概率
14
    for t in range(1, T):
15
        for i in range(n_state):
16
            alpha[t][i] = np.dot(alpha[t-1], [a[i] for a in A]) * B[i][observation[t]]
17

18
    if not only_r: return alpha.tolist()
19

20
    return np.sum(alpha[len(alpha)-1])

后向算法#

还是先定义后向概率

\beta_i(t) = p(y_{t+1},...,y_T|q_t=i,\lambda)

$\beta_i(t)$ 指的是已知 $\lambda$ 和 $q_t$ 的值为 $i$ ，未来的观测值的联合概率。

\begin{align} \beta_i(T-1) &= p(y_T|q_{T-1}=i) \\ &= \displaystyle{ \sum_{j=1}^K p(y_T,q_T=j|q_{T-1}=i) } \\ &= \displaystyle{ \sum_{j=1}^K p(y_T|q_T=j,q_{T-1}=i) \cdot p(q_T=j|q_{T-1}=i) } \\ &= \displaystyle{ \sum_{j=1}^K p(y_T|q_T=j) } \cdot a_{i,j} \cdot \beta_i(T) \\ &= \displaystyle{ \sum_{j=1}^K b_j(y_T) } \cdot a_{i,j} \cdot \beta_i(T) \end{align}

规定， $\beta_i(T) = 1$ （所以上述推导中，乘 1 不影响结果）。这是相邻两个后向概率的递推式。那么我们最后要求的 $P(Y|\lambda)$

\begin{align} \beta_i(1) &= p(y_2,...,y_T|q_t=i) \\ P(Y|\lambda) &= p(y_1,...,y_T|\lambda) \\ &= \displaystyle{ \sum_{j=1}^K p(y_1,...,y_T,q_1=i) } \\ &= \displaystyle{ \sum_{j=1}^K p(y_1,...,y_T|q_1=i) \cdot p(q_1=i) } \\ &= \displaystyle{ \sum_{j=1}^K p(y_1|y_2,...,y_T,q_1=i) \cdot p(y_2,...,y_T|q_1=i) \cdot \pi_i } \\ &= \displaystyle{ \sum_{j=1}^K p(y_1|q_1=i) \cdot \beta_i(1) \cdot \pi_i } \\ &= \displaystyle{ \sum_{j=1}^K b_i(y_1) \cdot \beta_i(1) \cdot \pi_i } \end{align}

代码实现#

1
def backward(A, B, PI, observation, only_r = True):
2
    """观测序列概率的后向算法"""
3
    n_state = len(A)  # 可能的状态数
4
    T = len(observation)
5

6
    # 初始化后向概率
7
    beta = np.ones((T, n_state))
8

9
    # 递推（状态转移）
10
    for t in range(len(observation) - 2, -1, -1):
11
        for i in range(n_state):
12
            beta[t][i] = np.dot(
13
                np.multiply(A[i], [b[observation[t+1]] for b in B]),
14
                beta[t+1]
15
            )
16

17
    if not only_r: return beta.tolist()
18

19
    return np.dot(
20
        np.multiply(PI, [b[observation[0]] for b in B]),
21
        beta[0]
22
    )

两种算法结果一致

参考李航《统计学习方法》 https://github.com/sun2ot/python-study/blob/main/model/HMM.py

Baum-Welch 算法#

假设我们只能获取观测序列 $\{O_1,...,O_T\}$ ，但无法获取对应的状态序列，则可以通过 BW 算法学习出 HMM 的参数 $\lambda=(A,B,\pi)$ 。

[!bug] EM 算法的推理过程还没看懂，这里暂时只能根据数学公式的结果给出实现代码。

1
def baum_welch(observation, n_state, max_iter=100):
2
    """Baum-Welch算法学习隐马尔可夫模型
3

4
    :param observation: 观测序列
5
    :param n_state: 可能的状态数
6
    :param max_iter: 最大迭代次数
7
    :return: A,B,π
8
    """
9
    T = len(observation)  # 样本数
10
    n_observation = len(set(observation))  # 可能的观测数
11

12

13
    # ---------- 初始化随机模型参数 ----------
14
    # 初始化状态转移概率矩阵
15
    a = np.random.rand(n_state, n_state)
16
    a /= np.sum(a, axis=1, keepdims=True)
17

18
    # 初始化观测概率矩阵
19
    b = np.random.rand(n_state, n_observation)
20
    b /= np.sum(b, axis=1, keepdims=True)
21

22
    # 初始化初始状态概率向量
23
    p = np.random.rand(n_state)
24
    p /= np.sum(p)
25

26

27
    for _ in range(max_iter):
28
        # 计算前向概率
29
        alpha = forward(a,b,p,observation, only_r=False)
30
        # 计算后向概率
31
        beta = backward(a,b,p,observation, only_r=False)
32

33
        beta.reverse()
34

35
        # ---------- 计算：\gamma_t(i) ----------
36
        gamma = []
37
        for t in range(T):
38
            lst = np.zeros(n_state)
39
            for i in range(n_state):
40
                lst[i] = alpha[t][i] * beta[t][i]
41
            sum_ = np.sum(lst)
42
            lst /= sum_
43
            gamma.append(lst)
44

45
        # ---------- 计算：\xi_t(i,j) ----------
46
        xi = []
47
        for t in range(T - 1):
48
            sum_ = 0
49
            lst = [[0.0] * n_state for _ in range(n_state)]
50
            for i in range(n_state):
51
                for j in range(n_state):
52
                    lst[i][j] = alpha[t][i] * a[i][j] * b[j][observation[t + 1]] * beta[t + 1][j]
53
                    sum_ += lst[i][j]
54
            for i in range(n_state):
55
                for j in range(n_state):
56
                    lst[i][j] /= sum_
57
            xi.append(lst)
58

59
        # ---------- 计算新的状态转移概率矩阵 ----------
60
        new_a = [[0.0] * n_state for _ in range(n_state)]
61
        for i in range(n_state):
62
            for j in range(n_state):
63
                # 分子，分母
64
                numerator, denominator = 0, 0
65
                for t in range(T - 1):
66
                    numerator += xi[t][i][j]
67
                    denominator += gamma[t][i]
68
                new_a[i][j] = numerator / denominator
69

70
        # ---------- 计算新的观测概率矩阵 ----------
71
        new_b = [[0.0] * n_observation for _ in range(n_state)]
72
        for j in range(n_state):
73
            for k in range(n_observation):
74
                numerator, denominator = 0, 0
75
                for t in range(T):
76
                    if observation[t] == k:
77
                        numerator += gamma[t][j]
78
                    denominator += gamma[t][j]
79
                new_b[j][k] = numerator / denominator
80

81
        # ---------- 计算新的初始状态概率向量 ----------
82
        new_p = [1 / n_state] * n_state
83
        for i in range(n_state):
84
            new_p[i] = gamma[0][i]
85

86
        a, b, p = new_a, new_b, new_p
87
    return a, b, p

测试数据如下

1
sequence = [0, 1, 1, 0, 0, 1]
2

3
A = [[0.0, 1.0, 0.0, 0.0], [0.4, 0.0, 0.6, 0.0], [0.0, 0.4, 0.0, 0.6], [0.0, 0.0, 0.5, 0.5]]
4
B = [[0.5, 0.5], [0.3, 0.7], [0.6, 0.4], [0.8, 0.2]]
5
PI = [0.25, 0.25, 0.25, 0.25]
6

7

8
alpha = forward(A, B, PI, sequence)
9
print("初始模型参数:", alpha)
10

11
A1,B1,P1 = baum_welch(sequence, 4, max_iter=1000)
12
alpha2 = forward(A1, B1, P1, sequence)
13
print("BN算法训练后:", alpha2)

日勿の部落格

基本概念#

两个假设#

隐马尔可夫模型三要素#

前向算法#

算法推导#

代码实现#

后向算法#

代码实现#

Baum-Welch 算法#

目录