概率图模型
Last updated
Last updated
上图可以看到，贝叶斯网络（信念网络）都是有向的，马尔科夫网络无向。所以，贝叶斯网络适合为有单向依赖的数据建模，马尔科夫网络适合实体之间互相依赖的建模。具体地，他们的核心差异表现在如何求 ，即怎么表示 这个的联合概率。
对于有向图模型，这么求联合概率：
举个例子，对于下面的这个有向图的随机变量(注意，这个图我画的还是比较广义的)：
对于无向图，我看资料一般就指马尔科夫网络(注意，这个图我画的也是比较广义的)。
如果一个graph太大，可以用因子分解将 写为若干个联合概率的乘积。咋分解呢，将一个图分为若干个“小团”，注意每个团必须是“最大团”（就是里面任何两个点连在了一块，具体……算了不解释，有点“最大连通子图”的感觉），则有：
, 其中 ，公式应该不难理解吧，归一化是为了让结果算作概率。
其中， 是一个最大团 上随机变量们的联合概率，一般取指数函数的：
好了，管这个东西叫做势函数。注意 是否有看到CRF的影子。
