赞
踩
再来说一点贝叶斯网络
朴素贝叶斯分类器 和 贝叶斯网络的区别就是,朴素贝叶斯分类器的各个特征属性之间是相互独立的,而贝叶斯网络研究的问题则针对于特征属性不独立的情况。
贝叶斯网络(Bayesian network),又称信念网络(Belief Network),或有向无环图模型(directed acyclic graphical model),是一种概率图模型,于1985年由Judea Pearl首先提出。它是一种模拟人类推理过程中因果关系的不确定性处理模型,其网络拓朴结构是一个有向无环图(DAG)。
贝叶斯网络的有向无环图中的节点表示随机变量,它们可以是可观察到的变量,或隐变量、未知参数等。认为有因果关系(或非条件独立)的变量或命题则用箭头来连接(换言之,连接两个节点的箭头代表此两个随机变量是具有因果关系,或非条件独立)。若两个节点间以一个单箭头连接在一起,表示其中一个节点是“因(parents)”,另一个是“果(children)”,两节点就会产生一个条件概率值。
例如,假设节点E直接影响到节点H,即E→H,则用从E指向H的箭头建立结点E到结点H的有向弧(E,H),权值(即连接强度)用条件概率P(H|E)来表示,如下图所示:
简言之,把某个研究系统中涉及的随机变量,根据是否条件独立绘制在一个有向图中,就形成了贝叶斯网络。其主要用来描述随机变量之间的条件依赖,用圈表示随机变量(random variables),用箭头表示条件依赖(conditional dependencies)。
贝叶斯网络定义: 令G = (I,E)表示一个有向无环图(DAG),其中I代表图形中所有的节点的集合,而E代表有向连接线段的集合,且令X = (Xi)i ∈ I为有向无环图中的某一节点i所代表的随机变量,若节点X的联合概率可以表示成:
则称X为相对于有向无环图G 的贝叶斯网络,其中,pa(i)表示节点i之“因”,或称pa(i)是i的parents(父母)。
此外,对于任意的随机变量,其联合概率可由各自的局部条件概率分布相乘而得出:
如下图所示,便是一个简单的贝叶斯网络:
有p(a,b,c)=p(c|a,b)p(b|a)p(a)
注:这里定义其实还不是特别理解
贝叶斯网络的3种结构形式
形式1:head-to-head
在c未知的条件下,a、b被阻断(blocked),是独立的,称之为head-to-head条件独立。
形式2:tail-to-tail
在c给定的条件下,a,b被阻断(blocked),是独立的,称之为tail-to-tail条件独立,但在c未知的情况下,a,b不独立
形式3:head-to-tail
在c给定的条件下,a,b被阻断(blocked),是独立的,称之为head-to-tail条件独立。但在c未知情况下,a,b不独立
注:这个head-to-tail其实就是一个链式网络,在xi给定的条件下,xi+1的分布和x1,x2…xi-1条件独立。即:xi+1的分布状态只和xi有关,和其他变量条件独立,这种顺次演变的随机过程,就叫做马尔科夫链(Markov chain)。
且有:
思考:在贝叶斯网络的实际应用中,往往只知道有那些特征属性,但并不知道网络拓扑,也不知道特征属性之间的具体关系,所以在实际的应用中,有时候需要预设拓扑,并通过不断的学习来更新拓扑以及特征属性之间的联系。这是掌握了贝叶斯网络之后需要进一步学些的内容。
目前就看懂到这儿了,后续在补充
其他相关未懂概念:因子图,道德图,
参考:https://blog.csdn.net/zdy0_2004/article/details/41096141
https://blog.csdn.net/cxjoker/article/details/81878188
https://blog.csdn.net/tanggao1314/article/details/69055442
Copyright © 2003-2013 www.wpsshop.cn 版权所有,并保留所有权利。