贝叶斯决策理论-前提说明

从本篇开始,写写贝叶斯和支持向量机理论的系列,以飨读者。

模式识别的分类问题是根据识别对象特征的观察值将其分到某个类别中去。统计决策理论是处理模式分类问题的基本理论之一,它对模式分析和分类器的设计有着实际的指导意义。贝叶斯(Bayes)决策理论方法是统计模式识别中的一个基本方法,用这个方法进行分析有如下要求:
(1) 各类别总体的概率分布是已知的
(2) 要决策分类的类别数是一定的
在连续情况下,假设对要识别的物理对象有 d 种特征观察量$x_{1},x_{2},...x_{d}$,这些特征的所有可能的取值范围构成了 d 维特征空间,我们称$x_{1},x_{2},...x_{d}$为 d 维特征向量。这里 T 为转置符号

对于(1),(2)的已知条件和特征观察量的假设,我们定要研究的分类问题有 c 个类别,各类别状态用$w_{i}$,$i=1,2,...,c$;对应于各个类别$w_{i}$出现的先验概率$P(w_{i})$是已知的(对应于已知条件(1)),并且类条件概率密度函数$p(x|w_{i})$是已知的。之后,就是研究在已知特征空间观察到的某一个向量$x$,$x=[x_{1},x_{2},...x_{d}]$,就是d维特征空间上一个点的前提下,如何确定该点被分到哪一类中去才合理。

注意点:
一是 d 维特征空间的定义;
二是已知条件(1),(2)及衍生出来的已知类条件概率密度(这也是使用贝叶斯公式的必要条件)

追求梦想,做最好的自己