支持向量机原理.docx

《支持向量机原理.docx》由会员分享，可在线阅读，更多相关《支持向量机原理.docx（2页珍藏版）》请在优知文库上搜索。

1、支持向量机(SupportVectorMachine,SVM)是一类按监督学习(supervisedlearning)方式对数据进行三匹笈些的广义线性分类器(generalizedlinearclassifier),其次里边界是对学习样本求解的最大边距超平面(maximum-marginhyperplane)oSVM是机器学习领域的一一个非常关键的方法其核心思想是从输入空间向一个更高维度的特征空间(FeatUreSPaCe)做映射，通常认为需要解决的问题在特征空间会被简化,变得线性可分SVM本质是一个线性分类器,定义超平面公式为:y=u,t.rIb给样本打上标签(正样本为+1,负样本为1).那

2、么，对于每个样本X,满足式yi(wx+b)O由点到平面的距离为|wr.r+b|隈Il推导可得样本到超平面的几何间隔为m(z+)Il约Il考虑y;可取+1,1;记样本点X到超平面的距离为如式所示：几何间隔最大时的超平面即为所求，此时转化为一个凸二次规划问题，如式pip；MIs.t.y(叫工+)l0,t=1,2,N求出最优解w*,b*,则可得出分离超平面为w*.x+b*=0.首先添加拉格朗日乘子a?0,得到拉格朗日函数，如式1.(w,b,a)-up+(1-M(优+助其次，根据强对偶关系和KKT条件可产生原问题的对偶问题，目标函数转化为ClmiaOxmw,ibnL(w,b,),即L(w,b,)先对w,b求最小，再对。求最大.求出w*,b*,得到分类决策函数为f(x)=sign(w*x+b)以上是用SVM对两类样本进行线性分类，通过引入核方法可将SVM用于非线性分类，即把输入空间向高维度的特征空间做映射时，使用非线性函数要解决多分类问题。