支持向量机原理--【入门新手不可错过】

SVM入门,支持向量机的详细的数学原理,不可错过,

当我们要判别一个新来的特征属于哪个类时,只需求

属于y=0类。再审视一下,发现只和有关,,若大于0.5就是y=1的类,反之>0,那么

时,=1,反之,g(z)只不过是用来映=0。如果我们只从

,而是y=0

支持向量机原理--【入门新手不可错过】

的特征射,真实的类别决定权还在。还有当

支持向量机原理--【入门新手不可错过】

出发,希望模型达到的目标无非就是让训练数据中y=1的特征

。Logistic回归就是要学习得到,使得正例的特征远大于0,负例的特征远小于0,强调在全部训练实例上达到这个目标。

支持向量机原理--【入门新手不可错过】

图形化表示如下:中间那条线是,logistic回顾强调所有点尽可能地远离中间那条线。学习出的结果也就中间那条线。考虑上面3个点A、B和C。从图中我们可以确定A是×类别的,然而C我们是不太确定的,B还算能够确定。这样我们可以得出结论,我们更应该关心靠近中间分割线的点,让他们尽可能地远离中间线,而不是在所有点上达到最优。因为那样的话,要使得一部分点靠近中间线来换取另外一部分点更加远离中间线。我想这就是支持向量机的思路和logistic回归的不同点,一个考虑局部(不关心已经确定远离的点),一个考虑全局(已经远离的点可能通过调整中间线使其能够更加远离)。这是我的个人直观理解。

3形式化表示

我们这次使用的结果标签是y=-1,y=1,替换在logistic回归中使用的y=0和y=1。同时将替换成w和b。以前的

为b,后面替换为

支持向量机原理--【入门新手不可错过】

,其中认为(即。现在我们替换)。这样,我们

你可能喜欢

  • 算法入门
  • 设备分类
  • matlab工具箱
  • SVM分类
  • 文本挖掘
  • 经典总结
  • 电机故障

支持向量机原理 【入门新手不可错过】相关文档

最新文档

返回顶部