支持向量机原理--【入门新手不可错过】

SVM入门,支持向量机的详细的数学原理,不可错过,

支持向量机

1简介

支持向量机基本上是最好的有监督学习算法了。最开始接触SVM是去年暑假的时候,老师要求交《统计学习理论》的报告,那时去网上下了一份入门教程,里面讲的很通俗,当时只是大致了解了一些相关概念。这次斯坦福提供的学习材料,让我重新学习了一些SVM知识。我看很多正统的讲法都是从VC维理论和结构风险最小原理出发,然后引出SVM什么的,还有些资料上来就讲分类超平面什么的。这份材料从前几节讲的logistic回归出发,引出了SVM,既揭示了模型间的联系,也让人觉得过渡更自然。

2重新审视logistic回归

Logistic回归目的是从特征学习出一个0/1分类模型,而这个模型是将特性的线性组合作为自变量,由于自变量的取值范围是负无穷到正无穷。因此,使用logistic函数(或称作sigmoid函数)将自变量映射到(0,1)上,映射后的值被认为是属于y=1的概率。

形式化表示就是

支持向量机原理--【入门新手不可错过】

假设函数

其中x是n维特征向量,函数g就是logistic函数。

支持向量机原理--【入门新手不可错过】

的图像是

可以看到,将无穷映射到了(0,1)。

而假设函数就是特征属于y=1

支持向量机原理--【入门新手不可错过】

的概率。

你可能喜欢

  • 算法入门
  • 设备分类
  • matlab工具箱
  • SVM分类
  • 文本挖掘
  • 经典总结
  • 电机故障

支持向量机原理 【入门新手不可错过】相关文档

最新文档

返回顶部