模式识别实验 感知器准则算法实验

线性可分,感知器准则,梯度下降法

实验二 感知器准则算法实验

一、实验目的:

1)加深对感知准则算法的基本思想的认识和理解。 2)编程实现批处理感知器算法的程序。 二、实验原理:

1.假设已知一组容量为N的样本集y1,y2,…,yN,其中yN为d维增广样本向量,分别来自 1和 2类。如果有一个线性机器能把每个样本正确分类,即存在一个权向量a,使得对于任何y 1,都有ay>0,而对一任何y 2,都有ay<0,则称这组样本集线性可分;否则称线性不可分。若线性可分,则必存在一个权向量a,能将每个样本正确分类。

2.基本方法:

由上面原理可知,样本集y1,y2,…,yN是线性可分,则必存在某个权向量a,使得

T ayi 0,对一切yi 1

T

ayj 0,对一切yj 2

TT

如果我们在来自 2类的样本yj前面加上一个负号,即令yj=—yj,其中yj 2,则也有

aTy>0。因此,我们令

y,对一切yi 1 iyn

-y,对一切y j2 j

都满足ay>0,那么,我们就可以不管样本原来的类型标志,只要找到一个对全部样本yn

成为规范化增广样本n 1,2,3, ,N的权向量a就行了。此过程称为样本的规范化,yn

向量,后面我们用y来表示它。

我们的目的是找到一个解向量a,使得

*

T

aTyn 0,n 1,2,...,N

为此我们首先考虑处理线性可分问题的算法。先构造这样一个准则函数

Jp(a)

k

y

( a

k

T

y)

T

T

式中 是被权向量a错分类的样本集合。错分类时有ay 0,或 ay 0

Word文档免费下载Word文档免费下载:模式识别实验 感知器准则算法实验 (共5页,当前第1页)

模式识别实验 感知器准则算法实验相关文档

最新文档

返回顶部