感知器[5]，又称感知机，是在1957年由Frank Rosenblatt提出的一种最简单的前向人工神经网络。1958年Frank Rosenblatt又提出了最小二乘法、梯度下降法等感知器优化算法[6]。这些算法使得感知器可以完成二分类任务。图2.2为只有一个神经元的单层感知器模型。下面以二分类问题为例来介绍单层感知器。

单层感知器的神经元输出y包含兴奋（1）或抑制（0）两种状态，分别对应二分类任务的类别c1和类别c2。如果采用阈值型激活函数，则单层感知器可以产生一个判决超平面wTx=0。如果输入的样本位于高维空间，则单层感知器可以产生一个超平面完成二分类任务。如果在二维空间做分类，那么如图2.3所示，该判决超平面是一条直线，感知器的输入是一个二维向量，分类面可以表示为w1x1+w2x2+b=0。也就是说，将在直线上方的样本分类为c1，在直线下方的样本分类为c2。

图2.2　只有一个神经元的单层感知器模型(www.daowen.com)

图2.3　二维空间的分类超平面

可以看出，只要得到合适的单层感知器参数w1、w2和b，就可以完成分类任务。换而言之，单层感知器是一种参数化的估计方法，通过求解参数w1、w2和b来得到判决超平面，从而完成分类任务。作为一个只能解决线性可分问题的模型，纠错学习可以用于对单层感知器参数进行估计。我们用f（·）表示激活函数，t为迭代次数，y（t）表示迭代到第t次网络的实际输出，c（t）表示期望的输出（输入量的类别），η为学习率，e（t）表示实际输出和期望输出的误差，其算法描述如算法2.3所示。