感知机模型

《统计方法学》学习笔记
感知机模型是一种线性二分类模型,输入为实例的特征向量,输出为分类的结果(1或-1)。

模型定义:

感知机模型
sign()是符号函数:
感知机模型

损失函数:

感知机学习的目标是找到一个能够将训练集正例点和负例点完全正确分开的分离超平面。损失函数很容易想到使用分错的点数,然而 这样会导致损失函数并不是参数的连续可导函数。
因此感知机模型损失函数选择的是误分类点到超平面的总距离。
感知机模型