决策边界(Decision boundary )

决策边界

决策边界的定义

决策边界是由分类模型的参数决定的,对不同类型数据进行划分的分类边界,在二维图上表示如下:
决策边界(Decision boundary )
决策边界是由假设函数的参数决定的,例如假设函数
hθ=g(θ0+θ1x1+θ2x2) h_{\theta} = g(\theta_0 + \theta_1x_1 + \theta_2x_2)
其中g函数是sigmoid函数,因此,θTx\theta^Tx大于等于0时,对应的hθ(x)h_\theta(x)取值大于0.5,预测值对应1。求解此时的θTx\theta^Tx,可以得到直线
x1+x2>=3 x_1 + x_2 >= 3
该直线即为当前假设函数的决策边界。
注意:决策边界只与假设函数的参数有关,与训练集数据无关

复杂决策边界

除了上文提到的直线型决策边界,根据假设函数的不同,决策边界也可以有很多种类型,如下图所示:
决策边界(Decision boundary )
假设函数中的θTx\theta^Tx为二次多项函数
决策边界(Decision boundary )
其他的高阶函数产生的不同的决策边界。