[李宏毅-机器学习]解释性机器学习 Explainable ML
local explaination
移除图片中的一部分,如果识别结果发现很大变化,则该部分对于识别这个物体很重要
计算最后类别的概率那个节点对每个pixel的梯度,梯度大的话就说明该pixel重要
global explaination
用一个可以被解释的model去解释另一个不可被解释的model
local explaination
移除图片中的一部分,如果识别结果发现很大变化,则该部分对于识别这个物体很重要
计算最后类别的概率那个节点对每个pixel的梯度,梯度大的话就说明该pixel重要
global explaination
用一个可以被解释的model去解释另一个不可被解释的model