百面机器学习|学习笔记|余弦距离

百面机器学习|学习笔记|第二章模型评估

如何评估样本距离也是定义优化目标和训练方法的基础。

在机器学习问题中,通常将特征表示为向量的形式,所以在分析两个特征向量之间的相似性时,常使用余弦相似度来表示。余弦相似度的取值范围是[-1,1],相同的两个向量之间的相似度为1。如果希望得到类似于距离的表示,将1减去余弦相似度即为余弦距离。因此,余弦距离的取值范围为[0,2],相同的两个向量余弦距离为0。

对于两个向量A和B,其余弦相似度定义为两个向量夹角的余弦关注的是向量之间的角度关系并不关心它们的绝对大小,其取值范围是[-1,1]。

当一对文本相似度的长度差距很大、但内容相近时,如果使用词频或词向量作为特征,它们在特征空间中的的欧氏距离通常很大;而如果使用余弦相似度的话,它们之间的夹角可能很小,因而相似度高。

此外,在文本、图像、视频等领域,研究的对象的特征维度往往很高,余弦相似度在高维情况下依然保持“相同时为1,正交时为0,相反时为-1”的性质,而欧氏距离的数值则受维度的影响,范围不固定,并且含义也比较模糊。

百面机器学习|学习笔记|余弦距离
余弦距离是否是一个严格定义的距离?

百面机器学习|学习笔记|余弦距离
百面机器学习|学习笔记|余弦距离