机器学习中的数学基础

1. Norm

机器学习中的数学基础
L0 norm是求向量里非0的元素个数,主要用在稀疏表示上,我们希望多数元素为0,这个时候L0就有用了。
机器学习中的数学基础
机器学习中的数学基础

L1 norm 也叫曼哈顿距离。
当p是无穷的时候,我们将其展开,向量中最大元素的无穷次幂远大于其他元素,因此Lp norm即是向量中的最大元素。
机器学习中的数学基础

为什么L1Norm的等高线是菱形?
L1 Norm每条线上的横纵坐标之和相同。L2同理。
机器学习中的数学基础

2. Tenor

Tensor的含义
可见:https://www.wukong.com/question/6531498435785261325/
机器学习中的数学基础

二维Tensor
机器学习中的数学基础
机器学习中的数学基础

3. 行列式

机器学习中的数学基础
含义:二维矩阵的行列式的值即为两向量构成的平行四边形的面积,三维则为立方体体积

4. 特征值和特征向量

机器学习中的数学基础

5. 奇异值分解

机器学习中的数学基础