机器学习从零开始系列【第二话】矩阵与向量基础

矩阵 (Matrix)

$R^{2*3}=\begin{bmatrix} 0 & 0 & 0 \\ 0 & 0 & 0 \end{bmatrix}$R2∗3=[00​00​00​]

• （Rows，Cols）来对应（Y，X）[简记：rc-yx]
• $A_{ij}=i^{th}Rows,j^{th}Cols$Aij​=ithRows,jthCols

Dimension of matrix = Rows x Cols

向量 (Vector)

$R^{3*1}==\vec{V}=\begin{bmatrix}0\\0\\0\end{bmatrix}$R3∗1==V=⎣⎡​000​⎦⎤​

矩阵四则运算

加法
必须满足逐元素对应
$\begin{bmatrix} 1 & 2 & 3 \\ 0 & 0 & 5 \end{bmatrix}+\begin{bmatrix} 1 & 4 & 0 \\ 0 & 0 & 6 \end{bmatrix}=\begin{bmatrix} 2 & 6 & 5 \\ 0 & 0 & 11 \end{bmatrix}$[10​20​35​]+[10​40​06​]=[20​60​511​]
乘法
必须满足 $A^{M*D}*B^{D*N}=R^{M*N}$AM∗D∗BD∗N=RM∗N 才能进行矩阵乘法操作
$A^{3*2}*B^{2*1}=R^{3*1}$A3∗2∗B2∗1=R3∗1
$\begin{bmatrix} 1 & 3 \\ 4 & 0 \\ 2 & 1 \end{bmatrix} X\begin{bmatrix} 1 \\5 \end{bmatrix} =\begin{bmatrix} 16 \\ 4 \\ 7 \end{bmatrix}$⎣⎡​142​301​⎦⎤​X[15​]=⎣⎡​1647​⎦⎤​
$1*1+3*5=16$1∗1+3∗5=16
$4*1+0*5=4$4∗1+0∗5=4
$2*1+1*5=7$2∗1+1∗5=7

注意：AxB$\neq$​=BxA

单位矩阵 (Identity matrix)

单位矩阵必须是方阵，表示 $I_n=R^{n*n}$In​=Rn∗n，而且只有一条对角线是1。单位矩阵与下面要说的逆矩阵和矩阵转置密切相关。

$\begin{bmatrix}1&0& 0\\ 0&1&0\\0&0&1 \end{bmatrix}$⎣⎡​100​010​001​⎦⎤​

矩阵转置 (Matrix transpose) 和逆矩阵 (Inverse matrix)

$A$A的转置是$A^{T}$AT，那么就有$A=R^{m*n}$A=Rm∗n，$A^{T}=R^{n*m}$AT=Rn∗m
如果A是方阵，有：
$A*A^{-1}=I$A∗A−1=I
我们称$A^{-1}$A−1是A的逆矩阵