矩阵求导

矩阵求导

0 布局约定

分母布局
分子布局
矩阵求导

1 关于标量的求导

1.1 标量关于标量X的求导

1.2 向量关于标量X的求导

1.3 矩阵关于标量X的求导

2 关于向量的导数

2.1 标量关于向量X的导数

y对列向量X求导后得到梯度向量(行向量)

2.2 向量关于向量X的导数

n维列向量y对n维列向量X求导得到n维方阵,叫做Jacobian矩阵

2.3 矩阵关于向量X的导数

n维方阵Y对n维列向量X求导后也是n维方阵,Y的第k列对xk求偏导(k=1,2,…,n)

3 关于矩阵的导数

y对矩阵X的导数是梯度矩阵

参考文献

[1] https://blog.****.net/u010976453/article/details/54381248
[2] 《线性代数》