线性代数之矩阵论:如何完成矩阵的求导?

专栏限时打折中



函数f(x)关于向量x的梯度

线性代数之矩阵论:如何完成矩阵的求导?

函数f(x)关于向量X^T的梯度

线性代数之矩阵论:如何完成矩阵的求导?

m维行向量函数f(x)=(f1(x),...,fm(x))关于向量x的梯度

线性代数之矩阵论:如何完成矩阵的求导?

f(A)关于m*n矩阵A的的梯度

线性代数之矩阵论:如何完成矩阵的求导?

对向量的偏导数

线性代数之矩阵论:如何完成矩阵的求导?

XTAy可以看成内积,那么对x求偏导就是Ay

线性代数之矩阵论:如何完成矩阵的求导?

y^TAx可以看成内积,进而可以变为

线性代数之矩阵论:如何完成矩阵的求导?

X^TAX可以堪称内积,由于两个边都有,当对左边求偏导结果是Ax,此时变为

迹函数的梯度矩阵

对于一个n阶方阵A的迹被定义为方阵A的主对角线的元素之和,通常对方阵的求迹操作写成trA,于是我们有

线性代数之矩阵论:如何完成矩阵的求导?

常用的矩阵迹的微分

线性代数之矩阵论:如何完成矩阵的求导?

常用的迹函数的梯度矩阵举例:

线性代数之矩阵论:如何完成矩阵的求导?

如上所示迹是对角线上的元素和,所以对A求偏导,此时矩阵A的非对角线上的元素为0,对角线上的元素为1

线性代数之矩阵论:如何完成矩阵的求导?

如上所示迹AB对A求偏导数,对Apl的结果为Blp,那么也就是B矩阵的转置了


分享到:


相關文章: