常用矩阵导数公式

    1 矩阵\(Y=f(x)\)对标量x求导

    矩阵Y是一个\(m\times n\)的矩阵,对标量x求导,相当于矩阵中每个元素对x求导

    \[\frac{dY}{dx}=\begin{bmatrix}\dfrac{df_{11}(x)}{dx} & \ldots & \dfrac{df_{1n}(x)}{dx} \\ \vdots & \ddots &\vdots \\ \dfrac{df_{m1}(x)}{dx} & \ldots & \dfrac{df_{mn}(x)}{dx} \end{bmatrix}\]

    2 标量y=f(x)对矩阵X求导

    注意与上面不同,这次括号内是求偏导,\(X\)是是一个\(m\times n\)的矩阵,函数\(y=f(x)\)对矩阵\(X\)中的每个元素求偏导,对\(m\times n\)矩阵求导后还是\(m\times n\)矩阵

    \[\frac{dy}{dX} = \begin{bmatrix}\dfrac{\partial f}{\partial x_{11}} & \ldots & \dfrac{\partial f}{\partial x_{1n}}\\ \vdots & \ddots & \vdots \\\dfrac{\partial f}{\partial x_{m1}} & \ldots & \dfrac{\partial f}{\partial x_{mn}}\end{bmatrix}\]

    3 函数矩阵Y对矩阵X求导

    矩阵\(Y=F(x)\)对每一个\(X\)的元素求导,构成一个超级矩阵

    \[F(x)=\begin{bmatrix}f_{11}(x) & \ldots &  f_{1n}(x)\\ \vdots & \ddots &\vdots \\ f_{m1}(x) & \ldots & f_{mn}(x) \end{bmatrix}\]

    \[X=\begin{bmatrix}x_{11} & \ldots &  x_{1s}\\ \vdots & \ddots &\vdots \\ x_{r1} & \ldots & x_{rs}\end{bmatrix}\]

    ,其中

    \[\frac{dF}{dX} = \begin{bmatrix}\dfrac{\partial F}{\partial x_{11}} & \ldots & \dfrac{\partial F}{\partial x_{1s}}\\ \vdots & \ddots & \vdots \\\dfrac{\partial F}{\partial x_{r1}} & \ldots & \dfrac{\partial F}{\partial x_{rs}}\end{bmatrix}\]

    其中

    \[\frac{\partial F}{\partial x_{ij}} = \begin{bmatrix}\dfrac{\partial f_{11}}{\partial x_{ij}} & \ldots & \dfrac{\partial f_{1n}}{\partial x_{ij}}\\ \vdots & \ddots & \vdots \\\dfrac{\partial f_{m1}}{\partial x_{ij}} & \ldots & \dfrac{\partial f_{mn}}{\partial x_{ij}}\end{bmatrix}\]

    \[\frac{\partial F}{\partial x_{ij}} = \begin{bmatrix} \end{bmatrix}\]

    重要结论:假设是一个向量:

时间: 2024-11-04 23:48:40

常用矩阵导数公式的相关文章

Homework #0 SVD相关&常用矩阵求导公式

数字电路与系统-逻辑运算与简化(常用三个公式)

---恢复内容开始--- 常用公式 这些个公式实际上就是教人如何利用前面所述的定律,规则来进行简化或论证逻辑函数. 1.并项公式 从名字可以看出,方便逻辑运算时简化式子.AB+A'B=B, (A+A'=1,A'是A变量的反变量,逻辑变量是二值逻辑,只能是0或者1),此处这种等式还可以进行对偶的扩展, (A+B)(A'+B)=B,这样也侧面说明对偶对于公式的论证是有帮助的. 2.销冗余因子公式 A+A'B=A+B,从公式看确实是消除了左式中的一项的因子,证明过程:(A+A')(A+B)=A+B,这

[微积分] 常用定义与公式

函数.极限与连续性 连续性 导数 微分 全微分与偏导数: 级数与中值定理 两元函数 常用积分公式

[线性代数] 常用定义与公式

矩阵和向量 线性运算与转置 矩阵 矩阵的初等变换: 阶梯形矩阵 的定义是: 1. 如果有零行,则都在下面 2. 各非零行的第一个非0元素的列号自上而下严格单调上升. 或者各行左边出现的0的个数自上而下严格单调上升,直到全为0. 台角: 各非零行第一个非0元素所在位置. 简单阶梯形矩阵: 3. 台角位置元素全为 1 4. 台角正上方元素全为 0 . 每个矩阵都可用初等行变换化为阶梯形矩阵和简单阶梯形矩阵. 线性方程组的矩阵消元法 用同解变换化简方程再求解 三种同解变换 1. 交换两个方程的上下位置

Excel常用12个公式

兰色今天精选出12个excel函数公式,虽然它们不并常用,但很实用.需要用时你还真不好搜到它们,所以赶紧收藏起来吧. 1.动态获取A列最后一个数字 =LOOKUP(1,0/(A2:A100>0),A2:A100) 2.不重复个数公式 =SUMPRODUCT(1/COUNTIF(A2:A7,A2:A7)) 3.提取唯一值公式 数组公式(按ctrl+shift+enter三键输入,以下带{}输入方法相同) =IFERROR(INDEX(A:A,SMALL(IF(MATCH(A$2:A$7,A$2:A

HihoCoder 1480:矩阵填数 (杨氏矩阵 || 钩子公式 + 筛逆元)

描述 小Hi在玩一个游戏,他需要把1, 2, 3, ... NM填入一个N行M列的矩阵中,使得矩阵每一行从左到右.每一列从上到下都是递增的. 例如如下是3x3的一种填法: 136 247 589 给定N和M,小Hi希望知道一共有多少种不同的填法. 输入 一行包含两个整数N和M. 对于60%的数据 1 <= N <= 2, 1 <= M <= 100000 对于20%的数据 N = 3, 1 <= M <= 100 对于100%的数据 1 <= N <= 3,

AS3常用动画效果公式集合

AS3缓动公式:sprite.x += (targetX – sprite.x) * easing;//easing为缓动系数变量sprite.y += (targetY – sprite.y) * easing; AG: <!-- 示例一:AS3缓动公式 从(0,0)移到(x,y) --> <div id="box" style="width: 100px; height: 100px; background: #f85455;position: abso

常用excel函数公式及操作示例

一.数字处理 1.取绝对值 =ABS(数字) 2.取整 =INT(数字) 3.四舍五入 =ROUND(数字,小数位数) 二.判断公式 1.把公式产生的错误值显示为空 公式:C2 =IFERROR(A2/B2,"") 说明:如果是错误值则显示为空,否则正常显示. 2.IF多条件判断返回值 公式:C2 =IF(AND(A2<500,B2="未到期"),"补款","") 说明:两个条件同时成立用AND,任一个成立用OR函数.

sql常用的统计公式

hivesql中max,min函数不能作用于多列,因此在有上下门限区间限制时多用公式直接计算. max(x,y)=(x+y+ABS(x-y))/2 min(x,y)=(x+y-ABS(x-y))/2 若x<a<y   x,y为上下门限,a<x则取x,a>y则取y,否则取a min(max(a,x),y)=(a+x+abs(a-x)+2y+2abs(a+x+abs(a-x)-y))/4 原文地址:https://www.cnblogs.com/fanhuazhixia/p/11712