常见矩阵求导

矩阵微分（matrix derivatives）

1. 字典学习中的最小二乘法

{Dopt,Wopt}=argminD,W∑ℓ=1L∥wℓ∥+γ∥X−DW∥2

使用迭代求解的思路，优化上述问题，固定 W，上述问题就转换为单目标优化问题，此时可用最小二乘法的思路，给出 D 的显式解：

(X−DW)WT=0⇒D=(XWT)(WWT)−1