30 lines
571 B
Markdown
30 lines
571 B
Markdown
## 概念
|
||
标量函数：输出为标量的函数
|
||
$$
|
||
f(x) = x^2
|
||
$$
|
||
向量函数：输出为向量/矩阵/张量的函数
|
||
$$
|
||
f(x) =
|
||
\left[ \begin{matrix}
|
||
x & x^2 \\
|
||
x^3 & x^4
|
||
\end{matrix} \right]
|
||
$$
|
||
$$
|
||
f(A) = B
|
||
$$
|
||
## 本质
|
||
$\frac{dB}{dA} = \frac{d(f(A))}{dA}$ 即 `B` 对 `A` 中的每个变量进行求导。
|
||
## 计算方法
|
||
- 求导结果采用分母布局(同一行是同一个分母)。
|
||
- 标量不变，向量拉伸。
|
||
- Y横向拉伸，X纵向拉伸。
|
||
## 常见公式推导
|
||
1.
|
||
$$\begin{aligned}
|
||
f(X) = A^T \cdot X = \sum_{i=1}^{n}a_i x_i \\
|
||
d(f(X))
|
||
|
||
|
||
$$ |