From edb82b7ef2dfbf2606247b21297afb531d834cd3 Mon Sep 17 00:00:00 2001 From: RainBus Date: Sun, 15 Oct 2023 17:08:27 +0800 Subject: [PATCH] vault backup: 2023-10-15 17:08:27 --- Study/DL/吴恩达深度学习课程/矩阵求导.md | 11 +++++++++-- 1 file changed, 9 insertions(+), 2 deletions(-) diff --git a/Study/DL/吴恩达深度学习课程/矩阵求导.md b/Study/DL/吴恩达深度学习课程/矩阵求导.md index 77c6c15..819937f 100644 --- a/Study/DL/吴恩达深度学习课程/矩阵求导.md +++ b/Study/DL/吴恩达深度学习课程/矩阵求导.md @@ -17,9 +17,16 @@ $$ ## 本质 $\frac{dB}{dA} = \frac{d(f(A))}{dA}$ 即 `B` 对 `A` 中的每个变量进行求导。 ## 计算方法 -- 求导结果采用分母布局(同一行是同一个分母)。 - 标量不变,向量拉伸。 -- Y横向拉伸,X纵向拉伸。 +- 前面横向拉伸,后面纵向拉伸。 +## 布局 +分为分母布局和分子布局(区别于谁是列向量),主要区别为求导后元素排列不同。 +通常$(分母布局)^T = (分子布局)$。 +## 常用法则 +1. 乘法 + $$ + \frac{d(U^T V)}{dX} = \frac{\partial{U}}{\partial{X}} V + \frac{\partial{V}}{\partial{X}} U + $$ ## 常见公式推导 1. $$\begin{aligned}