提交 d126b997 编写于 作者: A Aston Zhang 提交者: Aston Zhang

Update fcn.md

上级 05dbaefe
......@@ -34,7 +34,7 @@ W[0, 0:11], W[1, 1:12], W[2, 4:15], W[3, 5:16] = k, k, k, k
nd.dot(W, X.reshape(16)).reshape((1, 1, 2, 2)), W
```
现在我们从矩阵乘法的角度来描述卷积运算。设输入向量为$\boldsymbol{x}$,权重矩阵为$\boldsymbol{W}$,卷积的前向计算函数的实现可以看作将函数输入乘以权重矩阵,并输出向量$\boldsymbol{y} = \boldsymbol{W}\boldsymbol{x}$。我们知道,反向传播需要依据链式法则。由于$\nabla_{\boldsymbol{x}} \boldsymbol{y} = \boldsymbol{W}^\top$,卷积的反向传播函数的实现可以看作将函数输入乘以转置后的权重矩阵$\boldsymbol{W}^\top$。而转置卷积层正好交换了卷积层的前向计算函数与反向传播函数:这两个函数可以看作将函数输入向量分别乘以$\boldsymbol{W}^\top$和$\boldsymbol{W}$。
现在我们从矩阵乘法的角度来描述卷积运算。设输入向量为$\boldsymbol{x}$,权重矩阵为$\boldsymbol{W}$,卷积的前向计算函数的实现可以看作将函数输入乘以权重矩阵,并输出向量$\boldsymbol{y} = \boldsymbol{W}\boldsymbol{x}$。我们知道,反向传播需要依据链式法则。由于$\nabla_{\boldsymbol{x}} \boldsymbol{y} = \boldsymbol{W}^\top$,卷积的反向传播函数的实现可以看作将函数输入乘以转置后的权重矩阵$\boldsymbol{W}^\top$。而转置卷积层正好交换了卷积层的前向计算函数与反向传播函数:转置卷积层的这两个函数可以看作将函数输入向量分别乘以$\boldsymbol{W}^\top$和$\boldsymbol{W}$。
不难想象,转置卷积层可以用来交换卷积层输入和输出的形状。让我们继续用矩阵乘法描述卷积。设权重矩阵是形状为$4\times16$的矩阵,对于长度为16的输入向量,卷积前向计算输出长度为4的向量。假如输入向量的长度为4,转置权重矩阵的形状为$16\times4$,那么转置卷积层将输出长度为16的向量。在模型设计中,转置卷积层常用于将较小的特征图变换为更大的特征图。在全卷积网络中,当输入是高和宽较小的特征图时,转置卷积层可以用来将高和宽放大到输入图像的尺寸。
......
Markdown is supported
0% .
You are about to add 0 people to the discussion. Proceed with caution.
先完成此消息的编辑!
想要评论请 注册