当前位置: 首页 > news >正文

【pytorch】张量求导

笔者看到了这篇文章,可以很好的解释张量的求导问题:
在这里插入图片描述
看到了上面这张图,可以说很好的表示了前向和反向的过程了。

补充几个细节

之前看李沐的d2l,一直不懂为什么矩阵计算时的一些奇奇怪怪的规定,比如为什么一个行向量对另一个行向量作微分的结果是每一行都对第二个向量的每个元素都进行偏微分,然后拼成一个矩阵。按照作者提到的,首先将y中的每个元素都对向量进行微分,然后再拼成一个矩阵。
另外一个就是:为什么两个向量微分之后的形状是两个向量的形状直接拼起来,从文中作者的解释也可以看出,每个元素都对第二个向量作微分,形状和第二个向量相同,而每个结果都会作为第一个向量的元素,因为最后一维往往就是元素,所以效果就相当于两个向量拼起来。

作者没更矩阵部分的内容,好可惜哦。


http://www.mrgr.cn/news/42913.html

相关文章:

  • 华为杯”第十二届中国研究生数学建模竞赛-D题:单/多列车优化决策问题的研究(续)
  • 第一百零五周周报
  • 帝国CMS迁移网站后出现Create path fail: (建立目录不成功!请检查目录权限 )的解决办法
  • 中断-NVIC与EXTI外设详解(超全面)
  • 用 Delphi 做了一个简单的 CMS
  • 深度学习:基于MindSpore实现CycleGAN壁画修复
  • 认知杂谈98《抵御噪声干扰》
  • Robot Operating System——占据栅格地图(occupancy grid map)
  • valgrind 单例模式的自动释放(多线程)
  • 《计算机原理与系统结构》学习系列——计算机的算数运算(下)
  • SynchronousQueue 的 常用场景及使用示例
  • 【AUTOSAR 基础软件】COM模块详解(通信)
  • 信息安全工程师(33)访问控制概述
  • 【越学学糊涂的Linux系统】(5)shell命令以及运行原理|权限问题
  • 【我的 PWN 学习手札】tcache stash unlink
  • NVIDIA NVLink-C2C
  • 【每天学个新注解】Day 15 Lombok注解简解(十四)—@UtilityClass、@Helper
  • LC108-将有序数组转化为二叉搜索树(二叉平衡树)
  • Pikachu-Unsafe FileUpload-客户端check
  • 《西北师范大学学报 (自然科学版)》