zoukankan      html  css  js  c++  java
  • 【转载】矩阵求导、几种重要的矩阵及常用的矩阵求导公式

    版权声明:本文为博主原创文章,遵循 CC 4.0 BY-SA 版权协议,转载请附上原文出处链接和本声明。
    本文链接:https://blog.csdn.net/daaikuaichuan/article/details/80620518


    一、矩阵求导

      一般来讲,我们约定x=(x1,x2,...xN)Tx=(x1,x2,...xN)T,这是分母布局。常见的矩阵求导方式有:向量对向量求导,标量对向量求导,向量对标量求导。

    1、向量对向量求导

          Numerator layout : 分子布局

          Denominator layout : 分母布局

          《多元统计分析》课堂,按照分子布局来讲。

     

    2、标量对向量求导

     

     

    3、向量对标量求导

     

    其他的可以参考wiki:维基百科矩阵求导公式

    二、几种重要的矩阵

    1、梯度(Gradient)

     

     


    2、雅克比矩阵(Jacobian matrix)

     

     


    3、海森矩阵(Hessian matrix)

     

    三、常用的矩阵求导公式

     

     

    参考:
    https://blog.csdn.net/xtydtc/article/details/51133903
    https://blog.csdn.net/yc461515457/article/details/49682473
    ————————————————
    版权声明:本文为CSDN博主「lx青萍之末」的原创文章,遵循 CC 4.0 BY-SA 版权协议,转载请附上原文出处链接及本声明。
    原文链接:https://blog.csdn.net/daaikuaichuan/article/details/80620518

  • 相关阅读:
    CNN5 调用 C实现pool2d im2col col2im
    CUDA学习3 Max pooling (python c++ cuda)
    CUDA学习2 基础知识和Julia示例
    CUDA学习1 在Visual Studio和CodeBlocks上配置
    线性搜索
    CNN4 参数优化
    CNN3 im2col
    CNN2 多层卷积
    爬虫:Scrapy8
    爬虫:Scrapy7
  • 原文地址:https://www.cnblogs.com/jiaxinwei/p/11450561.html
Copyright © 2011-2022 走看看