参考材料
- 📚 lecture4课件，介绍了自动微分的理论
- 📚 鱼书中图解前向和反向差分的部分
- 📚 lecture5课件，介绍了自动微分框架的设计要素
- 📚 常用导数公式
- 📚 在线矩阵求导计算器
- 📚 反向微分的实现详解
Implementing forward computation ⭐️
公式理解
代码实现
Implementing backward computation ⭐️⭐️
公式理解
代码实现
Topological sort ⭐️
代码实现
Implementing reverse mode differentiation ⭐️
代码实现
Softmax loss 🟢
代码实现