1. 背景描述
主要围绕Flux.jl,深入聊一聊其实现,以及与之相关的Zygote.jl 等
- Issue Link
- 参与人员(TBD,直接回复本帖报名):
- 讨论要点
- Flux源码
- 代码目录结构
- 如何理解
functor
- optimizers 是怎么实现的?
- 一些常见的layer怎么用?如何写一个自定义的layer?需要注意什么?
- 如何做到适配CuArrays的?
- 如何入手贡献代码?
- 理解Zygote
- Zygote的基本思想
- Zygote的代码结构
- 如何写一个自定义的@adjoint
- 如何debug?
- 如何贡献代码?
- 相比以前的Tracker.jl 以及其它语言中的AD有什么重要的区别?
- Flux源码
2. 参考
-
一天实现你自己的源到源自动微分: @Roger 写的, 有利于理解Zygote
-
A Differentiable Programming System to Bridge Machine Learning and Scientific Computing