【Week 2】深入理解Flux.jl和Zygote.jl


#1

:keyboard:

1. :bookmark_tabs:背景描述

主要围绕Flux.jl,深入聊一聊其实现,以及与之相关的Zygote.jl

  • :dart: Issue Link
  • :family_man_woman_girl_boy: 参与人员(TBD,直接回复本帖报名):
  • 讨论要点
    • Flux源码
      • 代码目录结构
      • 如何理解functor
      • optimizers 是怎么实现的?
      • 一些常见的layer怎么用?如何写一个自定义的layer?需要注意什么?
      • 如何做到适配CuArrays的?
      • 如何入手贡献代码?
    • 理解Zygote
      • Zygote的基本思想
      • Zygote的代码结构
      • 如何写一个自定义的@adjoint
      • 如何debug?
      • 如何贡献代码?
      • 相比以前的Tracker.jl 以及其它语言中的AD有什么重要的区别?

2. :white_check_mark: 参考

3 :spiral_calendar:参与方式

  • 线上
  • 时间 2019-11-10T02:00:00Z2019-11-10T03:00:00Z
  • 在线会议地址 (已私信,还有人想参加讨论的直接回复本贴即可)
  • 在线直播地址(B站
  • 视频回放链接

#2

报个名。之前想在数据读入中实现类似pytorch Dataloader 的功能,在看 Dataset.jl, 不过还没看懂。对讨论内容感兴趣。


#3

报名+1,刚好可以一边学习Julia,一边了解深度学习


#4

我的另外一篇文章讲解了Zygote是如何实现的。不是这篇,这个的前一篇文章。


#5

刚刚加入这个社区。很有趣的topic。请问如何报名呢?


#6

报名+1:raising_hand_woman:


#7

报名报名报名报名


#8

报名报名:raising_hand_man:


#9

报名 +1,看Flux源码好累,交流下比较好


#10

FYI:


#11

正是需要的,非常感谢!


#12

支持,报名+1!


#13

视频回放链接和相关的资料已经更新,再次感谢 @Roger 和其它参会人员抽出宝贵的时间来和大家分享!

(很抱歉由于我在笔记本上直播的,直播画面较差,在线的声音没有提前设置好,下次分享的时候一定提前准备好!视频回放的画面是正常的,可以在 https://www.bilibili.com/video/av75185925/ 观看,声音稍微有点时强时弱,不太清楚具体原因)


#14

通过 @Roger 的介绍,大概了解了zygote的设计思路以及cassette在这里面扮演的角色。当然细节方面还需要自己去琢磨,感觉这次收获挺大的。

同时也谢谢 @Jun 在工作之余抽出时间来组织这样的活动