李宏毅2021/2022春季机器学习课程课件及作业

---

重磅须知

（重磅须知，统一说明）为方便所有网课资料与优质电子书籍的实时更新维护，创建了一个在线实时网盘文件夹，放在公众号【啥都会一点的研究生】，本节课对应序号【05】。

UP将2021&2022所有作业的数据资料整理打包好了，由于文件太大，已同步放在上述所提在线网盘。

在线网盘能满足该课程所需资料的全部需求，链接挂掉也会及时更新，祝大家学习顺利。

2022仅在2021基础上进行小补充，2021内容变成了前置知识，UP会在视频标题打上2022的标签；

ppt/pdf支持直链下载。

更新日志

日期	项目
2021/03/16	更新HW1、HW2，同步更新助教范例
2021/03/26	更新HW3、HW4课件、代码、范例；release页发布HW1-HW4数据
2021/04/01	更新选修内容To Learn More，基本是李老师今年不打算讲而以前讲过的知识点(旧视频)
2021/04/09	更新GAN 及 HW05
2021/04/16	更新Self-Supervised Learning 及 HW06
2021/04/30	更新Explainable AI&Adversarial Attack 及 HW07&HW08
2021/05/06	更新Domain Adaptation 及 HW09&HW10
2021/05/21	更新RL 及 HW11
2021/05/28	更新Quantum ML
2021/06/04	更新Life-Long&Compression 及 HW12
2021/06/11	更新Meta Learning 及 HW13&HW14
2021/06/18	更新HW15，随着李老师课程结语视频上传，2021机器学习基本结束啦
2021/12/20	更新Github排版，删除repo中的ppt/pdf直接提供下载链接，总资料放入百度云盘-提取码：sv1i
2022/02/17	2022春季机器学习课程仅在21基础上进行小补充，UP同步更新官网补充内容
2022/02/21	更新Lecture 1:Introductionof Deep Learning补充内容，Github排版大更新
2022/02/25	更新Lecture 2:What to do if my network fails to train补充内容与HW2
2022/03/05	更新Lecture 3:Images input，HW3
2022/03/13	更新Lecture 4 Sequence as input，HW4 UP将2021&2022所有作业的数据资料整理打包好放在公众号【啥都会一点的研究生】
2022/03/18	更新Lecture 5 Sequence to sequence，HW5，相应Data放在公众号维护的网盘中
2022/04/05	更新Lecture 7以及HW6
2022/04/16	更新HW7
2022/04/23	更新HW8
2022/04/30	更新Lecture 9 & Lecture10，HW9
2022/05/06	更新HW10
2022/05/13	更新HW11，部分Lecture10教学视频
2022/05/24	更新HW12

---

B站主页	啥都会一点的研究生
人工智能技术探讨群1	78174903
人工智能技术探讨群2	571218304
人工智能技术探讨群3	584723646

---

名称	项目
2021课程主页	李宏毅2021春季机器学习
2022课程主页	李宏毅2022春季机器学习
B站视频合集	(强推)李宏毅2021春机器学习课程
2021视频及资料目录	链接
2022视频及资料目录	链接

---

章节	2021前置知识	2022补充	选修	作业
Lecture 1	（上）机器学习基本概念简介 （下）机器学习基本概念简介	Video: 2022-机器学习相关规定 2022-Colab教学 2022-Pytorch Tutorial 1 2022-Pytorch Tutorial 2 PDF: Rules Chinese class course intro Pytorch Tutorial 1 Pytorch Tutorial 2 Colab Tutorial Environment Setup	深度学习简介 反向传播 预测-宝可梦 分类-宝可梦 逻辑回归	Video Slide Code Submission
Lecture 2	（一）局部最小值 (local minima) 与鞍点 (saddle point) （二）批次 (batch) 与动量 (momentum) （三）自动调整学习率 (Learning Rate) （四）损失函数 (Loss) 也可能有影响	Video: 2022-再探宝可梦、数码宝贝分类器 — 浅谈机器学习原理 PDF: Theory	Gradient Descent (Demo by AOE) Beyond Adam (part 1) Beyond Adam (part 2)	Video Slide Code Submission
Lecture 3	卷积神经网络CNN	Video: 为什么用了验证集还是过拟合 鱼与熊掌可以兼得的机器学习 PDF: Validation Why Deep	Spatial Transformer Layer	Video Slide Code Submission
Lecture 4	自注意力机制(Self-attention)（上） 自注意力机制(Self-attention)（下）	Video: [None] PDF: [None]	RNN(part 1) RNN(part 2) GNN(part 1) GNN(part 2)	Video Slide Code Submission
Lecture 5	类神经网络训练不起来怎么办（五）批次标准化 Transformer（上） Transformer（下）	Video: 各式各样神奇的自注意力机制 (Self-attention) 变型 PDF: xformer	NAT model Pointer network	Video Slide Code Submission
Lecture 6	GAN（一）基本概念介绍 GAN（二）理论介绍与WGAN GAN（三）生成器效能评估与条件式生成 GAN（四）Cycle GAN	Video: [None] PDF: [None]	Theory of GAN (part 1) Theory of GAN (part 2) Theory of GAN (part 3) Deep Generative Model (part 1) Deep Generative Model (part 2) FLOW-based Model	Video Slide Code
Lecture 7	自监督学习（一）芝麻街与进击的巨人 自监督学习（二）BERT简介 自监督学习（三）BERT的奇闻轶事 自监督学习（四）GPT的野望	Video: 如何有效的使用自督导式模型 语音与影像上的神奇自督导式学习模型 PDF: Recent Advance of Self-supervied learning for NLP SSL for Speech and Image	BERT (part 1) BERT (part 2) GPT-3	Video Slide Code Submission
Lecture 8	自编码器 (Auto-encoder) (上) – 基本概念 自编码器 (Auto-encoder) (下) – 领结变声器与更多应用 Anomaly Detection (1_7) Anomaly Detection (2_7) Anomaly Detection (3_7) Anomaly Detection (4_7) Anomaly Detection (5_7) Anomaly Detection (6_7) Anomaly Detection (7_7)	Video: [None] PDF: [None]	PCA t-SNE	Video Slide Code Submission
Lecture 9	机器学习的可解释性 (上) – 为什么神经网络可以正确分辨宝可梦和数码宝贝 机器学习的可解释性 (下) –机器心中的猫长什么样子	Video: 自然语言处理上的对抗式攻击 Part1 PDF: Adversarial Attack for NLP	[None]	Video Slide Code
Lecture 10	来自人类的恶意攻击 (Adversarial Attack) (上) – 基本概念 2021 - 来自人类的恶意攻击 (Adversarial Attack) (下) – 类神经网络能否躲过人类深不见底的恶意	Video: 自然语言处理上的对抗式攻击 Part2 自然语言处理上的对抗式攻击 Part3 自然语言处理上的模仿攻击 (Imitation Attack) 以及后门攻击 (Backdoor Attack) PDF: Adversarial Attack for NLP	More about Adversarial Attack (1_2) More about Adversarial Attack (2_2)	Video Slide Code Submission
Lecture 11	概述领域自适应 (Domain Adaptation)	Video: 恶搞自督导式学习模型 BERT的三个故事 PDF: More about self-supervised learning		Video Slide Code Submission
Lecture 12	（一）增强式学习和机器学习一样都是三个步骤 （二）Policy Gradient 与修课心情 （三）Actor-Critic （四）回馈非常罕见的時候怎么办？机器的望梅止渴 （五）如何从示范中学习？逆向增強式学习 (Inverse RL)	Video: [None] PDF: [None]		Video [Slide] Code Submission

---