深度学习从拆箱开始——序言
为什么要写这个专栏 笔者在上学期学习了 COMP3314,一门传统机器学习课程。然而,传统机器学习在特征提取和模型设计上都需要大量的人工干预,难以适应复杂的现实世界数据。相比之下,深度学习通过多层神经网络自动学习数据的特征表示,在图像识别、自然语言处理等领域取得了许多重要突破。这个专栏旨在记录笔者从零开始学习深度学习的过程,分享理论推导和实战经验,希望能帮助同样对深度学习感兴趣的读者快速入门并逐步深入理解这一领域。 写作说明 这个专栏不会被写成一份固定课程表。深度学习本身发展很快,我自己的学习兴趣也会随着论文、项目和课程不断变化;如果一开始就把文章顺序钉死,反而容易限制后面真正想写的问题。 因此,这里更像是一组持续更新的学习笔记:有些文章会解释基础概念,例如什么是机器学习和深度学习;有些文章会拆解训练机制,例如正向传播与反向传播;也会有一些文章直接进入具体模型,例如为什么 ResNet 能训练 152 层。 如果某篇文章里的数学推导开始依赖更复杂的矩阵知识,我会把这部分拆到独立的 Math 专栏(线性代数 与 AI Math)里。比如 ResNet 中关于 Jacobian、向量-Jacobian 乘积和恒等矩阵的部分,就可以配合矩阵微积分如何服务反向传播一起看。这样,Deep Learning 专栏可以保持主线清晰,而数学细节也有足够空间展开。