深度学习课程 🚀

深度学习课程 🚀#

欢迎来到这门全面的深度学习课程！本课程将从零开始教你深度学习，结合实践与理论方法。

🎯 课程目标#

  • 理解深度学习的数学基础

  • 掌握现代神经网络架构

  • 使用 PyTorch 实现模型

  • 探索深度学习的实际应用

📚 课程结构#

本课程分为多个部分：

  1. 🏗️ 基础
    介绍梯度下降优化、链式法则的直观理解，以及逻辑回归的初步实践。

  2. 🧠 全连接网络
    通过 micrograd 和 PyTorch 探索神经网络的工作原理。介绍提升性能的高级训练技巧。

  3. 🖼️ 卷积网络
    讲解卷积层及其在神经网络中的应用。实践案例：MNIST、CIFAR-10 分类与图像分割。

  4. 🔄 自编码器
    学习无监督学习方法：自编码器在异常检测和图像去噪中的应用。

  5. 🗨️ 自然语言处理（NLP）
    参考 “Building makemore” 系列，从简单模型到更复杂的文本预测架构。

  6. 🤗 Hugging Face
    探索 Hugging Face 平台：了解模型、数据集和库（transformers、diffusers、gradio）在不同场景下的应用。

  7. 🤖 Transformer
    深入学习 Transformer 架构：逐步实现、数学原理、各种应用（视觉、翻译等），以及 Vision Transformer 简介。

  8. 🔍 目标检测（YOLO）
    介绍目标检测方法（two-stage、one-stage），重点讲解 YOLO 并使用 ultralytics 库。

  9. 🎯 对比学习训练
    介绍对比学习训练：人脸验证实现及其在无监督学习中的应用。

  10. 🤝 迁移学习与蒸馏
    讲解迁移学习和知识蒸馏：实际案例、异常检测中的蒸馏，以及用 BERT 和 Hugging Face 微调大语言模型（LLM）。

  11. 🌀 生成模型
    介绍主流生成模型：GAN、VAE、归一化流、扩散模型（不包括已在 NLP/Transformer 部分介绍的自回归模型）。

  12. 🌟 拓展专题
    高级概念与补充技术：BatchNorm、残差连接、优化器、dropout、数据增强等。

🛠️ 先修要求#

  • 基础 Python 知识

  • 一些数学基础（线性代数、微积分）

  • 学习的动力！💪

*开始你的深度学习之旅，从基础部分探索

Contents