# 深度学习课程 🚀

欢迎来到这门全面的深度学习课程！本课程将从零开始教你深度学习，结合实践与理论方法。

## 🎯 课程目标

- 理解深度学习的数学基础
- 掌握现代神经网络架构
- 使用 PyTorch 实现模型
- 探索深度学习的实际应用

## 📚 课程结构

本课程分为多个部分：

1. **🏗️ 基础**  
   介绍梯度下降优化、链式法则的直观理解，以及逻辑回归的初步实践。

2. **🧠 全连接网络**  
   通过 [micrograd](https://github.com/karpathy/micrograd/tree/master) 和 PyTorch 探索神经网络的工作原理。介绍提升性能的高级训练技巧。

3. **🖼️ 卷积网络**  
   讲解卷积层及其在神经网络中的应用。实践案例：MNIST、CIFAR-10 分类与图像分割。

4. **🔄 自编码器**  
   学习无监督学习方法：自编码器在异常检测和图像去噪中的应用。

5. **🗨️ 自然语言处理（NLP）**  
   参考 ["Building makemore"](https://www.youtube.com/playlist?list=PLAqhIrjkxbuWI23v9cThsA9GvCAUhRvKZ) 系列，从简单模型到更复杂的文本预测架构。

6. **🤗 Hugging Face**  
   探索 [Hugging Face](https://huggingface.co/) 平台：了解模型、数据集和库（transformers、diffusers、gradio）在不同场景下的应用。

7. **🤖 Transformer**  
   深入学习 Transformer 架构：逐步实现、数学原理、各种应用（视觉、翻译等），以及 Vision Transformer 简介。

8. **🔍 目标检测（YOLO）**  
   介绍目标检测方法（two-stage、one-stage），重点讲解 [YOLO](https://arxiv.org/pdf/1506.02640) 并使用 [ultralytics](https://www.ultralytics.com/) 库。

9. **🎯 对比学习训练**  
   介绍对比学习训练：人脸验证实现及其在无监督学习中的应用。

10. **🤝 迁移学习与蒸馏**  
    讲解迁移学习和知识蒸馏：实际案例、异常检测中的蒸馏，以及用 BERT 和 Hugging Face 微调大语言模型（LLM）。

11. **🌀 生成模型**  
    介绍主流生成模型：GAN、VAE、归一化流、扩散模型（不包括已在 NLP/Transformer 部分介绍的自回归模型）。

12. **🌟 拓展专题**  
    高级概念与补充技术：BatchNorm、残差连接、优化器、dropout、数据增强等。

## 🛠️ 先修要求

- 基础 Python 知识
- 一些数学基础（线性代数、微积分）
- 学习的动力！💪

*开始你的深度学习之旅，从基础部分探索