深度学习基础

概述

深度学习是驱动大模型革命的核心技术。从神经网络的基本原理到 CNN/RNN 经典架构，这些知识是理解 GPT、Claude 等大模型为什么有效的底层密码。

知识点

神经网络入门

• 深度学习-基础：神经网络/CNN/RNN 基础概念全览，入门首选

• 深度学习-神经网络基础：神经元、激活函数、前向传播与反向传播的直观理解

• 深度学习-公式速查：深层网络的表达能力、梯度消失/爆炸、Batch Normalization、Dropout

核心工具与训练

• 深度学习-核心工具：PyTorch/TensorFlow 的基础 API、自动微分、GPU 训练

• 深度学习-训练与优化：MSE、交叉熵、Hinge Loss 各自的适用场景与数学原理

• 深度学习-基础概念：epoch/batch/iteration、学习率调度、优化器选择（SGD/Adam）

经典架构

• 深度学习-卷积神经网络CNN：卷积核、池化、感受野——图像和文本都能用卷积来做特征提取

• 深度学习-循环神经网络RNN：序列建模的经典思路，LSTM/GRU 如何缓解长距离依赖

生成模型

| 笔记 | 核心内容 | 类型 |

|------|---------|------|

| 生成对抗网络（GAN） | 生成器-判别器对抗训练、模式坍缩与 WGAN 改进、经典变体 | 概念解释 |

实战案例

• 深度学习-案例：深度学习端到端实战项目

学习路径

深度学习-神经网络基础 → 深度学习-基础概念 → 深度学习-训练与优化 → 深度学习-核心工具



    → 深度学习-卷积神经网络CNN → 深度学习-循环神经网络RNN → 深度学习-公式速查

关联专题

• 机器学习-MOC：特征工程、模型评估等前置知识

• NLP 基础：Transformer、注意力机制等深度学习在 NLP 中的应用

• 模型部署-MOC：训练完模型后如何部署上线

（内容由 AI 辅助生成，请根据实际学习进度更新）

---