速通 AI（四）：预训练语言模型——BERT 与 GPT
「速通 AI」系列第四篇：掌握 BERT/GPT 预训练模型，熟练使用 HuggingFace 生态。 ...
Artificial Intelligence
速通 AI（三）：Transformer 架构详解
「速通 AI」系列第三篇（上）：深入理解 Transformer 架构——Self-Attention、多头注意力、位置编码、Encoder/Decoder。 ...
速通 AI（二）：深度学习与 PyTorch
「速通 AI」系列第二篇：掌握深度学习核心概念，熟练使用 PyTorch 框架。 ...
速通 AI（一）：编程与人工智能数学基础
「速通 AI」系列第一篇：建立 Python 编程能力和数学理论基础。 ...
大语言模型训练机制全解·第三篇：高效推理与轻量部署核心技术
聚焦大语言模型推理优化与部署：模型量化（GPTQ/AWQ/SmoothQuant）、KV Cache 优化（GQA/PagedAttention）、投机解码、连续批处理、推理框架对比与边缘部署。 ...
大语言模型训练机制全解·第二篇：从预训练到部署的工程实践核心技术
聚焦大语言模型工程实践：预训练数据工程、SFT/RLHF/DPO 微调对齐、分布式训练（数据并行/张量并行/流水线并行/ZeRO）、混合精度训练、梯度累积、显存优化与训练稳定性监控。 ...
大语言模型训练机制全解·第一篇
系统性梳理现代大语言模型背后的核心训练机制：从因果注意力到 Transformer 架构，从损失函数的数学本质到优化器，再到正则化与泛化，构建完整知识图谱。 ...