速通 AI(六):LLM 应用开发
「速通 AI」系列第六篇:掌握提示词工程、LangChain 框架、OpenAI API 调用。 ...
「速通 AI」系列第六篇:掌握提示词工程、LangChain 框架、OpenAI API 调用。 ...
「速通 AI」系列第五篇:深入理解 LLaMA 架构的 5 大关键改进——RMSNorm、RoPE、SwiGLU、KV Cache、GQA。 ...
聚焦大语言模型推理优化与部署:模型量化(GPTQ/AWQ/SmoothQuant)、KV Cache 优化(GQA/PagedAttention)、投机解码、连续批处理、推理框架对比与边缘部署。 ...
聚焦大语言模型工程实践:预训练数据工程、SFT/RLHF/DPO 微调对齐、分布式训练(数据并行/张量并行/流水线并行/ZeRO)、混合精度训练、梯度累积、显存优化与训练稳定性监控。 ...
系统性梳理现代大语言模型背后的核心训练机制:从因果注意力到 Transformer 架构,从损失函数的数学本质到优化器,再到正则化与泛化,构建完整知识图谱。 ...