人类反馈强化学习（RLHF）

一种训练技术，基于人类评分学习奖励模型，使模型对齐人类偏好。

RLHF 是聊天机器人显得有用、礼貌而非仅仅预测可能文本的重要原因。DPO 等更新的变体用更简单的训练方式实现类似的对齐效果。

相关资源

大模型微调实战

一份面向大语言模型微调的实战指南，涵盖 LoRA、QLoRA 等参数高效方法以及传统全量微调。从数据集准备、超参数调优到评估指标均有详细代码示例，适合希望将基础模型适配到特定领域、又不想承担从零训练成本的 ML 工程师。