Transformers + PEFT + TRL
当你需要掌控加载、适配器、训练器和对齐目标时，可组合的 Python API 很合适。
需核实： 锁定相互兼容的版本，并针对确切的模型架构、量化器和分布式启动器做测试。
打开官方文档微调指南
微调框架
选择一个仍在维护、且能支持你确切的检查点、训练目标、加速器、产物格式和部署路径的技术栈。功能清单的变化快过概念本身。
Axolotl
以配置驱动的 SFT、偏好微调和强化学习配方，覆盖其支持的模型与硬件。
需核实： 从针对你的模型且仍在维护的示例出发；在自己的集群上验证可选内核和分布式设置。
打开官方文档LLaMA-Factory
命令行与网页界面，覆盖广泛模型矩阵上的数据准备、训练、评估和导出。
需核实： 针对你打算使用的具体模型和方法，确认仓库的支持表和许可。
打开官方文档Unsloth
一套工具集，聚焦其支持组合下的本地与云端后训练工作流优化。
需核实： 把厂商给出的速度和显存数字视为与负载相关；在本地复现质量和吞吐量。
打开官方文档配套层
实验跟踪
记录代码、环境、数据集版本、参数、检查点、指标和评估产物。仪表盘不能替代可复现的输入。
启动前检查清单
- 有一份仍在维护的示例，覆盖确切的模型版本和对话模板。
- 框架支持目标加速器、精度和分布式拓扑。
- 训练与线上服务在适配器、分词器、量化和检查点格式上保持一致。
- 数据集掩码已经过测试，损失只作用于预期的词元。
- 在付费的正式训练之前，单批过拟合测试和检查点续训测试都已通过。
- 依赖版本、容器摘要和源码版本都已记录。
Torchtune 的示例作为历史参考仍然有用，但其官方仓库说明积极维护已于 2025 年结束。除非你接受这一维护风险，否则不要让新的生产系统依赖它。 阅读维护公告。