XTuner是一个大语言模型微调工具箱。由 MMRazor 和 MMDeploy 联合开发。
它的特色是:
- 🤓 傻瓜化: 以 配置文件 的形式封装了大部分微调场景,0基础的非专业人员也能一键开始微调。
- 🍃 轻量级: 对于 7B 参数量的LLM,微调所需的最小显存仅为 8GB : 消费级显卡✅,colab✅
本课主要内容是使用XTuner对现有模型进行微调, 并验证微调成果, 详见"第四课作业"。
此笔记主要记录下操作过程中遇到的一些问题和解决办法:
XTuner是一个大语言模型微调工具箱。由 MMRazor 和 MMDeploy 联合开发。
它的特色是:
本课主要内容是使用XTuner对现有模型进行微调, 并验证微调成果, 详见"第四课作业"。
此笔记主要记录下操作过程中遇到的一些问题和解决办法: