少 于 50 step 先 别怪 模型: 火山 方舟 精 调 先 卡 数据 门槛 和 验证 集
火山方舟精调按方法卡样本量:SFT 几百条,DPO 和强化学习大约一百条,继续预训练至少一千万 token。验证集按比例切不另计 token。step 少于 50 是效果差的常见原因。原文没有准确率。

少于 50 step 先别怪模型:火山方舟精调先卡数据门槛和验证集
火山方舟是字节跳动的大模型服务平台。文档《模型精调概述》页面上的最近更新时间是 2026 年 10 月 3 日。它讲什么时候该精调,以及训练后怎么评估,不给某一版模型的准确率。
通用能力不要指望精调补
推理、理解和长文这类通用能力,文档写很难靠精调大幅抬上去,建议等基座更新。强时效的检索用联网插件,确定范围内的检索用知识库。效果问题集中、规则清楚时,先改提示词。提示词不够,再把已经攒下的数据集和评估框架拿去精调。
样本门槛按方法分。SFT 至少几百条带回答的问答对,默认先走它。DPO 至少一百条偏好对比,例如 A/B 选择,不用单独训奖励模型。强化学习(GRPO、PPO、DAPO)至少一百条 prompt,标注可选,上限更高,但要自己调奖励函数。继续预训练至少一千万 token 的未标注数据,量不够就没效果。精调后的推理比基座更贵,成本敏感就先评估,或者等基座自己变好。
验证集可以切,但不另计 token
创建任务时选类型、模型和训练方式,再传 JSONL。训练集可以本地上传、从对象存储 TOS 导入,或选已经传过的数据集。验证集同样三种来源,也可以按比例从训练集切。按比例切不会多算 token,和训练集一起算总量。还可以混入预置数据,并打开数据容错。加密用平台默认密钥或自己的密钥,自定义密钥走火山 KMS,另外计费。
提交后在任务详情看概览、训练观测、日志、时间线、模型产出和精调安全。状态通知可以接到电话、短信、邮件、飞书、企业微信、钉钉、Slack、回调、运维编排、日志服务或 Kafka。产物进模型仓库之后,才能做量化、体验、评测、在线推理和批量推理。
训完怎么用,看流量和产物类型
在线推理有两条。模型单元要独占资源,库存可能买不到;全量精调产物可以直接买,LoRA 产物要先压缩。按 token 后付费只覆盖部分模型的 LoRA,不用压缩,走公共资源池,文档写性能和稳定性保障较弱,价格是基座推理的 2 到 2.5 倍,适合小流量试效果。批量推理用夜间闲时,白天高峰可能没进度;全量产物可以直接跑,LoRA 也要先压缩。
LoRA 在大多数场景可以到全量效果的 98% 以上,这是文档的经验说法,不是本页的对照实验表。文本向量化模型支持 SFT,具体模型以控制台为准。继续预训练、强化学习和更多模型要另开工单。
效果差先查三件事
训练用潮汐闲时资源,主要在夜间跑,白天可能被在线负载抢走。任务多时可能一整天没有进度,进度看时间线。
SFT、DPO、CPT 默认开 dyn_bsz,把多个样本尽量填满序列长度。一个 batch 的 token 大约是序列长度乘 batch size。样本少到不能关这个开关时,要提交工单。
效果不好,常见是 step 少于 50,或者 epoch 太多、loss 过低导致过拟合。也要核对训练和推理的格式是否一致:thinking 训练缺了 reasoning content,或函数调用带错 tools,都会训歪。排查后仍像系统或镜像问题,再提交工单。
字节跳动,火山方舟,模型精调概述,2026-10-03,https://www.volcengine.com/docs/ark/fine-tuning-overview
觉得有用,转给同事
微信扫码
用微信扫一扫,在手机上打开后即可转发。