我要提问
ARTICLE DETAIL

资讯详情

前沿编程新知与开发实战干货的深度解读。

85%训练集、7.5%验证集:Fable-5 Premium V2数据切分策略与效果评估实战

85%训练集、7.5%验证集:Fable-5 Premium V2数据切分策略与效果评估实战 【免费下载链接】fable-5-premium-v2项目地址https://ai.gitcode.com/hf_mirrors/saidutta69/fable-5-premium-v2点击查看免费下载Fable-5 Premium V2 是一个经过严格清洗的 10 万条 agent traces 监督微调SFT数据集按85% 训练集 7.5% 验证集 7.5% 测试集切分专为训练会调工具的 AI 模型设计。本文将带你拆解它的数据切分策略并给出验证、测试集上的效果评估实战要点。 数据集速览10万条高质量 agent tracesFable-5 Premium V2 的定位很清晰质量 易用性 数量。它的核心信息一览属性数值总样本量100,000 条训练集train85,000 条85.0%验证集validation7,500 条7.5%测试集test7,500 条7.5%平均质量分0.966全部落在 0.8–1.0 区间蒸馏来源Claude Fable-5、GPT-5.5、Gemini 3.1 Pro、Grok 4、Mythos 5、Qwen 3.7 Max协议MIT每条样本都保留了完整的tool_calls与对应的tool输出模型可以学到完整的工具调用闭环何时调用、传什么参数、如何使用返回结果。详细字段说明见 README.md。✂️ 为什么选 85% / 7.5% / 7.5% 这个切分比例数据切分是 SFT 流程里最容易想当然的环节。Fable-5 Premium V2 的选择逻辑其实很朴素85% 训练集工具调用类数据需要足够大的样本量8.5 万条训练样本保证了模型见到足够多样的工具场景编码、推理、科学任务等7.5% 验证集7,500 条样本在训练中做 early stopping 和超参调优规模足够小以控制评估开销又足够大以保证指标稳定7.5% 测试集与验证集等量且完全隔离只用于最终交卷避免被反复调参污染。这种训练为主、验证测试对称的切分在 10 万级数据量上是兼顾信号强度与评估可信度的稳妥选择。切分结果在 dataset_infos.json 中可以逐一核对splits: [ { name: train, num_examples: 85000 }, { name: validation, num_examples: 7500 }, { name: test, num_examples: 7500 } ]两种格式openai_chat/与agent_traces/的行数完全一致、session_id一一对应切分结果见 dataset_config.json。 快速核对切分配置3 步验证法拿到数据集后建议先做切分核对再开训看元数据打开 dataset_infos.json确认splits中三个切分的num_examples之和为 100,000且比例符合预期看文件落盘两种格式各自独立存放——OpenAI Chat 格式openai_chat/train.parquet、openai_chat/validation.parquet、openai_chat/test.parquetAgent Traces 格式agent_traces/train.parquet、agent_traces/validation.parquet、agent_traces/test.parquet查数据质量openai_chat格式额外附带quality_scores、reasoning、source、source_row_hash字段定义见 dataset_infos.json可按quality_scores抽样检查验证 0.8 质量档的过滤是否到位。 效果评估实战验证集管过程测试集管结论切分只是手段评估才是目的。结合本数据集的特点推荐这样用验证集7,500 条——训练中的仪表盘每个 epoch 结束计算 loss / 工具调用格式正确率用于决定 early stopping 时机调 max_seq_length、学习率等超参时只在验证集上看表现避免反复碰测试集。测试集7,500 条——训练结束后的终考只做一两次完整评估指标建议覆盖三类工具调用完整性每条tool_calls[].id是否都有匹配的tool输出这正是数据清洗阶段的验证标准任务成功率多轮对话是否收敛到正确结果质量分分布与数据集 0.966 的平均质量分对比确认输出没有劣化。一个常见坑训练框架自动split数据时务必显式指定splittrain加载官方切分而不是对 train 文件再切一刀——那会让验证集混入训练样本评估结果虚高。 训练接入按格式选工具Axolotl / Unsloth / TRL直接用openai_chat/下的 parquet 文件标准messages数组开箱即用Hugging Face Data Studio 浏览用agent_traces/格式可视化查看多轮 agent 轨迹。最小加载示例Hugging Face Datasetsfrom datasets import load_dataset dataset load_dataset( saidutta69/fable-5-premium-v2, data_filesopenai_chat/train.parquet, splittrain )Axolotl 的 YAML 配置写法见 README.md 的 Usage 章节。✅ 小结Fable-5 Premium V2 的85% / 7.5% / 7.5%切分策略在 10 万条高质量 agent traces 上实现了训练信号充足 评估独立可信的平衡。实操要点只有三条开训前先核对 dataset_infos.json 中的切分数量训练中只盯验证集测试集留给最终评估工具调用类任务重点评估调用闭环的完整性而不只是 loss。按这套流程走你的模型微调效果评估会更扎实、更可复现。赞分享【免费下载链接】fable-5-premium-v2项目地址https://ai.gitcode.com/hf_mirrors/saidutta69/fable-5-premium-v2点击查看免费下载相关推荐模型评估方法论nn-zero-to-hero训练/验证/测试集划分策略模型评估方法论nn zero to hero训练/验证/测试集划分策略 引言为什么数据集划分如此重要 在机器学习项目开发过程中模型评估是确保算法性能可靠人工智能机器学习深度学习示例工程训练后效果如何验证DataArc SynData Toolkit集成DeepEval三大评估指标实战解析训练后效果如何验证DataArc SynData Toolkit集成DeepEval三大评估指标实战解析 用合成数据完成 SFT 或 GRPO 训练后H2O-3 数据集切分实战指南使用 splitFrame 构建训练/测试/验证集H2O 3 数据集切分实战指南使用 splitFrame 构建训练/测试/验证集 本篇技术指南以 H2O 3 官方文档 splitting datasets.机器学习深度学习AutoML大数据后端创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考
返回列表