在深度学习中，合理划分数据集是模型开发的关键步骤。训练集（Train）、验证集（Valid）和测试集（Test）分别承担不同角色，其比例需根据数据规模、任务复杂度等因素动态调整。本文将系统总结不同场景下的划分策略，并提供实践建议。
一、核心数据集的作用
训练集：用于模型参数学习，通过反向传播优化损失函数。验证集：监控模型性能、调整超参数（如学习率、正则化系数）和防止过拟合。测试集：仅用于最终评估，模拟真实场景中的泛化能力，严禁参与任何训练或调参，否则会导致数据泄露。
二、通用划分比例推荐
小规模数据（<1,000样本）
• 比例：80%训练集 + 20%测试集
• 替代方案：省略验证集，采用K折交叉验证（如5折或10折）最大化数据利用率。
• 示例代码：
from sklearn.model_selection import KFold
kf = KFold(n_splits=5)
for train_idx, val_idx in kf.split(X):
X_train, X_val = X[train_idx], X[val_idx]
中等规模数据（1,000–1,000,000样本）
• 经典比例：60%训练集 + 20%验证集 + 20%测试集。
• 调整建议：若任务复杂（如NLP、目标检测），可提高验证/测试集比例至25%~30%以覆盖更多边缘案例。
大规模数据（>1,000,000样本）
• 比例：98%训练集 + 1%验证集 + 1%测试集。
• 理论依据：百万级数据中，1%的测试集已足够保证统计显著性（如ImageNet测试集仅占3.7%）。
三、特殊场景与注意事项
数据分布不均衡
• 分层抽样（Stratified Sampling）：确保测试集与训练集的类别分布一致。
• 过采样：对少数类别进行数据增强，缓解类别不平衡问题。
时间序列数据
• 按时间划分：训练集用历史数据，测试集用最新数据，避免随机分割破坏时序依赖性。
领域特定需求
• 医疗/金融：测试集比例可降至10%~15%，但需严格保证样本代表性。
• 自动驾驶：需提高测试集比例（25%~30%）以覆盖罕见场景（如极端天气）。
四、常见错误与解决方案
测试集污染：切勿用测试集调参，否则会高估模型性能。数据增强干扰：仅对训练集增强，测试集需保持原始分布。随机划分失效：对时间序列或空间数据，需按顺序或空间区块划分。
五、总结表格
数据规模训练集验证集测试集适用方法极小（<1k）70-80%-20-30%交叉验证为主中等（1k-1M）60%20%20%固定划分极大（>1M）98%1%1%绝对数量优先