技术与工程已解决
什么是合成数据?
用 AI 生成训练数据再训练 AI,是数据稀缺场景的重要出路。
问题正文
它是什么
合成数据是由模型生成、而非真实世界采集的数据。典型用法:让强模型生成问答对做微调数据、生成边缘案例做测试数据、生成隐私安全的替代数据。
为什么需要它
真实数据昂贵、稀缺且可能有隐私问题。合成数据成本低、可控、可无限生成,是蒸馏与领域微调的原料。
风险与边界
合成数据的质量依赖生成模型,错误会被放大;循环使用合成数据训练可能导致多样性退化。需人工抽检与多样性控制。
用 AI 生成训练数据再训练 AI,是数据稀缺场景的重要出路。
问题正文
合成数据是由模型生成、而非真实世界采集的数据。典型用法:让强模型生成问答对做微调数据、生成边缘案例做测试数据、生成隐私安全的替代数据。
真实数据昂贵、稀缺且可能有隐私问题。合成数据成本低、可控、可无限生成,是蒸馏与领域微调的原料。
合成数据的质量依赖生成模型,错误会被放大;循环使用合成数据训练可能导致多样性退化。需人工抽检与多样性控制。
ANSWERS
回答内容
合成数据是用模型生成的训练或测试数据,解决了真实数据稀缺、昂贵与隐私问题,但需要质量管控。
人工写种子任务 → 强模型批量生成问答对 → 规则与模型双重过滤 → 人工抽检 → 用于微调或评测。
模式化强的任务(格式、风格、领域语言)适合合成数据;需要真实世界分布的场景慎用。