01
合成数据全景
真实数据面临隐私合规、标注成本、长尾稀缺三大瓶颈。合成数据通过模型生成逼真样本，打破数据获取限制，形成"真实→合成→训练→更好的模型→更好的合成"数据飞轮。切换视角观察瓶颈对比与飞轮闭环。
隐私瓶颈
GDPR/CCPA 合规限制
真实数据含敏感信息
合规驱动
数据本地化法规
各国要求数据不出境，合成数据替代
数据增强
小数据集扩样
从百条真实样本合成万条训练数据
市场规模
CAGR 68%
2024 $3亿 → 2030 $68亿
应用领域
金融/医疗/自动驾驶
隐私敏感+长尾场景的刚需行业
技术成熟度
表格成熟/3D新兴
表格合成已商用，3D合成快速迭代
质量验证
TSTR 评估
Train on Synthetic, Test on Real
02
表格数据合成
CTGAN、CopulaGAN、TVAE 是表格数据合成的三大主流架构。CTGAN 用条件生成器处理类别不平衡，CopulaGAN 基于Copula建模捕获变量依赖，TVAE 用 VAE 编码-解码。切换架构对比生成管线与统计保真度。
CTGAN
条件表格 GAN
处理类别不平衡+混合类型
CopulaGAN
Copula + GAN
边缘分布+依赖结构分离建模
统计保真度
列分布+相关性保持
评估合成数据与真实数据相似度
CTGAN 原理
Pac-GAN+条件向量
按类别条件采样解决不平衡
CopulaGAN 原理
Vine Copula 建模
先学边缘分布再学依赖结构
TVAE 原理
变分自编码器
压缩到 latent z 再解码重建
混合类型
数值+类别混合
OneHot+模式归一化处理异构列
相关性保持
列间依赖关系
合成数据需保持真实列间相关性
评估指标
数值相似度+列覆盖
KS/卡方检验+新行比例
训练稳定性
TVAE > CopulaGAN > CTGAN
GAN 易模式崩溃，VAE 更稳定
03
差分隐私合成
差分隐私（DP）为合成数据提供可证明的隐私保障。隐私预算 ε 越小隐私越强但效用越低。调节 ε 观察效用-隐私权衡曲线变化。
DP 机制
Laplace/Gaussian 噪声
在统计查询上添加校准噪声
效用-隐私权衡
ε↓ → 隐私↑ 效用↓
需要找到最佳平衡点
(ε,δ)-DP
近似差分隐私
δ 为失败概率，通常 ≤ 1/n
Laplace 机制
敏感度/ε 噪声
适用于数值型查询的加噪
Exponential 机制
指数机制
适用于离散输出的 DP 选择
ε 推荐值
0.1-10.0
医疗<1.0; 通用 1.0-5.0; 非敏感>5.0
DP 合成数据
DP-合成模型
用 DP 训练的生成器产出合成数据
04
多模态合成
不同模态的合成方法各异：图像用扩散模型/GAN，文本用 LLM/VAE，时序用 TimeGAN/Diffusion。切换模态对比合成方法与关键指标。
图像合成
Diffusion/GAN
FID 评估真实度
时序合成
TimeGAN/DiffTS
自相关+趋势保持
Diffusion 模型
去噪扩散概率模型
逐步去噪生成高质量图像
FID 指标
Fréchet Inception 距离
越低越真实，<10 为优秀
TimeGAN 架构
生成器+判别器+嵌入
联合训练捕获时序动态
CLIP Score
图文对齐度
评估跨模态合成的语义一致性
3D 合成
NeRF/3D Gaussian
生成 3D 场景用于仿真训练
05
合成-真实分布对齐
合成数据的质量核心在于与真实分布对齐。MMD（最大均值差异）、KS 检验、Wasserstein 距离等度量量化分布差异。切换度量观察对齐效果。
KS 检验
Kolmogorov-Smirnov
CDF 最大差异
Wasserstein
推土机距离
分布间最优传输成本
MMD 核函数
RBF/多项式核
将数据映射到 RKHS 比较均值
KS p 值
>0.05 同分布
p 值大表示无法拒绝同分布假设
Wasserstein 优势
梯度友好
即使分布不重叠也有梯度信号
JS 散度
Jensen-Shannon
对称化的 KL 散度，有界
TSTR 评估
合成训练真实测试
用合成数据训练，真实数据测试
06
合成数据用于对齐训练
合成数据是对齐训练的重要来源：Self-Instruct 让模型自我生成指令，Evol-Instruct 逐步进化指令复杂度，合成偏好数据用于 DPO/RLHF。切换阶段观察合成对齐数据的生产流程。
Self-Instruct
模型自生成指令
种子指令→批量生成→过滤
Evol-Instruct
指令复杂度进化
深度/广度进化迭代
合成偏好
DPO/RLHF 数据
生成chosen/rejected对
种子指令
175 条人工种子
Self-Instruct 用少量种子扩展
深度进化
增加约束/推理
Evol-Instruct 增加指令难度
广度进化
话题多样化
Evol-Instruct 拓展指令主题覆盖
质量过滤
去重+规则+模型
ROUGE 去重+规则过滤+LLM 评分
DPO 训练
直接偏好优化
无需 RM，直接用偏好对训练
RLHF 替代
合成偏好替代人工
用 LLM 生成偏好标注降低成本
Constitutional AI
宪法 AI
用规则引导模型自我批评修正
数据配比
合成+真实混合
通常 30-70% 合成数据混入训练
07
质量评估三角
合成数据质量在保真度（Fidelity）、效用（Utility）、隐私（Privacy）三维间权衡，构成不可能三角。Pareto 前沿标记最优权衡点。切换视角观察三维评估与 Pareto 前沿。
支配关系
Pareto 劣势
被某点在所有维度超越则被支配
08
合成数据生态
SDV（Synthetic Data Vault）、Gretel、MOSTLY AI、NVIDIA Omniverse 构成合成数据工具生态，覆盖表格/图像/3D 等场景。切换维度对比各平台能力与市场规模。
SDV
开源表格合成
CTGAN/TVAE/CopulaGAN 集成
NVIDIA Omniverse
3D 物理仿真合成
机器人/自动驾驶场景
SDV 生态
Python 开源库
Synthetic Data Vault 社区维护
Gretel 平台
云原生 SaaS
API 调用合成，无需自建基础设施
MOSTLY AI 特点
企业级合规
满足金融/医疗严格合规要求
Omniverse 场景
物理引擎仿真
Isaac Sim/Omniverse 生成训练场景
其他工具
YData/Tonic/Hazy
补充覆盖不同垂直场景
开源 vs 商业
部署模式
SDV 开源; Gretel/MOSTLY 商业
市场规模
2030 $68亿
CAGR 68%，增速远超传统数据市场
行业采用
金融/医疗/汽车
头部企业已规模化使用合成数据