可信 AI 综合框架可视化实验室
从安全、公平、隐私、鲁棒性、可解释性、问责、透明度到综合评估，系统化呈现可信 AI 的多维框架与度量方法。
01
AI 安全性分层框架
安全防护按纵深分层：数据安全（投毒防护）→ 模型安全（对抗防御）→ 部署安全（访问控制），逐层叠加形成完整防线。
数据层
投毒 / 泄露防护
数据溯源 + 异常检测
模型层
对抗训练
PGD 对抗样本增强
部署层
访问控制 + 监控
速率限制与日志审计
02
公平性度量
不同公平性准则在数学上往往不可同时满足。展示人口均等（Demographic Parity）与机会均等（Equal Opportunity）在不同群体上的计算与权衡。
群体 A
群体 B
满足阈值
违规
03
隐私保护技术对比
差分隐私（DP）、联邦学习（FL）、同态加密（HE）三种主流隐私技术在隐私强度、计算开销、精度损失维度上各有取舍。
差分隐私 DP
通过向查询结果注入校准噪声，保证单个样本是否参与数据集对输出几乎无影响。隐私强度可量化（ε），但带来精度-隐私权衡。
联邦学习 FL
数据留在本地设备，仅上传模型梯度聚合。降低原始数据泄露风险，但梯度仍可能泄露信息，需结合 DP 与安全聚合。
同态加密 HE
在密文上直接执行计算，结果解密后与明文计算一致。隐私最强但计算开销巨大，目前适用于低延迟容忍场景。
04
鲁棒性评估
随对抗扰动强度（ε）增大，模型准确率下降。对抗训练模型在扰动下保持更高准确率，体现鲁棒性提升。
标准模型
对抗训练模型
认证鲁棒边界
05
可解释性方法对比
LIME（局部扰动近似）、SHAP（Shapley 值归因）、Attention（注意力权重）三种解释方法对同一预测给出不同视角的特征贡献。
06
问责制框架
从数据采集到模型部署再到用户反馈，每一步决策留存不可篡改的审计记录，形成端到端的责任追踪链。
07
透明度指标
模型卡片（Model Card）记录模型用途与限制，数据表（Datasheet）记录数据来源与处理，风险矩阵量化潜在危害。
08
综合评估仪表盘
雷达图多维展示可信 AI 评分：安全、公平、隐私、鲁棒、可解释、问责、透明七项指标，对比目标基线与当前评估。
综合评分
78 / 100
七维加权平均
短板项
鲁棒性 62
建议优先改进
达标项
5 / 7
超出目标基线