AI可信度与可靠性可视化实验室
从幻觉检测到可靠性工程——把AI系统可信度的核心维度以可交互SVG呈现。
01
可信度全景
可信AI框架的全景视图：核心维度拆解、评估体系、治理架构，以及各维度之间的关联关系。
核心框架
多维可信AI
准确性/可靠性/安全/公平/隐私/透明
评估体系
量化+定性
指标测量+人工审查+红队测试
治理架构
全生命周期
设计→训练→部署→监控→迭代
02
幻觉问题
幻觉的类型分类（事实性/逻辑性/来源性）、检测方法、缓解策略，以及Grounding技术如何降低幻觉率。
事实幻觉
编造不存在的事实
人物/事件/数据虚构
逻辑幻觉
推理链条断裂
前提正确但结论错误
来源幻觉
引用虚假来源
编造论文/链接/出处
Grounding
事实锚定
RAG+知识库+验证
03
可靠性工程
AI系统的故障模式分析、容错设计、降级策略，以及弹性AI系统的构建原则。
故障模式
分类与应对
输入异常/模型失效/资源耗尽
容错设计
冗余+隔离
多模型投票/熔断/隔离
降级策略
优雅降级
缓存/规则回退/简化模型
弹性系统
自适应恢复
自动扩缩/健康检查/自愈
04
一致性评估
输出稳定性测量、温度参数影响、种子控制机制，以及一致性评分体系。
输出稳定性
相同输入→相同输出
语义一致性 vs 字面一致性
温度影响
T=0 确定性 → T=1 多样性
控制随机性/创造性
种子控制
可复现采样
固定随机种子实现复现
一致性评分
多维度量化
事实/格式/风格/逻辑
05
透明度与解释
决策透明度、不确定性量化、置信度校准，以及解释质量评估。
决策透明
可追溯决策链
从输入到输出的完整路径
不确定性量化
知道"自己不知道"
认知vs偶然不确定性
置信度校准
置信度=准确率
可靠性图校准
解释质量
忠实+可理解
SHAP/LIME/注意力可视化
06
公平性与偏见
偏见类型识别、公平度量指标、偏见缓解技术，以及公平审计流程。
偏见类型
数据/算法/部署
历史偏见/采样偏见/聚合偏见
公平度量
人口统计均等
相等机会/校准公平
偏见缓解
预处理+训练中+后处理
重采样/正则化/校准
公平审计
全流程检查
数据→模型→输出→影响
07
隐私保护
数据最小化原则、差分隐私机制、联邦学习架构，以及遗忘权的工程实现。
数据最小化
只采集必要数据
用途限定+保留期限
差分隐私
ε-差分隐私
噪声注入保护个体
联邦学习
数据不出域
梯度聚合+安全聚合
遗忘权
机器遗忘
影响函数+重训练
08
可信度框架
NIST AI RMF、ISO 42001、EU AI Act风险分级等主要合规框架的对比与合规检查流程。
NIST AI RMF
美国风险管理框架
识别→测量→管理→治理
ISO 42001
AI管理体系标准
全生命周期AI治理
EU AI Act
欧盟AI法案
风险分级: 禁止/高/有限/最小
合规检查
自动化审计
持续监控+定期评估