AI安全攻击全景
从数据投毒到对抗样本，AI系统面临的多层次安全威胁。训练阶段和推理阶段均可被攻击。
点击按钮查看不同攻击类型
数据投毒攻击
在训练数据中注入恶意样本，污染模型决策边界。标签翻转、特征投毒和触发器注入是主要策略。
点击按钮查看不同投毒策略
后门攻击
植入隐藏触发器，正常输入时表现正常，触发器出现时输出指定结果，极具隐蔽性。
点击按钮查看后门攻击机制
对抗样本
人眼不可察觉的微小扰动导致模型错误分类。原始图像+扰动=对抗样本。
点击按钮查看对抗样本构造
FGSM与PGD攻击
基于梯度的白盒对抗攻击算法：FGSM单步、PGD多步迭代、C&W优化。
点击按钮查看不同攻击算法
防御策略
对抗训练、输入预处理、检测器、随机化等多层防御体系。
点击按钮查看不同防御方法
鲁棒性评估
系统评估模型在不同扰动幅度下的鲁棒性：准确率曲线、基准测试、精度-鲁棒性权衡。
点击按钮查看鲁棒性评估维度
认证鲁棒性
提供数学保证的鲁棒性边界：Lipschitz约束、随机平滑、区间界传播。
点击按钮查看认证防御方法