MLOPS · DEPLOYMENT · OBSERVABILITY
MLOps 与部署可视化实验室
将机器学习运维与部署的核心概念——模型服务、灰度发布、模型注册、数据漂移、A/B 实验、监控告警、CI/CD 流水线与特征存储——转化为八个可交互的 SVG 可视化模块。纯前端实现,单文件交付,零外部依赖。
01MODEL SERVING
模型服务架构
负载均衡器将推理请求分发到多个模型副本,过载时进入队列缓冲并按批处理合并请求。观察请求流转、队列堆积与 GPU 利用率变化。
推理服务流量拓扑
02CANARY DEPLOYMENT
Canary / 蓝绿部署
在新版本(绿)与旧版本(蓝)之间按比例切分流量,实时监控错误率。当新版本错误率超过阈值时自动触发回滚,将流量切回稳定版本。
灰度发布与自动回滚
03MODEL REGISTRY
模型注册表
模型版本按 Dev / Staging / Prod 三个阶段管理。选择版本后可提升(promote)至下一阶段或回滚,血统图展示版本间的派生关系与生命周期。
版本阶段与血统图谱
04DATA DRIFT
数据漂移检测
对比训练数据分布与当前线上数据分布,通过 PSI(种群稳定性指数)量化漂移程度。当 PSI 超过阈值时判定为漂移并告警。
分布对比与 PSI 计算
05A/B EXPERIMENT
A/B 测试
在两个模型版本之间切分流量,持续累积样本并计算转化率、置信区间与 p 值。当 p 值低于显著性水平且样本充足时判定获胜版本。
转化率与统计显著性
06MONITORING & ALERTS
监控告警
实时滚动展示延迟、错误率、吞吐量与模型准确率四类指标时序。当指标越过告警阈值时触发告警标记,累计告警计数与可用率。
指标时序与告警阈值
07CI/CD PIPELINE
CI/CD 流水线
ML 流水线串联代码提交、构建、测试、训练、验证与部署六个阶段。触发后令牌依次流经各阶段,实时显示状态(运行/通过/失败)与累计耗时。
阶段编排与执行状态
08FEATURE STORE
特征存储
在线存储面向低延迟线上推理,离线存储面向大批量训练。特征统一注册后双写两套存储,保证训练与推理特征一致性,并跟踪特征新鲜度。
在线 / 离线双存储架构