AI Economy · 交互式可视化 · #144

AI 经济学
可视化实验室

从推理成本到 GPU 经济学,从 Scaling Laws 到基础设施投资。8 个交互式模块拆解 AI 的"钱景"——每 token 多少钱、训练烧多少卡、开源闭源谁更划算的全景账本。

模块 8风格 Linear Dark依赖 零渲染 SVG分类 AI/ML
01推理成本下降曲线

同等智能的推理成本以约每年 10× 速度下降(对数坐标)。从 GPT-3 到 GPT-4o-mini,$/1M token 降了两个数量级。切换线性/对数坐标。

·
前沿模型经济模型
每代新模型在更便宜的同时更聪明。这是 AI 普及的引擎:成本下降 → 用量爆发 → 反哺迭代。
02Token 定价对比

主流模型每百万 token 定价(输入/输出)。输出通常贵 3-4×(自回归生成更耗算力)。切换厂商或排序方式。

·
定价 ≈ 算力成本 × 利润率。开源模型 API 价逼近成本(薄利),闭源有品牌溢价。缓存命中价可再降 50-90%。
03GPU 市场与算力

GPU 是 AI 的"石油"。A100 → H100 → B200 每代 FLOPS 翻倍、显存倍增,但单价也涨。切换 GPU 看 perf/$ 性价比变化。

B200 相比 H100:FLOPS ×4、显存 ×1.9、价 ×1.6 → perf/$ 翻倍。但供应受 HBM/CoWoS 封装产能限制,缺货常态。
04Scaling Laws 成本分析

Chinchilla 法则:算力最优时,参数 N 与数据 D 等比例增长。损失 L = A/N^α + B/D^β。调节目标损失看所需算力与成本。

目标损失 L 2.40
损失每降 0.1,所需算力约 ×10。这就是前沿模型训练成本爆炸式增长(千万→亿→十亿美元)的根源。
# Chinchilla compute-optimal (DeepMind 2022) N_opt ∝ C^0.5 # 参数量 D_opt ∝ C^0.5 # 数据 token 数 L(N,D) = A/N^0.34 + B/D^0.28 + L_∞
05训练成本 vs 推理成本

训练是一次性巨额投入,推理是持续运营支出。模型生命周期中,推理总成本会超过训练成本。调节日均调用量看交叉点。

日均调用量 20M · 训练成本 $80M
训练成本(固定)推理成本(累积)交叉点
高用量模型几个月推理就超训练;低用量模型可能一年才交叉。推理效率优化(量化/蒸馏/缓存)直接决定利润。
06AI 基础设施投资

超大规模厂商资本支出爆炸增长(数据中心+GPU+能源)。堆叠面积图显示四大厂逐年投入。点击年份查看明细。

年份2020
MicrosoftGoogleMetaAmazon
2024 年四大厂合计 capex 超 $200B,大部分流向 GPU 与数据中心。能源正成为新瓶颈——核电站直接供电已成趋势。
07模型部署经济学

服务一个 LLM 的成本拆解:GPU 租用、批处理效率、KV 缓存显存、量化损失。切换优化策略看成本与延迟权衡。

优化叠加效果:量化省显存→更大 batch→吞吐↑→单 token 成本↓。提示缓存对重复前缀(system prompt)可省 90%+ 计算。
08开源 vs 闭源经济学

闭源(GPT/Claude)按 token 收费、无控制;开源(Llama/Qwen)自部署、可控但需算力。切换场景对比总拥有成本 (TCO)。

交叉点:日调用量约 5-10M token。低于此闭源 API 更便宜;高于此自部署开源更划算,且数据不出域、可深度微调。