大模型推理正从云端垄断走向本地民主化。Ollama 让一行命令拉起模型,vLLM 用 PagedAttention 把 GPU 利用率推到 85%,llama.cpp 凭 GGUF 量化跑进边缘设备,Colibri 用纯 C 与磁盘流式专家把 744B MoE 塞进 25GB 内存,SGLang 把结构化生成做到生产可用。本实验室全景解构五大本地推理引擎的架构、性能与消费级部署路线。