共计 34 篇文章

---

2026

10-28

HiSparse 深度解析：论文、SGLang 实现与 vLLM Hybrid HiSparse

10-20

DeepInfer 源码解析：DeepSeek 自家推理引擎的调度、异步流水线与投机解码

09-23

SGLang HiCache 设计深度解析：从 GPU L1 到 L3 存储的 KV 生命周期

09-11

DeepSeek-V4.1-Flash 架构详解：CED、CSA2 与 890 字节 KV Cache

09-11

SGLang Runtime 源码深度解析：一次请求如何穿过调度、KV Cache 与 GPU

09-08

FlexKV源码与技术点：把LLM推理的KV Cache扩展到CPU、SSD和远端

09-04

vLLM KV Connector 深入解析：Kimi K3 混合注意力之后，缓存协议改了什么

09-04

Mooncake Serving Platform源码与工程深度解析：把KV Cache变成可调度的分布式资源

08-26

Cache-aware Prefill-Decode Disaggregation（CPD）解析：让长上下文的冷请求不再阻塞热请求

08-15

Kimi K3模型架构详解：KDA、Attention Residuals与Stable LatentMoE如何协同