共计 80 篇文章

---

2026

10-28

HiSparse 深度解析：论文、SGLang 实现与 vLLM Hybrid HiSparse

10-20

DeepInfer 源码解析：DeepSeek 自家推理引擎的调度、异步流水线与投机解码

10-16

递归自我改进（RSI）调研：从智能爆炸假说到会改自己代码的 agent

10-16

AIConfigurator 深度解析：从算子数据库到 disagg 配置搜索的性能估算

09-23

SGLang HiCache 设计深度解析：从 GPU L1 到 L3 存储的 KV 生命周期

09-11

SGLang Runtime 源码深度解析：一次请求如何穿过调度、KV Cache 与 GPU

09-08

FlexKV源码与技术点：把LLM推理的KV Cache扩展到CPU、SSD和远端

09-04

vLLM KV Connector 深入解析：Kimi K3 混合注意力之后，缓存协议改了什么

09-04

Mooncake Serving Platform源码与工程深度解析：把KV Cache变成可调度的分布式资源

08-26

Cache-aware Prefill-Decode Disaggregation（CPD）解析：让长上下文的冷请求不再阻塞热请求