笔记
79
DeepInfer 源码解析:DeepSeek 自家推理引擎的调度、异步流水线与投机解码
递归自我改进(RSI)调研:从智能爆炸假说到会改自己代码的 agent
AIConfigurator 深度解析:从算子数据库到 disagg 配置搜索的性能估算
SGLang HiCache 设计深度解析:从 GPU L1 到 L3 存储的 KV 生命周期
SGLang Runtime 源码深度解析:一次请求如何穿过调度、KV Cache 与 GPU
FlexKV源码与技术点:把LLM推理的KV Cache扩展到CPU、SSD和远端
vLLM KV Connector 深入解析:Kimi K3 混合注意力之后,缓存协议改了什么
Mooncake Serving Platform源码与工程深度解析:把KV Cache变成可调度的分布式资源
Cache-aware Prefill-Decode Disaggregation(CPD)解析:让长上下文的冷请求不再阻塞热请求
NVIDIA TensorIR深入解析:从张量计算图到CUDA Tile IR
More...
论文阅读
11
DeepSeek Engram 详解:把静态知识从计算里拆出来
DeepSeek-V4.1-Flash 架构详解:CED、CSA2 与 890 字节 KV Cache
DeepSeek-V4架构详解:CSA/HCA、mHC与1M上下文推理
Irminsul论文详解:面向Agentic LLM Serving的MLA原生位置无关缓存
Neptune论文浅读:把FlashAttention式融合放进编译器
MLA模型结构详解:从公式到推理代码
Self-Tuning Query Scheduling论文浅读
Amazon MemoryDB论文浅读
VBase论文浅读
HotRing论文浅读与复现
More...