GentleCold's Blog
  • 首页
  • Teach
  • 归档
  • 分类
  • 标签
  • 友链
  • 关于

把 Kimi K3 这类混合注意力、超大规模 MoE 模型拆成可执行的推理系统设计,能够读懂技术报告、定位缓存瓶颈,并在推理引擎中做出有依据的 KV/state cache 取舍。

课程目录

  • 第一课:Kimi K3 四个核心模块的公式与真实张量流
  • 第二课:一个请求走完 Kimi K3 的 prefill 与 decode

搜索

Hexo Fluid
载入运行时间...
总访问量 次 总访客数 人