↓
跳到主要内容
zzszmyf
系列
笔记
关于
LLM推理优化
2026
注意力计算复杂度是怎么来的?prefill 和 decode 差在哪
2026年8月17日
·
3213 字
·
6 分钟
LLM推理优化
注意力内核
LLM 注意力与计算内核:8 篇精读笔记总览
2026年8月17日
·
1330 字
·
2 分钟
LLM推理优化
注意力内核
推测解码上线怎么验收?接受率与加速比怎么测
2026年8月17日
·
4482 字
·
5 分钟
LLM推理优化
推测解码
n-gram 投机采样怎么做?不用草稿模型的加速方案
2026年8月17日
·
2699 字
·
3 分钟
LLM推理优化
推测解码
EAGLE 推测解码为什么比 Medusa 快?(含 EAGLE-2 动态草稿树)
2026年8月17日
·
5557 字
·
7 分钟
LLM推理优化
推测解码
Medusa 是什么?多头解码为什么能加速 LLM 推理
2026年8月17日
·
6575 字
·
8 分钟
LLM推理优化
推测解码
投机采样原理是什么?草稿模型与拒绝采样怎么配合
2026年8月17日
·
511 字
·
1 分钟
LLM推理优化
推测解码
投机采样为什么是无损的?接受率与期望 token 公式推导
2026年8月17日
·
3286 字
·
5 分钟
LLM推理优化
推测解码
投机采样与推测解码:6 篇精读笔记总览
2026年8月17日
·
985 字
·
2 分钟
LLM推理优化
推测解码
量化模型怎么部署到 vLLM?QServe 与 FP8 Attention 实践
2026年8月17日
·
2265 字
·
3 分钟
LLM推理优化
量化
←
1
2
3
4
→
↑