↓
跳到主要内容
zzszmyf
系列
笔记
关于
LLM推理优化
2026
量化后精度掉了怎么定位?perplexity 与评测怎么用
2026年8月17日
·
527 字
·
1 分钟
LLM推理优化
量化
QAT 什么时候才值得做?PTQ、QLoRA、BitNet 路线对比
2026年8月17日
·
2966 字
·
4 分钟
LLM推理优化
量化
KV Cache 量化怎么做?KIVI 与「量化还是压缩」的区别
2026年8月17日
·
2695 字
·
4 分钟
LLM推理优化
量化
激活量化为什么比权重量化难?LLM.int8() 与 SmoothQuant 原理
2026年8月17日
·
2984 字
·
4 分钟
LLM推理优化
量化
AWQ 量化原理是什么?和 GPTQ、SqueezeLLM 怎么选
2026年8月17日
·
3553 字
·
4 分钟
LLM推理优化
量化
RTN 和 GPTQ 有什么区别?权重量化方法怎么选
2026年8月17日
·
3803 字
·
5 分钟
LLM推理优化
量化
量化粒度怎么选?为什么离群值会让 INT8 精度崩掉
2026年8月17日
·
3897 字
·
5 分钟
LLM推理优化
量化
FP16、BF16、FP8、FP4 有什么区别?该选哪种数值格式
2026年8月17日
·
4269 字
·
7 分钟
LLM推理优化
量化
量化误差是怎么算出来的?均匀量化公式推导
2026年8月17日
·
5656 字
·
8 分钟
LLM推理优化
量化
INT8 和 FP16 有什么区别?量化前的数值编码基础
2026年8月17日
·
5962 字
·
8 分钟
LLM推理优化
量化
←
1
2
3
4
→
↑