Advanced LLMs 3: Decoding

Prefill 与 Decode 两个阶段的 FLOPs 与 Memory-Bound 分析,以及 Speculative Decoding、Multi-Token Prediction。

2026-09-22 · 1 min · 142 words · Xiyuan Yang