深入 nano-vLLM：一个极简 LLM 推理引擎的代码走读地址：github.com/junuxyz/mlsys-notes/blob/main/notes/inside-nano-vllm.md

在这篇笔记中，作者会从代码层面拆解 nano-vLLM，理解一个现代 LLM 推理引擎如何从零构建。虽然它采用的 V0 架构后来已被原版 vLLM 中更先进的 V1+ 设计取代，但高效内存管理、PagedAttention、动态批处理、KV 缓存和调度等核心原则，仍然是今天高性能推理引擎的基础。

作者选择这个仓库，是因为它设计极简、容易修改。nano-vLLM 大约只有 1200 行干净的 Python 代码，再加少量 Triton kernel，去掉了完整 vLLM 中大量生产级复杂性。读完这篇代码走读，读者应该能建立起更清晰的推理引擎工作心智模型。