Nano-vLLM은 대규모 언어 모델 추론 엔진 vLLM의 핵심 동작을 처음부터 간결하게 재구현한 경량 프로젝트입니다. 약 1,200줄 수준의 파이썬 코드로 프리픽스 캐싱, 텐서 병렬화, 연속 배칭, CUDA 그래프 등 실전 추론 최적화 기법을 담아냈으며, 원본 vLLM에 필적하는 오프라인 추론 속도를 제공하는 것을 목표로 합니다. 코드가 짧고 가독성이 높아 LLM 추론 내부 구조를 학습하려는 개발자와 연구자에게 유용하며, 커스텀 추론 파이프라인의 출발점으로도 활용됩니다.