Python 기반 LLM 추론 및 서빙 프레임워크로, 경량 설계와 뛰어난 확장성, 고속 성능을 제공합니다. FasterTransformer, TGI, vLLM 등 기존 프레임워크의 최적 기법을 통합하며, 토큰 수준 캐시 관리와 순수 Python 설계로 프로덕션과 연구 모두에 적합합니다. DeepSeek-R1 등 대규모 모델 배포에서 우수한 성능 벤치마크를 달성했습니다.