JD.com 오픈소스팀이 개발한 다양한 AI 가속기 최적화 LLM 추론 엔진입니다. 서비스-엔진 분리 아키텍처로 엔터프라이즈급 대규모 언어 모델 배포를 지원합니다. 풀 그래프 파이프라인 실행, 동적 형태 최적화, 글로벌 KV 캐시 관리, 추측 디코딩, MoE 동적 로드 밸런싱 등의 고급 최적화 기법을 구현합니다. NPU, MLU590, BI150 등 다양한 AI 가속기를 지원하며, JD.com의 고객서비스, 리스크 관리, 공급망, 추천 시스템에 실제 배포되어 운영 중입니다.