주요 특징

• 전체 네이티브 KV 히스토리를 시스템 RAM(선택적으로 SSD)에 두고 현재 요청에 필요한 부분만 GPU로 불러오는 메모리 계층화
• 관련 KV 히스토리 검색(graph recall)으로 고정된 GPU 예산 안에서 긴 대화·도구 호출 이력을 관리
• 생성 예약 공간을 재사용해 제한된 VRAM에서도 장시간 추론·긴 답변(xhigh 추론 설정 포함)을 유지
• NInfer(Qwen3.5 Dense 등), llama.cpp(GGUF 풀 어텐션 모델), PolyStrata(qwen35moe MoE), Radiance(AMD RDNA4) 다중 백엔드 지원
• 로컬 웹 UI 콘솔과 스트리밍 지원 OpenAI 호환 /v1/chat/completions·/v1/responses API, Windows 원클릭 실행 패키지와 Linux 런처 제공