주요 특징

• 대역폭 적응형 CPU–GPU 공동 실행이 핵심이다. MoE 전략은 fused(전문가 GPU 상주), offload(호스트 RAM 보관 + GPU LRU 슬롯, 미스 시 PCIe 전송), cpu(미스를 CPU에서 계산), hybrid(스텝마다 미스 일부는 PCIe로 가져오고 나머지는 CPU로 계산해 겹침) 중에서 고른다. auto 모드는 `ft bench bw` 로 측정한 대역폭 프로필이 있으면 hybrid로 올려 준다.
• 레이어 단위 더블 버퍼 프리필 스트리밍, 전역 LRU 전문가 캐시, CUDA 그래프 호환 실행, 빠른 로드를 위한 자체 FTW 가중치 포맷을 제공한다. HF safetensors를 바로 로드할 수도 있고, `ft checkpoint` 로 FTW로 미리 변환해 두면 `ft serve` 가 이를 자동 인식한다.
• 재귀(recurrent) 상태와 KV 캐시에 '시맨틱 앵커 체크포인트'를 두어, 도구 호출이나 thinking 블록처럼 에이전트가 컨텍스트 중간을 편집해도 앞부분을 다시 계산하지 않도록 한다. 엔진 재시작이나 가중치 재로드 없이 런타임에 전문가 캐시와 KV 메모리 사이의 VRAM 배분을 조정할 수 있다.
• MXFP4·NVFP4·FP8·BF16 등 여러 양자화 포맷을 지원한다. 검증 목록에는 DeepSeek-V4-Flash, GLM-5.2·GLM-5.3-Flash, Qwen3.8-Flash-Next, Qwen3.6, gpt-oss, Gemma-4, MiniMax-M3 등이 있고 일부 계열은 이미지 입력도 받는다. NVIDIA RTX 30·40·50 시리즈를 네이티브로 지원한다.
• OpenAI(/v1/chat/completions, /v1/responses)와 Anthropic(/v1/messages) 호환 API를 제공한다. `ft launch claude` 처럼 Claude Code·Codex·OpenCode·OpenClaw 등 코딩 에이전트의 프로바이더 설정을 작성하고 바로 실행해 주는 명령이 있으며, `ft shell` TUI와 Windows·Linux용 데스크톱 GUI 앱도 제공된다.