주요 특징

• 순수 MLX 커널로 구성된 애플 실리콘 네이티브 엔진입니다. 연속 배칭, 래딕스 트리와 DeltaNet RNN 스냅샷을 조합한 프롬프트 캐시, 실행 중 KV 캐시를 int4/int8과 TurboQuant K8V4 코덱으로 압축하는 기능이 M1부터 M4까지 통합 메모리 대역폭에서 그대로 동작합니다. llama.cpp를 뒤에 두고 호출하는 방식이 아니어서 중간 변환 계층이 없습니다.
• OpenAI와 Anthropic 두 가지 API 규격을 동시에 노출합니다. /v1/chat/completions, /v1/responses(Codex CLI), /v1/messages(Anthropic SDK), /v1/embeddings, /v1/audio/*, /v1/videos 경로가 모두 열려 있어 기존 클라이언트를 어댑터 없이 base_url만 바꿔 붙일 수 있습니다.
• 에이전트 CLI 연동을 명령 하나로 처리합니다. rapid-mlx launch claude-code 는 ~/.claude/settings.json 을 직접 수정해 로컬 서버로 라우팅하며, 12개 에이전트와 3개 프레임워크가 릴리스마다 실제 가중치로 와이어 검증됩니다. 이 중 Claude Code, Codex CLI, Hermes, Aider, DeepSeek Harness 5개는 실제 버그 수정 태스크를 통과해야 배포가 가능한 Tier-1로 관리됩니다.
• 설치 스크립트가 맥의 RAM 용량을 감지해 모델을 추천합니다. 8~15GB는 lfm2.5-2.6b-4bit, 16~17GB는 qwen3.5-4b-4bit, 32GB 이상은 qwen3.8-27b-4bit 식으로 티어가 나뉘며, 이 추천표는 데스크톱 앱 선택기와 같은 파일을 읽고 CI가 둘의 불일치를 검사합니다. rapid-mlx recipe/models/info 명령으로 별칭별 프로파일을 확인할 수 있습니다.
• 텍스트 외 모달리티는 옵션 extras로 분리돼 있습니다. 오디오는 TTS·STT·음성 클로닝·강제 정렬을 포함해 13개 계열 44개 별칭을, 비디오는 Wan 2.1/2.2, CogVideoX-Fun, LTX-2.3 백엔드로 8개 체크포인트를 제공합니다. 영상 생성은 통합 메모리 고갈을 막기 위해 한 번에 한 클립씩 직렬로 처리됩니다.