llama-modchip은 GPU 없이 CPU만으로 대형 MoE 모델을 돌리기 위한 llama.cpp 기반 추론 엔진이다. 블록 64 단위의 자체 양자화 포맷 Fractal-64(3.75bpw)와 LUT-VQ3-64(3.00bpw)를 도입해 SIMD 레지스터 룩업으로 가중치를 복원하며, 이를 통해 DeepSeek-V4-Flash 284B 모델을 64GB RAM 안에(약 56~57GiB) 올리고 Nemotron-3.5-30B-A3B를 13.30GiB로 줄인다. README 기준 284B 모델은 단일 스트림 약 9 tok/s, 추측 디코딩 시 최대 25.3 tok/s를 기록했다. HARP-Cache KV 관리, /dev/shm 프리픽스 스냅샷 복원, RouteCrack·Stockfish-PVS v2 추측 디코딩을 함께 제공하고 Linux·macOS Metal·Windows 11을 지원한다. 단, 자체 텐서 타입을 쓰므로 업스트림 llama.cpp와 GGUF 호환성에 제약이 있다.