Open Source
GitHub, HuggingFace의 최신 AI 오픈소스 프로젝트를 탐색하세요.
Kapitsa는 nace.ai 구성원들이 만든 애플 실리콘 전용 LLM 추론 엔진으로, Qwen·Nemotron·Recursive Flint 모델을 Mac에서 로컬 실행하며 코딩 에이전트 용도에 맞춰 설계됐다. OpenAI·Anthropic 호환 API를 제공하고 opencode, Claude Code, Codex, pi를 로컬 모델로 바로 띄운다. 핵심인 KFlash는 드래프터 후보를 체인이 아닌 best-first 트리로 한 번에 검증해 출력은 그대로 두고 패스당 수용 토큰을 늘리는 투기적 디코딩이다. 프로젝트 측정 기준 9개 엔진과 비교한 37개 모델·Mac 조합 중 32개에서 가장 빠른 디코드를 기록했다. SSD 프리픽스 캐시와 여러 Mac 간 모델 분산도 지원한다.

ollama
로컬 LLM을 쉽게 실행하는 도구

ggml-org
C/C++로 작성된 로컬 LLM 추론 엔진

exo-explore
일상 기기를 AI 클러스터로 연결하는 분산 추론 플랫폼
JustVugg
초대형 MoE 모델의 전문가를 디스크에서 스트리밍해 개인 하드웨어에서 돌리는 순수 C 추론 엔진