Open Source
GitHub, HuggingFace의 최신 AI 오픈소스 프로젝트를 탐색하세요.
Redis 개발자 antirez가 공개한 MiniMax-H3 전용 Apple Silicon 네이티브 추론 엔진이다. Hugging Face의 원본 BF16 체크포인트를 변환·양자화 없이 Metal로 실행하며, 프롬프트 기반 영상·오디오 생성, 첫/마지막 프레임 조건부 생성, 이미지·영상·오디오 참조(Ref2VA) 입력을 지원한다. 디노이징 단계·활성 DiT 블록 수·재사용 비율로 속도와 품질을 조절할 수 있고, --ssd-streaming을 켜면 DiT 블록을 SSD에서 읽어 M5 Max 기준 DiT 텐서 메모리를 약 36.5GiB에서 2.0GiB로 줄인다(대신 느려짐).

ollama
로컬 LLM을 쉽게 실행하는 도구

ggml-org
C/C++로 작성된 로컬 LLM 추론 엔진

exo-explore
일상 기기를 AI 클러스터로 연결하는 분산 추론 플랫폼
JustVugg
초대형 MoE 모델의 전문가를 디스크에서 스트리밍해 개인 하드웨어에서 돌리는 순수 C 추론 엔진