Open Source
GitHub, HuggingFace의 최신 AI 오픈소스 프로젝트를 탐색하세요.
Hugging Face가 개발한 Rust 기반의 미니멀 머신러닝 프레임워크로, Python 런타임 의존성 없이 가벼운 바이너리로 LLM 등 모델을 추론할 수 있도록 설계되었다. 핵심은 PyTorch와 유사한 텐서 연산 API를 제공하면서도 CPU·CUDA·Metal 백엔드를 지원하고, WASM으로 컴파일해 브라우저에서 직접 모델을 구동할 수 있다는 점이다. LLaMA 1/2/3, Mistral, Gemma, Phi, Falcon, Mamba, StableLM 등 주요 오픈소스 LLM과 Whisper, Segment Anything, YOLO, T5, BLIP 같은 비전·음성 모델의 추론 예제를 자체 저장소에서 제공하며, 양자화(GGUF 포맷 등)를 지원해 소비자용 하드웨어에서도 실행 가능하다. Python 인터프리터 오버헤드와 GIL 제약이 없어 서버리스 환경이나 임베디드·엣지 배포에 적합하고, 실제로 여러 예제가 Hugging Face Spaces에서 WASM 데모로 브라우저 상에서 직접 동작한다. MIT/Apache-2.0 듀얼 라이선스로 공개되어 있다.

ollama
로컬 LLM을 쉽게 실행하는 도구

ggml-org
C/C++로 작성된 로컬 LLM 추론 엔진

exo-explore
일상 기기를 AI 클러스터로 연결하는 분산 추론 플랫폼
mozilla-ai
단일 파일 하나로 LLM을 설치 없이 즉시 실행하는 배포 도구