Open Source
GitHub, HuggingFace의 최신 AI 오픈소스 프로젝트를 탐색하세요.

Ollama는 로컬 환경에서 대규모 언어 모델(LLM)을 쉽게 실행하고 관리할 수 있는 도구입니다. Go 언어로 작성되어 있으며, Docker와 유사한 간단한 명령어 인터페이스를 제공합니다. Kimi-K2.5, GLM-4.7, DeepSeek, GPT-OSS, Qwen, Gemma 등 다양한 최신 모델을 지원하며, 모델 다운로드, 실행, 커스터마이징을 원스톱으로 처리합니다. REST API를 통해 다른 애플리케이션과의 연동도 용이하며, macOS, Windows, Linux를 모두 지원합니다.

ggml-org
C/C++로 작성된 로컬 LLM 추론 엔진

exo-explore
일상 기기를 AI 클러스터로 연결하는 분산 추론 플랫폼
mozilla-ai
단일 파일 하나로 LLM을 설치 없이 즉시 실행하는 배포 도구
sgl-project
LLM/멀티모달 모델 고성능 서빙 프레임워크