Open Source
GitHub, HuggingFace의 최신 AI 오픈소스 프로젝트를 탐색하세요.

ModelTC가 개발한 경량 이미지/비디오 생성 추론 프레임워크입니다. 4-Step Distillation과 FP8 양자화를 결합하여 최대 42배 추론 속도 향상을 달성하며, 3-Tier 디스크-CPU-GPU 오프로딩 아키텍처를 통해 14B 파라미터 모델을 8GB VRAM + 16GB RAM 환경에서도 480p/720p 비디오 생성이 가능합니다. LTX-2, HunyuanVideo-1.5, Wan2.1/2.2 등 주요 오픈소스 비디오/이미지 생성 모델을 통합 지원하고, NVIDIA CUDA 외에 AMD ROCm, Ascend 910B 등 멀티 하드웨어 가속을 지원합니다.

ollama
로컬 LLM을 쉽게 실행하는 도구

ggml-org
C/C++로 작성된 로컬 LLM 추론 엔진

exo-explore
일상 기기를 AI 클러스터로 연결하는 분산 추론 플랫폼
mozilla-ai
단일 파일 하나로 LLM을 설치 없이 즉시 실행하는 배포 도구