Open Source
GitHub, HuggingFace의 최신 AI 오픈소스 프로젝트를 탐색하세요.

MCP(Model Context Protocol) 아키텍처 기반의 경량 RAG 개발 프레임워크입니다. 청화대학교 THUNLP, 동북대학교 NEUIR, OpenBMB가 공동 개발하였으며, YAML 설정만으로 복잡한 RAG 파이프라인을 구성할 수 있습니다. 모듈식 MCP 서버 아키텍처로 Retriever, Generation 등 컴포넌트를 독립 서버로 분리하여 높은 재사용성을 달성합니다. 시각적 IDE에서 캔버스와 코드 간 양방향 동기화, 원클릭 웹 UI 변환, 통합 평가 시스템을 제공합니다. OpenAI, Qwen, DeepSeek, vLLM 등 다양한 모델을 지원하며 2026년 1월 UltraRAG 3.0이 출시되었습니다.

ollama
로컬 LLM을 쉽게 실행하는 도구

ggml-org
C/C++로 작성된 로컬 LLM 추론 엔진

exo-explore
일상 기기를 AI 클러스터로 연결하는 분산 추론 플랫폼
mozilla-ai
단일 파일 하나로 LLM을 설치 없이 즉시 실행하는 배포 도구