Open Source
GitHub, HuggingFace의 최신 AI 오픈소스 프로젝트를 탐색하세요.
브라우저 탭만으로 여러 기기를 묶어 하나의 오픈 LLM을 분산 추론하는 P2P 프로젝트다. 노트북·데스크톱·휴대폰이 모델 레이어를 나눠 맡아 각자의 GPU에서 자체 WGSL 커널(WebGPU)로 실행하고, 토큰마다 수 KB 크기의 은닉 상태만 WebRTC로 주고받는다. 설치·계정 없이 동작하며 Qwen 3.8 27B, Qwen 3.6 35B MoE, Qwen3 1.7B를 지원한다. README 기준 NVIDIA GB10 단일 기기에서 35B MoE가 일반 디코딩 40~46 tok/s, 추측 디코딩 65~84 tok/s를 기록했고, 같은 환경의 llama.cpp CUDA(85.5 tok/s)보다는 느리다고 밝힌다. CLI 브리지로 OpenAI·Anthropic 호환 API도 제공한다. 라이선스는 MIT다.
huggingface
SOTA 기계학습 모델을 위한 오픈소스 모델 정의 프레임워크
google-gemini
터미널에서 Gemini AI를 사용하는 Google 공식 CLI 에이전트
rasbt
PyTorch로 ChatGPT 스타일 LLM을 처음부터 구현하는 교육용 자료
punkpeye
LLM 도구 연동 표준 MCP 서버 큐레이션 모음