Open Source
GitHub, HuggingFace의 최신 AI 오픈소스 프로젝트를 탐색하세요.
LLM 학습과 서빙을 하나의 툴킷으로 묶은 네이티브 C++/CUDA 엔진이다. 학습 엔진은 사전학습·전체 파인튜닝·LoRA/QLoRA부터 GRPO 강화학습, DPO 선호 학습, 지식 증류까지 Python 설정으로 실행하며 BF16·FP8·Blackwell NVFP4 정밀도를 지원한다. 서빙 엔진은 OpenAI·Anthropic 호환 HTTP API, 연속 배칭, 프리픽스 캐싱, MTP 추측 디코딩, 네이티브 GGUF 로딩을 제공한다. 저장소 벤치마크에서는 H100 1장 Qwen3-0.6B BF16 LoRA 학습에서 Unsloth 대비 2.53배 처리량을 기록했다고 밝히며, 상대 엔진이 앞선 항목도 함께 공개한다. Apache-2.0 라이선스.
huggingface
SOTA 기계학습 모델을 위한 오픈소스 모델 정의 프레임워크
google-gemini
터미널에서 Gemini AI를 사용하는 Google 공식 CLI 에이전트
NousResearch
스스로 학습하고 성장하는 자기 개선형 AI 에이전트
rasbt
PyTorch로 ChatGPT 스타일 LLM을 처음부터 구현하는 교육용 자료