Open Source
GitHub, HuggingFace의 최신 AI 오픈소스 프로젝트를 탐색하세요.
Microsoft의 1비트 LLM(BitNet b1.58)을 위한 공식 추론 프레임워크. CPU와 GPU에서 빠르고 무손실 추론을 제공하며, 단일 CPU에서 100B 모델도 실행 가능합니다.
huggingface
SOTA 기계학습 모델을 위한 오픈소스 모델 정의 프레임워크
rasbt
PyTorch로 ChatGPT 스타일 LLM을 처음부터 구현하는 교육용 자료

vllm-project
고성능 LLM 추론 및 서빙 엔진
hiyouga
100개 이상 LLM/VLM 통합 파인튜닝 프레임워크