Open Source
GitHub, HuggingFace의 최신 AI 오픈소스 프로젝트를 탐색하세요.
Intel Extension for Transformers는 Intel 플랫폼에서 대규모 언어 모델을 효율적으로 실행하기 위한 최첨단 압축 기법과 최적화를 제공합니다. 4비트 양자화, AutoRound, Speculative Decoding 등 고급 압축 기법을 지원하며, Intel CPU, GPU, Gaudi 가속기에서 LLM을 빠르게 실행할 수 있습니다. Neural Chat 기반 챗봇 빌드, PDF RAG 검색 등 실제 애플리케이션 개발을 위한 통합 솔루션을 제공합니다.
huggingface
SOTA 기계학습 모델을 위한 오픈소스 모델 정의 프레임워크
rasbt
PyTorch로 ChatGPT 스타일 LLM을 처음부터 구현하는 교육용 자료

vllm-project
고성능 LLM 추론 및 서빙 엔진
hiyouga
100개 이상 LLM/VLM 통합 파인튜닝 프레임워크