Open Source
GitHub, HuggingFace의 최신 AI 오픈소스 프로젝트를 탐색하세요.
HPC-AI Tech가 개발한 대규모 AI 모델 학습·추론 가속 프레임워크로, 데이터·텐서·파이프라인 병렬화와 이종 메모리 관리를 하나의 통합 시스템으로 제공해 대형 언어모델 학습 비용을 낮추는 데 초점을 둔다. GPT, LLaMA, OPT, MoE 계열 모델의 분산 학습을 지원하며, 대표 응용 사례인 ColossalChat은 완전한 RLHF 파이프라인으로 ChatGPT 복제 학습을 오픈소스로 구현했고, Colossal-LLaMA-2는 수백 달러 비용의 반나절 학습만으로 주류 대형 모델에 준하는 성능을 낸 사례로 주목받았다. H200·B200 GPU 벤치마크에서 7B 모델 기준 최대 50%, 70B 모델 기준 70% 이상의 처리량 향상을 보고하며, FP8 혼합정밀도 학습으로 학습 비용을 한 줄의 코드 변경만으로 30% 절감하는 기능도 제공한다. Apache-2.0 라이선스로 공개되어 있으며 비디오 생성(Open-Sora), 단백질 구조 예측(AlphaFold) 등 LLM 이외 대형 모델 학습에도 같은 엔진이 활용된다.
huggingface
SOTA 기계학습 모델을 위한 오픈소스 모델 정의 프레임워크
google-gemini
터미널에서 Gemini AI를 사용하는 Google 공식 CLI 에이전트
rasbt
PyTorch로 ChatGPT 스타일 LLM을 처음부터 구현하는 교육용 자료
punkpeye
LLM 도구 연동 표준 MCP 서버 큐레이션 모음