Open Source
GitHub, HuggingFace의 최신 AI 오픈소스 프로젝트를 탐색하세요.
Diy-LLM은 Datawhale이 스탠퍼드 CS336 강의를 기반으로 중국어 학습자에 맞게 재구성한 대규모 언어 모델 풀스택 학습 과정이다. 단순 번역이 아니라 원 과정의 기술적 깊이를 유지하면서 Qwen·DeepSeek 등 중국 모델 사례와 현지 컴퓨팅 환경에 맞춘 설명을 더했다. 토크나이저, PyTorch 자원 산정, RoPE·RMSNorm·SwiGLU 등 모델 아키텍처, MoE, GPU 최적화와 Triton, 분산 학습, 스케일링 법칙, 추론, 데이터 엔지니어링, 평가, SFT·DPO·RLHF, GRPO 기반 검증 가능 보상 강화학습, 멀티모달까지 16개 장으로 구성된다. 6개의 단계별 코드 과제를 통해 직접 언어 모델을 만들고 학습·정렬·평가하는 흐름을 실습하며, 중국어 문서 외에 영어 문서와 PDF 강의 노트도 제공한다. 저장소에 별도 라이선스 파일은 명시돼 있지 않다.
huggingface
SOTA 기계학습 모델을 위한 오픈소스 모델 정의 프레임워크
google-gemini
터미널에서 Gemini AI를 사용하는 Google 공식 CLI 에이전트
NousResearch
스스로 학습하고 성장하는 자기 개선형 AI 에이전트
rasbt
PyTorch로 ChatGPT 스타일 LLM을 처음부터 구현하는 교육용 자료