Open Source
GitHub, HuggingFace의 최신 AI 오픈소스 프로젝트를 탐색하세요.
DeepSeek이 공개한 LLM용 텐서 코어 커널 라이브러리다. FP8·FP4·BF16 GEMM, 통신과 연산을 겹친 융합 MoE(Mega MoE), DeepSeek V3.2 라이트닝 인덱서용 MQA 스코어링, HyperConnection 등 최신 LLM의 핵심 연산을 하나의 CUDA 코드베이스에 모았다. 모든 커널은 DeepJIT으로 실행 시점에 컴파일되므로 설치 단계에서 CUDA 빌드가 필요 없다. CUTLASS·CuTe의 개념을 일부 차용하되 템플릿 의존을 줄여 핵심 함수 수를 적게 유지했고, MoE 전문가 구조에 맞춘 그룹 GEMM(연속·마스크 레이아웃)과 가중치 역전파 커널도 제공한다. NVIDIA SM90·SM100 GPU가 필요하며 Ascend 이식판은 별도 저장소로 나왔다.
huggingface
SOTA 기계학습 모델을 위한 오픈소스 모델 정의 프레임워크
google-gemini
터미널에서 Gemini AI를 사용하는 Google 공식 CLI 에이전트
rasbt
PyTorch로 ChatGPT 스타일 LLM을 처음부터 구현하는 교육용 자료
punkpeye
LLM 도구 연동 표준 MCP 서버 큐레이션 모음