Open Source
GitHub, HuggingFace의 최신 AI 오픈소스 프로젝트를 탐색하세요.
mlx-lm은 애플의 머신러닝 프레임워크 MLX 위에서 대규모 언어 모델을 실행하고 파인튜닝하는 파이썬 패키지다. Apple Silicon의 통합 메모리 구조를 활용해 맥에서 직접 LLM을 구동하며, mlx_lm.generate로 텍스트를 생성하고 mlx_lm.chat으로 대화 컨텍스트가 유지되는 REPL을 쓸 수 있다. HuggingFace Hub와 연동돼 수천 개 모델을 명령 한 줄로 불러오고, mlx_lm.convert로 4비트 양자화 변환 후 Hub에 다시 업로드하는 것도 가능하다. LoRA와 전체 파인튜닝을 지원하며 양자화 모델 위에서도 학습할 수 있다. 긴 프롬프트용 회전형 KV 캐시와 프롬프트 캐시, mx.distributed 기반 분산 추론·학습도 제공한다.
huggingface
SOTA 기계학습 모델을 위한 오픈소스 모델 정의 프레임워크
google-gemini
터미널에서 Gemini AI를 사용하는 Google 공식 CLI 에이전트
rasbt
PyTorch로 ChatGPT 스타일 LLM을 처음부터 구현하는 교육용 자료
punkpeye
LLM 도구 연동 표준 MCP 서버 큐레이션 모음