Open Source
GitHub, HuggingFace의 최신 AI 오픈소스 프로젝트를 탐색하세요.

Pydantic이 개발한 Monty는 AI를 위해 Rust로 작성된 최소한의 보안 Python 인터프리터입니다. LLM이 도구 호출 대신 Python 코드를 직접 작성하고 실행하도록 하여, 더 빠르고 저렴하며 안정적인 AI 코드 실행 환경을 제공합니다. 1μs 미만의 극도로 빠른 시작 속도, 메모리 및 실행 시간 제한, 스냅샷 저장/복원 기능을 지원하며, Pydantic AI의 코드 모드를 통해 안전한 코드 실행이 가능합니다. 기존 도구 호출 방식 대비 LLM 토큰 사용량을 크게 줄이면서도 더 복잡한 작업을 수행할 수 있어, AI 에이전트 개발에 새로운 패러다임을 제시하고 있습니다.
huggingface
SOTA 기계학습 모델을 위한 오픈소스 모델 정의 프레임워크
rasbt
PyTorch로 ChatGPT 스타일 LLM을 처음부터 구현하는 교육용 자료

vllm-project
고성능 LLM 추론 및 서빙 엔진
hiyouga
100개 이상 LLM/VLM 통합 파인튜닝 프레임워크