컨테이너라는 익숙한 방식으로 다양한 출처의 AI 모델을 로컬에서 손쉽게 서빙하고 프로덕션 추론에 활용하도록 돕는 오픈소스 개발자 도구입니다. HuggingFace, ModelScope, Ollama, OCI 컨테이너 레지스트리 등에서 모델을 컨테이너 이미지처럼 다루며, NVIDIA CUDA·AMD ROCm·Apple Silicon·Intel Arc·Ascend NPU 등 하드웨어를 자동 감지해 GPU 최적화 이미지를 가져옵니다. llama.cpp, vLLM, MLX 런타임을 선택할 수 있고 OpenAI 호환 REST API와 웹 UI를 제공하며, 기본적으로 네트워크가 차단된 루트리스 컨테이너에서 읽기 전용 마운트로 모델을 실행해 보안을 강화합니다.