LiteLLM은 100개 이상의 LLM API를 OpenAI 호환 형식으로 통합 호출할 수 있는 Python SDK 겸 AI 게이트웨이입니다. OpenAI, Anthropic, Azure, AWS Bedrock, Google VertexAI, Cohere, Groq, HuggingFace, NVIDIA NIM 등 30개 이상의 프로바이더를 단일 인터페이스로 지원합니다. 프록시 서버 모드에서는 가상 키를 통한 멀티테넌트 접근 제어, 프로젝트/사용자별 비용 추적, 관리자 대시보드 UI를 제공하며, A2A(Agent-to-Agent) 프로토콜과 MCP 서버 통합도 지원합니다. Y Combinator W23 출신으로 Stripe, Netflix, Google 등에서 실제 사용 중입니다.