LocalAI는 셀프호스팅 방식의 오픈소스 AI 추론 엔진으로, OpenAI API와 호환되는 인터페이스를 제공하여 클라우드 서비스 없이도 자체 하드웨어에서 다양한 모델을 실행할 수 있게 한다. GPU가 없어도 동작하도록 설계되었으며, 대규모 언어 모델(LLM)뿐 아니라 이미지 생성, 음성 합성(TTS)과 인식(STT), 임베딩, 재정렬(rerank) 등 여러 종류의 모델을 하나의 엔드포인트로 다룰 수 있다. 기존 OpenAI SDK 코드를 거의 수정 없이 로컬 환경으로 전환할 수 있는 드롭인 대체제를 목표로 하며, 여러 백엔드와 모델 포맷을 지원해 온프레미스 및 프라이버시 중심 환경에서 폭넓게 활용된다.