Groq은 자체 개발한 LPU(Language Processing Unit) 칩을 기반으로 초고속 AI 추론 서비스를 제공하는 클라우드 플랫폼입니다. 기존 GPU 대비 최대 2배 이상 빠른 추론 속도를 자랑하며, Llama, Qwen, Whisper 등 주요 오픈소스 모델을 지원합니다. 결정론적 단일 코어 설계와 대용량 온칩 SRAM을 활용하여 외부 메모리 캐시 없이도 약 80TB/s의 내부 대역폭과 극도로 낮은 지연 시간을 실현합니다. GroqCloud를 통해 전 세계 4개 리전에서 LLM, 음성 인식, 음성 합성, 이미지 분석 모델을 즉시 배포하고 확장할 수 있습니다.