llama.cpp v1.0.0 공개: SemVer 도입, deprecated 함수 35개 제거

핵심 요약

ggml-org는 2026-11-13 llama.cpp의 libllama와 ggml의 libggml을 모두 v1.0.0으로 공개했다. Hugging Face 블로그는 이 릴리스를 프로젝트 3.5년 만의 1.0이자 하위 개발자에게 안정성을 약속하는 릴리스라고 설명한다. 변화는 크게 세 가지다. SemVer 정책 도입, deprecated API 대규모 제거, FP8 KV 캐시와 MoE 전문가 캐시 같은 기능 추가다.

이 글은 Hugging Face 블로그와 GitHub 릴리스 노트를 근거로 한다. 두 출처 모두 프로젝트 측 자료이며 독립 매체 보도는 확인하지 못했다. 성능 벤치마크 수치는 어느 출처에도 없어 속도 향상 여부는 다루지 않는다.

주요 변경

1. SemVer 정책

ggml-org는 전 프로젝트에 SemVer를 적용한다고 밝혔다.

API나 ABI가 호환되지 않으면 메이저 버전을 올려 표시한다. 다운스트림에서 경계가 보이도록 이전보다 엄격하게 관리하겠다는 입장이다.

2. API 정리와 이동

GitHub 릴리스 노트에 따른 제거 항목이다.

• llama.h의 deprecated 함수 35개, llama_set_warmup, defrag_thold와 --defrag-thold 플래그
• ggml 1.0.0의 deprecated 공개 API와 레거시 DIAG_MASK 연산
• clip.h는 제거되고 mtmd로 통합

이동과 추가 항목도 있다. NextN API는 llama-ext.h에서 llama.h로 올라왔다. llama_set_embd_state_src는 llama_set_ctx_state_src로 이름이 바뀌었다. llama_context_params에는 moe_cache_size와 moe_cache_cpu_share가 추가됐고, 원시 PCM 스트리밍용 mtmd_helper_resampler도 들어왔다.

3. 기능 추가

• FP8 KV 캐시: -ctk/-ctv f8_e4m3 옵션이며 정적 텐서별 스케일을 선택할 수 있다.
• 호스트 메모리 MoE 전문가 캐시: CPU 비율을 설정하고 LRFU 또는 ClassLRU 교체 정책을 쓴다.
• --shard/--ple: 별도 GGUF 샤드에서 외부 PLE/engram을 불러온다.
• Windows 비버퍼 모델 로딩을 지원한다.
• ggml 1.0.0에서 WebGPU 커널, SYCL 디바이스측 MoE 스케줄러, Vulkan prefill FlashAttention 경로, Hexagon 연산 커버리지가 확대됐다.
• 서버: OpenAI 호환 /v1/audio/speech 엔드포인트와, 채팅 그룹·마크다운 편집기를 갖춘 웹 UI 개편이 들어갔다.

신규 모델은 Kimi-K3.1-Pro(텍스트), Ripple-65B-Preview, xing4_0, drama-3 TTS(fishaudio), MageVL-Cowork(비전), Kimi-K3.1(비전)이다.

사용성: 다운스트림 개발자 관점

libllama를 링크하거나 바인딩을 유지하는 개발자에게 이번 릴리스는 점검 대상이다. 제거된 35개 함수와 이름이 바뀐 llama_set_embd_state_src를 쓰는 코드는 영향을 받는다. --defrag-thold 플래그를 넘기던 스크립트도 마찬가지다. 블로그는 구체적인 마이그레이션 절차를 제시하지 않는다. 릴리스 노트의 제거·변경 목록과 자기 코드를 직접 대조해야 한다.

모델 파일에도 주의가 필요하다. 멀티모달 로더는 이제 프로젝터와 patch-embedding 텐서를 요구한다. Qwen-VL 프로젝터에는 2x2 공간 병합이, HunyuanVL에는 F32 position embedding이 요구된다. 릴리스 노트는 이전에 로드되던 모델 파일이 실패할 수 있다고 적었다.

서버를 운영한다면 보안 항목도 확인할 만하다. 옵트인 플래그 --allow-unauthenticated-tools와 --media-allow-private-urls가 추가됐다. --cors-origins, DNS rebinding, CORS 프록시 SSRF, 자식 인스턴스의 브라우저 접근 관련 수정이 포함됐다. HF_TOKEN은 huggingface.co 호스트로 제한되고, 클라이언트 연결이 끊기거나 타임아웃되면 MCP 도구 호출이 취소된다.

배포 채널은 다양하다. 프리릴리스 아티팩트(Linux/macOS/Windows/Android/iOS), Docker, Debian, Homebrew, conda-forge, MacPorts, Winget, XCFramework(iOS/macOS)가 블로그에 나열됐다.

장단점

장점은 버전 규칙이 명문화됐다는 점이다. 파괴적 변경이 메이저 버전으로 드러나면 다운스트림이 업그레이드 범위를 판단하기 쉽다. 단점은 이번 1.0 자체가 파괴적 변경을 담고 있다는 점이다. 마이그레이션 안내가 없고 성능 수치도 공개되지 않았다.

맥락: 생태계 기반 확장

블로그는 150개 이상의 아키텍처 변형과 주요 투기적 디코딩 방식을 지원한다고 밝혔다. CI도 넓어졌다. HF Buckets와 HF Jobs를 쓰고, NVIDIA·AMD·Qualcomm·Arm·IBM·Intel이 지원하는 self-hosted runner를 갖췄다. ggml 백엔드를 동적 라이브러리로 컴파일해 런타임에 불러올 수도 있다.

전망

이번 릴리스의 가치는 약속이 지켜지는지에 달려 있다. 관찰할 지점은 세 가지다. 다음 MINOR 릴리스가 SemVer 규칙대로 하위 호환을 유지하는지, 파괴적 변경이 MAJOR 상승으로만 나오는지, 마이그레이션 문서가 보강되는지다. 이후 일정은 출처에 언급이 없다.

결론

llama.cpp v1.0.0은 로컬 추론 라이브러리를 직접 링크하거나 서버로 운영하는 개발자가 검토할 릴리스다. SemVer 도입은 장기적으로 다운스트림에 이득이다. 다만 당장은 제거·이름 변경 목록과 모델 파일 호환성을 먼저 점검해야 한다. 평점 4점은 공개 자료 기준이며 직접 사용해 검증한 결과가 아니다.