Liquid AI LFM2.5-24B-A2B 공개: 온디바이스 에이전트용 추론 MoE

핵심 요약

Liquid AI는 2026-10-13 Hugging Face 블로그를 통해 LFM2.5-24B-A2B를 공개했다. 온디바이스 에이전트를 겨냥한 추론 전용 MoE(Mixture of Experts) 모델이다. 총 파라미터는 24B이고, 블로그는 활성 파라미터를 2B로 표기한다. 모델 카드는 활성 2.45B로 적었다.

이 글의 성능 수치는 모두 Liquid AI가 보고한 값이다. 독립 검증과 외부 매체 보도는 확인하지 못했다.

구조와 학습

모델은 40개 레이어로 구성된다. MoE 블록마다 64개 전문가를 두고 top-4 라우팅을 쓴다. 어텐션은 GQA와 gated short convolution을 섞은 하이브리드 구조다.

추론 전용이라 최종 답을 내기 전에 명시적인 사고 과정을 생성한다. 이전 세대 LFM2-24B-A2B와 비교한 변화는 다음과 같다.

사전학습 토큰은 블로그의 근사 표기다. 어휘 확장은 비라틴 문자 토크나이즈를 개선하기 위한 것이다. 미드트레이닝에는 32K 컨텍스트 2T 토큰과 131K 컨텍스트 3000억 토큰이 쓰였다.

후처리는 5단계다. SFT, 교사 특화, 비에이전트 다영역 on-policy distillation(MOPD), 에이전트 MOPD, 그리고 OpenClaw, Hermes Agent, Pi, OpenCode 같은 하네스 안에서의 에이전트 RL이다.

벤치마크

블로그는 vLLM으로 같은 조건에서 실행한 결과를 제시한다. 비교 대상은 Qwen3.6-35B-A3B, Gemma-4-26B-A4B-it, Nemotron-3.5-Lightning 30B-A3B다.

에이전트 자동화와 지시 따르기에서는 LFM이 앞선다. 지식과 코딩에서는 Qwen이 앞선다. 이 외에 ToolSandbox와 LiveClaw에서도 LFM이 1위, PinchBench와 WebArena Verified, SciCode에서는 Qwen이 1위였다. 블로그는 지식 집약 벤치마크와 코딩 벤치마크에서 더 큰 모델이 우위라고 직접 인정한다.

속도와 실행 환경

디코드 속도는 Apple M5 Max에서 184 tok/s, Ryzen AI Max+ 395에서 114 tok/s다. 블로그는 비교한 MoE 중 차순위보다 최대 1.7배 빠르고 메모리 사용이 가장 적다고 주장한다. 메모리 수치는 공개되지 않았다. 단일 NVIDIA B300에서 높은 동시성일 때 출력은 초당 2만 1천 토큰 이상이다.

첫날부터 llama.cpp, MLX, vLLM, SGLang, ONNX를 지원한다. 개발자는 기존 추론 스택에 바로 올려볼 수 있다.

사용성 분석

모델 카드 기준으로 텍스트 전용이며 16개 언어와 도구 호출을 지원한다. 기본 함수 호출 형식은 Pythonic이고, JSON 형식은 지시로 유도할 수 있다. 권장 설정은 temperature 0.1, top_k 50, repetition_penalty 1.05다. transformers 5.0.0 이상이 필요하다.

공개 모델은 LiquidAI/LFM2.5-24B-A2B와 LiquidAI/LFM2.5-24B-A2B-Base 두 가지다. 모델 카드는 특정 용도에 맞춘 파인튜닝을 권장한다. 지식 집약 작업은 검색이나 웹 검색과 함께 쓰라는 것이 블로그의 안내다.

라이선스

모델 카드 메타데이터의 라이선스는 lfm1.0이다. 페이지에 라이선스 본문 링크가 없어 상업적 사용 조건은 확인하지 못했다. 도입 전 원문 확인이 필요하다.

전망

모델 카드는 이 모델이 LFM2.5 패밀리에서 가장 크고 마지막 모델이라고 기술한다. 후속 계획은 제시되지 않았다. 에이전트 하네스 안에서 RL을 적용한 점은 도구 호출 중심 워크로드에 맞춘 설계로 읽힌다. 실제 효과는 외부 재현 결과가 나와야 판단할 수 있다.

결론

LFM2.5-24B-A2B는 로컬에서 도구를 호출하는 에이전트에 초점을 맞춘 모델이다. 자동화와 지시 따르기 점수는 강하지만, 코딩과 지식 과제에서는 비교 모델에 뒤진다. 로컬 에이전트를 만드는 개발자는 자체 작업으로 시험해 볼 만하다. 코딩 보조나 지식 질의가 주된 용도라면 다른 선택지를 함께 검토하는 편이 낫다.