VIDraft Aether-7B-5Attn 리뷰: 데이터·코드까지 공개한 국산 오픈소스 LLM

핵심 요약

한국 AI 딥테크 스타트업 VIDraft(비드래프트)가 2026년 7월 20일 HuggingFace에 파운데이션 모델 Aether-7B-5Attn을 공개했다 (ZDNet Korea, 디지털데일리 보도). 라이선스는 Apache-2.0이며 상업적 활용에 제약이 없다.

이 모델의 총 파라미터는 65.9억(6.59B)이다. Mixture of Experts(MoE) 구조를 채택해 토큰 처리 시 실제로 활성화되는 파라미터는 약 29.8억(2.98B)에 그친다. 전체 크기 대비 절반 이하의 연산만으로 추론이 가능한 구조다.

VIDraft는 파운데이션 모델 개발과 함께 Pre-AGI 기술, 양자컴퓨팅 연구를 병행하고 물리학·화학·생명과학·제약 분야 R&D도 수행하는 딥테크 스타트업이다.

주요 기능

1. 5종 이종 어텐션의 결합

Aether-7B-5Attn의 가장 큰 기술적 특징은 서로 다른 다섯 가지 어텐션 메커니즘을 한 모델 안에 결합했다는 점이다.

2. 7×7 라틴 스퀘어 레이어 배치

모델은 총 49개 레이어로 구성되며, 이를 7×7 라틴 스퀘어(Latin square) 구조로 배치했다. 라틴 스퀘어는 각 행과 열에 동일한 요소가 중복되지 않도록 배열하는 조합 구조로, 다섯 종류의 어텐션이 레이어 전반에 고르게 분산 배치되도록 설계한 것으로 볼 수 있다.

3. "byte-for-byte 재현 가능"을 표방한 공개 범위

VIDraft는 모델 가중치만 공개하는 오픈웨이트(open-weight) 방식에 그치지 않았다. 학습 데이터 레시피, 전체 학습 코드, 모든 하이퍼파라미터, 학습 로그, 중간 체크포인트, 평가 코드까지 함께 공개했다. 최근 오픈소스 LLM 생태계에서 "가중치만 공개하는 오픈웨이트"와 "데이터·코드까지 공개하는 진짜 오픈소스"를 구분해야 한다는 논쟁이 이어지는 가운데, Aether-7B-5Attn은 후자에 해당하는 사례로 제시됐다.

4. 학습 인프라와 데이터

학습은 엔비디아 B200 GPU 16장으로 진행됐다. 학습 데이터 규모는 약 1442억 토큰이며, 구성 비중은 수학 37.8%, 한국어 21.6%, 영어 21.6%로 보도됐다. 나머지 비중에 대해서는 출처에 구체적으로 명시되지 않았다.

사용성 분석

현재 시점에서 공식 벤치마크 결과는 공개되지 않았다. 따라서 실제 추론 품질이나 태스크별 성능을 수치로 평가하기는 어렵다. 다만 학습 코드와 체크포인트까지 함께 제공된다는 점은 연구자와 아키텍처 실험을 하려는 개발자에게 실질적인 활용 가치가 있다. 재현 가능성이 확보되면 동일 조건에서의 후속 실험이나 파인튜닝 연구가 상대적으로 수월해질 것으로 예상된다.

장점과 한계

장점

1. 데이터 레시피부터 평가 코드까지 전 과정을 공개해 재현성을 높였다.
2. MoE 구조로 총 파라미터 대비 활성 파라미터를 절반 이하로 줄여 추론 부담을 낮췄다.
3. 5종 어텐션과 라틴 스퀘어 배치라는 독자적인 아키텍처 실험을 시도했다.
4. Apache-2.0 라이선스로 상업적 활용에 제약이 없다.

한계

1. 공식 벤치마크 점수가 아직 공개되지 않아 성능을 객관적으로 확인할 수 없다.
2. B200 16장, 1442억 토큰 규모의 학습은 대형 모델 대비 상대적으로 작은 스케일이라 범용 성능의 한계가 있을 가능성이 있다.
3. 공개 직후 시점이라 제3자 커뮤니티 검증이나 독립 벤치마크가 아직 충분히 이뤄지지 않았다.

전망

오픈웨이트와 진짜 오픈소스를 구분하려는 논의가 활발한 시점에, 데이터와 코드까지 함께 공개한 이번 사례는 국내 AI 생태계에서 재현성을 중시하는 접근으로 주목할 만하다. 다만 이런 시도가 실질적인 영향력을 갖기 위해서는 공식 벤치마크 공개와 외부 연구자들의 검증이 뒤따라야 한다. VIDraft가 병행하는 Pre-AGI, 양자컴퓨팅, 제약 분야 R&D와의 연계 여부도 향후 관전 포인트다.

결론

Aether-7B-5Attn은 다섯 가지 어텐션을 결합한 아키텍처 실험과, 학습 전 과정을 공개하는 재현 가능성에 방점을 둔 프로젝트다. 아직 성능 수치가 공개되지 않아 종합 평가는 유보적이나, 오픈소스 LLM 연구자와 아키텍처 실험에 관심 있는 개발자에게는 살펴볼 가치가 있는 사례다.