주요 특징

• Dropless 학습으로 200B MoE를 expert parallelism 없이, 600B는 노드 내 EP만으로 처리
• 메모리 최적화로 시퀀스 병렬 없이 200B MoE의 64k 컨텍스트 학습 지원
• DeepSpeed Ulysses 시퀀스 병렬 연동으로 최대 시퀀스 길이 선형 확장
• 최대 1T 파라미터 MoE 학습 지원 및 200B 이상 구간에서 FSDP 처리량 확보
• Qwen3 Dense·Qwen3 MoE·DeepSeek V3·Kimi K2·GPT-OSS·Intern S1·InternVL 학습 구성 제공
• GRPO 강화학습과 멀티모달 사전학습·지도 파인튜닝 알고리즘 내장
• NVIDIA GPU의 FP8/BF16과 화웨이 Ascend NPU BF16 학습 경로 동시 지원
• LMDeploy 추론 엔진 연동으로 학습 후 배포 연결