주요 특징

• 1주차에 어텐션, RoPE, GQA, RMSNorm, MLP, 샘플링, 자기회귀 루프를 mlx.core 배열 연산만으로 구현해 Qwen3 모델을 완성
• 2주차에 KV 캐시와 동기화된 MLX 기준선을 만들고 양자화 디코드 matvec, 퓨전 커널, 타일드 프리필, split-K를 벤치마크로 비교
• 3주차에 연속 배칭과 청크 단위 요청 수용, 페이지드 KV 레이아웃을 도입해 실제 서빙 스케줄러에 가까운 미니 vLLM 구축
• 4주차에 멀티턴 코딩 에이전트를 만들며 프리픽스 캐시 재사용, 컨텍스트 압축, 되감기, 협조적 취소, 평가까지 다룸
• tiny_llm 실습 패키지와 tiny_llm_ref 참조 구현이 분리돼 있어 pdm 기반 테스트로 각 챕터 정답을 즉시 검증 가능