[태그:] LLM 추론

FP8·FP4 MoE 커널을 한 저장소에: DeepGEMM 9월 릴리스 아키텍처·도입 심층 해부

GitHub Trending에 다시 오른 deepseek-ai/DeepGEMM을 실무 관점에서 해부한다. NT 레이아웃과 스케일링 팩터 규약, 그룹 GEMM 세 가지, 통신까지 겹치는 Mega MoE, DeepJIT 런타임 컴파일, 9월 30일 릴리스의 locality…