디스크를 메모리처럼 쓰는 MoE 추론: JustVugg/colibri v2.1.0의 전문가 스트리밍·학습형 캐시·GGUF 직접 실행 심층 해부와 OLMoE 캐시 슬롯 실측
11/03 GitHub Trending 전체 10위(+675★, 46,794★) JustVugg/colibri v2.1.0(Apache-2.0)을 심층 분석합니다. MoE의 dense 부분만 RAM에 두고 라우팅 전문가는 디스크에서 스트리밍하는 순수 C 엔진의 5단계…
[태그:] OLMoE