
모델마다, 칩마다 커널을 다시 고른다: magnitudedev/magnitude 심층 분석 — 첫 로드 60초 튜너, 정밀도 α=8 허용, 드래프팅 비용 계약과 GPU 없는 박스에서 llama.cpp와 맞붙인 0.2.15 스모크 테스트
magnitudedev/magnitude(Apache-2.0, 0.2.15, 스타 약 7.6k, Trending Rust 10위)는 모델을 받을 때 내 칩에서 최대 60초 동안 커널 구성을 측정해 고르는 Rust 추론 엔진입니다. ICN/ACN 구조, Seismic 후…