RTX 5090 한 장에 모델을 맞춰 깎은 추론 엔진: Neroued/ninfer의 Context 풀·MTP/DFlash2·ReplaySSM·CPU expert offload 해부와 박스 검증
GitHub Trending C++에 오른 Neroued/ninfer(Apache-2.0, 3,288★, master@77c2e5e)를 실무자 관점에서 해부합니다. RTX 5090·DGX Spark 전용 네이티브 C++/CUDA 엔진의 소유권 구조, Context 바이…