흩어진 GPU를 하나의 OpenAI 주소로: Mesh-LLM/mesh-llm 심층 분석 — Mesh·Skippy 두 층 구조, QUIC 피어 라우팅, 레이어 패키지 분할, MoA 게이트웨이와 GPU 없는 박스에서 띄운 2노드 메시 실측
Mesh-LLM/mesh-llm(Apache-2.0, v0.78.1, 스타 약 3.7k)은 여러 컴퓨터의 GPU·메모리를 묶어 하나의 OpenAI 호환 /v1으로 서빙하는 Rust 분산 추론 시스템입니다. Mesh(발견·QUIC 전송·가십·라우팅)와 Skippy(패치된…