
파이썬 없이 Zig 바이너리 하나로 LLM을 서빙한다: ashhart/TensorFold 1.2.7 해부 — 정확 디코딩 규칙·프롬프트 캐시 계층·커널 계약과 GPU 없는 박스 실측
Metal·CUDA·HIP 커널을 Zig 단일 프로세스에서 직접 구동하는 TensorFold 1.2.7의 저장소 구조, 정확 디코딩 규칙, 프롬프트 캐시·Recall 계층, 커널 계약 5게이트, 서버 플래그와 한계를 실무자 관점에서 해부하고, GPU 없는 박스에서 서명…