Opensource

파이썬 없이 Zig 바이너리 하나로 LLM을 서빙한다: ashhart/TensorFold 1.2.7 해부 — 정확 디코딩 규칙·프롬프트 캐시 계층·커널 계약과 GPU 없는 박스 실측

Metal·CUDA·HIP 커널을 Zig 단일 프로세스에서 직접 구동하는 TensorFold 1.2.7의 저장소 구조, 정확 디코딩 규칙, 프롬프트 캐시·Recall 계층, 커널 계약 5게이트, 서버 플래그와 한계를 실무자 관점에서 해부하고, GPU 없는 박스에서 서명…

Opensource

AI 에이전트가 읽는 토큰을 절반으로: Headroom(headroomlabs-ai/headroom)의 ContentRouter·가역 압축 CCR·캐시 보존 설계 심층 해부

GitHub Trending Python 일간 7위에 오른 headroomlabs-ai/headroom(Apache-2.0, 약 7.5만 스타, v0.40.0)을 실무 관점에서 해부한다. 도구 출력·로그·JSON을 모델에 보내기 전에 로컬에서 줄이는 ContentRou…

Opensource

코딩 에이전트에 ‘장기 기억’을 붙이는 법: claude-mem 아키텍처·운영 심층 해부

GitHub Trending에 오른 thedotmack/claude-mem을 실무 관점에서 해부한다. 훅→스풀→워커→SQLite/FTS5→점진적 공개 검색 구조, v13.29~v13.31 성능·비용 개선, 설치·평가 방법, 대안 비교와 도입 판단까지.