VRAM은 캐시, RAM은 원본: FreeToken(FlashML-org/FreeToken) v0.2.1의 q* 미스 분할·공유 LRU 전문가 캐시·이중 버퍼 프리필·시맨틱 앵커 심층 해부
FlashML-org/FreeToken v0.2.1(Apache-2.0, 15.4k★, 11/02 Trending 전체 16위)을 심층 분석합니다. 호스트 RAM 전문가 풀과 GPU 공유 LRU 캐시, q*=m·B_P/B_H 미스 분할, 전체 레이어 이중 버퍼 프리필,…