
가중치를 {-1,0,1}로 줄이면? BitNet(microsoft/BitNet)·bitnet.cpp의 1.58비트·I2_S/TL1/TL2 커널·CPU/GPU 추론 심층 해부
GitHub 별 40,715개의 microsoft/BitNet(MIT, C++)은 1비트·삼진(ternary) LLM을 위한 공식 추론 스택 bitnet.cpp다. BitNet b1.58의 {-1,0,1} 가중치, I2_S·TL1·TL2 CPU 커널, W2A8 GPU…

GitHub 별 40,715개의 microsoft/BitNet(MIT, C++)은 1비트·삼진(ternary) LLM을 위한 공식 추론 스택 bitnet.cpp다. BitNet b1.58의 {-1,0,1} 가중치, I2_S·TL1·TL2 CPU 커널, W2A8 GPU…