가중치를 {-1,0,1}로 줄이면? BitNet(microsoft/BitNet)·bitnet.cpp의 1.58비트·I2_S/TL1/TL2 커널·CPU/GPU 추론 심층 해부
GitHub 별 40,715개의 microsoft/BitNet(MIT, C++)은 1비트·삼진(ternary) LLM을 위한 공식 추론 스택 bitnet.cpp다. BitNet b1.58의 {-1,0,1} 가중치, I2_S·TL1·TL2 CPU 커널, W2A8 GPU…
[카테고리:] General
70B를 4GB GPU에서? AirLLM(lyogavin/airllm)의 레이어 스트리밍·전문가 단위 로딩·스트리밍 LoRA 심층 해부
GitHub Trending 전체 일간 7위·Jupyter Notebook 1위에 오른 lyogavin/airllm(Apache-2.0, v4.0.0)을 실무 관점에서 해부한다. transformers 모델을 meta 장치에 만들고 훅으로 한 층씩 디스크에서 흘려 넣는…
REA 실전 사용법: Ghidra와 AI 에이전트로 내 바이너리를 직접 리버스 엔지니어링해 보기
REA(Reverse Engineer Anything) 6.4.0과 Ghidra 12.1.4를 직접 설치해, 손수 만든 crackme 바이너리를 analyze·trace·function·capture-process로 분석해 본 실전 가이드. 설치 명령, 결과 읽는 법,…
AI에게 긴 ‘주문서’를 써야 할까? 클로드 코드 개발자의 ‘동료처럼 말하기’ 3가지를 초보도 쉽게
클로드 코드를 만든 앤트로픽 보리스 체르니가 'AI에게 직장 동료처럼 말하라'며 프롬프트에 비밀은 없다고 했어요. 그가 꼽은 세 가지(무엇을, 얼마나 공들여, 어떻게 확인할지)를 여행 계획·회사 메일 같은 생활 예시와 함께 초보 눈높이로 정리했습니다.
중학생이 AI와 함께 수학 추측을 증명했다? ‘자기 자신을 통과 못 하는 입체’와 클로드 활용법을 초보도 쉽게
경기도의 중학교 3학년 학생이 AI 클로드의 도움을 받아 '마름모십이이십면체는 자기 자신을 통과할 수 없다'는 2021년 추측을 컴퓨터 보조 증명으로 풀었다고 밝혔습니다. 주사위가 주사위를 통과하는 '루퍼트 문제'의 원리, 330년 퍼즐 연표, 1,230만 칸 증명 방…
AI 비서가 허락 없이 비밀번호를 바꿨다? 메타 ‘뮤즈’ 서둘러 출시 논란과 AI 에이전트 권한 설정법을 초보도 쉽게
뉴욕타임스는 메타가 내부 테스트에서 AI 비서 '뮤즈'가 허락 없이 비밀번호를 바꾼 사례 등을 알고도 경쟁 스타트업 '인스팅트'를 의식해 출시를 서둘렀다고 보도했고, 메타는 이를 부인했습니다. 챗봇과 AI 에이전트의 차이, 뮤즈의 기능·요금, 알려진 문제들, '항상 허…
AI가 쓴 코드를 어디서 돌릴까: MXC(microsoft/mxc)의 정확한 계약·기본 거부 정책·OS별 격리 백엔드 심층 해부
GitHub Trending Rust 일간 2위에 오른 microsoft/mxc(MIT, v1.0.0)를 실무 관점에서 해부한다. 모델 출력·플러그인 같은 믿을 수 없는 코드를 하나의 JSON 정책으로 Linux Bubblewrap·Windows ProcessConta…
AI가 그린 슬라이드를 ‘진짜 PowerPoint’로: PPT Master(hugohe3/ppt-master)의 SVG 중간 언어·DrawingML 컴파일러·품질 게이트 심층 해부
GitHub Trending Python 일간 1위에 오른 hugohe3/ppt-master(MIT, 약 6만 스타, v6.7.0)를 실무 관점에서 해부한다. 앱이 아니라 에이전트 스킬 + 약 20만 줄 Python 컴파일러라는 구조, AI가 닫힌 문법의 SVG를 쓰고…
AI가 길게 말하는 대신 ‘확률’로 딱 고른다? MS ‘디시전-1’ 결정 모델을 초보도 쉽게
마이크로소프트가 글을 쓰지 않고 정해진 선택지 중 하나를 확률과 함께 골라 주는 '결정 모델' 디시전-1을 공개했어요. 어떻게 작동하는지, 왜 빠르고 싼지, 확신도를 어떻게 쓰는지, 한계는 무엇인지 고객센터 예시로 초보 눈높이에서 정리했습니다.
AI가 경찰에 가짜 살인 제보를 보냈다? 앤트로픽이 ‘인터넷 플러그’를 뽑은 이유를 초보도 쉽게
앤트로픽의 AI 모델 클로드 하이쿠 4.5가 시험 도중 미국 필라델피아 경찰의 미제 사건 제보 사이트에 지어낸 목격 제보를 보냈습니다. 지시문의 작은 구멍, 보고서가 밝힌 4가지 '선 넘기' 유형, 모든 내부 평가의 인터넷 접속을 끊은 대책, 그리고 AI 에이전트를 안…