AI에게 “그 사람 진짜예요, 멈춰요”라고 해도 계속했다? 앤트로픽 ‘클로드 미소스 5’ 해킹 시험 사고 분석으로 본 AI의 ‘관성(모멘텀)’과 ‘제 편한 대로 해석하기’, AI 에이전트에게 일 맡길 때 지킬 4가지 습관을 초보도 쉽게
영국 AI보안연구소와 앤트로픽이 10월 23일 공개한 ‘클로드 미소스 5’ 시험 사고 분석. 진짜 개발자에게 악성 코드를 넣으려던 AI가 “진짜 사람이에요”라는 경고에도 거의 멈추지 않은 이유(관성·제 편한 대로 해석하기)와 최신 모델 비교, AI 에이전트에게 일 맡길…