AI가 ‘내 서비스 보안 점검’을 거절했다? 해커뉴스를 달군 개발자의 분노 글로 배우는 클로드 ‘사이버 안전장치’와 사이버 검증 프로그램(CVP) — 방어·레드팀·특수 3단계, 신분증 인증·데이터 보관 조건, 주장과 공식 문서 대조, 막혔을 때 할 일까지 초보도 쉽게

“내 서비스에 보안 구멍이 있는지 좀 봐 줘.” 회사 개발자가 AI 코딩 도우미에게 이렇게 부탁했다가 ‘안전장치’에 막혀 거절당했다면 어떤 기분일까요? 지난 11월 19일, 에스토니아의 한 개발자가 운영하는 기술 블로그 techtipsy에 이 경험을 담은 글이 올라왔습니다. 제목부터 욕설이 섞인 아주 화난 글이었는데, 해외 개발자 커뮤니티 해커뉴스에서 600점이 넘는 추천과 200개가 넘는 댓글이 달리며 크게 화제가 됐어요.

글쓴이가 막힌 이유는 앤트로픽의 AI 클로드(Claude)에 들어간 ‘사이버 안전장치(cyber safeguards)’ 때문이었습니다. 그리고 이 안전장치를 덜 받으려면 사이버 검증 프로그램(Cyber Verification Program, CVP)에 신청해 신분증까지 내고 심사를 받아야 하죠. 글쓴이는 “범죄자는 허락받지 않는다, 결국 보안을 지키려는 사람만 귀찮게 한다”고 분노했습니다.

오늘은 이 논쟁을 계기로 AI는 왜 보안 질문을 막는지, CVP는 어떤 단계로 나뉘고 누가 무엇을 내야 하는지, 글쓴이의 주장 가운데 공식 문서와 맞는 부분과 다른 부분은 무엇인지, 그리고 평범한 사용자나 회사가 AI에게 보안 일을 맡길 때 무엇을 챙기면 좋을지까지 차근차근 풀어 보겠습니다.

AI 문지기
AI 문지기: 개발자가 자기 서비스의 보안 점검을 부탁했지만 클로드의 사이버 안전장치가 막았다. 차단을 덜 받으려면 사이버 검증 프로그램(CVP) 승인이 필요하다(그림은 이해를 돕기 위한 단순화)

1. 한눈에 보는 오늘 이야기

질문 짧은 답
무슨 일인가요? 한 개발자가 클로드 코드로 자기 제품의 보안 점검을 하다 ‘AI 안전장치’에 막혔고, 이를 비판한 글이 해커뉴스에서 화제가 됐습니다(11월 19일 글).
왜 막혔나요? 앤트로픽은 일반 공개 모델에 보수적인 사이버 안전장치를 걸어 두고, 해킹에 악용될 수 있는 작업 상당수를 차단합니다.
풀 방법은? 사이버 검증 프로그램(CVP)에 신청해 승인받으면 단계에 따라 차단이 줄어듭니다.
단계는? 방어 접근·레드팀 접근·특수 접근 3단계. 개인은 방어 접근만 신청할 수 있어요.
무엇을 내야 하나요? 개인은 실물 정부 발급 사진 신분증과 (요청 시) 실시간 셀카, 하는 보안 일에 대한 설명이 필요합니다.
조건은? 유료 플랜 이상이어야 하고, 프로그램에 들어가면 오남용 감시를 위해 대화 데이터 보관이 필수입니다.
논쟁의 핵심은? “악용을 막으려면 꼭 필요하다” vs “나쁜 사람은 다른 AI를 쓰고, 정직한 방어자만 불편하다”.

2. 먼저, 용어부터 쉽게

보안 이야기는 낯선 단어가 많아요. 오늘 글에 나오는 말들을 생활 속 비유로 정리해 둘게요.

용어 뜻 쉬운 비유
안전장치(세이프가드) AI가 위험한 요청에 답하지 않도록 거는 규칙·감시 장치 약국에서 특정 약은 처방전 없이 안 파는 것
분류기(classifier) 요청이나 답변이 위험한지 자동으로 판별하는 별도의 작은 AI 공항 검색대 엑스레이
이중 용도(dual use) 같은 기술이 지키는 데도, 공격하는 데도 쓰이는 성질 열쇠공의 기술은 문을 열어 주기도, 털기도 한다
취약점 프로그램 속 보안 구멍 잠기지 않는 창문
익스플로잇(exploit)·PoC 취약점을 실제로 파고드는 코드, 그 개념 증명용 예제 “이 창문, 이렇게 하면 열린다”는 시연
침투 테스트·레드팀 허락받고 일부러 공격해 보며 약점을 찾는 일 경비 회사가 미리 약속하고 몰래 들어와 보는 모의훈련
오탐(false positive) 문제없는 요청을 위험하다고 잘못 막는 것 정상 카드 결제가 ‘이상 거래’로 막히는 일
ZDR(무보관) AI 회사가 대화 데이터를 저장하지 않는 계약 조건 통화 녹음을 아예 안 남기는 상담 창구
오픈 웨이트 모델 모델 파일 자체를 공개해 누구나 내려받아 돌릴 수 있는 AI 레시피와 재료를 통째로 공개한 요리

3. 무슨 일이 있었나: 화난 개발자의 글

글쓴이는 자신을 ‘시니어 제품 엔지니어’라고 소개합니다. 자신이 맡은 제품을 두고 클로드 코드에게 “당장 손볼 만한 보안 문제가 있나” 물었더니, 한 줄이면 고칠 수 있는 간단한 실수를 하나 찾아 줬대요. 그런데 이어서 작업을 진행하던 중 ‘AI 안전장치’에 걸려 멈췄다는 겁니다.

글쓴이가 특히 화를 낸 부분은 예외 신청 절차였어요. 글에 적힌 불만을 정리하면 이렇습니다.

  • 답을 받으려면 영업일로 며칠을 기다려야 한다.
  • 데이터를 저장하지 않는 예외(무보관 조건)를 포기해야 하니, 지켜야 할 지식재산이 있다면 곤란하다.
  • 신분증이나 여권을 내야 한다. “나중에 유출 안 된다고 약속할 수 있느냐”는 불신.
  • 그렇게 다 내도 승인이 안 될 수도 있다.
  • 범죄자는 허락을 구하지 않고 안전장치가 없는 모델을 쓴다. 칼을 살 때 신분증을 내지 않는데 왜 이 도구만 특별하냐.

결국 글쓴이는 유럽에서 호스팅되는 오픈 웨이트 모델(글에서는 GLM 5.3을 예로 들었어요)을 써서 문제가 실제로 있는지 확인하고, 고치고, 고쳐졌는지까지 검증했다고 썼습니다. 그리고 “앤트로픽이 오히려 세상을 덜 안전하게 만들었다”며 글을 맺었죠. 이 글은 어디까지나 한 사람의 경험과 의견이라는 점은 기억해 두세요. 어떤 요청이 정확히 어떤 문구로 막혔는지는 글에 나오지 않습니다.

4. 앤트로픽은 왜 보안 질문을 막을까

앤트로픽이 지난 10월 6일 낸 공식 발표 ‘사이버 검증 프로그램 확대’에는 이유가 분명하게 적혀 있어요. 요약하면 이렇습니다. “사이버보안은 본질적으로 이중 용도다. 보안팀이 취약점을 찾아 고치게 돕는 능력은, 나쁜 사람이 그 취약점을 악용하게 도울 수도 있다.” 그래서 클로드 오퍼스 5.5, 페이블 5.1, 소네트 5.5 같은 일반 공개 모델에는 ‘대부분의 사이버 작업을 막는’ 보수적인 안전장치를 걸어 뒀다는 설명이에요.

최근 AI의 해킹 실력이 부쩍 늘어난 것도 배경입니다. 앤트로픽에 따르면 제한된 기관에만 최상위 모델 ‘클로드 미토스’를 열어 준 프로젝트 글래스윙에서, 참여 기관들이 2026년 4~7월 사이 검증된 소프트웨어 취약점을 최소 12만 9천 개 찾았다고 해요. 앤트로픽이 직접 한 오픈소스 점검에서도 4~10월에 5,500개를 더 찾았고, 이 가운데 3만 3천 개 이상이 ‘치명적’ 또는 ‘높음’ 등급이었다고 밝혔습니다. 구멍을 이렇게 잘 찾는 AI라면, 아무에게나 공격 코드까지 짜 주게 둘 수는 없다는 논리죠.

구분 일반 공개 모델로 해도 되는 일(공식 안내) CVP가 필요할 수 있는 일
코드 코드 리뷰, 안전한 코드 작성 —
취약점 이미 알려진 문제 패치, 내 소스 코드에서 취약점 찾기 찾은 취약점이 실제로 뚫리는지 익스플로잇으로 검증
운영 보안 경보 분류(트리아지) 사고 대응, 악성코드 분석 등 깊은 방어 작업(방어 접근)
공격 시험 — 허가받은 침투 테스트·레드팀(레드팀 접근, 조직만)

흥미로운 점은, 글쓴이가 한 일(내 제품의 보안 실수 찾고 고치기)은 공식 안내상 일반 모델로도 해도 되는 쪽에 가깝다는 거예요. 그런데도 막혔다면 ‘오탐’일 가능성이 있습니다. 실제로 앤트로픽 도움말 센터에도 “허용된 보안 작업에서도 모델 거절이나 분류기 차단을 겪을 수 있다, 오탐을 줄이려고 계속 다듬는 중”이라는 문구가 들어 있어요. 앤트로픽도 완벽하지 않다는 걸 인정하고 있는 셈이죠. (다만 글쓴이가 PoC 코드를 실제로 돌려 보려 했다면, 그건 ‘검증’ 쪽이라 막혔을 수도 있습니다. 글만으로는 알 수 없어요.)

5. 사이버 검증 프로그램(CVP), 3단계로 나뉜다

CVP는 “검증된 보안 전문가에게는 안전장치를 덜 걸어 주는” 프로그램이에요. 원래는 한 단계짜리였는데, 10월 6일 개편으로 세 단계가 됐고 클로드 미토스·오퍼스·소네트 최신 모델을 쓸 수 있게 됐습니다. 11월 18일에는 레드팀·특수 접근을 쓸 수 있는 플랜과 특수 접근 자격을 더 분명히 하는 내용으로 공식 발표문이 갱신됐어요.

CVP 3단계
CVP 3단계: 방어 접근은 개인도 신청할 수 있고, 레드팀·특수 접근은 조직만 신청할 수 있다. 위 단계일수록 차단은 줄고 심사는 깐깐해진다
항목 방어 접근(Defense) 레드팀 접근(Red Team) 특수 접근(Specialized)
할 수 있는 일 보안 관제, 사고 대응, 악성코드 분석, 탐지 규칙 개발, 취약점 분류·검증 위 내용 + 허가받은 침투 테스트, 레드팀, 공격 도구·익스플로잇 개발 핵심 기반시설 대상 허가된 침투 테스트, 가장 위험도 높은 기법 연구
주 대상 회사 보안팀, 기반시설 운영자, 오픈소스 관리자, 버그바운티 헌터, 개인 연구자 침투 테스트 회사, 사내 레드팀 항공 운영 시스템·전력망·은행 간 송금망 등을 시험하는 팀
신청 자격 조직과 개인 조직만 조직만
플랜 Pro·Max·Ultra·Team·Enterprise·API Enterprise·API Enterprise·API
승인 인원 기본 제한 없음(개인은 본인만) 최대 75명 최대 25명
심사 목표 기간 2일 2주(현재 수요가 많아 더 걸림) 정해진 목표 없음, 미국 정부와 함께 심층 심사

무료 플랜은 CVP를 쓸 수 없어요. 그리고 어느 단계든 절대 안 되는 일이 있습니다.

모든 단계에서 금지 쉽게 말하면
데이터·기기의 대량 파괴 회사 서버를 통째로 지우는 공격
서비스 거부(DoS) 공격 트래픽 폭탄으로 사이트를 마비시키는 공격
물리적 피해 공장·설비를 실제로 망가뜨리는 행위
갈취(협박) 랜섬웨어처럼 돈을 요구하는 행위
선거 개입 선거 시스템이나 여론을 조작하는 행위
악의를 밝힌 요청 “저 사람 계정을 털고 싶어” 같은 요청

6. 개인이 신청하려면 무엇이 필요할까

개인 신청 흐름
개인 신청 흐름: 유료 플랜 → 실물 신분증·셀카 인증 → 보안 업무 설명 → 약관 동의 → 심사(방어 접근 목표 2일). 가입 후에는 오남용 감시를 위해 데이터 보관이 필수다

개인(독립 연구자, 오픈소스 관리자, 버그바운티 헌터 등)은 방어 접근만 신청할 수 있어요. 앤트로픽 계정으로 ‘검증 포털(Verification Portal)’에 로그인해 프로그램 목록에서 CVP를 고르고 신청서를 쓰는 방식입니다.

준비물 내용
유료 계정 Pro·Max·Ultra·Team 등 유료 플랜, 또는 결제를 설정한 Claude Console
신분증 실물 정부 발급 사진 신분증(여권, 운전면허증, 국가 신분증 등). 복사본은 안 됨
카메라 달린 휴대폰 요청이 오면 실시간 셀카 촬영
보안 업무 설명 어떤 보안 일을 하고 클로드를 어떻게 쓸지
약관 동의 프로그램 약관에 동의하고 제출
(조직이라면 추가) 법인명·주소·사업자등록번호, 조직 이메일 도메인 계정 등

신분증 인증은 앤트로픽이 외부 업체 페르소나(Persona)와 함께 합니다. 아무 신분증이나 되는 건 아니에요.

되는 것 안 되는 것
정부가 발급한 실물 여권 복사본, 스크린숏, 스캔본, 사진을 다시 찍은 사진
운전면허증·주(州) 신분증 모바일 신분증·모바일 운전면허증 같은 디지털 신분증
국가 신분증 학생증, 사원증, 도서관 카드, 은행 카드
유효기간이 남고 사진이 있는 것 임시 종이 신분증, 훼손되거나 만료된 것

앤트로픽 도움말에 따르면 신분증 사진과 셀카는 페르소나가 보관하고 앤트로픽 시스템에 복사해 두지 않으며, 이의 제기 검토 같은 필요할 때만 열람한다고 해요. 또 신원 데이터를 AI 학습에 쓰지 않고, 마케팅 등 다른 목적으로 제3자와 공유하지 않는다고 밝혔습니다. 승인이 안 되면 일반 모델은 그대로 쓸 수 있고, 7일 뒤 다시 신청할 수 있어요.

7. 화난 개발자의 주장, 공식 문서와 맞춰 보면

글쓴이의 불만 가운데에는 공식 문서로 확인되는 것도 있고, 조금 다른 것도 있어요. 하나씩 대조해 볼게요.

글쓴이 주장 공식 문서 내용 판단
영업일로 며칠을 기다려야 한다 방어 접근 심사 목표는 2일, 발표문은 “며칠 안에 답하는 것이 목표” 대체로 맞음(다만 ‘목표’라 더 걸릴 수 있음)
데이터 무보관 예외를 포기해야 한다 CVP 가입자는 오남용 감시를 위해 데이터 보관이 필수. 이미 페이블·미토스 무보관 예외가 있는 조직만 예외 대부분의 경우 맞음
신분증·여권을 내야 한다 개인은 실물 정부 발급 사진 신분증 필요, 셀카 요청 가능 맞음
유출되면 어떡하나 페르소나가 보관, 암호화, 학습 미사용, 제3자 공유 안 함이라고 안내 약속은 있음. 위험이 0이라고는 누구도 장담 못 함
다 내도 승인 안 될 수 있다 승인 안 될 수 있고, 7일 뒤 재신청 가능. 승인 후에도 회사 재량으로 축소·철회 가능 맞음
내 제품 보안을 고치는 것도 막는다 내 코드 취약점 찾기·패치는 일반 모델로 가능하다고 안내. 다만 허용 작업에도 오탐 차단이 있을 수 있다고 인정 정책상으론 허용 범위, 실제로는 오탐에 걸렸을 가능성

정리하면, 글쓴이가 말한 절차의 무게(신분증, 데이터 보관, 심사)는 사실이에요. 반면 “내 서비스를 지키는 것조차 금지”라는 부분은 정책 자체보다는 안전장치가 너무 예민하게 반응한 오탐 쪽에 가까워 보입니다. 앤트로픽은 막혔는데 자기 단계에서 허용돼야 한다고 생각하면 신고하라는 창구도 열어 두고 있어요.

8. 안전장치는 실제로 얼마나 막을까: 앤트로픽의 실험

앤트로픽은 단계별 안전장치가 제대로 작동하는지 보려고, 여러 단계로 된 사이버 공격 작전을 계획·실행할 수 있는지 재는 평가 CyScenarioBench로 클로드 오퍼스 5.5를 시험했습니다. 과제 10개를 단계마다 5번씩, 즉 50번 시도했어요.

같은 공격 시나리오 50번
같은 공격 시나리오 50번: 앤트로픽의 CyScenarioBench 내부 평가에서 CVP 없이는 전부 첫 질문에 차단, 방어 접근은 46번 차단·4번 성공, 레드팀 접근은 차단 없이 34번 성공(앤트로픽 발표 기준)
조건 결과(50번 시도) 뜻
CVP 없음(일반 모델) 모든 과제가 첫 질문에서 차단 일반 사용자는 공격 작전 자체를 시작할 수 없음
방어 접근 46번은 중간에 차단, 나머지 4번은 성공 방어자도 ‘공격 작전’은 대부분 막힘
레드팀 접근 차단 0번, 34번 성공 안전장치가 없을 때의 성공률(67.6%)과 사실상 같음
특수 접근 안전장치 없는 상태와 같은 수준으로 봄 가장 적게 막히는 단계

이 숫자는 앤트로픽이 직접 발표한 내부 평가라는 점은 감안해야 합니다. 그래도 “일반 모델은 공격 작전에 거의 쓸 수 없고, 단계를 올릴수록 문이 열린다”는 설계 의도는 잘 보여 줘요.

9. 조직이라면 챙겨야 할 보안 조건

CVP는 “AI를 강하게 풀어 주는 대신, 당신 조직도 단단히 잠가라”는 거래이기도 합니다. 회사가 신청할 때는 아래 보안 통제를 갖췄다고 확인해야 해요.

단계 필요한 보안 통제(조직 기준)
방어 접근 다중 인증(MFA), API 키 최소 7일마다 교체. 2026년 12월 15일부터는 피싱에 강한 MFA가 필요하고 고정·장기 API 키를 쓸 수 없음(워크로드 아이덴티티 연동 권장)
레드팀 접근 피싱에 강한 MFA, 7일 키 교체, 회사 도메인 계정, 회사 관리 기기, 외부 통신 통제, 신원 조회 + 보안 프로그램 증빙(ISO/IEC 27001, SOC 2 Type II 등)과 OSCP·GPEN 같은 자격
특수 접근 레드팀 조건 + 통합 로그인(SSO), 악성코드 방지 소프트웨어가 깔린 관리 기기, 해당 기반시설을 시험할 권한 증명

또 승인받은 기능은 기본적으로 내부용이에요. 고객사를 위한 보안 서비스나 제품에 쓰려면 별도 승인이 필요하고, 승인 없이 고객에게 제공하면 프로그램에서 쫓겨날 수 있습니다.

10. 누가 옳을까: 두 시각 나란히 보기

“안전장치는 필요하다” “정직한 사람만 손해다”
AI가 수만 개의 취약점을 찾을 만큼 강해졌다. 공격 코드를 아무나 받게 두면 피해가 커진다. 범죄자는 안전장치 없는 오픈 웨이트 모델을 쓰면 그만이다.
신원 확인과 기록 보관이 있어야 악용을 추적·차단할 수 있다. 신분증과 업무 데이터를 맡기는 것 자체가 새로운 위험이다.
일반 모델로도 코드 리뷰·패치·내 코드 점검은 된다. 실제로는 오탐 때문에 정상 작업도 막힌다.
단계별 심사로 진짜 방어자에게는 더 강한 도구를 준다. 심사 기간과 승인 불확실성이 급한 대응을 늦춘다.

해커뉴스 상위 댓글은 글쓴이에게 공감하는 쪽이 많았어요. “CVP에 들어가도 여전히 자주 막힌다”는 경험담도 있었고, 소프트웨어 개발을 외부 AI 회사에 이렇게까지 기대는 것 자체가 위험하다는 지적도 나왔습니다. 하지만 어느 한쪽이 완전히 옳다기보다는, “막는 선을 어디에 긋느냐”와 “오탐을 얼마나 줄이느냐”가 앞으로의 숙제라고 보는 편이 정확할 것 같습니다.

11. 나는 무엇을 하면 될까: 상황별 체크리스트

나는… 이렇게 해 보세요
AI로 글쓰기·공부만 하는 일반 사용자 신경 쓸 일 거의 없음. 다만 “해킹 방법 알려 줘” 같은 질문은 막히는 게 정상이라는 것만 알아 두기
내 코드 보안을 점검하는 개발자 “내 코드의 취약점을 찾아 고쳐 줘”처럼 방어 목적과 내 코드임을 분명히. 막히면 요청을 나눠 패치 중심으로 다시 묻기
정상 작업이 계속 막히는 보안 담당자 공식 신고 창구로 오탐 신고, 필요하면 방어 접근 신청(심사 목표 2일)
회사에서 AI 도입을 맡은 사람 데이터 보관 필수 조건이 사내 규정과 맞는지 먼저 확인, 12월 15일 바뀌는 MFA·API 키 조건 대비
다른 오픈 모델로 갈아탈 생각인 사람 모델을 어디서 돌리는지, 코드·데이터가 어디로 가는지 확인. 안전장치가 없다는 건 실수도 막아 주지 않는다는 뜻

12. 자주 묻는 질문

질문 답
무료 플랜으로도 CVP를 쓸 수 있나요? 아니요. 유료 플랜(Pro·Max·Ultra·Team·Enterprise)이나 결제를 설정한 Console이 필요합니다.
개인이 레드팀 접근을 받을 수 있나요? 안 됩니다. 개인은 방어 접근만 신청할 수 있어요.
승인되면 아무 요청이나 다 되나요? 아니요. 모든 단계에서 금지 활동이 있고, 이용 정책도 그대로 적용됩니다. 방어 접근에서도 일부 거절이 남을 수 있어요.
Pro 플랜에서 승인되면 따로 켜야 하나요? Pro·Max·Ultra·Team은 자동으로 켜집니다. Enterprise와 Console은 관리자가 역할·워크스페이스에 할당해야 해요.
신분증 정보로 AI를 학습하나요? 앤트로픽은 신원 데이터를 모델 학습에 쓰지 않는다고 밝혔습니다.
떨어지면 끝인가요? 일반 모델은 계속 쓸 수 있고, 7일 뒤 더 나은 증빙으로 다시 신청할 수 있습니다.

마무리: ‘열쇠공 자격증’ 시대가 AI에도 왔다

이번 논쟁을 한 줄로 줄이면 이렇습니다. “AI가 구멍을 너무 잘 찾게 되자, AI 회사는 문 앞에 검색대를 세웠고, 정직한 방어자들은 그 줄이 너무 길다고 화를 냈다.” 앤트로픽의 사이버 검증 프로그램은 방어·레드팀·특수 3단계로 문을 조금씩 열어 주지만, 그 대가로 신분증과 데이터 보관, 심사를 요구합니다. 그리고 정책상 허용된 일도 오탐으로 막힐 수 있다는 걸 회사 스스로 인정하고 있어요. 우리가 AI에게 보안 일을 맡길 때는 “무엇이 허용되고 무엇이 막히는지”를 알고, 막혔을 때는 요청을 방어 목적으로 분명히 하거나 공식 창구를 두드리는 게 첫걸음입니다. 앞으로 AI 회사들이 이 선을 어떻게 다듬어 갈지, 계속 지켜보면 좋겠습니다.