노션이 해킹당했다고? 협력 업체 ‘파이어웍스 AI’가 뚫려 노션 AI 대화가 샌 사건 — 워크스페이스 1% 미만, 질문·답변 전문은 노출되고 이름표는 대부분 없었다, ‘보관 안 한다(ZDR)’던 데이터가 남아 있던 이유와 LLM재킹, 내가 대상인지 확인하는 법과 키 교체 체크리스트까지 초보도 쉽게

“노션이 해킹당했다고?” 이번 주 해외 개발자 커뮤니티 해커뉴스에서 크게 화제가 된 소식입니다. 정확히 말하면 노션(Notion)이 뚫린 것이 아니라, 노션이 일부 AI 기능에 쓰던 외부 AI 인프라 업체 ‘파이어웍스 AI(Fireworks AI)’가 해킹을 당했고, 그 여파로 노션 워크스페이스의 1% 미만에서 노션 AI와 나눈 대화 일부가 공격자 손에 들어갔습니다.

메모, 회의록, 업무 문서를 노션에 몰아 두고 노션 AI에게 이것저것 물어보는 분이 많지요. 이 글에서는 무슨 일이 있었는지, 어떤 정보가 샜고 어떤 정보는 아닌지, ‘데이터를 보관하지 않는다(ZDR)’는 약속은 왜 지켜지지 않았는지, 그리고 내가 오늘 확인할 것은 무엇인지 처음 보는 분도 따라올 수 있게 차근차근 정리합니다.

한눈에 보는 이번 사고

항목 내용
뚫린 곳 파이어웍스 AI (AI 모델을 돌려 주는 클라우드 인프라 업체)
영향받은 서비스 노션: 노션 AI 대화 기록 일부 (워크스페이스 기준 1% 미만)
샌 내용(노션) ‘인사이트(Insights)’ 기능 분석용으로 보낸 노션 AI 대화 기록: 사용자가 쓴 질문 전문 + AI 답변 전문
대체로 빠진 것 누가 썼는지 알려 주는 꼬리표(이름·이메일·워크스페이스 정보), AI의 도구 사용 결과, 첨부한 파일·이미지
파이어웍스 쪽 피해 모든 계정의 계정·결제 정보(10월 30일 이전 생성 계정, 카드 번호는 미보관), 일부 고객의 비밀값·데이터셋·모델 파일
공격자 성격 돈을 노리는 범죄 조직. 훔친 열쇠로 AI를 공짜로 돌려 되파는 ‘LLM재킹’과 연관된 정황
노션 조치 11월 3일 파이어웍스 연결 차단, 4일 데이터 삭제, 인사이트 기능 중단, 노출된 노션 API 키 폐기
내 노션 AI 대화가 밖으로 나간 경로
내 노션 AI 대화가 밖으로 나간 경로: 노션이 인사이트 분석을 맡긴 AI 인프라 업체 파이어웍스가 뚫렸다

등장인물부터 정리해 볼까요

이번 사고가 헷갈리는 이유는 회사가 여러 곳 나오기 때문입니다. 택배에 비유하면 이해가 쉽습니다. 내가 쇼핑몰(노션)에 주문했는데, 쇼핑몰이 맡긴 물류 창고(파이어웍스)에 도둑이 들었고, 도둑은 창고 옆 건물(제3자 클라우드 업체)을 통해 들어왔습니다.

누구 무엇을 하는 곳 이번 사고에서의 역할
노션 문서·메모·협업 앱, 노션 AI 제공 파이어웍스의 고객. 자기 시스템은 뚫리지 않았지만 고객 데이터가 노출됨
파이어웍스 AI 공개 AI 모델(오픈 웨이트)을 대신 돌려 주는 인프라 업체. 노션 설명으로는 수만 곳의 고객, 수십만 명의 개발자가 사용 실제로 침입당한 곳
제3자 클라우드 업체(이름 비공개) 파이어웍스의 연구개발(R&D)용 컴퓨터를 호스팅 10월 23일 자체 보안 사고 발생 → 2차 침입의 통로
공격자 금전 목적 사이버 범죄 조직(파이어웍스 발표) 훔친 자격증명과 서비스 취약점, 클라우드 경유로 침입
팔로알토 네트웍스 유닛42 등 보안 조사 업체 포렌식(침해 흔적 조사) 지원

테크크런치 보도에 따르면 파이어웍스 고객 중에는 리걸테크 회사 하비(Harvey), AI 코딩 도구 커서(Cursor) 같은 곳도 있습니다. 다만 지금까지 노션 외 다른 고객사의 구체적 피해 내용이 공식 확인된 것은 아니니, “커서도 털렸다”처럼 넘겨짚지는 않는 게 좋습니다.

파이어웍스 사고, 알고 보니 ‘두 번’이었다

처음 공지 때는 피해가 작아 보였지만, 조사가 진행될수록 범위가 넓어졌습니다. 파이어웍스는 11월 17일 업데이트에서 이것이 서로 다른 두 건의 사고라고 정리했습니다.

파이어웍스 사고 타임라인
파이어웍스 사고 타임라인: 1차(8/3~10/7)와 2차(10/23~30) 두 건의 별개 사고, 공지는 10/10 → 11/9 → 11/17로 범위가 넓어졌다
날짜(미국 기준) 무슨 일이
8월 3일 ~ 10월 7일 1차 사고: 공격자가 시스템을 떠보다가 결국 침입. 도난당한 파이어웍스 자격증명과 한 서비스의 취약점을 이용해 플랫폼을 악용, 소수 고객의 비밀값·모델 파일·데이터셋에 접근
10월 6일 오전 9시(PDT) 파이어웍스가 이상 활동을 발견하고 차단 시작
10월 10일 첫 공지. 당시에는 “평가 작업에 쓰는 환경변수(API 키·토큰 등 비밀값)만 확인됐다”고 발표
10월 23일 ~ 30일 2차 사고: R&D 컴퓨터를 맡겨 둔 제3자 클라우드 업체가 먼저 뚫렸고, 이를 발판으로 개발용 컴퓨터를 거쳐 운영 시스템 일부까지 접근
11월 9일 두 번째 공지. 계정·결제 정보, 일부 고객의 데이터셋·미완성 모델 파일까지 피해가 넓어졌다고 발표
11월 17일 세 번째 공지. “두 건의 별개 사고”로 정리. 2차 사고에서 10월 30일 이전에 만든 모든 계정의 계정·결제 정보가 열람됐다고 밝힘. 두 사고 모두 차단·복구 완료라고 설명

여기서 배울 점이 하나 있습니다. 보안 사고 첫 공지는 ‘지금까지 확인된 것’일 뿐 최종 결론이 아닙니다. 첫 공지만 보고 “나는 상관없네” 하고 넘어갔다면, 나중 업데이트를 놓칠 수 있습니다.

노션 쪽에서는 어떻게 흘러갔나

날짜 노션 보안 공지 내용
11월 2일 저녁 파이어웍스가 “소량의 데이터가 접근당했다”고 통보. 노션 확인 결과 그때는 테스트용 합성 데이터뿐, 고객 데이터 없음
11월 3일 아침 만일을 위해 파이어웍스와의 연결을 끊고 모든 데이터 전송 중단
11월 4일 파이어웍스 시스템에 있던 노션 데이터 전부 삭제
11월 6일 파이어웍스가 “고객 데이터도 접근됐을 수 있다”고 다시 통보 → 노션 재조사
11월 8일 파이어웍스가 최종 피해 데이터셋 확정. 분석해 보니 인사이트 기능용 노션 AI 대화 기록 포함
11월 9일 영향받은 고객에게 개별 연락
11월 11일 대화 내용에서 발견된 노션 API 키를 노션이 직접 폐기
11월 12일 대화 속에서 발견된 다른 회사의 API 키를 각 발급 회사에 신고

노션은 “우리 시스템이 뚫린 것은 아니지만, 데이터를 안전하게 지키는 것은 노션의 근본”이라며 다시는 이런 일이 없게 하겠다고 밝혔습니다.

무엇이 샜고, 무엇은 아닐까

노션은 AI 대화 한 건을 네 부분으로 나눠 설명했습니다. 이 구분을 알면 내 걱정을 어디에 집중해야 할지 보입니다.

노션 AI 대화의 네 부분
노션 AI 대화의 네 부분: 내가 쓴 질문과 AI 답변은 전문이 포함됐고, 이름표와 도구 사용 결과는 대부분 없었다(노션 발표)
대화의 구성 요소 예시 이번 노출 여부(노션 발표)
① 자동으로 붙는 꼬리표(메타데이터) 내 이름, 이메일, 워크스페이스 정보 영향받은 대화 대부분에는 없음 → 누가 쓴 대화인지 바로 알기 어려움(‘비식별’)
② 내가 쓴 메시지 “이 고객 명단 정리해 줘: 홍길동 010-…” 전문 포함. 입력한 이름·이메일·API 키 등도 그대로. 당시 페이지에서 선택한 텍스트가 포함됐을 수 있음
③ AI의 도구 사용 웹 검색, 페이지 읽기, 데이터베이스 조회 대부분 없음. 단, AI 답변에 인용된 부분은 ④에 들어감
④ AI의 답변 요약문, 표, 인용한 문서 조각 전문 포함. 참고한 페이지 일부가 섞여 있을 수 있음
그 밖 첨부 스프레드시트·이미지, 페이지 나머지 내용 포함되지 않음
AI 회의록 음성, 녹취록, 요약 대화창에 직접 붙여 넣었거나 AI 답변에 인용된 경우만 해당

쉽게 말해 “누가 썼는지는 대부분 모르지만, 무엇을 썼는지는 그대로 보인다”는 상황입니다. 그래서 문제가 되는 것은 질문 안에 직접 적어 넣은 정보입니다. 예를 들어 “이 API 키 sk-… 가 안 되는데 왜 그럴까?”라고 물었다면, 이름표가 없더라도 그 키 자체는 바로 쓸 수 있는 진짜 열쇠입니다. 노션이 대화 속 API 키를 찾아 폐기하고 다른 발급 회사에 신고까지 한 이유가 여기에 있습니다.

파이어웍스 쪽에서 샌 정보

파이어웍스를 직접 쓰는 개발자·회사라면 이쪽도 봐야 합니다.

종류 예시 범위
리소스 메타데이터 리소스 ID, 표시 이름, 설명, 생성 시각 11월 9일 공지 기준 열람된 범주
계정·결제 정보 청구·배송 주소, 청구서·결제 내역, 잔액, 크레딧 사용량 10월 30일 이전 생성된 모든 계정(11월 17일 공지). 카드 번호는 보관하지 않아 미포함
비밀값(시크릿) 평가 작업용 환경변수에 넣은 API 키·토큰 소수 고객
데이터셋·모델 학습용 데이터, 미완성 모델 가중치 소수 고객

파이어웍스는 추론(Inference), 학습 SDK, 넥서스(Nexus) 서비스는 기본적으로 데이터를 보관하지 않는 방식이라 영향이 확인되지 않았다고 밝혔습니다. 또 조사 기간 동안 배치 추론·데이터셋 학습용 셀프 업로드·다운로드를 막아 두었습니다.

“보관 안 한다(ZDR)”더니, 왜 데이터가 남아 있었을까

이번 사고에서 가장 곱씹어 볼 대목입니다. ZDR(Zero Data Retention, 데이터 무보관)은 “AI에 보낸 요청과 답변을 처리만 하고 저장하지 않는다”는 약속입니다. 노션은 기업 고객에게 이 약속을 하고 있었고, 파이어웍스도 노션에 계약상 무보관을 약속했다고 합니다. 그런데 노션은 FAQ에서 “조사 과정에서 우리가 쓰던 파이어웍스 엔드포인트에서 데이터가 보관되고 있었다는 것을 알게 됐다”고 밝혔습니다.

구분 약속(문서상) 실제로 드러난 점
노션의 ZDR 외부 AI 업체에 보내는 요청은 보관하지 않게 함 대화 기록·인사이트처럼 기능상 노션이 저장해야 하는 데이터는 원래 ZDR 대상이 아님
인사이트 기능 관리자가 팀의 AI 사용 현황을 보는 기능 저장된 대화를 파이어웍스로 보내 분류·분석
파이어웍스 계약 노션 사용분 무보관 약속 노션 조사 결과 해당 엔드포인트에 데이터가 남아 있었음
노션 후속 조치 — 추론 업체 등 핵심 협력사가 무보관 원칙을 지키는지 감사(audit) 중

교훈은 단순합니다. “저장하지 않는다”는 말은 계약과 설정, 실제 시스템이 모두 맞아야 지켜집니다. 그리고 내가 쓰는 앱 뒤에는 보이지 않는 협력 업체가 여러 겹 있을 수 있습니다. 이것을 보안 용어로 ‘공급망(서플라이 체인) 위험’이라고 부릅니다.

‘LLM재킹’은 또 뭔가요

파이어웍스는 공격자가 ‘LLM재킹(LLMjacking)’을 하는 금전 목적 범죄 조직과 연관된 정황이 있다고 밝혔습니다. 구글 위협 인텔리전스 그룹과 맨디언트도 11월 2일 이 수법이 늘고 있다고 경고한 바 있습니다.

구분 흔한 개인정보 해킹 LLM재킹
노리는 것 주민번호·카드 정보 등 데이터 AI 서비스를 쓸 수 있는 열쇠(API 키·자격증명)
돈 버는 방법 정보를 팔거나 사기에 이용 훔친 키로 AI를 돌려 그 사용권을 불법 중계 서비스에 되팔기
피해자가 겪는 일 스팸·사칭·금융 사기 쓰지도 않은 AI 사용 요금 청구, 계정 정지
비유 지갑을 훔쳐 감 남의 수도꼭지에 호스를 몰래 연결해 물을 팔기

그래서 이번 사고에서도 ‘API 키·토큰 같은 비밀값’이 핵심 표적이었습니다. 대화창에 붙여 넣은 키 한 줄이 남의 요금 폭탄으로 이어질 수 있는 구조입니다.

노션 사용자라면: 내가 대상인지 확인하는 법

단계 할 일 설명
1 노션 안내 메일 확인 노션은 영향받은 고객에게 직접 연락했습니다. 나와 워크스페이스 소유자 모두 연락이 없다면 현재 대상이 아니라고 노션은 설명합니다
2 워크스페이스 사이드바 → ? → Security incident review 영향받은 경우 이 메뉴에서 해당 대화 데이터를 내려받아 볼 수 있습니다
3 내려받은 파일 확인 affected_content.csv에 실제 노출된 메시지가 있고, message_role로 내 질문인지 AI 답변인지 구분됩니다
4 비밀값부터 찾기 비밀번호, API 키, 토큰이 있으면 그것부터 즉시 교체
5 개인정보 확인 이름, 이메일, 전화번호, 주소, 계좌번호처럼 나를 특정할 수 있는 정보
6 파일 관리 민감한 파일이니 접근이 제한된 곳에 두고, 검토가 끝나면 로컬 사본 삭제

회사 관리자라면 기업·비즈니스 요금제(도메인 인증 워크스페이스)에서 affected_content_annotated.csv를 받을 수 있습니다. 노션이 분석용으로 붙인 열(__analysis_secret_categories, __analysis_pii_categories 등)로 비밀값·개인정보 의심 행을 걸러 볼 수 있지만, 노션도 “자동 표시는 출발점일 뿐”이라고 했습니다. 우리 회사만 쓰는 민감 단어는 직접 찾아봐야 합니다. 이름이 __로 시작하는 열은 사고 뒤에 노션이 덧붙인 것이라 노출된 데이터가 아닙니다.

노션 사용자가 오늘 할 일 5가지
노션 사용자가 오늘 할 일 5가지: 안내 메일 확인, 보안 사고 검토 메뉴, 키·비밀번호 교체, 피싱 주의, AI 대화창에 비밀값 넣지 않기

찾은 정보별로 무엇을 해야 할까

대화에서 발견한 것 우선순위 할 일
운영 서버·관리자 권한 API 키, 클라우드 키 최우선 발급한 서비스에서 즉시 폐기하고 새로 발급 → 그 키로 무엇에 접근할 수 있었는지, 사용 기록에 이상한 호출이 없는지 확인
일반 API 키·토큰 높음 교체. 노션 키는 노션이 이미 폐기했으니 새 키로 연동 다시 연결
비밀번호 높음 해당 서비스 비밀번호 변경, 같은 비밀번호를 쓰던 다른 사이트도 변경, 2단계 인증 켜기
이름·이메일·전화번호 중간 이 사고를 핑계로 한 피싱 메일·문자 주의
회사 내부 정보(고객 명단, 계약 내용) 상황별 보안 담당자와 공유, 회사 사고 대응 절차에 따르기

주의할 점이 하나 있습니다. 키를 ‘저장한 곳에서 지우는 것’과 ‘키를 무효로 만드는 것’은 다릅니다. 파이어웍스도 “저장된 비밀값을 지운다고 원래 자격증명이 무효가 되지 않는다”고 강조했습니다. 반드시 키를 발급한 서비스에서 폐기(revoke)해야 합니다.

파이어웍스를 직접 쓰는 개발자라면

할 일 이유
파이어웍스 안내 메일 확인 피해 고객에게는 교체가 필요한 자격증명을 개별 통보
폐기된 파이어웍스 API 키 재발급·교체 폐기된 키를 쓰는 앱은 인증 실패로 멈춤
평가 작업 등에 넣어 둔 외부 서비스 키 교체 환경변수 비밀값이 1차 사고의 표적
낯선 API 키·사용자·평가기·학습 작업·데이터셋 점검 공격자가 만든 흔적일 수 있음
청구서·크레딧 사용량 점검 계정·결제 정보 노출, LLM재킹 위험
결제 정보 관련 피싱 주의 청구 주소·결제 내역을 아는 척하는 가짜 청구 메일 가능

노션을 안 써도 배울 것: AI 채팅에 넣지 말아야 할 것

이번 일은 노션만의 이야기가 아닙니다. 챗GPT, 제미나이, 클로드, 사내 AI 도구 모두 뒤에서 여러 업체를 거칠 수 있습니다. AI 대화창은 ‘언젠가 남이 볼 수도 있는 메모장’이라고 생각하면 안전합니다.

넣지 말 것 대신 이렇게
API 키, 토큰, 비밀번호 sk-xxxx처럼 가리고 질문. 비밀값은 비밀번호 관리자·시크릿 매니저에 보관
주민등록번호, 카드·계좌번호 ‘000000-0000000’ 같은 가짜 값으로 바꿔서 질문
고객 명단, 전화번호 이름은 ‘고객A’, 번호는 지우고 형식만 남기기
회사 기밀(계약서 원문, 미공개 실적) 회사의 AI 사용 지침 확인, 승인된 도구만 사용
설정 파일 통째로(.env 등) 필요한 줄만, 비밀값은 지우고 붙여 넣기

흔한 오해와 사실

오해 사실
노션 서버가 해킹당했다 노션 발표로는 노션 시스템이 뚫린 것이 아니라 협력 업체 파이어웍스가 뚫림
노션 문서가 전부 털렸다 인사이트 분석용으로 보낸 노션 AI 대화 기록만 해당. 노션 발표로 다른 기능은 영향 없음
노션 쓰는 사람 모두 대상이다 워크스페이스 1% 미만. 노션은 대상자에게 개별 연락했고, 연락이 없으면 현재 대상 아님
이름이 없으니 걱정할 필요 없다 대화 안에 직접 쓴 비밀번호·키·개인정보는 이름표 없이도 위험
파이어웍스 카드 정보도 샜다 파이어웍스는 카드 번호를 보관하지 않아 영향 없다고 발표
첫 공지가 최종 결과다 파이어웍스 공지는 10월 10일 → 11월 9일 → 11월 17일로 범위가 계속 바뀜

정리하며

이번 사고의 핵심은 세 가지입니다. 첫째, 내가 쓰는 앱이 안전해도 그 앱이 맡긴 협력 업체에서 사고가 날 수 있습니다. 둘째, ‘저장하지 않는다’는 약속도 실제로 지켜지는지는 따로 확인이 필요합니다. 셋째, 그래서 결국 가장 확실한 방어는 처음부터 AI 대화창에 비밀값을 넣지 않는 습관입니다.

노션 사용자는 안내 메일이 왔는지 한 번 확인하고, 혹시 노션 AI에 키나 비밀번호를 붙여 넣은 기억이 있다면 오늘 바로 교체해 두세요. 연락을 받지 않았다면 당장 할 일은 없지만, 이 사고를 핑계로 “계정 확인이 필요하다”며 접근하는 메일이나 문자는 조심하시는 게 좋습니다.