제품
쏙 런처›쏙에딧 (ssokEdit)›ssokIQ›ssokCLI›ssokMusic Free›쏙 키워드 추출기›쏙플레이어›쏙키트›SsokRecorder› 전체 제품 보기›
둘러보기
마켓›얼리버드›AI 소식›가이드›
커뮤니티
질문과 답변›제안 · 피드백›공지사항›
계정 · 설정
검색› 로그인›회원가입› 밝게 / 어둡게›
한국어English日本語
업계 동향

AI 추론업체 파이어웍스 해킹 후폭풍…노션 AI 대화 기록·우버 운전기사 면허 정보까지 털렸다, '데이터 보관 0' 약속의 빈틈

오픈소스 AI 추론 플랫폼 파이어웍스 AI가 두 차례 침해를 당하면서 노션 AI 채팅 기록과 우버 운전기사 수천 명의 운전면허 정보가 유출됐다. 'LLM재킹' 조직 소행으로 추정되며, AI 공급망 보안에 경고등이 켜졌다.

SSOK.AI 그록기자· ·조회 59

오픈소스 AI 모델을 빌려 쓰게 해 주는 미국 추론 플랫폼 파이어웍스 AI(Fireworks AI)가 당한 해킹의 피해가 고객사로 번지고 있다. 생산성 도구 노션(Notion)은 자사 AI 기능 사용자들의 채팅 기록이 유출됐다고 공식 확인했고, 우버(Uber)는 미국 운전기사 수천 명의 운전면허 정보가 도난당했다며 주 정부에 신고했다. 사용자는 노션이나 우버만 썼을 뿐인데, 그 뒤에서 일하던 'AI 하청 업체'가 뚫리면서 데이터가 새어 나간 것이다. 생성형 AI가 기업 서비스 곳곳에 들어간 지금, AI 공급망이 새로운 보안 약점으로 떠올랐다는 경고가 나온다.

핵심 정리

  • 파이어웍스 AI가 10월부터 두 차례 침해를 당했고, 결제·계정 정보, 일부 고객의 데이터셋과 미완성 모델 가중치, 저장된 비밀값(API 키 등)이 접근당했다.
  • 노션은 'Insights' 기능에 쓰인 노션 AI 채팅 기록이 유출됐다고 확인했다. 영향 범위는 전체 워크스페이스의 1% 미만이다.
  • 우버는 파이어웍스를 통해 운전기사 운전면허 정보가 도난당했다고 신고했다. 신고서 기준으로 매사추세츠 2,567명, 사우스캐롤라이나 3,430명, 로드아일랜드 1,873명이다.
  • 파이어웍스는 '데이터 보관 0(ZDR)'이 기본이라고 홍보했지만, 배치 작업·학습용 데이터처럼 저장되는 영역이 공격당했다.
  • 범인은 훔친 AI 사용 권한을 되파는 'LLM재킹(LLMjacking)' 범죄 조직으로 추정된다.

무슨 일이 있었나

파이어웍스는 개발자들이 오픈 웨이트 AI 모델을 API로 불러 쓰거나 미세조정할 수 있게 해 주는 추론 인프라 업체다. 테크크런치에 따르면 이 회사는 리걸테크 기업 하비(Harvey), AI 코딩 도구 커서(Cursor) 등을 고객으로 소개해 왔고, 벤처비트가 인용한 더레코드 보도로는 고객사가 1만 곳이 넘는다.

파이어웍스가 처음 침해 사실을 공지한 것은 10월 9일이다. 당시에는 평가 작업 등에 쓰이는 '저장된 비밀값'만 접근당한 것으로 알려졌다. 그런데 11월 9일 갱신된 공지에서 피해 범위가 크게 넓어졌다. 회사는 결제·계정 정보가 영향을 받았고, 일부 계정에서는 비밀값과 데이터셋, 미완성 모델 가중치까지 접근당했다고 밝혔다. 카드 번호는 애초에 보관하지 않아 피해가 없었다고 덧붙였다.

두 번째 침입 경로는 제3자였다. 파이어웍스의 연구개발(R&D) 서버를 호스팅하던 외부 클라우드 업체가 10월 23일 보안 사고를 당했고, 공격자는 다음 날 이 경로로 파이어웍스 개발 서버에 들어가 무단 작업을 실행했다. 파이어웍스는 같은 날 이를 감지해 대응했으며, 10월 25일 이후로는 추가 침입 흔적이 없다고 설명했다. 조사에는 팔로알토네트웍스의 위협 대응 조직 유닛42가 참여하고 있다.

노션과 우버, 피해 내용은

노션은 보안 공지에서 사고 경과를 날짜별로 공개했다. 11월 2일 파이어웍스로부터 처음 연락을 받았을 때는 '합성 테스트 데이터'만 관련된 것으로 파악됐다. 노션은 11월 3일 파이어웍스와 시스템 연결을 끊었고, 4일에는 파이어웍스에 있던 자사 데이터를 모두 지웠다. 그러나 11월 6일 고객 데이터도 접근당했을 수 있다는 추가 통보가 왔고, 8일 확정된 데이터셋을 분석한 결과 'Insights' 기능에 쓰인 노션 AI 채팅 기록이 들어 있었다.

노션은 영향받은 워크스페이스 대부분의 기록이 '귀속 불가' 상태였다고 강조했다. 누가, 어느 워크스페이스에서 쓴 대화인지 표시가 없고 도구 실행 결과도 포함되지 않았다는 뜻이다. 다만 테크크런치에 따르면 기록에는 채팅에 적힌 모델의 입력과 출력이 모두 담겨 있다. 노션은 피해 고객에게 해당 데이터를 '노출된 것으로 간주하라'고 권하고, 그 기간에 노션 AI에 붙여 넣은 비밀번호나 API 키는 바꾸라고 안내했다. 또 11월 11일에는 유출 메시지에서 발견된 노션 API 키를 폐기했고, 12일에는 다른 회사의 API 키를 발급 업체에 알렸다. Insights 기능은 중단했고, 파이어웍스를 통한 오픈 웨이트 모델 제공도 멈췄다.

우버의 피해는 더 민감하다. 로이터에 따르면 우버는 11월 10일자로 캘리포니아 법무장관실에 제출한 신고서에서, 한 서비스 업체로부터 10월 9일 자격 증명이 탈취됐다는 통보를 받았다고 밝혔다. 우버는 해당 업체와의 데이터 연결을 끊었고, 13일 조사에서 개인정보가 접근당한 사실을 확인했다. 신고서에는 업체 이름이 없었지만, 테크크런치는 이 업체가 파이어웍스이고 유출 정보에 운전면허 정보가 포함됐다고 보도했다. 우버 대변인도 테크크런치에 파이어웍스 사고와 관련된 통지라고 확인했다. 일리노이와 캘리포니아 피해자 수는 아직 공개되지 않아 숫자는 더 늘어날 수 있다. 우버는 피해자에게 무료 신용 모니터링을 제공하고, 아직까지 정보가 악용된 사례는 확인되지 않았다고 밝혔다.

'데이터 보관 0'이라더니…빈틈은 어디에

논란의 핵심은 파이어웍스가 내세워 온 '제로 데이터 리텐션(ZDR)'이다. 벤처비트 분석에 따르면 파이어웍스 문서에는 'ZDR이 기본'이라고 적혀 있다. 일반 추론 요청은 처리하는 동안 메모리에만 머물고 저장되지 않는다는 의미다. 하지만 같은 정책 문서에는 저장된 응답, 배치 작업, 학습처럼 고객 콘텐츠를 보관하는 기능도 있다고 적혀 있다. 이번 공격은 바로 그 '저장되는 영역'을 노렸다.

실제로 파이어웍스 공지는 추론·학습 SDK·넥서스에서는 피해가 확인되지 않았다고 했지만, 린 차오 CEO는 X 게시물에서 추론 항목에 '배치 추론 제외'라는 단서를 달았다. 벤처비트는 저장 자체를 막는 ZDR 정책이 엔터프라이즈 계정에만 제공되고 기본값은 꺼져 있다고 지적했다. 다만 노션의 채팅 기록이 정확히 어떤 기능에 저장돼 있었는지는 두 회사 모두 밝히지 않았다. 따라서 ZDR 정책을 켰다면 피해를 막을 수 있었는지는 확인되지 않는다.

배후는 'LLM재킹' 조직

파이어웍스는 배후로 금전 목적의 사이버 범죄 조직을 지목했다. 훔친 AI 모델 사용 권한을 불법 중계 서비스에 되파는 이른바 'LLM재킹'이 목적이라는 설명이다. 남의 계정으로 비싼 AI 모델을 대신 돌리게 해 주고 돈을 받는 구조로, 구글 위협정보그룹과 맨디언트도 11월 2일 이 수법이 늘고 있다고 경고했다.

이번 사고는 한 업체만의 문제가 아니다. 벤처비트에 따르면 보안 기업 위즈(Wiz)는 10월 한 달에만 AI 개발 플랫폼 최소 9곳이 보안 사고를 공개했다고 집계했다. 훔친 기업 키 두 개가 벤더 침해 시점으로부터 30분 안에 처음 무단 사용된 사례도 추적했다. 키가 털리면 거의 곧바로 악용된다는 뜻이다.

한국 기업과 개발자에게 주는 시사점

국내에서도 많은 기업이 자체 서비스에 해외 AI API와 추론 플랫폼을 연결해 쓰고 있다. 이번 사고는 사용자와 직접 계약한 회사가 아니라 그 뒤의 AI 공급업체에서 사고가 나도 고객 데이터가 새어 나갈 수 있다는 점을 보여 준다. 사용자 입장에서는 노션이나 우버를 믿고 썼을 뿐, 파이어웍스라는 이름을 들어 본 적도 없었을 가능성이 크다.

실무적으로는 몇 가지를 점검할 만하다. 먼저 AI 벤더의 '데이터를 보관하지 않는다'는 답을 그대로 믿지 말고, 배치 처리·평가·미세조정·로그처럼 실제로 데이터를 저장하는 기능이 무엇인지 기능별로 확인해야 한다. 벤처비트가 정리한 보안 점검 목록도 같은 방향이다. 둘째, 계정의 보관 정책 설정이 실제로 켜져 있는지 확인해야 한다. 셋째, 플랫폼에 저장된 API 키는 지우는 것만으로는 무효화되지 않으므로 발급처에서 직접 교체해야 한다. 개인 사용자라면 업무용 AI 채팅창에 비밀번호나 인증 키, 민감한 고객 정보를 붙여 넣는 습관부터 고칠 필요가 있다. 국내에서 개인정보보호법상 위탁·국외 이전 관리를 할 때도 AI 추론 업체를 별도의 수탁자로 보고 관리해야 한다는 목소리가 커질 것으로 보인다.

전망

조사는 아직 끝나지 않았다. 파이어웍스와 노션 모두 조사가 진행 중이라 피해 범위가 더 넓어질 수 있다고 밝혔고, 우버 피해자 수도 주별 신고가 이어지면서 늘어날 전망이다. 테크크런치는 파이어웍스가 두 달 사이 두 번째 침해를 겪었다고 짚었다. 고객사들이 AI 공급업체를 바꾸거나 계약 조건을 강화하는 움직임이 이어질지 주목된다. 기업들이 AI 모델 성능과 가격만큼 공급망 보안도 따져야 하는 시점이 왔다.

— SSOK.AI 그록기자

참고 자료

  • Fireworks AI, "Update on October 2026 security incident": https://fireworks.ai/security/bulletins/october-2026-security-incident-update
  • Notion, "Fireworks AI incident" 보안 공지: https://www.notion.com/security/advisories/security-incident-involving-a-third-party-ai-vendor
  • TechCrunch, "Uber confirms hackers stole thousands of drivers' license information in data breach": https://techcrunch.com/2026/11/13/uber-confirms-hackers-stole-thousands-of-drivers-license-information-in-data-breach/
  • TechCrunch, "Cyberattack on Fireworks AI allowed hackers to access Notion customers' chat transcripts": https://techcrunch.com/2026/11/12/cyberattack-on-fireworks-ai-allowed-hackers-to-access-notion-customers-chat-transcripts/
  • Reuters(Investing.com 게재), "Uber says US drivers' license data stolen in data breach": https://www.investing.com/news/stock-market-news/uber-says-us-drivers-license-data-stolen-in-data-breach-5026168
  • VentureBeat, "Attackers breached the Fireworks AI storage where Notion AI chats sat outside zero data retention": https://venturebeat.com/security/attackers-breached-the-fireworks-ai-storage-where-notion-ai-chats-sat-outside-zero-data-retention

출처: Fireworks AI·Notion·TechCrunch·Reuters 외 종합

AI 소식 더 보기

전체 보기 ›
규제·정책 4시간 전 트럼프 "해외에 데이터센터 지으면 엄청난 세금"…참모도 몰랐던 즉석 발언, 세율·근거는 '0', AWS 울산·MS 부산 등 한국 AI 인프라도 촉각 도널드 트럼프 미국 대통령이 20일(현지시간) 백악관 기자회견에서 미국 기업이 해외에 데이터센터를 지으면 "엄청난 세금"을 물리겠다고 밝혔다. 중국에 뒤처지지 않으려면 데이터센터를 미국에 지어야 한다는 논리지만, 세율·법적 근거·시행 시점은 없었고 스스로 "참모들에게도 아직 말하지 않았다"고 했다. 연방 과세권이 의회에 있어 실현 여부는 불투명하지만, 구글 핀란드·걸프 '스타게이트 UAE'와 함께 AWS·SK 울산 AI 데이터센터, MS 부산 3호기 등 한국 프로젝트도 불확실성에 노출됐다. 업계 동향 17시간 전 시그널, 시리·제미나이에 '화면 읽기 금지'…iOS 27 스크린숏 기본 차단, 휘태커 "OS AI 에이전트는 실존적 위협", 애플·구글에 'AI 접근 거부' 수단 요구 암호화 메신저 시그널이 20일(현지시간) iOS 27에서 '시리 AI 차단'을 기본으로 켜 앱 안 스크린숏을 막고, 안드로이드에서는 AI 비서가 화면을 읽으려 하면 '화면 보안'을 자동으로 켜는 업데이트를 내놨다. 메러디스 휘태커 회장은 OS에 깊이 통합된 AI 에이전트를 "실존적 위협"이라 부르며 대책이 불완전하다고 인정했고, 애플·구글·MS에 앱별 AI 접근 거부 수단과 작동 방식 문서 공개를 요구했다. 메타 '뮤즈'가 시그널 대화를 읽었다는 로이터 보도 직후 나온 조치다. 업계 동향 23시간 전 AI 랠리에 제동…나스닥 주간 10% 폭락 2020년 이후 최악, 엔비디아 'SEC 회계 조사' 보도에 14% 급락, 앤트로픽은 상장 이틀 만에 공모가 턱밑 20일(현지시간) 나스닥이 5.3% 떨어지며 주간 10% 하락으로 2020년 이후 최악의 한 주를 보냈고 S&P500과 다우도 조정 구간에 들어갔다. 로이터가 SEC 집행 부서의 엔비디아 회계 조사를 단독 보도하자 엔비디아는 14% 급락해 7주 연속 하락했고, 싱가포르 매출 공시 변경과 순환 금융이 다시 도마에 올랐다. 앤트로픽은 88.91달러로 공모가(83달러)에 다가섰고, 월가 해석은 'AI 재평가'와 '거품 붕괴는 아니다'로 갈렸다. 국내 증시는 23일 개장에서 그 여파를 시험받는다. 업계 동향 1일 전 "클로드와 함께 리만 가설 증명했다"…앤트로픽 수학자 발표, 17만 모듈 린 증명 독립 검증 잇따라 통과했지만 읽을 논문은 없다, 같은 날 스탠퍼드선 'AI 없는 인간 증명'도 등장 앤트로픽 수학자 레벤트 알푀게가 상장 다음 날인 20일(현지시간) 클로드와 함께 리만 가설과 일반화 리만 가설을 증명했다며 린 형식 증명만 공개했다. MIT 앤드루 서덜랜드의 독립 검증에서 17만5187개 모듈 컴파일, 표준 공리 3개만 사용, 독립 커널 2종 수용을 통과했지만 최종 컴퍼레이터 실행은 진행 중이다. 타오는 "소화에 시간이 걸릴 것", 그랜빌은 발표 시점을 비판했고, 같은 날 미국수학회장 바킬은 마술로의 940쪽짜리 '순수 인간' 증명 초안을 공개했다.