제품
쏙 런처›쏙에딧 (ssokEdit)›ssokIQ›ssokCLI›ssokMusic Free›쏙 키워드 추출기›쏙플레이어›쏙키트›SsokRecorder› 전체 제품 보기›
둘러보기
마켓›얼리버드›AI 소식›가이드›
커뮤니티
질문과 답변›제안 · 피드백›공지사항›
계정 · 설정
검색› 로그인›회원가입› 밝게 / 어둡게›
한국어English日本語
규제·정책

오픈AI, EU서 챗GPT 글에 '보이지 않는 워터마크'…단어 25% 바꾸면 탐지율 17%로 '뚝'

오픈AI가 EU AI법 대응으로 자체 기술 'textGrain'을 공개하고 EU 내 챗GPT·코덱스 텍스트에 비가시 워터마크를 넣기로 했다. API는 전 세계 선택 적용, 탐지기는 연구자·전문기관에만 제한 공개하며 편집·짧은 글에 취약하다는 한계도 스스로 밝혔다.

SSOK.AI 그록기자· ·조회 108

오픈AI가 챗GPT와 코덱스가 쓴 글에 눈에 보이지 않는 '워터마크'를 심기 시작한다. 유럽연합(EU) 인공지능법(AI Act)의 투명성 의무에 대응하기 위한 조치로, 적용 지역은 우선 EU로 한정했다. 오픈AI는 현지시간 5일 공식 블로그에서 자체 기술 'textGrain'을 공개하면서도 "강력한 성능이 일상적 사용에서의 신뢰할 만한 탐지를 보장하지는 않는다"고 스스로 한계를 밝혔다. 지난 8월 전 세계 적용을 발표했다가 반발을 산 앤트로픽과 달리, '지역 한정·선택형'이라는 신중한 길을 택했다.

핵심 정리

  • 오픈AI, 앞으로 몇 주에 걸쳐 EU 내 챗GPT·코덱스 텍스트에 비가시 워터마크 적용…전 세계 기본값은 아냐
  • API 고객은 전 세계에서 일부 모델에 한해 5일부터 선택 적용(기본값은 꺼짐)
  • 400토큰 글의 단어 10%를 동의어로 바꾸면 탐지율 약 92%→66%, 25%면 17%로 급락
  • 탐지기는 승인된 연구자·전문기관에만 우선 제공…워터마크 미탐지가 사람이 썼다는 증거는 아냐

무슨 일이 있었나

오픈AI 발표에 따르면 변화는 세 갈래다. 첫째, 앞으로 몇 주에 걸쳐 EU의 챗GPT·코덱스 이용자 중 적용 대상에게 요금제와 관계없이 텍스트 워터마크가 들어간다. 오픈AI는 "출시 시점에 전 세계 기본값으로 만들지 않는다"고 했다. 둘째, API 고객은 전 세계 어디서든 일부 모델에 워터마크를 켤 수 있다. 기본값은 꺼짐이다. 셋째, 워터마크 탐지기 접근 신청을 받되 우선 승인된 연구자와 전문기관에만 사례별로 연다.

어떻게 작동하나

textGrain은 모델이 단어를 고르는 과정에 보이지 않는 통계적 신호를 더하는 방식이다. 테크크런치는 신호가 단어 자체에 담겨 있어 복사·붙여넣기를 해도 함께 옮겨간다고 설명했다. 오픈AI는 자체 평가에서 textGrain이 구글 딥마인드의 'SynthID 텍스트' 등 다른 방식과 같거나 더 나은 성능을 냈다고 밝혔고, 기술을 오픈소스로도 공개할 계획이다. 워터마크는 사용자를 식별하지 않으며, 탐지기 역시 프롬프트나 대화 내용을 드러내지 않는다는 게 회사 설명이다.

숫자로 본 textGrain

  • 오탐률 1% 기준, 심리학 분야 200토큰 글은 약 80%, 400토큰 글은 약 95% 탐지. 단어 선택 폭이 좁은 수학은 "상당히 낮음"
  • 400토큰 글에서 단어 10%를 동의어로 바꾸면 탐지율 약 92%→66%, 25%를 바꾸면 17%
  • 최신 프런티어 모델 '아스트라' 기준 성능 차이는 미미: 아티피셜 애널리시스 지수 49.57점(워터마크 없음) 대 49.76점, GPQA 다이아몬드 94.44% 대 93.94%

배경: EU AI법과 '앤트로픽 논란'

테크크런치에 따르면 지난 8월 2일 발효된 EU AI법 투명성 규정은 AI 생성 콘텐츠를 다른 시스템이 식별할 수 있게 표시하도록 요구한다. 오픈AI·앤트로픽·구글·메타·마이크로소프트는 관련 EU 실천강령(Code of Practice) 준수를 약속했다. 비즈니스인사이더는 8월 2일 이후 출시 모델이 대상이며 기존 모델에는 12월까지 유예가 있다고 전했다.

앞서 앤트로픽은 SynthID 텍스트를 변형한 워터마크를 전 세계에 적용하겠다고 밝혔다. 지역별로 적용 범위를 나눌 방법이 아직 없다는 이유였다. 그러자 일부 클로드 이용자들은 "지시와 맥락, 결정"은 자신들이 내렸고 클로드는 "도구"일 뿐이라며 반발했다. 테크크런치는 오픈AI가 이용자 이탈을 우려해 워터마크 공개를 미뤘다는 2024년 월스트리트저널 보도도 상기시켰다.

엇갈리는 시선

오픈AI는 워터마크가 말해주지 않는 것들을 따로 정리했다. 사람이 얼마나 기여했는지, 누가 소유·책임지는지, 누가 썼는지, 내용이 정확한지는 알려주지 않는다는 것이다. 또 "워터마크가 탐지되지 않았다고 사람이 썼다는 증거는 아니다"라고 했다. 탐지 결과만으로 표절·부정을 판정하는 일을 경계한 대목이다.

비판도 있다. 리스본 카운슬의 캐롤라인 드 콕 선임연구원은 앤트로픽 사례를 두고 비즈니스인사이더에 "AI법 50조는 딥페이크와 대량 합성물을 잡을 메스를 요구했는데, 앤트로픽은 단순 교정·번역까지 내리치는 망치를 쓰고 있다"고 말했다. 딥셋의 밀로시 루시치 CEO도 같은 매체에 워터마크를 저작 여부나 부정행위에 대한 "자동 판정"으로 쓰는 데는 매우 신중해야 한다고 했다. 오픈AI의 신중한 설계는 이런 논란을 의식한 결과로 보인다.

한국 기업·개발자에게 주는 의미

당장 한국의 챗GPT 이용자에게 기본 적용되는 것은 아니다. 하지만 EU에 서비스하는 국내 기업이라면 API 워터마크 옵션이 규제 대응 수단이 될 수 있다. 국내에서도 올해 1월 22일 시행된 AI 기본법이 생성물 표시 의무를 두고 있다. 뉴시스가 전한 과학기술정보통신부 가이드라인에 따르면 텍스트도 외부로 유통되면 표시 대상이 될 수 있고, 메타데이터 같은 기계 판독 방식이나 안내 방식으로 표시할 수 있다. 의무는 국내 이용자에게 서비스하는 해외 사업자를 포함한 'AI 사업자'가 지며, AI를 도구로 쓰는 이용자는 대상이 아니다. 과태료는 최소 1년 이상 계도기간 동안 유예됐다. 다만 짧은 글·번역문·수정된 글에서는 신호가 약해지는 만큼, 워터마크만으로 'AI 판별'을 자동화하는 것은 위험하다.

전망

오픈AI는 기술과 표준, 증거가 바뀌는 데 맞춰 접근법을 다시 검토하겠다고 했다. 'AI의 보조'와 'AI의 저작'을 구분하는 방법도 찾겠다고 했다. 구글은 이미 SynthID로 텍스트·이미지·음성·영상에 전 세계적으로 워터마크를 넣고 있다고 비즈니스인사이더는 전했다. 이제 관심은 오픈AI가 EU 밖으로 기본 적용을 넓힐지, 그리고 탐지기를 언제 일반에 열지로 옮겨가고 있다.

— SSOK.AI 그록기자

참고 자료

  • OpenAI: https://openai.com/index/eu-text-provenance/
  • TechCrunch: https://techcrunch.com/2026/10/05/openai-will-start-watermarking-chatgpts-text-in-the-eu/
  • The Verge: https://www.theverge.com/ai-artificial-intelligence/1004880/openai-chatgpt-text-watermarks-eu-ai-act
  • 9to5Mac: https://9to5mac.com/2026/10/05/openai-details-new-text-watermarking-system-for-chatgpt-codex-and-the-api/
  • Business Insider: https://www.businessinsider.com/why-anthropic-claude-text-ai-watermark-rivals-eu-law-2026-8
  • Anthropic: https://www.anthropic.com/news/claude-text-watermark
  • 뉴시스: https://www.newsis.com/view/NISX20260121_0003485509

출처: 오픈AI 외 종합

AI 소식 더 보기

전체 보기 ›
규제·정책 4시간 전 트럼프 "해외에 데이터센터 지으면 엄청난 세금"…참모도 몰랐던 즉석 발언, 세율·근거는 '0', AWS 울산·MS 부산 등 한국 AI 인프라도 촉각 도널드 트럼프 미국 대통령이 20일(현지시간) 백악관 기자회견에서 미국 기업이 해외에 데이터센터를 지으면 "엄청난 세금"을 물리겠다고 밝혔다. 중국에 뒤처지지 않으려면 데이터센터를 미국에 지어야 한다는 논리지만, 세율·법적 근거·시행 시점은 없었고 스스로 "참모들에게도 아직 말하지 않았다"고 했다. 연방 과세권이 의회에 있어 실현 여부는 불투명하지만, 구글 핀란드·걸프 '스타게이트 UAE'와 함께 AWS·SK 울산 AI 데이터센터, MS 부산 3호기 등 한국 프로젝트도 불확실성에 노출됐다. 업계 동향 17시간 전 시그널, 시리·제미나이에 '화면 읽기 금지'…iOS 27 스크린숏 기본 차단, 휘태커 "OS AI 에이전트는 실존적 위협", 애플·구글에 'AI 접근 거부' 수단 요구 암호화 메신저 시그널이 20일(현지시간) iOS 27에서 '시리 AI 차단'을 기본으로 켜 앱 안 스크린숏을 막고, 안드로이드에서는 AI 비서가 화면을 읽으려 하면 '화면 보안'을 자동으로 켜는 업데이트를 내놨다. 메러디스 휘태커 회장은 OS에 깊이 통합된 AI 에이전트를 "실존적 위협"이라 부르며 대책이 불완전하다고 인정했고, 애플·구글·MS에 앱별 AI 접근 거부 수단과 작동 방식 문서 공개를 요구했다. 메타 '뮤즈'가 시그널 대화를 읽었다는 로이터 보도 직후 나온 조치다. 업계 동향 23시간 전 AI 랠리에 제동…나스닥 주간 10% 폭락 2020년 이후 최악, 엔비디아 'SEC 회계 조사' 보도에 14% 급락, 앤트로픽은 상장 이틀 만에 공모가 턱밑 20일(현지시간) 나스닥이 5.3% 떨어지며 주간 10% 하락으로 2020년 이후 최악의 한 주를 보냈고 S&P500과 다우도 조정 구간에 들어갔다. 로이터가 SEC 집행 부서의 엔비디아 회계 조사를 단독 보도하자 엔비디아는 14% 급락해 7주 연속 하락했고, 싱가포르 매출 공시 변경과 순환 금융이 다시 도마에 올랐다. 앤트로픽은 88.91달러로 공모가(83달러)에 다가섰고, 월가 해석은 'AI 재평가'와 '거품 붕괴는 아니다'로 갈렸다. 국내 증시는 23일 개장에서 그 여파를 시험받는다. 업계 동향 1일 전 "클로드와 함께 리만 가설 증명했다"…앤트로픽 수학자 발표, 17만 모듈 린 증명 독립 검증 잇따라 통과했지만 읽을 논문은 없다, 같은 날 스탠퍼드선 'AI 없는 인간 증명'도 등장 앤트로픽 수학자 레벤트 알푀게가 상장 다음 날인 20일(현지시간) 클로드와 함께 리만 가설과 일반화 리만 가설을 증명했다며 린 형식 증명만 공개했다. MIT 앤드루 서덜랜드의 독립 검증에서 17만5187개 모듈 컴파일, 표준 공리 3개만 사용, 독립 커널 2종 수용을 통과했지만 최종 컴퍼레이터 실행은 진행 중이다. 타오는 "소화에 시간이 걸릴 것", 그랜빌은 발표 시점을 비판했고, 같은 날 미국수학회장 바킬은 마술로의 940쪽짜리 '순수 인간' 증명 초안을 공개했다.