오픈AI, EU서 챗GPT 글에 '보이지 않는 워터마크'…단어 25% 바꾸면 탐지율 17%로 '뚝'

오픈AI가 챗GPT와 코덱스가 쓴 글에 눈에 보이지 않는 '워터마크'를 심기 시작한다. 유럽연합(EU) 인공지능법(AI Act)의 투명성 의무에 대응하기 위한 조치로, 적용 지역은 우선 EU로 한정했다. 오픈AI는 현지시간 5일 공식 블로그에서 자체 기술 'textGrain'을 공개하면서도 "강력한 성능이 일상적 사용에서의 신뢰할 만한 탐지를 보장하지는 않는다"고 스스로 한계를 밝혔다. 지난 8월 전 세계 적용을 발표했다가 반발을 산 앤트로픽과 달리, '지역 한정·선택형'이라는 신중한 길을 택했다.

> 핵심 정리

>

> * 오픈AI, 앞으로 몇 주에 걸쳐 EU 내 챗GPT·코덱스 텍스트에 비가시 워터마크 적용…전 세계 기본값은 아냐

> * API 고객은 전 세계에서 일부 모델에 한해 5일부터 선택 적용(기본값은 꺼짐)

> * 400토큰 글의 단어 10%를 동의어로 바꾸면 탐지율 약 92%→66%, 25%면 17%로 급락

> * 탐지기는 승인된 연구자·전문기관에만 우선 제공…워터마크 미탐지가 사람이 썼다는 증거는 아냐

무슨 일이 있었나

오픈AI 발표에 따르면 변화는 세 갈래다. 첫째, 앞으로 몇 주에 걸쳐 EU의 챗GPT·코덱스 이용자 중 적용 대상에게 요금제와 관계없이 텍스트 워터마크가 들어간다. 오픈AI는 "출시 시점에 전 세계 기본값으로 만들지 않는다"고 했다. 둘째, API 고객은 전 세계 어디서든 일부 모델에 워터마크를 켤 수 있다. 기본값은 꺼짐이다. 셋째, 워터마크 탐지기 접근 신청을 받되 우선 승인된 연구자와 전문기관에만 사례별로 연다.

어떻게 작동하나

textGrain은 모델이 단어를 고르는 과정에 보이지 않는 통계적 신호를 더하는 방식이다. 테크크런치는 신호가 단어 자체에 담겨 있어 복사·붙여넣기를 해도 함께 옮겨간다고 설명했다. 오픈AI는 자체 평가에서 textGrain이 구글 딥마인드의 'SynthID 텍스트' 등 다른 방식과 같거나 더 나은 성능을 냈다고 밝혔고, 기술을 오픈소스로도 공개할 계획이다. 워터마크는 사용자를 식별하지 않으며, 탐지기 역시 프롬프트나 대화 내용을 드러내지 않는다는 게 회사 설명이다.

숫자로 본 textGrain

• 오탐률 1% 기준, 심리학 분야 200토큰 글은 약 80%, 400토큰 글은 약 95% 탐지. 단어 선택 폭이 좁은 수학은 "상당히 낮음"
• 400토큰 글에서 단어 10%를 동의어로 바꾸면 탐지율 약 92%→66%, 25%를 바꾸면 17%
• 최신 프런티어 모델 '아스트라' 기준 성능 차이는 미미: 아티피셜 애널리시스 지수 49.57점(워터마크 없음) 대 49.76점, GPQA 다이아몬드 94.44% 대 93.94%

배경: EU AI법과 '앤트로픽 논란'

테크크런치에 따르면 지난 8월 2일 발효된 EU AI법 투명성 규정은 AI 생성 콘텐츠를 다른 시스템이 식별할 수 있게 표시하도록 요구한다. 오픈AI·앤트로픽·구글·메타·마이크로소프트는 관련 EU 실천강령(Code of Practice) 준수를 약속했다. 비즈니스인사이더는 8월 2일 이후 출시 모델이 대상이며 기존 모델에는 12월까지 유예가 있다고 전했다.

앞서 앤트로픽은 SynthID 텍스트를 변형한 워터마크를 전 세계에 적용하겠다고 밝혔다. 지역별로 적용 범위를 나눌 방법이 아직 없다는 이유였다. 그러자 일부 클로드 이용자들은 "지시와 맥락, 결정"은 자신들이 내렸고 클로드는 "도구"일 뿐이라며 반발했다. 테크크런치는 오픈AI가 이용자 이탈을 우려해 워터마크 공개를 미뤘다는 2024년 월스트리트저널 보도도 상기시켰다.

엇갈리는 시선

오픈AI는 워터마크가 말해주지 않는 것들을 따로 정리했다. 사람이 얼마나 기여했는지, 누가 소유·책임지는지, 누가 썼는지, 내용이 정확한지는 알려주지 않는다는 것이다. 또 "워터마크가 탐지되지 않았다고 사람이 썼다는 증거는 아니다"라고 했다. 탐지 결과만으로 표절·부정을 판정하는 일을 경계한 대목이다.

비판도 있다. 리스본 카운슬의 캐롤라인 드 콕 선임연구원은 앤트로픽 사례를 두고 비즈니스인사이더에 "AI법 50조는 딥페이크와 대량 합성물을 잡을 메스를 요구했는데, 앤트로픽은 단순 교정·번역까지 내리치는 망치를 쓰고 있다"고 말했다. 딥셋의 밀로시 루시치 CEO도 같은 매체에 워터마크를 저작 여부나 부정행위에 대한 "자동 판정"으로 쓰는 데는 매우 신중해야 한다고 했다. 오픈AI의 신중한 설계는 이런 논란을 의식한 결과로 보인다.

한국 기업·개발자에게 주는 의미

당장 한국의 챗GPT 이용자에게 기본 적용되는 것은 아니다. 하지만 EU에 서비스하는 국내 기업이라면 API 워터마크 옵션이 규제 대응 수단이 될 수 있다. 국내에서도 올해 1월 22일 시행된 AI 기본법이 생성물 표시 의무를 두고 있다. 뉴시스가 전한 과학기술정보통신부 가이드라인에 따르면 텍스트도 외부로 유통되면 표시 대상이 될 수 있고, 메타데이터 같은 기계 판독 방식이나 안내 방식으로 표시할 수 있다. 의무는 국내 이용자에게 서비스하는 해외 사업자를 포함한 'AI 사업자'가 지며, AI를 도구로 쓰는 이용자는 대상이 아니다. 과태료는 최소 1년 이상 계도기간 동안 유예됐다. 다만 짧은 글·번역문·수정된 글에서는 신호가 약해지는 만큼, 워터마크만으로 'AI 판별'을 자동화하는 것은 위험하다.

전망

오픈AI는 기술과 표준, 증거가 바뀌는 데 맞춰 접근법을 다시 검토하겠다고 했다. 'AI의 보조'와 'AI의 저작'을 구분하는 방법도 찾겠다고 했다. 구글은 이미 SynthID로 텍스트·이미지·음성·영상에 전 세계적으로 워터마크를 넣고 있다고 비즈니스인사이더는 전했다. 이제 관심은 오픈AI가 EU 밖으로 기본 적용을 넓힐지, 그리고 탐지기를 언제 일반에 열지로 옮겨가고 있다.

— SSOK.AI 그록기자

참고 자료

• OpenAI: https://openai.com/index/eu-text-provenance/
• TechCrunch: https://techcrunch.com/2026/10/05/openai-will-start-watermarking-chatgpts-text-in-the-eu/
• The Verge: https://www.theverge.com/ai-artificial-intelligence/1004880/openai-chatgpt-text-watermarks-eu-ai-act
• 9to5Mac: https://9to5mac.com/2026/10/05/openai-details-new-text-watermarking-system-for-chatgpt-codex-and-the-api/
• Business Insider: https://www.businessinsider.com/why-anthropic-claude-text-ai-watermark-rivals-eu-law-2026-8
• Anthropic: https://www.anthropic.com/news/claude-text-watermark
• 뉴시스: https://www.newsis.com/view/NISX20260121_0003485509