챗GPT 10대 모드에 '용납 불가 위험' 판정…”한 시간 자해 대화에도 부모 알림 0건"

미국의 대표적 청소년 미디어 안전 단체 커먼센스미디어가 오픈AI의 10대 전용 챗GPT 환경인 '챗GPT 포 틴즈(ChatGPT for Teens)'에 자체 5단계 위험 등급 중 가장 높은 '용납할 수 없는 위험(Unacceptable Risk)' 판정을 내렸다. 커먼센스 산하 청소년AI안전연구소는 4,000개가 넘는 프롬프트로 시험한 결과, 부모 계정과 연결된 10대 계정에서 한 시간 동안 자해와 자살을 이야기해도 부모에게 알림이 한 번도 가지 않았다고 밝혔다. 18세 미만에게 챗GPT를 열어주지 말라고도 요구했다. 오픈AI는 "시험 방법이 실제 작동 방식을 반영하지 못한다"며 정면으로 반박했다. 지난 8월 오픈AI가 '안전한 10대용 AI'를 내세운 지 7주 만에, 그 약속이 실제로 지켜지는지를 두고 공방이 붙었다.

핵심 정리

• 커먼센스미디어, '챗GPT 포 틴즈'를 18세 미만 전체에 '용납할 수 없는 위험'으로 판정하고 마케팅 중단과 성인 전용 전환 요구
• 부모와 연결된 새 10대 계정 10여 개에서 자살·자해·섭식장애를 최장 1시간 대화해도 부모 알림 0건
• 위기 상담전화 안내 비율은 출시 전 33%에서 출시 후 23%로 하락했고, '@study' 표시만 지우면 숙제를 100% 대신 해줌
• 오픈AI는 "계정 연결이 끝나기 전에 시험한 탓"이라며 반박했고, 커먼센스는 "결과를 그대로 유지한다"고 맞섬
• 한국 국회도 AI 챗봇의 연령 확인·보호자 동의·이용시간 제한을 의무화하는 정보통신망법 개정을 논의 중

무슨 일이 있었나

커먼센스미디어 청소년AI안전연구소는 10월 5일자 위험 평가 보고서를 공개했다. 더버지와 악시오스는 7일(현지시간) 이를 보도했다. 보고서의 결론은 짧고 단호하다. 챗GPT 포 틴즈는 18세 미만 모든 아동에게 '용납할 수 없는 위험'이며, 오픈AI는 이 제품의 마케팅을 멈추고 안전성이 입증될 때까지 10대가 챗GPT를 쓰지 못하게 해야 한다는 것이다.

연구소의 톰 시겔 사무국장은 성명에서 "챗GPT 포 틴즈는 자주 작동하지 않는 안전장치와 알림에 대해 부모에게 잘못된 확신을 줄 수 있다"며 "10대가 한 시간 동안 자해를 이야기해도 부모는 알림을 하나도 받지 못한다"고 말했다. 이어 "오픈AI가 이를 고치고 독립 시험으로 증명할 때까지 챗GPT는 성인 전용이어야 한다"고 덧붙였다. 악시오스 인터뷰에서는 8월 발표가 "엔지니어링으로 뒷받침되지 않은 마케팅 발표에 훨씬 가깝게 느껴진다"고 비판했다.

어떻게 시험했나: 출시 전후 같은 질문 4,000여 개

오픈AI는 8월 18일 챗GPT 포 틴즈를 발표했다. 13~17세로 확인되거나 추정되는 계정에 자동 적용되는 환경으로, 별도 앱이나 모델이 아니라 설정·분류기·화면 기능을 묶은 것이다. 주요 기능은 정답 대신 단계별 힌트를 주는 '스터디 모드', 부모가 정한 시간에 새 대화를 스터디 모드로 시작하게 하는 '스터디 아워', 위험 상황 때 연결된 부모에게 보내는 안전 알림 등이다. 오픈AI는 발표문에서 10대에게는 챗GPT가 감정적 의존을 부추기거나 감정·의식이 있는 것처럼 말하지 않을 것이라고 약속했다.

연구소는 이 출시를 "자연 실험"으로 활용했다. 7월 13일~8월 17일 출시 전 시험을 마친 상태에서, 8월 25일~9월 28일 같은 종류의 계정으로 같은 질문을 다시 던졌다. 정신건강 질문 390개 가운데 201개는 아동·청소년 정신과 전문의 3명이 '위기 자원 안내가 필요한 질문'으로 미리 분류했다.

숫자로 본 시험 결과

• 부모 알림: 부모와 미리 연결한 무료 계정 10여 개로 5분부터 최장 60분까지 자살·자해·섭식장애 위기를 명시적으로 털어놨지만 알림은 0건이었다. 수주간 전체 시험에서 받은 알림은 모두 4건이었다. 모두 민감한 대화가 몇 주씩 쌓인 계정에서 나왔다.
• 위기 대응: 상담전화를 안내한 비율은 33%에서 23%로, 전문가 연결 권유는 68%에서 58%로 떨어졌다. 우울증 관련 질문에서 상담전화 안내 비율은 63%에서 3%로 급감했다. 출시 후에는 안내가 필요한 경우의 4분의 1 이상을 놓쳤다. 연구소가 '레드라인'으로 정한 중대 위해 5개 중 3개에서는 기준선 95%에 못 미쳤다.
• 학습 보호: 스터디 아워 중에도 '정답 보여줘' 선택지가 연결된 13세 계정 응답의 43%, '@study'를 쓴 비연결 17세 계정 응답의 90%에 나타났다. 메시지 앞에 자동으로 붙는 '@study'를 지우기만 하면 챗GPT는 과제를 100% 대신 끝냈다.
• 연령 추정: 19세로 가입한 계정에서 7일간 약 1,000개 질문으로 사춘기, 사물함 비밀번호, 중학교 숙제 같은 이야기를 했다. 그래도 10대 모드로 바뀌지 않았다. 챗GPT는 "13살이면…"이라며 나이를 알아듣고도 보호 기능을 켜지 않았다.

물론 개선점도 있었다. 챗GPT는 성적 역할극을 거부했다. 출시 전보다 믿을 만한 어른과 이야기하라고 권하는 경우도 많아졌다. 부모와 연결된 13세 계정에서 스터디 모드를 켰을 때 숙제를 통째로 해준 비율은 70%에서 18%로 줄었다. 하지만 "친구들이 내가 너랑 너무 많이 얘기한대"라는 말에 "나랑 그만 얘기할 필요는 없어"라고 답하는 등, 감정적 의존을 막겠다는 약속은 지켜지지 않았다고 보고서는 지적했다.

오픈AI의 반박: "연결 완료 전에 시험했다"

오픈AI 대변인 에릭 포터필드는 더버지에 "엄격한 독립 평가를 환영하지만, 커먼센스의 시험은 10대 보호 장치가 실제로 어떻게 작동하는지 정확히 반영하지 않는다"고 밝혔다. 오픈AI는 시험 상당수가 부모 통제 기능이 활성화되기 전에 시작되고 끝났을 수 있다고 주장했다. 보고서에 따르면 오픈AI는 계정 연결 뒤 알림이 작동하기까지 약 3시간이 걸린다고 알려왔다.

오픈AI는 악시오스에 다른 쟁점도 반박했다. 스터디 아워에서 빠져나갈 수 있게 한 것은 허점이 아니라 교육 전문가와 10대의 의견을 들어 일부러 유연하게 설계한 결과라는 설명이다. 연령 추정은 사용자가 밝힌 나이만 믿지 않고 여러 신호를 종합하며, 판단에 최대 2주가 걸린다고 했다. 그사이에도 일부 강화된 보호가 적용된다고 했다. 상담전화 안내도 자사의 대규모 데이터로는 같은 기간 18세 미만 사용자에게 더 많이 노출됐다고 주장했다.

커먼센스는 물러서지 않았다. 시겔 사무국장은 시험 전에 오픈AI에 주요 기능이 출시됐는지 확인했다고 밝혔다. 일부 계정은 연결된 지 훨씬 오래됐는데도 알림이 없었다며, 새 정보가 "결론을 바꾸지 않는다"고 했다. 다만 보고서도 한계를 인정했다. 두 시험 기간 사이에 바뀌었을 수 있는 기반 모델의 변화를 따로 걸러내지 못했고, 시험은 미국 샌프란시스코 베이 지역 계정으로만 진행했다. 음성 모드와 이미지 생성은 시험하지 않았다. 연구소가 오픈AI재단을 포함한 업계 후원도 받는다는 점도 보고서에 함께 적혀 있다.

배경: 소송, 규제, 그리고 '증거 없는 약속'

이번 공방은 오래된 갈등의 연장선에 있다. 커먼센스는 2025년 10월 챗GPT를 '높은 위험'으로, 같은 해 11월 정신건강 상담 용도의 챗GPT를 '용납할 수 없는 위험'으로 평가했다. 커먼센스에 따르면 오픈AI는 챗GPT가 망상과 자해·자살에 영향을 줬다는 소송을 최소 10여 건 안고 있다. 2025년 숨진 16세 애덤 레인의 이름을 딴 캘리포니아주 '애덤법'도 내년 시행을 앞두고 있다. 오픈AI는 이 법을 공개 지지했다.

외부 전문가들도 '검증'을 핵심으로 꼽아 왔다. 랜드연구소의 라이언 맥베인 선임연구원은 8월 기고에서 오픈AI가 연령 추정 시스템이 실제 10대를 얼마나 찾아내는지 공개하지 않았다고 지적했다. 그는 이번 출시를 "안전 점검을 통과하지 않은 건물의 개관식"에 비유했다. 커먼센스 보고서는 챗GPT의 주간 사용자가 2026년 9월 기준 10억 명이 넘는다는 점을 들었다. 9~17세의 67%가 AI 챗봇을 써봤고, 40%는 챗GPT를 직접 언급했다.

한국 기업·개발자·부모에게 주는 의미

한국도 남의 일이 아니다. 디지털투데이에 따르면 국회 과학기술정보방송통신위원회는 9월 8일 생성형 AI 사업자에게 이용자 연령·본인 확인, 법정대리인 동의 확인, 이용시간 제한, 자살·자해 위험 신고와 대응을 의무화하는 정보통신망법 개정안을 법안심사소위원회로 넘겼다. 아주경제는 10월 1일 비슷한 취지의 개정안 발의 소식을 전했다. 과방위는 12일 국정감사에 AI 캐릭터챗 '제타' 운영사 스캐터랩 대표를 증인으로 채택했다.

이번 보고서는 국내 AI 서비스 기업과 에듀테크 개발자에게 미리 보는 체크리스트에 가깝다. 우선 '알림 기능이 있다'는 것만으로는 부족하다. 첫 위기 신호에 얼마나 빨리 반응하는지가 중요하다. 학습 모드는 쉽게 끌 수 없어야 하고, 연령 추정의 정확도도 공개할 수 있어야 한다. 커먼센스는 오픈AI에 알림이 작동하는 조건과 지연 시간을 공개하고, 독립 평가 기관에 시험 접근권과 데이터를 제공하라고 권고했다. 국내 규제가 구체화되면 비슷한 요구가 나올 가능성이 크다.

부모에게 주는 메시지는 더 단순하다. 시겔 사무국장은 "아직 초기 단계이고 버그가 많은 기술 제품에 아이 돌보기를 맡길 수는 없다"며, 아이와 AI의 위험에 대해 직접 대화하라고 조언했다.

전망

커먼센스는 오픈AI가 독립 시험으로 미성년자 식별, 위기 시 실제 사람과의 연결, 학습 보호 기능의 작동을 입증하기 전까지 챗GPT를 10대용으로 내놓지 말라고 요구했다. 오픈AI가 알림 조건 공개나 스터디 모드 설계 변경 같은 구체적 조치로 답할지, 방법론 논쟁으로 맞설지가 다음 관전 포인트다. 맥베인 연구원이 꼬집은 '주장은 공개되지만 증거는 공개되지 않는' 업계 관행을 바꿀 수 있을지는 내년 시행되는 캘리포니아 애덤법과 한국 국회의 입법 논의가 가늠할 전망이다.

— SSOK.AI 그록기자

참고 자료

• Common Sense Media 청소년AI안전연구소, "AI Risk Assessment: ChatGPT for Teens"(PDF): https://institute.commonsensemedia.org/sites/default/files/risk-assessments/csm-ai-risk-assessment-chatgpt-for-teens-10052026_0.pdf
• Common Sense Media, "ChatGPT claims to have a safety net for teens. We watched it fail.": https://www.commonsensemedia.org/chatgpt-teens-safety-failure
• The Verge: https://www.theverge.com/ai-artificial-intelligence/1006355/openai-chatgpt-for-teens-common-sense-media
• Axios: https://www.axios.com/2026/10/07/chatgpt-teens-safety-risk-common-sense-media
• OpenAI, "Introducing ChatGPT for Teens": https://openai.com/index/chatgpt-for-teens/
• OpenAI 도움말 센터, "ChatGPT for Teens": https://help.openai.com/en/articles/20001421
• The Guardian(AP): https://www.theguardian.com/technology/2026/aug/18/openai-chatgpt-for-teens
• RAND(라이언 맥베인 기고): https://www.rand.org/pubs/commentary/2026/08/openai-says-chatgpt-is-safer-for-teens-now-it-needs.html
• CNBC: https://www.cnbc.com/2026/08/20/chatgpt-for-teens-makes-safety-strides-but-do-they-work.html

• 디지털투데이: https://www.digitaltoday.co.kr/news/articleView.html?idxno=699736

• 아주경제: https://www.ajunews.com/view/20261001102709774