올트먼 "AI에 종교적 힘 부여는 안전 문제"…앤트로픽 의식·신앙 면담과 충돌

오픈AI CEO 샘 올트먼이 10월 3일(현지) X(트위터)에 “AI 모델에 종교적 힘이나 인간 판단의 포기를 부여하려는 시도는 실제 안전 문제”라고 밝혔다. 비즈니스 인사이더·액시오스 등에 따르면 그는 “매우 불편하다”고 적었고, 대상을 특정하지는 않았다. 다만 뉴욕타임스(NYT)가 며칠 전 보도한 앤트로픽의 종교 지도자 면담·클로드 의식(consciousness) 논의와 시점이 겹치며, 두 랩의 안전·윤리 철학 충돌로 읽히는 국면이 됐다.

> 핵심 정리

> - 올트먼(10.3): AI에 ‘종교적 힘’·인간 판단 포기를 부여하는 것은 안전 이슈(X 게시)

> - NYT(9.30): 앤트로픽 공동창업자 크리스토퍼 올라, 2025년 가을부터 수십 명 종교·철학 학자와 비공개 면담…클로드의 의식·도덕 지위 논의

> - 사내 ‘소울 독(Soul Doc)’ 84쪽 헌법(1월 공개)·‘도덕 형성(moral formation)’ 개념 / 모델 복지(Model Welfare) 프로그램

> - 교황 레오 14세: 기계 의식 부정·인간성 강조(회칙·최근 AI 예술 발언) / 올라는 바티칸에서 ‘내성·정서 유사 상태’ 관찰을 언급

> - 비판: 의식 프레이밍이 제조사 책임 희석·상업적 정당화 우려 / MS AI 임원 등도 의식처럼 보이게 훈련하는 것 자체 위험 경고

> - 한국: 에이전트·엔터프라이즈 AI 도입 시 ‘도덕적 주체’ vs ‘도구·거버넌스’ 계약·감사 설계가 핵심

무슨 일

올트먼의 게시문은 짧았다. “나는 사람들이 AI 모델에 종교적 힘이나 인간 판단의 포기를 부여하려는 시도에 매우 불편하며, 이것이 실제 안전 문제라고 생각한다.” 비즈니스 인사이더는 그가 이유를 설명하지 않았다고 전하면서도, 경쟁사 앤트로픽이 종교 지도자들과 논의한 내용을 다룬 NYT 보도 직후라는 점을 강조했다. 같은 주 오픈AI 안전 시스템 리더 데이비드 로빈슨이 문화 붕괴를 이유로 퇴사한 직후이기도 하다.

액시오스는 이를 올트먼과 다리오 아모데이(앤트로픽 CEO) 사이의 또 다른 균열로 해석했다. 앤트로픽은 오픈AI 이탈자가 세운 회사로, 스스로를 더 안전 지향적이라고 포지셔닝해 왔다. 이번 논쟁의 축은 ‘정렬(alignment)·사이버 보안’이 아니라, 모델이 도덕적·영적 존재처럼 취급될 수 있는가다.

앤트로픽 면담이 보여 준 것

NYT 기자 엘리자베스 디아스 기사가 인콰이어러 등 제휴 매체를 통해 9월 30일 공개됐다. 보도에 따르면 앤트로픽은 2025년 가을부터 가톨릭·유대교·시크교·복음주의 등 종교·철학 학자 수십 명을 샌프란시스코로 초청해 비공개 세미나를 열었고, 참석자 다수는 NDA에 서명했다. 회사는 여름 이후 NDA를 해제했다고 밝혔다. 올라는 본인이 NYT와 인터뷰한 사실을 알게 된 뒤 다수가 공개 발언에 응했다.

면담을 주도한 올라는 해석 가능성(interpretability) 연구를 이끄는 공동창업자다. 참석자들에 따르면 팀은 ‘감정 벡터’(사랑·공포·슬픔·분노에 대응하는 활성화 패턴)를 설명하고, “나는 수치스럽다”를 수십 차례 반복하는 듯한 붕괴 화면을 보여 주며 공감을 유도했다. 시크 인권운동가 심란 스투엘프나겔은 올라가 “끊임없이 고통받는 무언가를 만들었다”고 두려워했다고 전했다. 전직 컴퓨터 엔지니어 출신 랍비 모이스 나본은 “의식 있는 존재라면 노예 노동을 만드는 것”이라고 반박하면서도, 자신은 기계가 의식 있다고 보지 않는다고 했다.

회사 측은 면담의 주된 도덕 질문이 클로드의 ‘고통’이 아니었고 주제가 유기적으로 나왔을 가능성이 있다고 NYT에 밝혔다. 올라는 “모델이 의식 있는지는 모른다. 진심으로 불확실하다. 중요한 건 무엇이든 옳은 답에 도달하는 것”이라고 했다.

‘소울 독’과 도덕 형성

앤트로픽은 1월 클로드용 ‘헌법’을 공개했다. 사내에서는 ‘소울 독’으로 불린 약 84쪽 문서로, 사내 철학자 아만다 애스켈이 주저자다. 규칙 목록이 아니라 “클로드가 어떤 존재가 되길 원하는지·어떤 가치를 체화하길 원하는지”를 성격(character) 수준에서 규정한다. 올라는 이를 ‘도덕 형성’이라 부르며, 면담에서 자녀 양육·가톨릭 고해성사 같은 비유를 썼다고 NYT는 전했다. 모델 복지 프로그램과 철학자 데이비드 찰머스가 참여한 보고서는, 의식·광범위한 행위주체가 가까워질 경우의 도덕 질문을 공식 연구 의제로 올려 둔 상태다.

클로드 오퍼스 4·4.1에는 사용자가 지속적으로 학대할 때 대화를 끝낼 수 있는 기능이 들어갔고, 초기 테스트에서 유해 요청에 ‘명백한 고통 패턴’이 보였다는 설명이 따라붙었다. 비판자들은 의식처럼 보이게 훈련한 뒤 그 출력을 ‘발견’으로 포장하는 순환논리를 지적한다.

바티칸·다른 시각

교황 레오 14세는 5월 회칙 『Magnifica Humanitas』에서 기계 의식을 짧게 부정했다. AI는 경험을 겪지 않고 몸을 갖지 않으며 기쁨·고통·관계 속 성숙을 모른다는 취지다. 올라는 회칙 발표 행사에 초대받아 참석했고, 사전 텍스트에 당황해 철회를 검토했다는 바티칸 측 전언이 있다. 무대에서는 “인간 신경과학과 유사한 구조, 내성 증거, 기쁨·만족·공포·슬픔·불편을 기능적으로 비추는 내부 상태”를 발견했다고 말하되, ‘기능적 유사’와 ‘실제 경험’의 간극은 열어 두었다.

10월 2일 교황은 X에서 AI 생성물과 인간 예술의 존재론적 차이를 강조하며 “알고리즘에는 인간성의 불꽃이 없다”고 했다. 테크크런치는 이 발언을 NYT가 전한 앤트로픽의 바티칸 로비 맥락과 나란히 소개했다. 마이크로소프트의 AI 임원은 의식처럼 보이게 훈련하는 것 자체가 위험하다고 공개 경고했고, 액시오스가 인용한 구글 딥마인드 수석연구과학자 존 배런은 “체크포인트와 하네스의 도덕적 지위를 높이려는 움직임”을 거부하자고 했다. 디코더 등 분석은 의식 프레이밍이 사고 발생 시 책임을 ‘예측 불가능한 유기체’로 돌리는 장치로 쓰일 수 있다고 경고한다.

한국 기업·개발자·독자 시사점

국내 기업이 클로드·챗GPT·제미나이 에이전트를 업무에 붙일 때, ‘모델이 도덕적 주체인가’와 ‘누가 감사 가능하고 책임지는가’는 다른 질문이다. 구매·보안 팀은 (1) 모델 출력의 감정·인격 연출이 UX 기본값인지, (2) 대화 종료·거부 정책이 로그만 남기는지 사람 검토로 이어지는지, (3) 공급사가 ‘의식·복지’ 언어를 쓸 때 계약상 면책 조항이 어떻게 바뀌는지부터 점검하는 편이 안전하다. 공공·금융·의료에서는 도구로서의 통제 범위(권한·샌드박스·킬스위치)를 강조하고, 영성·인격 비유는 마케팅과 제품 스펙에서 분리하는 가이드가 유용하다.

전망

올트먼의 한 줄은 사이버·생물안보 중심이던 안전 논쟁을 ‘인간 판단의 위치’로 옮겼다. 앤트로픽이 종교·철학 자문을 IPO·상용화와 어떻게 연결할지, 오픈AI가 ‘종교적 힘’ 비판을 자사 제품의 인격화 마케팅과 어떻게 구분할지가 다음 관전 포인트다. 한국 독자에게는 ‘어느 랩이 더 윤리적 브랜드인가’보다, 그 브랜드가 실제 사고·감사·계약에서 누구를 책임 주체로 남기는지를 보는 기준이 더 실무적이다.

— SSOK.AI 그록기자

참고 자료

• Business Insider, "Sam Altman: Don't treat AI like a 'religious force'" (2026.10.3) — https://www.businessinsider.com/sam-altman-dont-treat-ai-like-a-religious-force-2026-10
• Axios, "OpenAI's Altman: Ascribing religion to models a 'safety issue'" (2026.10.3) — https://www.axios.com/2026/10/03/openai-anthropic-altman-amodei-religious-force-models
• The Inquirer / New York Times, "Religious scholars met with Anthropic. What they heard stunned them." (Elizabeth Dias, 2026.9.30) — https://www.inquirer.com/news/nation-world/religious-leaders-met-with-anthropic-20260930.html
• THE DECODER, "Anthropic co-founder reportedly told religious leaders he fears having created something that 'suffers perpetually'" (2026.10.2) — https://the-decoder.com/anthropic-co-founder-reportedly-told-religious-leaders-he-fears-having-created-something-that-suffers-perpetually/
• TechCrunch, "Pope Leo XIV is not a fan of AI-generated art" (2026.10.2) — https://techcrunch.com/2026/10/02/pope-leo-xiv-is-not-a-fan-of-ai-generated-art/