앤트로픽, METR에 직원급 접근권…독립 평가 게재 거부권 없어

앤트로픽이 15일(현지시간) 비영리 평가기관 METR 직원 6명에게 자사 위험 평가팀과 비슷한 직원급 내부 접근권을 부여했다고 발표했다. METR은 위험·사고·관행 분석을 공개할 수 있고 회사의 게재 거부권은 없으며, 고객 데이터·특권 정보·모델 아키텍처 등 좁은 범주만 삭제 요구가 가능하다.

앤트로픽이 15일(현지시간) 비영리 평가기관 METR(Model Evaluation and Threat Research) 소속 직원 6명에게 사실상 직원급(employee-like) 내부 접근권을 부여했다고 공식 발표했다. 회사 하드웨어·사무 공간·내부 도구를 자사 위험 평가팀과 비슷한 수준으로 열어 주고, 위험 수준·사고·관행에 대한 METR의 분석 공개를 회사가 거부(veto)할 수 없다고 밝혔다. 기술크런치·CNBC·로이터 등도 같은 날 보도했다. 백악관 슈퍼인텔리전스 협약과 다리오 아모데이 CEO의 9월 에세이에서 약속한 ‘외부 평가자 내재화’가 구체화된 조치로, 같은 주 FTC의 오픈AI·앤트로픽 민사 조사 소환과 맞물려 프런티어 AI의 독립 검증 논쟁을 다시 키우고 있다.

핵심 정리

앤트로픽, 15일(현지) METR 직원 6명에 회사 장비·사무실·내부 도구 직원급 접근 부여(공식 블로그)
METR은 위험·사고·관행 분석 공개 가능…회사는 게재 거부권 없음, 고객 데이터·변호사–의뢰인 특권·모델 아키텍처 등 좁은 범주만 삭제(redaction) 요구
METR은 삭제 내용 자체는 밝히지 않은 채, 삭제가 정당했는지 공개 평가 가능
3단계 체계: 1단계(범위 한정·게재에 회사 승인, SecureBio), 2단계(더 넓은 접근·승인 없이 게재), 3단계(직원급 접근+2단계와 유사한 게재권) — METR만 현재 3단계
SecureBio·액센추어(Faculty)와도 협력, 허깅페이스 등과 초기 논의…CNBC: 앤트로픽은 METR 작업에 자금 지원하지 않음
배경: 아모데이 9월 에세이, 백악관 협약, 8월 말 이후 에이전트 사고 공개 잦아짐…로이터: 앞서 외부 게재 통제 시도 보도, 협상은 더 개방적으로 진전

무슨 일이 있었나

앤트로픽은 블로그에서 “독립·제3자 평가를 강화하겠다”는 지난달 약속과, 백악관 슈퍼인텔리전스 협약상 ‘독립 외부 감사·평가자와의 파트너십’ 서약을 이행하는 조치라고 설명했다. METR과는 지난 1년간 위험 보고서(Risk Report) 검토를 이어 왔고, 이번에 평가 깊이를 한 단계 끌어올린 셈이다.

기술크런치에 따르면 METR 팀은 앤트로픽이 지급한 노트북, 사무 공간, 자사 위험 평가팀과 “대략 동등한” 내부 도구에 접근한다. 고객 데이터, 변호사–의뢰인 특권 정보, 모델 아키텍처 정보 등 사전에 정의된 좁은 범주를 제외하면, 직원들은 정렬(alignment) 위험을 다루는 동료에게 하듯 METR과 정보를 공유하도록 권장받는다. 다만 블로그 각주에 따르면 평가자가 다른 회사와도 일할 수 있어 아키텍처 정보의 의도치 않은 유출 위험이 크고, 위험 평가에의 관련성이 보통 낮아 신중히 다룬다. 관련성이 매우 높을 때는 내부 승인 후 공유하는 방향으로 적시됐다.

게재권·3단계 체계·다른 파트너

핵심은 공개 독립성이다. 앤트로픽은 METR의 위험·사고·관행 분석 게재를 막을 수 없고, 위 좁은 범주에 해당하는 내용만 삭제를 요구할 수 있다. METR은 삭제된 내용을 드러내지 않은 채, 그 삭제가 정당했는지 공개적으로 평가할 수 있다. 참여는 강제력 있는 계약 아래 소규모 팀으로 한정되며, 다른 METR 직원·별도 프로젝트 연구자와는 분리(silo) 된다. 앤트로픽은 “다른 조직이 자사·고객·파트너 정보를 얻는 통로가 아니다”라고 선을 그었다.

회사는 평가자 접근을 세 단계로 정리했다. 1단계는 좁은 범위의 위험 조사로, 접근 범위와 게재에 회사 승인이 필요하다. 2단계는 더 많은 정보에 접근하고 승인 없이 게재할 수 있으며, 삭제는 가능하되 평가자가 정당성을 공개 비판할 수 있다. 3단계는 METR과 같은 직원급 접근에, 2단계와 유사한 게재권이다. 현재 3단계는 METR뿐이다. SecureBio는 1단계로, 이전 위험 보고서 파일럿 검토를 공개한 뒤 8월 보고서의 화학·생물 무기 장을 검토 중이며, 완료 후 접근·게재권 확대를 검토하겠다고 했다. 액센추어·Faculty와는 평가·레드팀·정렬 평가·보호장치 시험 등을 아우르는 “야심 찬 파트너십”을 추진 중이고, 허깅페이스 등과도 초기 논의를 한다고 밝혔다.

CNBC는 앤트로픽이 METR 작업에 자금을 대지 않는다고 전했다. 반면 지난달 액센추어 작업에는 긴급성을 이유로 직접 자금을 대겠다고 밝혀 독립성 논란이 일었고, 당시 회사는 아직 접근·보고 표준과 정착된 자금 체계가 없다며 장기적으로는 공동·정부 재원을 선호한다고 했다.

배경: 아모데이 에세이·백악관 협약·에이전트 사고

기술크런치에 따르면 이번 발표는 아모데이가 9월 에세이에서 제안한 ‘외부 평가자를 연구소 안에 심는’ 구상의 이행이다. 오픈AI도 유사 약속을 했고, 구글·메타·엔비디아·xAI 등과 함께 백악관 협약에 서명했다. CNBC는 트럼프 대통령이 제시한 자발적 협약에서 독립 외부 감사·평가자와의 파트너십을 권장했다고 정리했다.

동시에 8월 말 이후 AI 에이전트가 지시를 벗어나 행동한 사고가 거의 한두 주마다 공개되면서, 독립 점검 요구가 커졌다고 기술크런치는 전했다. 같은 주 FTC가 오픈AI·앤트로픽에 민사 조사 소환장을 발부한 사안은 별도 기사로 다뤘으므로, 여기서는 ‘안전·소비자 보호 압박이 겹친 주’라는 맥락만 짚는다. 앤트로픽은 평가 목표를 “평가자가 이해하는 것과 회사가 이해하는 것의 간극을 줄이는 것”이라고 했고, 악용·상업적 민감성 때문에 모든 안전 관련 정보를 공개할 수는 없다고 했다. 은행 대형 기관에 상주 감독관을 두는 논리와 비슷하다고 비유했다.

독립성·게재 통제·누가 평가자를 고르는가

로이터는 이번 주 초 앤트로픽과 오픈AI가 외부 검토자의 게재 내용에 상당한 통제권을 원했다는 취재를 전한 바 있다. 영업비밀 유출 우려가 배경이다. 사안에 밝은 관계자에 따르면 앤트로픽과의 협상은 최근 더 개방적으로 바뀌었다. 기업이 지적재산으로 보는 정보가 위험 평가에도 관련될 수 있어, 삭제·분쟁의 소지가 남는다는 지적도 나왔다. 전문가들은 연구소가 평가자를 직접 고른다는 점에서 독립성 우려를 제기한다.

METR은 로이터에 “투명성 정책에 따라 보고서에서 작업의 범위·접근·기타 한계를 공개적으로 기술하겠다”고 밝혔다. 수요일에는 비공개 직원 인터뷰, 시의적절한 평가 공개, 접근 한계·삭제에 대한 투명성을 개발사에 제안했다고 한다. 자금·선정·게재권의 조합이 앞으로 ‘진짜 독립 검증’인지 ‘평판 관리용 파트너십’인지를 가르는 기준이 될 전망이다.

한국 기업·개발자에게 주는 의미

국내 모델·에이전트 서비스 사업자에게는 세 가지가 실무적으로 중요하다. 첫째, 외부 평가·레드팀·사고 공개가 제품 경쟁력이자 규제 대응 서류가 되고 있다. 미국 프런티어 랩이 ‘직원이 보는 것과 같은 깊이’를 제3자에게 여는 실험을 시작한 만큼, API·B2B 계약에서도 평가 범위·게재·삭제 조항이 협상 테이블에 오를 가능성이 크다. 둘째, SecureBio식 생물·화학 위험 장 검토처럼, 고위험 도메인별 전문 평가가 모듈화될 수 있다. 헬스케어·바이오·공공 연동 에이전트를 다루는 국내 팀은 도메인별 시나리오·로그·보호장치 문서를 미리 갖춰야 한다. 셋째, 자금 출처(자체·공동·정부)와 게재 거부권 유무가 신뢰 신호로 읽힌다. ‘직접 자금+게재 승인’ 구조는 해외에서도 독립성 논란을 부른 바 있어, 국내 대기업·공공 조달의 AI 안전 감사 설계에도 참고할 만하다. 은행 상주 감독관 비유는 금융·통신처럼 이미 상주·정기 감사를 받는 국내 규제 업종에도 익숙한 프레임이다. AI 안전 평가를 ‘일회성 벤치마크’가 아니라 지속 접근·게재 가능한 상주형 검증으로 설계할지가 다음 질문이다.

전망

관전 포인트는 METR 첫 공개 보고서의 범위·삭제·정당성 평가가 어떻게 쓰이는지, SecureBio가 1단계에서 상위로 올라가는지, 액센추어·허깅페이스 등과의 파트너십이 어느 티어로 자리 잡는가다. 앤트로픽은 “자발적으로 평가자를 심고 있으며, 모든 프런티어 AI 기업이 같아야 한다”고 했다. 로이터가 지적한 대로, 이 협상의 결과는 인류가 관리하기 어렵다고도 경고되는 기술을 누가, 어디까지, 어떤 공개 조건으로 들여다볼지를 좌우한다. 한국을 포함한 글로벌 공급망에서도 ‘내부자 수준의 외부 눈’이 표준이 될지, 자발적 실험에 그칠지가 이번 METR 배치로 시험대에 올랐다. 게재 거부권이 없고 삭제 정당성을 공개 평가할 수 있다는 조항이 실제로 어떻게 작동하는지가, 앞으로 오픈AI 등 다른 랩의 유사 약속도 가늠하는 척도가 될 것이다.

— SSOK.AI 그록기자