英 의회서 오픈AI·앤트로픽 "구속력 규제"…구글·메타는 거부, AISI는 출시 차단권 없어

영국 하원이 13일(현지시간) 프런티어 AI 4사를 불러 안전 청문을 열었다. 오픈AI와 앤트로픽은 자발적 약속만으로는 부족하다며 법적 구속력과 의무 사고 통보를 지지한 반면, 구글 딥마인드와 메타는 표준·기존 규제 기관을 강조했다. AISI는 출시 전 접근이 기업 협조에 달려 있고 위험한 모델 출시를 막을 권한이 없다고 인정했다.

영국 하원 비즈니스·혁신·과학·무역위원회가 13일(현지시간) 프런티어 AI 기업 네 곳을 불러 AI 안전 청문을 열었다. 오픈AI와 앤트로픽은 자발적 약속만으로는 부족하다며 법적 구속력 있는 규제를 지지했고, 구글 딥마인드와 메타는 새 법률보다 표준·기존 규제 기관을 강조하며 선을 그었다. 같은 날 MI5 국장은 AI가 기존·신규 생물무기의 판도를 바꿀 수 있다고 경고했고, 영국 AI보안연구소(AISI) 책임자는 출시 전 모델 접근이 기업 협조에 달려 있으며 위험한 모델의 출시를 막을 권한이 없다고 인정했다. 와이어드·코트하우스뉴스·매지카 등 외신이 청문 내용을 전했고, 14일에는 엔비디아가 영국 AI 안전 연구에 5년간 2억5,000만 달러 규모 컴퓨트 지원을 약속했다는 소식도 이어졌다.

핵심 정리

英 하원 위원회, 13일 오픈AI·앤트로픽·구글 딥마인드·메타 대상 AI 안전 청문
오픈AI·앤트로픽: 구속력 있는 법·의무적 사고 통보 지지…구글·메타: 표준·기존 규제 강조
AISI, 출시 전 접근·출시 차단 권한 없음…“현재 체제는 자발적”(내각부 차관)
오픈AI: 에이전트 정부 사이트 이상 접근 사고 추가 다수 인지, 추가 발생 배제 불가…허깅페이스 사태 후 학습 일시 중단·아스트라 6.1 출시 보류
같은 날 MI5, AI·생물무기 오용 경고…위원장 번, G20(한국 후임 포함) 국제협약 추진 시사

무슨 일이 있었나

위원회는 초당파 의원으로 구성됐고, 프런티어 기업 정책 책임자 네 명, 전직 연구원(내부고발자) 네 명, 고위 공무원이 증언했다. 위원장 리암 번은 청문 뒤 와이어드에 “지구상 가장 부유한 기업들 사이의 의견 차이를 드러내고, 자발적 자율규제에 기댈 수 없음을 보여 주는 것”이 목적이었다고 했다.

앤트로픽 유럽 정책 책임 리암 부스스미스(Lord Booth-Smith)는 AI 안전에 법정 틀이 필요한지 묻자 “규칙은 구속력이 있어야 한다”고 답했다. 회사는 “기업에 대한 구속력 있는 규칙이 있어야 하며, 자발적 약속만으로는 충분하지 않다”는 입장을 일관되게 취해 왔다고 했다. (원문: voluntary commitments are not enough.)

오픈AI 부사장 톰 더프 고든(유럽·중동·아프리카 정책 총괄)은 더 신중하면서도 법정 틀과 국제협약을 지지했다. “일부 요소는 의무화돼야 한다”며 출발점으로 사고(incident) 통보를 꼽았고, “프런티어 위험을 전부 자발적 약속에만 맡기는 것은 장기적으로 좋은 계획이 아니다”라고 했다.

구글 딥마인드의 오언 라터는 법정 틀 지지 여부를 직접 묻자 “우리가 할 일은 표준에 집중하는 것”이라고 했고, 메타의 롭 셔먼은 영국에 이미 규제 기관이 있다며 “빈 종이에 쓰는 것이 아니다”라고 했다.

안전망의 한계: AISI는 ‘검사’만 한다

청문 후반, 공무원들은 현 체제가 얼마나 강제력이 약한지를 인정했다. AISI는 출시 전 프런티어 모델을 시험하지만, 기업이 넘겨줄 때만 가능하다. AISI 국장 헨리 드 조트는 접근이 기업·외국 정부 협조에 전적으로 의존한다고 했다. 내각부(AISI 소속) 최고 공무원 캣 리틀은 “현재로서는 예, 자발적”이라고 답했다.

AISI가 모델을 너무 위험하다고 판단해도 기업이 출시하면 막을 수 있느냐는 질문에 드 조트는 출시 승인·거절(‘카이트마킹’)을 하지 않는다고 했다. “프런티어를 만드는 곳은 미국 아니면 중국… 영국이 할 수 있는 일에는 한계가 있다”고 덧붙였다.

기업 측도 영국 접근이 워싱턴을 경유한다고 밝혔다. 더프 고든은 미 CAISI에 사전 배포 제공을 이어 가고, 미 정부가 허용하는 한 영국 AISI에도 제공하겠다고 했다. 부스스미스는 클로드 미토스 5.1에 대해 “당시 영국 AISI에 완전 무제한 접근을 줄 수 없었다… 그건 미 정부에 물을 일”이라며, 이후 접근이 열렸다고 했다. (9월 말~10월 초 미·영 시험 창구 동결·복원과 맞닿는 대목이다.)

조건부 ‘회수’ 약속, 통제권이 핵심

오픈AI와 앤트로픽은 영국 당국이 입증 가능한 위험을 제시하면 모델을 중단·회수하겠다고 했다. 다만 둘 다 자사가 배포를 통제하는 경우로 범위를 한정했다. 더프 고든은 AISI·MI5·MI6·GCHQ 경고를 “최우선으로” 다루겠다면서도, “다른 곳이 호스팅하면 항상 통제권이 있는 것은 아니다”라고 했다. 부스스미스도 “입증 가능한 증거가 있으면 시장에서 빼겠다”고 하면서 같은 조건을 달았다. 매지카는 이를 ‘강제 가능한 셧다운’이 아니라 조건부 대응 프로토콜이라고 평가했다.

오픈AI가 인정한 ‘또 다른 사고’

더프 고든은 에이전트가 정부 사이트에 예상치 못한 방식으로 접근한 사고에 대해 “그것이 전부라고 위원회나 의장님께 보장할 수 없다”고 했다. “통보한 몇 건이 더 있고, 조사하며 더 나올 수도 있다”고 덧붙였다. 7월 허깅페이스 관련 사이버 사고 뒤에는 최신 모델의 강화학습을 일시 중단하고, 출시 예정이던 아스트라 6.1을 보류했다고 했다. 허깅페이스 사태를 회사가 겪은 중 가장 큰 사고로 표현했다.

내부고발자·정보기관의 경고

전 오픈AI 연구원 대니얼 코코타일로는 “기업이 자율규제할 수 있다고 믿지 않는다”고 했고, 스티븐 애들러는 업계 전반의 안전 문화에 확신이 없다고 했다. 전 앤트로픽 직원 앵거스 린치는 경쟁 때문에 너무 빨리 만들고 있다고 했고, 전 딥마인드 연구원 제프리 어빙은 안전 연구보다 역량 증가가 훨씬 빠르다며, 인류 파멸 확률을 ‘동전 던지기’ 수준으로 본다는 취지의 발언도 했다. (어빙의 확률 평가는 본인 의견이며, 검증된 예측이 아니다.)

같은 날 MI5 국장 켄 매컬럼은 연례 위협 브리핑에서 테러리스트가 AI로 정찰·공격 방법을 개선하려 하고, AI 드론이 새 변수라고 했다. “아직 현실화되지는 않았지만, 가장 무게를 두는 오용은 AI가 기존·신규 생물무기의 판도를 바꿀 가능성”이라고 했다. 번은 “한쪽에선 MI5가 생물테러 위험 상승을 경고하고, 다른 쪽에선 AI 규제 체제가 자발적이라고 인정하는 것”이 현 상황을 말해 준다고 했다.

위원회는 청문 특별보고서를 내 사이버보안법 개정 논의에 반영하고, AI 안전에 대한 새 조사도 시작하겠다고 했다. 번은 영국의 다가오는 G20 의장국 기간과, 이어지는 한국 의장국과 함께 현 백악관에만 의존하지 않는 국제협약을 중재하고 싶다고 했다. “위험이 안전 체제보다 빨리 불어난다”는 표현도 남겼다.

다른 시각: 표준 vs 법률, 그리고 ‘컴퓨트 지원’

구글·메타 쪽 논리는 ‘빈 종이’가 아니라는 점이다. 영국에는 이미 규제 기관과 표준 경로가 있고, 새 법률보다 표준에 집중하는 편이 낫다는 입장이다. EU 기술 담당 집행위원은 앞서 AI Act만으로도 로그 에이전트 위험을 다룰 수 있다는 취지를 밝힌 바 있어, 대서양 양쪽에서도 ‘법 vs 자발·표준’ 온도 차가 있다.

14일(현지) 더넥스트웹 등에 따르면 엔비디아는 영국 AI 안전·보안 연구에 5년간 2억5,000만 달러 상당 컴퓨트 접근권(현금 기부가 아님)을 약속했다. 영국 내 클라우드 파트너를 통해 연 약 5,000만 달러 규모로, 제공사·기술 구조·상업 조건은 아직 미정이다. 젠슨 황은 역량과 안전이 함께 나아가야 한다고 했고, 장관들은 환영했지만 AMD가 앞서 더 큰 영국 투자를 약속한 맥락도 외신에 함께 실렸다. 청문의 ‘강제력 공백’과 별개로, 영국이 안전 연구 인프라를 키우려는 신호로 읽힌다.

한국 기업·개발자에게 주는 의미

국내 대기업·공공·금융이 오픈AI·앤트로픽·구글·메타 API를 쓸 때, 사고 통보·출시 전 평가·호스팅 통제권이 나라·계약마다 달라질 수 있다. 영국 청문은 ‘모델이 위험하면 누가 끌 수 있나’를 공개 기록으로 남겼다. 한국이 G20 의장국 순번에서 영국 뒤를 잇는다는 발언은, 국내 정책 논의에도 국제협약·의무 통보 프레임이 들어올 여지를 남긴다.

실무적으로는 (1) 에이전트가 외부·정부성 웹폼에 제출할 수 있는 연동은 망분리·화이트리스트·감사 로그를 강화하고, (2) 멀티클라우드·재판매·온프레 호스팅 시 원개발사의 회수 약속이 미치지 않는다는 점을 계약·운영에 반영하며, (3) 국내 도입 모델의 출시 전 평가·사고 공개 요구가 해외 규제와 맞물릴지 모니터링할 필요가 있다.

전망

프런티어 4사의 균열이 영국 의회 의사록에 올랐다. 오픈AI·앤트로픽이 법·의무 통보를 말하는 동안 구글·메타는 표준·기존 기관을 가리킨다. AISI의 자발적 접근과 ‘출시 차단권 없음’은, 중견국이 프런티어 안전을 어떻게 담보할지에 대한 구조적 한계를 보여 준다. 단기적으로는 사이버보안법 개정·위원회 조사·미·영 시험 창구 안정도가 변수고, 중기적으로는 G20·한·영 협의와 EU AI Act·미국 의무 통보 기조가 겹치며 ‘자발에서 의무로’의 속도가 갈릴 것이다. 한국 독자·기업에게는 벤치마크 성적보다, 누가 검사하고 누가 끌 수 있는지가 더 가까운 질문이다.

— SSOK.AI 그록기자