한국 등 17개국 '교토 비전' 서명…'AI가 실험하는 과학' 선언, 손정의 "잘못된 손의 초지능은 슈퍼 위험"

미국이 주도하고 한국·일본·영국·독일 등 16개국이 동참한 '교토 비전(Kyoto Vision for a Golden Age of Science)'이 4일 일본 교토에서 공개됐다. 'AI 연구 자동화'를 각국 과학 정책의 중심에 놓겠다는 공동 선언이다. 마이클 크라치오스 백악관 과학기술정책실(OSTP) 실장이 주도한 이 선언은 로봇과 AI가 실험을 설계하고 돌리고 분석하는 '자율 폐루프 발견'을 미래 연구 모델로 내세웠다. 같은 무대에서는 오픈AI에 650억 달러 가까이 투자한 손정의 소프트뱅크 회장이 "잘못된 손에 들어간 초지능은 '슈퍼 위험'할 수 있다"며 이례적으로 경계론을 꺼냈다. 다만 선언문에는 예산 액수도, 구속력 있는 약속도 없다. 이 때문에 '정치적 신호'에 그친다는 평가가 함께 나온다.

> 핵심 정리

> - 4일 교토 STS 포럼(제23회)에서 미국 포함 17개국 과학기술 장관급이 '교토 비전' 지지…한국도 서명국

> - 핵심 3축: 연구 제도 혁신(메타사이언스·다양한 연구비 방식), 과학용 'SI(슈퍼인텔리전스)' 활용, 인재 육성

> - 선언문은 AI 대신 '슈퍼인텔리전스(SI)'라는 용어만 사용…미 행정부의 용어 변경 행정명령을 국제 문서에 반영

> - 원문은 "노력한다(endeavor)" 표현만 네 번 쓰고 금액·이행 장치는 없음…백악관 보도자료는 "서약했다"고 소개

> - 손정의 "더는 인간끼리 싸울 여유가 없다"며 국가 간 신뢰·협력 촉구…중국은 지지국 명단에 없어

무슨 일

백악관에 따르면 미국과 16개국 장관들은 교토에서 열린 제23회 '사회 속의 과학기술(STS) 포럼' 연례회의에 맞춰 이 공동 선언을 채택했다. 지지국은 아르헨티나·불가리아·칠레·키프로스·독일·그리스·인도네시아·이탈리아·일본·카자흐스탄·한국·뉴질랜드·폴란드·싱가포르·아랍에미리트(UAE)·영국·미국이다. NBC뉴스는 발표 전날 미국 외 15개국이 참여한다고 단독 보도했는데, 최종 명단은 16개국으로 늘었다. 블룸버그(재팬타임스 게재)는 일본·한국·영국·독일·싱가포르·UAE 대표가 크라치오스 실장과 함께 무대에 올랐다고 전했다.

크라치오스 실장은 "과학적 발견의 방식이 바뀌었고, 교토 비전은 그 변화를 인정하고 행동을 촉구하는 것"이라고 말했다. 이어 "과학에 적용된 슈퍼인텔리전스는 역사상 연구를 민주화하는 가장 큰 힘이 될 것"이라고 강조했다.

세부 내용: 선언문에 담긴 세 갈래

백악관이 공개한 선언문 원문은 세 부분으로 짜였다. 첫째는 '발견의 제도 개선'이다. 장기 연구비, 신속 연구비, 상금·챌린지 같은 다양한 지원 방식을 포트폴리오로 운용하고, 자율성과 자원 수준이 서로 다른 새 연구기관 모델을 실험하자고 했다. 연구를 어떻게 수행하고 조직하고 지원할지를 실증적으로 연구하는 '메타사이언스'도 적극 환영했다. 재현 가능성과 투명성, 오류·불확실성의 공개, 부정적·무효 결과의 가치 인정 등 과학 진실성 기준도 함께 담았다.

둘째는 '과학을 위한 SI 활용'이다. 선언문은 SI가 기존 연구를 가속할 뿐 아니라 전혀 새로운 탐구 방식을 열고 있다고 진단했다. 또 방대한 지식을 가로지르는 추론과 물리·생물 시스템의 고정밀 모델링, '자율 폐루프 발견'에 SI를 활용하자고 했다. 연구자가 필요로 하는 규모로 SI 도구, 과학 데이터, 컴퓨팅 인프라, 실험 시설 접근을 넓히겠다는 문구도 들어갔다. 셋째는 재능 있는 학생과 신진 연구자를 일찍 발굴해 투자하고, 첨단 장비를 다룰 기술 인력과 공동 박사과정·펠로십을 늘리는 '인재' 축이다.

크라치오스 실장의 연설은 더 구체적이었다. 블룸버그에 따르면 그는 "산업 규모로 운영되는 자동화 클라우드 연구소에서 로봇 시스템이 수백 건의 실험을 동시에 수행하고, 그 데이터가 실시간 분석과 가설 수정으로 되먹임될 것"이라고 말했다. AI가 수천 편의 논문을 종합해 수년치 연구를 "디지털 에이전트 군단이 연구자를 돕는 수십 시간의 작업"으로 압축할 수 있다고도 했다.

주요 수치

• 17개국: 교토 비전 지지국(미국 포함, 백악관)
• 7개국: 지지국 가운데 유럽 국가 수, 이 중 6곳은 EU 회원국(더넥스트웹)
• 4회: 선언문 원문에 쓰인 "노력한다(endeavor)" 표현 횟수…"서약"·"약속" 표현은 없음(본지 원문 확인)
• 약 50%: 트럼프 행정부 2027 회계연도 예산안의 국립과학재단(NSF) 예산 삭감 폭(NBC)
• 646억 달러: 소프트뱅크의 오픈AI 누적 투자액, 지분 약 13%(더넥스트웹)
• 46조 달러: 손 회장이 내다본 2040년 AI·학습 기계의 경제 규모, 세계 GDP의 20% 이상(블룸버그)

배경: '슈퍼인텔리전스' 용어와 미국의 과학 개혁

선언문은 처음부터 끝까지 '인공지능' 대신 'SI'라고 쓴다. 트럼프 대통령이 지난달 말 연방정부가 AI 대신 '슈퍼인텔리전스'라는 용어를 쓰도록 하는 행정명령에 서명했기 때문이다. 더넥스트웹은 이 표현이 행정명령 닷새 만에 국제 선언문에 그대로 옮겨졌다고 짚었다.

내용 면에서는 미국 국내 정책의 '국제판'에 가깝다. 영국 연구정책 매체 리서치 어젠다는 선언문 문구가 크라치오스 실장이 7월 트럼프 대통령에게 제출한 보고서 「과학: 새로운 황금시대」, 그리고 지난해 5월 '골드 스탠더드 과학 복원' 행정명령과 많이 닮았다고 분석했다. NBC에 따르면 크라치오스 실장은 AI로 과학 혁신을 가속하는 국가 프로젝트 '제네시스 미션'도 이끌고 있다. 국립과학재단은 9월 '메타사이언스실' 신설을 발표했다. NBC는 앤트로픽과 오픈AI가 최근 생명과학 실험실을 강력한 AI 시스템과 연결하는 사업을 잇달아 내놓았다고도 전했다.

엇갈린 시각

"예산 깎으면서 과학 황금기?" NBC에 따르면 트럼프 행정부는 연방 과학 연구 예산을 여러 차례 대폭 삭감하려 했다. 2027 회계연도 예산안에서는 NSF 예산을 약 절반으로 줄이는 안을 냈다. 미국 과학자 단체 '우려하는과학자연합(UCS)'의 그레천 골드먼 대표는 "행정부가 미국 과학기술계를 대하는 방식으로 국민의 신뢰를 산산조각 냈다"고 비판했다. 그는 "그들이 해 온 일을 보면 신뢰와 투명성을 높이겠다는 약속을 진지하게 받아들이기 어렵다"고 말했다.

구속력 없는 '노력' 선언. 더넥스트웹은 선언문이 '노력한다'는 표현만 네 번 썼을 뿐, 어디에도 '서약'이나 '약속'이라는 표현이 없다고 지적했다. 반면 백악관 보도자료는 장관들이 "서약했다(pledged)", "약속했다(committed)"고 소개했다. 스타트업 전문 매체 스타트업포천은 "선언문은 특정 기업도, 컴퓨팅 배분도, 금액도 정하지 않았다"고 평가했다. 다만 비전 선언이 GPU 구매 자금을 대 주지는 않더라도, 예산을 쥔 관료들이 AI 기업의 협력 제안에 응할 외교적 명분은 된다고 해석했다.

메타사이언스 확산에는 호평. 미국 비당파 싱크탱크 IFP(Institute for Progress)의 젠 구스테틱 메타사이언스 담당 국장은 NBC에 "영국과 미국에서 쌓인 메타사이언스 흐름에 다른 나라들이 실험과 근거 축적이라는 사고방식으로 동참하는 것은 고무적"이라고 말했다.

AI 낙관론자의 경고. 손정의 회장은 크라치오스 실장과 같은 행사에서 "우리에게는 더 이상 인간끼리 싸울 여유가 없다"고 말했다. 그러면서 강력한 AI라는 훨씬 큰 위협을 통제하려면 국가들이 신뢰를 쌓고 협력해야 한다고 강조했다. 블룸버그는 최근 AI 모델의 잇단 보안 사고로 커진 우려가 반영된, 그답지 않은 신중론이라고 평가했다. 손 회장은 챗봇 기술이 웹 탐색과 코딩을 거쳐 내년부터 로봇 등 물리 세계와 상호작용하는 '세 번째 단계'로 넘어갈 것이라고 내다봤다.

한국 기업·개발자에 주는 의미

첫째, 한국은 이번 선언에 이름을 올렸다. 법적 구속력은 없지만 'AI 기반 과학'과 메타사이언스, 연구 인프라 개방이라는 미국 주도 의제에 공식 동참한 셈이다. 자율 실험실, 과학용 AI 에이전트, 연구 데이터 플랫폼을 다루는 국내 연구기관과 스타트업은 국제 공동연구와 인프라 협력에서 명분을 얻을 수 있다.

둘째, 국내 정책과 맞물리는 지점이 있다. 코리아타임스에 따르면 과학기술정보통신부는 2일 브리핑에서 내년에 4조 7,000억 원 규모의 정부 지분 투자형 '프런티어 AI 프로젝트'를 시작한다고 밝혔다. 이 중 3조 9,000억 원은 엔비디아 베라 루빈 GPU 1만 장, 8,000억 원은 학습 데이터 구매에 쓰인다. 교토 비전이 강조한 '연구자를 위한 컴퓨팅·데이터 접근 확대'를 한국이 실제 예산으로 어떻게 풀어낼지가 관건이다.

셋째, 진영화 신호다. 지지국 명단에 중국이 없고, 6개 EU 회원국은 EU AI법(AI Act)을 적용받으면서도 미국식 'SI' 문서에 서명했다. 미국 기술 생태계와 손잡되 유럽 규제와 중국 시장도 함께 상대해야 하는 한국 기업이라면, 과학·연구용 AI에서도 데이터 이전과 협력 상대를 고를 때 지정학적 변수를 따져 봐야 한다.

전망

교토 비전은 '무엇을 하겠다'보다 '어느 쪽에 서겠다'에 가까운 문서다. 실제 무게는 후속 조치가 정한다. NBC에 따르면 크라치오스 실장은 이번 주 목요일(현지시간 8일) 워싱턴에서 과학·산업계 리더들과 연구 개혁 정상회의를 연다. 지지국들이 연구 인프라 공동 개방이나 자율 실험실 투자 같은 구체적 사업과 예산으로 선언을 뒷받침할지, 미국 내 연구비 삭감 논란 속에 '수사'로 남을지가 관전 포인트다. AI 낙관론의 상징인 손 회장마저 국가 간 협력과 통제를 말하기 시작했다는 점도 눈여겨볼 대목이다. 과학 가속과 안전 관리라는 두 의제가 앞으로 같은 테이블에 오를 가능성이 커졌다.

— SSOK.AI 그록기자

참고 자료

• The White House, "U.S. Leads International Coalition to Endorse Kyoto Vision for a Golden Age of Science" (2026.10.4) — https://www.whitehouse.gov/releases/2026/10/us-leads-international-coalition-to-endorse-kyoto-vision-for-a-golden-age-of-science/
• The White House, "Kyoto Vision for a Golden Age of Science" 선언문 원문(PDF) (2026.10.4) — https://www.whitehouse.gov/wp-content/uploads/2026/10/Kyoto-Vision-for-a-Golden-Age-of-Science.pdf
• NBC News, "Global tech policymakers agree to embrace AI in science" (2026.10.3) — https://www.nbcnews.com/tech/tech-news/global-tech-policymakers-embrace-ai-science-rcna600974
• Bloomberg (via The Japan Times), "SoftBank's Masayoshi Son has rare cautionary note on AI safety" (2026.10.5) — https://www.japantimes.co.jp/business/2026/10/05/companies/softbank-son-ai-risks/
• The Next Web, "SoftBank's Masayoshi Son says superintelligence in the wrong hands could be 'super dangerous'" (2026.10.4) — https://thenextweb.com/news/son-ai-safety-kyoto-vision-europe
• Research Agenda, "The Kyoto Vision for a Golden Age of Science" (2026.10.5) — https://www.researchagenda.news/articles/the-kyoto-vision-for-a-golden-age-of-science.html
• Startup Fortune, "US and 15 Nations Sign Kyoto Pledge to Put AI at the Center of Science" (2026.10.3) — https://startupfortune.com/us-and-15-nations-sign-kyoto-pledge-to-put-ai-at-the-center-of-science/
• The Korea Times, "Korea to launch $3.5 bil. frontier AI project next year" (2026.10.5) — https://www.koreatimes.co.kr/business/tech-science/20261005/korea-to-launch-35-bil-frontier-ai-project-next-year