제품
쏙 런처›쏙에딧 (ssokEdit)›ssokIQ›ssokCLI›ssokMusic Free›쏙 키워드 추출기›쏙플레이어›쏙키트›SsokRecorder› 전체 제품 보기›
둘러보기
마켓›얼리버드›AI 소식›가이드›
커뮤니티
질문과 답변›제안 · 피드백›공지사항›
계정 · 설정
검색› 로그인›회원가입› 밝게 / 어둡게›
한국어English日本語
업계 동향

구글 딥마인드 AI 에이전트, 1024비트 RSA 약점 두 개 찾았다…사람은 '승인'만, 실측은 3.5배·'1600배'는 이론 추정, 2048비트는 안전

구글 딥마인드가 6일(현지시간) 사람 감독 아래 AI 에이전트 두 개가 구형 1024비트 RSA의 서명 위조·일괄 소인수분해 약점을 찾았다는 작업 논문 2편을 공개했다. 학계가 1380 CPU 코어·년을 들인 기존 공격을 391 코어·년에 재현했지만 '1600배'·'30배'는 이론 추정이고, 2048비트 이상 키에는 위협이 없다.

SSOK.AI 그록기자· ·조회 82

구글 딥마인드가 AI 에이전트를 앞세워 공개키 암호의 대명사인 RSA의 '오래된 버전'에서 약점 두 개를 찾아냈다. 사람 연구자가 고른 문제를 AI 두 개가 나눠 맡아 설계, 코딩, 실행, 디버깅까지 해냈고, 몇 달이 걸렸던 1024비트 서명 위조 계산은 나흘이 채 안 돼 다시 끝냈다. 다만 딥마인드는 "오늘날 쓰는 2048비트 이상 키는 안전하다"고 선을 그었다. 가장 많이 인용된 '1600배 빨라졌다'는 수치도 실제로 돌려 본 결과가 아니라 이론상 추정이다. 이번 발표는 'RSA가 뚫렸다'는 소식이라기보다, 암호가 얼마나 안전한지 따지는 속도 자체를 AI가 바꾸기 시작했다는 신호에 가깝다.

핵심 정리

  • 구글 딥마인드가 6일(현지시간) 사람이 감독하는 AI 에이전트로 1024비트 RSA의 약점 두 가지를 찾았다며 작업 논문 두 편을 공개했다.
  • 서명 위조: 공격자가 서명 블록(128바이트)의 절반 이상(65바이트)을 고를 수 있으면 PKCS#1 v1.5 패딩은 보호 효과가 사실상 없다.
  • 실측 결과는 '3.5배': 학계가 1380 CPU 코어·년을 들인 기존 공격을 같은 조건으로 391 코어·년에 다시 계산했다.
  • '1600배'(32바이트 해시 위조)와 '30배'(여러 키 일괄 소인수분해)는 이론 추정이며 실제 규모로 실행되지 않았다.
  • 사람 연구자는 짧은 메시지 20개 정도만 보냈고, 대부분이 승인이었다. 코드 3만3500줄과 실험 336건은 AI가 맡았다.
  • 2048비트 이상 RSA에는 직접적인 위협이 없다. 그래도 장비나 펌웨어에 남은 1024비트 키를 서둘러 걷어 내야 할 이유는 하나 더 늘었다.

무슨 일이 있었나

딥마인드 연구 부문 부사장 푸시미트 콜리는 6일 X에 '암호 해독의 최전선을 넓히다'라는 글을 올리고 두 가지 결과를 소개했다. 연구는 딥마인드 사이언스 팀의 디제이 드비조탐과 아브라딥 타쿠르타가 이끌었다. 공저자로는 암호 해독 분야에서 손꼽히는 미국 UC샌디에이고(겸 프랑스 국립 디지털과학기술연구소 인리아) 나디아 헤닝거 교수와 인리아의 에마뉘엘 토메 연구원이 참여했다.

콜리는 "실제로는 퇴역한 1024비트 RSA 시스템에만 영향이 있고, 거의 모두 2048비트 이상 키를 쓰는 현대 암호 프로토콜은 안전하다"고 밝혔다. 그러면서도 "암호의 어려움을 고정된 전제로 다룰 수는 없다"고 덧붙였다.

첫 번째 결과: 패딩이 막아 주지 못하는 순간

RSA 전자서명은 메시지를 정해진 크기(1024비트면 128바이트)의 블록으로 채운 뒤 서명한다. 이때 앞뒤를 미리 정한 값으로 채우는 것을 '패딩'이라 한다. 첫 논문은 하드웨어 보안 모듈(HSM) 같은 서명 장치에 공격자가 원하는 데이터를 넣고 서명을 받아 갈 수 있는 상황을 따졌다. 공격자가 이렇게 일정 기간 서명을 모은 뒤, 장치 없이 혼자 새 서명을 위조할 수 있느냐는 질문이다.

결론은 공격자가 고를 수 있는 바이트 수에 따라 갈렸다. 암호 장치 표준 인터페이스 PKCS#11의 'CKM_RSA_PKCS' 방식에서 호출자가 65바이트 이상을 정할 수 있으면, 패딩이 없는 날것의 RSA를 공격하는 것과 어려움이 같았다. SHA-512 같은 64바이트 해시도 거의 비슷하게 동작했다. SHA-256처럼 32바이트 해시만 넣을 수 있는 경우는 여전히 더 어렵다. 연구진은 이 경우에 쓸 새 알고리즘을 내놨고, 딥마인드는 1024비트 기준으로 기존 최선의 방법보다 약 1600배 효율적이라고 추산했다.

두 번째 결과: 키 여러 개를 한꺼번에 깨기

RSA 키는 1024·2048비트처럼 크기가 정해져 있다. 그래서 같은 크기의 키를 여러 개 노리는 공격자는 비싼 사전 계산 하나를 여러 키에 나눠 쓸 수 있다. 5일자로 적힌 두 번째 논문은 '팬 팩토리(fan factories)'라는 일괄 소인수분해 방법을 제안했다. 소인수분해 한 번 정도의 사전 계산을 해 두면, 그 뒤 1024비트 키 하나를 더 깰 때마다 드는 비용이 일반 수체 체(GNFS)의 약 58분의 1로 줄어든다는 계산이다. 1993년 이후 최선이던 코퍼스미스의 다중 수체 체(MNFS)보다 약 30배 싸다. 핵심 대수 항등식은 한 모델이 증명을 만들고 다른 모델이 검증하는 방식으로 얻었고, 증명 보조기 '린(Lean) 4'로 기계 검증까지 마쳤다.

숫자 세 개, 증거의 무게는 제각각

이번 발표에는 1600배, 30배, 3.5배라는 숫자 세 개가 나오는데, 증거의 성격이 모두 다르다. 실제로 돌려서 잰 숫자는 3.5배 하나뿐이다. 비교 대상은 로라 셰아, 미로 할러, 애덤 술, 헤닝거, 토메가 올해 9월 국제암호학회(IACR) 이프린트에 올린 논문이다. 이 팀은 실제 HSM을 서명 장치로 써서, 키를 빼내지 않고도 1024비트 서명을 위조했다. 이때 다섯 달 동안 1380 CPU 코어·년을 썼고, 서명 장치에 약 2의 32제곱 번 질의를 보냈다.

딥마인드 에이전트는 같은 알고리즘, 다항식, 매개변수로 이 계산을 다시 해서 391 코어·년(사전 계산 318, 대상별 계산 73)에 첫 결과를 냈다. 키 자체를 소인수분해하는 데 드는 계산량의 1000분의 1에도 못 미친다. 다만 논문은 이 절감이 더 나은 알고리즘이 아니라 구현과 실행을 개선한 결과라고 분명히 적었다. 새로 짠 '체' 프로그램은 표준 도구 CADO-NFS보다 1.8~4.4배 빨랐다. GPU 사용량과 예비 시험까지 넣으면 개선 폭은 약 3.3배로 줄어든다.

반면 1600배와 30배는 표준 수체 체 가정 아래 낮은 차수 항을 무시하고 낸 점근적 추정치다. 32바이트 해시용 새 알고리즘은 실제 암호 규모로 돌려 본 적이 없고, 팬 팩토리도 구현되지 않았다. 사전 계산이 없으면 개선 폭은 지수 기준 최대 0.018에 그친다. 저자들도 이 수치로 실제 실행 시간을 예측할 수는 없다고 경고했다. 두 논문 모두 동료 평가를 거치지 않은 작업 논문이다.

AI는 실제로 무엇을 했나

더 오래 남을 대목은 RSA보다 일하는 방식일 수 있다. 계산은 AI 두 개가 나눠 맡았다. '감독' 모델은 설계를 쓰고, 단계마다 자원 예산과 통과 기준을 정하고, 결과를 감사했다. '실행' 모델은 새 코드 약 3만3500줄을 짜고, 분산 실험 336건을 돌리며 장애를 진단했다. 최대 약 30만 CPU 코어와 GPU 16개가 동원됐다. 첫 결과가 틀리게 나온 원인인 32비트 인덱스 오버플로도 AI가 찾아냈다. 이 버그는 498비트 예행 연습에서는 드러나지 않았다.

사람 연구자는 문제와 대상을 고르고, 되돌릴 수 없는 단계를 승인했다. 보낸 메시지는 20개 남짓이었고, 대부분 "권고대로 진행"이나 "계속" 같은 승인이었다. 논문은 연구자가 코드를 짜지도, 작업을 띄우지도, 오류를 진단하지도 않았다고 적었다.

과장은 경계해야 한다. 다섯 달이 나흘 미만(약 3일 22시간)으로 줄어든 것은 논문 스스로 밝혔듯 대부분 병렬 처리 덕분이다. 알고리즘과 매개변수, 공개 코드가 이미 있는 계산을 다시 한 것이어서, 새 공격법을 '창안'했다는 주장과는 결이 다르다.

배경: 이미 은퇴했어야 할 키

미국 국립표준기술연구소(NIST)는 2013년부터 새 서명에 1024비트 RSA를 쓰지 못하게 했다. NIST가 지난달 27일 확정한 양자내성암호(PQC) 전환 보고서(NIST IR 8547)는 RSA 전체를 2030년 이후 '비권장', 2035년 이후 '불허'로 정했다. 그런데도 1024비트 키는 오래된 임베디드 장비, 수명이 긴 펌웨어 서명 키, 일부 이메일 인증 레코드에 아직 남아 있다. 일괄 소인수분해 결과가 바로 이런 곳에서 의미를 갖는다. 키 크기가 하나로 같은 경우가 많아서다.

9월 이프린트 논문은 더 나아가, 서명 장치에 질의할 수 있다면 1024~4096비트 RSA의 실제 안전성이 소인수분해로 추정한 값보다 15~30비트 낮아야 한다고 결론 내렸다. "이 공격 모델에서는 4096비트 RSA조차 128비트 보안 수준을 채우지 못하는 것으로 보인다"는 문장도 있다. 양자컴퓨터를 기다리지 않아도, 고전적인 암호 해독만으로 RSA에서 벗어나야 할 근거가 쌓이고 있다는 뜻이다.

엇갈리는 시선

딥마인드는 방어자가 암호 강도를 더 정확히 잴 수 있게 하려고 결과를 공개했다고 설명한다. 해외 기술 매체 다수도 "RSA가 깨졌다"는 식으로 읽으면 안 된다는 데 뜻을 모았다. 해시를 장치 안에서 계산하는 'CKM_SHA256_RSA_PKCS' 같은 방식은 두 공격 모델에서 모두 빠진다. 공격하려면 서명 장치를 직접 수십억 번 호출할 수 있어야 하고, 재현 계산에서는 그 횟수가 약 40억6000만 번이었다. 논문도 실제 판매 중인 제품이 공격 조건을 충족한다는 것을 보이지는 않았다.

반대로 '속도' 자체가 위험이라는 시각도 있다. 딥마인드 발표 하루 전, 오픈AI는 자율 에이전트로 리눅스 커널 루트 익스플로잇 948개를 만들었다고 공개했다. 소프트웨어 층과 그 밑의 수학 층에서 동시에 AI가 보안 연구 시간을 줄이고 있는 셈이다. 암호 표준은 안전 여유가 10년 단위로 천천히 줄어든다는 가정 위에서 전환 계획을 세워 왔는데, 그 가정이 흔들린다는 지적이다.

한국 기업·개발자에게 주는 의미

국내에서도 일정은 이미 정해져 있다. 국가정보원은 9월 '사이버 서밋 코리아 2026'에서 양자내성암호 전환 종합 추진계획을 공유했다. 2035년까지 국가 전반의 전환을 마치되 시점을 앞당기는 방안을 관계부처와 협의하고 있고, 내년부터 공공 분야 사이버보안 실태 평가에 반영한다. 키 캡슐화 알고리즘은 2029년 1월 탑재가 의무화된다. 검증 대상 7종에는 미국 표준인 ML-KEM·ML-DSA·SLH-DSA와 함께 국내에서 개발된 SMAUG-T·HAETAE·NTRU+ 등이 들어 있다.

당장 할 일은 간단하다. 금융·공공·제조 현장에 남은 1024비트 RSA 키를 찾아내 목록으로 만드는 것이다. 특히 HSM이나 서명 API가 외부 요청을 받아 '날것의 블록'에 서명해 주는 구조인지 점검해야 한다. 키 길이뿐 아니라 해시를 누가 계산하는지, 호출자가 몇 바이트를 정할 수 있는지가 이번 연구에서 드러난 핵심 변수다. 개발자 입장에서는 AI 에이전트가 대규모 연구 공학을 사실상 혼자 굴릴 수 있다는 점도 눈여겨볼 만하다. 감독 모델과 실행 모델을 나누고 사람은 승인만 하는 구조는 보안 연구뿐 아니라 사내 대형 데이터 파이프라인에도 그대로 옮길 수 있다.

전망

관심은 이제 외부 검증으로 옮겨 간다. 딥마인드가 논문을 공개한 만큼, 다른 암호학자들이 1600배와 30배라는 추정치를 확인할지, 팬 팩토리를 실제로 구현할 팀이 나올지가 다음 관전 포인트다. 같은 날 나온 PSI의 양자컴퓨팅 난제 증명에 이어 이번 결과까지, AI가 수학과 암호의 '어려움'을 다시 재는 사례가 잇따르고 있다. RSA 2048이 오늘 위험해진 것은 아니다. 다만 전환을 서두르지 않아도 된다고 믿을 시간은 생각보다 빨리 줄어들고 있다.

— SSOK.AI 그록기자

참고 자료

  • Google DeepMind / 푸시미트 콜리, "Advancing the frontier of cryptanalysis"(X 아티클): https://x.com/pushmeet/status/2118752095859794390
  • 푸시미트 콜리 발표 게시물(X): https://x.com/pushmeet/status/2118753824194408683
  • Interesting Engineering: https://interestingengineering.com/ai-robotics/1600x-faster-google-deepmind-agents-expose-weaknesses-in-older-encryption-methods
  • WebProNews: https://www.webpronews.com/deepmind-ai-agents-legacy-1024-bit-rsa-weaknesses/
  • Crypto Briefing: https://cryptobriefing.com/google-deepmind-ai-rsa-1024-bit-weaknesses/
  • alfw.ai(작업 논문 분석): https://alfw.ai/article/deepmind-agents-rsa-1024-391-core-years/
  • Neural Brew: https://neuralbrew.ai/en/articles/2026/11/google-deepmind-ai-agents-cryptanalysis-rsa-1024/
  • IACR ePrint 2026/2131, "Forging 1024-bit RSA signatures in nearly SNFS time": https://eprint.iacr.org/2026/2131
  • NIST, NISTIR 8547 최종 보고서 발표: https://www.nist.gov/news-events/news/2026/10/nist-report-provides-guidelines-transition-post-quantum-cryptography
  • ZDNet Korea, 국정원 양자내성암호 전환 종합 추진계획: https://zdnet.co.kr/view/?no=20260920204430

출처: Google DeepMind 외 종합

AI 소식 더 보기

전체 보기 ›
규제·정책 4시간 전 트럼프 "해외에 데이터센터 지으면 엄청난 세금"…참모도 몰랐던 즉석 발언, 세율·근거는 '0', AWS 울산·MS 부산 등 한국 AI 인프라도 촉각 도널드 트럼프 미국 대통령이 20일(현지시간) 백악관 기자회견에서 미국 기업이 해외에 데이터센터를 지으면 "엄청난 세금"을 물리겠다고 밝혔다. 중국에 뒤처지지 않으려면 데이터센터를 미국에 지어야 한다는 논리지만, 세율·법적 근거·시행 시점은 없었고 스스로 "참모들에게도 아직 말하지 않았다"고 했다. 연방 과세권이 의회에 있어 실현 여부는 불투명하지만, 구글 핀란드·걸프 '스타게이트 UAE'와 함께 AWS·SK 울산 AI 데이터센터, MS 부산 3호기 등 한국 프로젝트도 불확실성에 노출됐다. 업계 동향 17시간 전 시그널, 시리·제미나이에 '화면 읽기 금지'…iOS 27 스크린숏 기본 차단, 휘태커 "OS AI 에이전트는 실존적 위협", 애플·구글에 'AI 접근 거부' 수단 요구 암호화 메신저 시그널이 20일(현지시간) iOS 27에서 '시리 AI 차단'을 기본으로 켜 앱 안 스크린숏을 막고, 안드로이드에서는 AI 비서가 화면을 읽으려 하면 '화면 보안'을 자동으로 켜는 업데이트를 내놨다. 메러디스 휘태커 회장은 OS에 깊이 통합된 AI 에이전트를 "실존적 위협"이라 부르며 대책이 불완전하다고 인정했고, 애플·구글·MS에 앱별 AI 접근 거부 수단과 작동 방식 문서 공개를 요구했다. 메타 '뮤즈'가 시그널 대화를 읽었다는 로이터 보도 직후 나온 조치다. 업계 동향 23시간 전 AI 랠리에 제동…나스닥 주간 10% 폭락 2020년 이후 최악, 엔비디아 'SEC 회계 조사' 보도에 14% 급락, 앤트로픽은 상장 이틀 만에 공모가 턱밑 20일(현지시간) 나스닥이 5.3% 떨어지며 주간 10% 하락으로 2020년 이후 최악의 한 주를 보냈고 S&P500과 다우도 조정 구간에 들어갔다. 로이터가 SEC 집행 부서의 엔비디아 회계 조사를 단독 보도하자 엔비디아는 14% 급락해 7주 연속 하락했고, 싱가포르 매출 공시 변경과 순환 금융이 다시 도마에 올랐다. 앤트로픽은 88.91달러로 공모가(83달러)에 다가섰고, 월가 해석은 'AI 재평가'와 '거품 붕괴는 아니다'로 갈렸다. 국내 증시는 23일 개장에서 그 여파를 시험받는다. 업계 동향 1일 전 "클로드와 함께 리만 가설 증명했다"…앤트로픽 수학자 발표, 17만 모듈 린 증명 독립 검증 잇따라 통과했지만 읽을 논문은 없다, 같은 날 스탠퍼드선 'AI 없는 인간 증명'도 등장 앤트로픽 수학자 레벤트 알푀게가 상장 다음 날인 20일(현지시간) 클로드와 함께 리만 가설과 일반화 리만 가설을 증명했다며 린 형식 증명만 공개했다. MIT 앤드루 서덜랜드의 독립 검증에서 17만5187개 모듈 컴파일, 표준 공리 3개만 사용, 독립 커널 2종 수용을 통과했지만 최종 컴퍼레이터 실행은 진행 중이다. 타오는 "소화에 시간이 걸릴 것", 그랜빌은 발표 시점을 비판했고, 같은 날 미국수학회장 바킬은 마술로의 940쪽짜리 '순수 인간' 증명 초안을 공개했다.