삼성, 엔비디아 맞춤 HBM 핵심부품 TSMC 3나노에 맡긴다…메모리 3사에 '공정 통일' 요구, HBM 설계 주도권 엔비디아로

엔비디아가 맞춤형 고대역폭메모리 'NVHBM'의 베이스 다이를 TSMC 3나노 공정으로 만들어 달라고 삼성전자·SK하이닉스·마이크론에 요구했고, 삼성전자가 이를 받아들였다고 서울경제가 18일 보도했다. 파운드리 시장의 경쟁자인 삼성과 TSMC가 HBM 제조 단계에서 손잡는 것은 처음이다. 메모리 컨트롤러를 베이스 다이로 옮긴 NVHBM은 표준 HBM4E보다 대역폭이 최대 30% 넓으며, 업계에서는 HBM 설계 주도권이 메모리 제조사에서 고객인 엔비디아로 넘어가고 있다는 분석이 나온다.

삼성전자가 엔비디아 맞춤형 고대역폭메모리(HBM)의 핵심 부품을 경쟁사 TSMC의 3나노 공정에 맡긴다. HBM 맨 아래층에서 데이터 전송을 지휘하는 '베이스 다이(base die)' 얘기다. 서울경제가 18일 업계 관계자를 인용해 이같이 보도했고, 로이터가 이를 받아 전 세계에 타전했다. 미국 IT 매체 Wccftech에 이어 19일에는 대만의 트렌드포스와 디지타임스가 후속 분석을 내놨다. 보도에 따르면 엔비디아는 삼성전자·SK하이닉스·마이크론 메모리 3사 모두에게 같은 요구를 했다. 파운드리 시장에서 맞붙는 삼성과 TSMC가 HBM 제조 단계에서 손잡는 것은 이번이 처음이다. 디지타임스는 엔비디아의 맞춤형 메모리 설계가 HBM을 어떻게 만들지 정하는 권한을 메모리 제조사에서 최대 고객에게로 옮기고 있다고 짚었다.

핵심 정리

엔비디아가 맞춤형 HBM 'NVHBM'의 베이스 다이를 TSMC 3나노 공정으로, 코어 다이는 6세대(1c) D램 공정으로 통일해 달라고 메모리 3사에 요구했다고 서울경제가 18일 보도했다.
삼성전자는 내부 검토 끝에 요구를 받아들였다. 자사 파운드리로 베이스 다이까지 만들어 온 '턴키' 방식에서 처음으로 벗어나는 셈이다. 다만 표준 HBM과 AMD 등 다른 고객용 제품은 턴키를 유지한다.
NVHBM은 GPU에 있던 메모리 컨트롤러를 베이스 다이로 옮긴 구조다. 엔비디아는 표준 HBM4E보다 대역폭이 최대 30% 넓고 HBM 전력은 15% 적다고 밝혔다.
업계는 TSMC 3나노 수율을 90% 이상, 삼성 2나노(SF2)를 60% 안팎으로 본다. 삼성은 TSMC 생산능력이 모자랄 경우에 대비해 자사 2나노 생산도 검증하고 있다.
UBS는 내년 HBM 수요가 올해보다 91% 늘어 공급이 수요보다 10%가량 부족할 것으로 내다봤다.

무슨 일이 있었나: 엔비디아가 정한 '하나의 레시피'

서울경제에 따르면 엔비디아는 NVHBM 공급사로 낙점한 메모리 3사에 같은 제조 조건을 내걸었다. 베이스 다이는 TSMC 3나노 공정으로 만들고, 메모리 칩을 층층이 쌓는 코어 다이는 6세대인 1c D램 공정으로 맞추라는 것이다. NVHBM은 7세대 HBM인 HBM4E 아키텍처를 바탕으로 한다.

이유는 품질 관리다. 공급사마다 제조 방식이 다르면 하나의 설계로 일정한 성능을 내기 어렵다. 공정을 통일하면 공급사별로 제품을 따로 검증하는 부담도 줄어든다. 파운드리 사업을 맡은 삼성전자 DS부문은 내부 검토를 거쳐 요구를 수용했다.

두 회사의 협력이 처음은 아니다. 삼성은 4년 전 HBM을 GPU에 연결하는 TSMC 패키징 공정(CoWoS)과의 호환성을 맞추려고 TSMC와 함께 일했다. 하지만 HBM 제조 단계부터 협업하는 것은 이번이 처음이다. 트렌드포스는 두 회사가 퀄컴·테슬라 같은 대형 고객을 두고 경쟁하는 사이라는 점에서 이례적인 동맹이라고 평가했다. 이번 보도는 회사 측 공식 발표가 아니라 업계 관계자를 인용한 것이다.

NVHBM은 무엇이 다른가

엔비디아는 8월 26일 공식 블로그에서 NVHBM을 공개했다. 기존 HBM 구조에서는 메모리 컨트롤러가 GPU 같은 연산 칩(XPU)에 들어가 귀한 실리콘 면적을 차지한다. NVHBM은 엔비디아가 설계한 컨트롤러를 HBM 스택 바닥의 베이스 다이에 넣었다. 엔비디아는 이 방식이 표준 HBM4E보다 메모리 대역폭을 최대 30% 늘리고, HBM 전력 소모를 15% 줄이며, 연산 칩 면적을 최대 25% 더 확보해 준다고 설명했다. 첫 협력사는 아마존의 칩 설계 자회사 안나푸르나랩스다. 안나푸르나랩스는 차세대 AI 칩 트레이니엄4부터 엔비디아의 연결 기술 'NV링크 퓨전'을 지원한다.

서울경제는 컨트롤러 자리를 만들려고 외부 칩과 신호를 주고받는 물리계층(PHY) 회로를 표준 HBM보다 60% 줄였다고 전했다. 시장조사업체 카운터포인트리서치는 국제 표준(JEDEC)의 넓은 병렬 버스를 엔비디아가 설계한 좁은 직렬 연결로 바꾼 것이 핵심이라고 분석했다. HBM4는 2000개가 넘는 신호 핀을 쓴다. 미국 IT 매체 톰스하드웨어는 NVHBM이 범용 HBM을 대체하는 제품이 아니라, 엔비디아가 맞춤형 칩 협력사에만 제공하는 부품이라고 짚었다.

숫자로 본 배경: 수율, 그리고 공급 부족

엔비디아가 TSMC를 고집한 이유는 기술과 공급 두 가지다. 베이스 다이에 컨트롤러까지 넣으려면 좁은 면적에 회로를 더 빽빽하게 넣을 수 있는 초미세 공정이 필요하다. 생산 원가를 낮추려면 수율도 높아야 한다. 서울경제에 따르면 업계는 TSMC 3나노 수율을 90% 이상으로, 이에 견줄 만한 삼성 파운드리 2나노(SF2)는 60% 안팎으로 추정한다.

더 큰 변수는 물량이다. 투자은행 UBS는 내년 HBM 수요를 약 615억 기가비트로 전망했다. 올해보다 91% 늘어난 규모다. 반면 메모리 업체들의 신규 출하량은 546억 기가비트에 그쳐 10%가량 모자랄 것으로 봤다. 삼성의 4나노 베이스 다이 라인은 화성 17라인과 평택 P3 일부에만 있다. 서울경제는 기존 HBM 수요에 맞춘 현재 체제로는 NVHBM 같은 맞춤형 물량까지 소화하기 어렵다고 전했다.

TSMC 사정도 넉넉하지는 않다. 트렌드포스에 따르면 TSMC는 15일 실적 발표에서 3나노 공정이 3분기 웨이퍼 매출의 33%로 전 공정 중 가장 큰 비중을 차지했다고 밝혔고, 생산능력이 빠듯하다고 했다. TSMC는 대만 타이난 공장에 3나노 라인을 늘리고, 미국 애리조나 2공장과 일본 구마모토 2공장에도 3나노 라인을 깔 계획이다.

엇갈리는 해석: '항복'인가 '실리'인가

이번 결정을 삼성 파운드리의 후퇴로만 볼 수는 없다는 시각도 많다. 삼성은 표준 HBM에서는 턴키 전략을 그대로 유지한다. 올해 세계 최초로 양산한 HBM4와 양산 검증 중인 HBM4E의 베이스 다이는 자사 4나노 공정으로, 코어 다이는 화성·평택의 1c 라인에서 만든다. AMD 등 다른 고객에게 공급하는 맞춤형 HBM도 턴키 방식이다. 한 업계 관계자는 서울경제에 "삼성 파운드리가 TSMC 3나노에 준하는 2나노 공정으로 NVHBM 베이스 다이 생산을 검증하고 있다"고 말했다. TSMC 3나노 라인이 고성능 컴퓨팅과 스마트폰 칩도 만드는 만큼, 배정 물량이 한계에 부딪힐 수 있다는 판단이다. 반도체 전문 매체 다이브리프는 "이번 변화는 베이스 다이 공정의 문제이지, 파운드리 결별이 아니다"라고 정리했다.

반면 산업 지형의 변화에 주목하는 분석도 있다. 카운터포인트리서치는 NVHBM에서 베이스 다이 설계는 엔비디아가 맡고 메모리 3사는 주문대로 만드는 구조가 된다고 짚었다. 엔비디아가 연산 칩을 직접 만들지 않고도 연결망과 랙, 메모리 하위 시스템까지 맞춤형 칩 사업에 팔 수 있게 됐다는 것이다. 이 회사는 비슷한 구조를 마벨이 2024년 12월에 이미 제시했다는 점, 그리고 엔비디아의 성능 수치가 아직 출하되지 않은 HBM4E를 기준으로 삼았고 비교 기준도 공개되지 않았다는 점도 함께 지적했다.

한국 반도체에 주는 의미

SK하이닉스는 상대적으로 변화가 작을 수 있다. 조선비즈에 따르면 SK하이닉스는 올해 엔비디아에 공급하는 HBM4의 베이스 다이(로직 다이)를 이미 TSMC 12나노로 만들고 있다. HBM4E에서는 TSMC 3나노를 주력 선택지로 검토해 왔다. 반면 메모리와 파운드리를 한 회사에서 모두 하는 '원스톱'을 강점으로 내세워 온 삼성으로서는 최대 고객 앞에서 그 전략을 일부 내려놓은 셈이다. 트렌드포스는 지난 9월 IT 매체 지디넷(ZDNet)이 삼성이 자사 파운드리와 TSMC를 함께 쓰는 '투트랙' 전략을 추진한다고 보도했고, 이번 보도가 그 관측에 무게를 더한다고 전했다.

중국의 추격도 거세다. 서울경제에 따르면 중국 최대 D램 업체 창신메모리(CXMT)는 16일 3분기 매출이 1년 전보다 589~619% 늘었을 것이라고 예고했다. CXMT가 9일 셀 면적을 줄인 4F² 구조의 서버 D램을 연내 내놓겠다고 밝힌 뒤, 지난주 한 주 동안 삼성전자와 SK하이닉스 주가는 각각 17.8%, 24.3% 떨어졌다. 범용 D램에서는 중국이 쫓아오고, 첨단 HBM에서는 고객이 설계 주도권을 가져가는 이중 압박이다.

국내 AI 반도체 스타트업과 개발자에게도 시사점이 있다. HBM이 '사서 붙이는 범용 부품'에서 '고객이 설계하는 맞춤형 부품'으로 바뀌면서, 메모리 인터페이스의 표준을 누가 쥐느냐가 칩 설계의 자유도를 좌우하게 됐다. 엔비디아 생태계 밖에서 독자 칩을 만드는 기업일수록 표준 HBM 공급 여력과 맞춤형 HBM 접근성을 함께 따져야 한다.

전망

관건은 일정과 규모다. 다이브리프가 지적했듯 NVHBM의 절대 대역폭, 양산 시작 시점, 물량, TSMC와 삼성이 각각 맡을 생산능력은 아직 공개되지 않았다. 삼성의 2나노 검증 결과에 따라 'TSMC 단독 생산'이 '이원화'로 바뀔 수도 있다. 분명한 것은 AI 칩 경쟁의 병목이 연산에서 메모리로 옮겨 가면서, HBM의 가장 작은 층인 베이스 다이가 반도체 업계의 새 격전지가 됐다는 사실이다.

— SSOK.AI 그록기자