[IT | 기술] HBM 경쟁력 결정하는 '초고속 엘리베이터' TSV

LINK : https://www.chosun.com/economy/weeklybiz/2024/11/07/2LJZQI3GFVGU5GY5M4LDM7Q72Q/

[WEEKLY BIZ] [김정호의 반도체 특강] 고층빌딩 구조 HBM에서 고속으로 신호 보내고 안정적으로 전력 공급

김정호 KAIST 전기·전자공학과 교수

고대역폭메모리(HBM)는 단층 구조의 D램(그래픽 붉은 부분)을 여러 층 쌓아 올린 고층 빌딩 같은 구조다. 이 고층 빌딩을 오가는 ‘엘리베이터’ 역할을 ‘실리콘 관통 전극(TSV·하얀색 네모 부분)’이 맡는다. TSV를 어떻게 설계하느냐가 앞으로 HBM 성능을 끌어올리는 데 중요한 역할을 할 전망이다. /AMD·오크메틱, 그래픽=김의균

세계 최고층 건물은 아랍에미리트(UAE) 두바이에 있는 ‘부르즈 칼리파’다. 하늘까지 닿을 것 같은 828m 높이 건축물엔 사람과 화물의 빠른 이동을 가능하게 하는 초고속 엘리베이터를 설치해야 한다. 이 엘리베이터는 가속과 감속 때 탑승객이 어지럽지 않게 속도를 조절할 수 있어야 하고, 모터 소음도 없어야 한다. 고층용과 저층용으로 분리해 물류 효율도 높여야 한다. 승객이 기다리는 시간을 최소화하기 위해 건물 곳곳에 설치해야 한다. 여기에 초고층 건물을 지을 땐 전력과 물 그리고 신선한 공기의 안정적 공급과 순환 시스템 설계도 중요하다. 열 효율을 좋게 하기 위해 단열 설계도 챙겨야 하고, 지진이나 태풍이 불어도 안전한 건물 구조체의 특성을 유지해야 하는 등 신경 써야 할 일이 하나둘이 아니다.

마치 초고층 빌딩처럼 인공지능(AI) 메모리로 각광받는 고대역폭메모리(HBM) 제작 과정에서도 ‘건물 설계’가 중요하다. HBM은 마치 고층 빌딩을 만들 듯 단층 구조인 D램을 여러 겹 켜켜이 쌓아 놓은 형태이기 때문이다. HBM은 초거대언어모델(LLM)의 학습과 생성을 위해 쓰이는 대규모의 고속 저장 장치 역할을 한다. 이때 저장 용량을 높이기 위해 반도체를 쌓아 올리는 것이다. 초고층 빌딩처럼 좁은 공간에 최대 용량을 내기 위해서다. 초고층 빌딩에 초고속 엘리베이터를 설치하듯, HBM에도 일종의 ‘고속 엘리베이터’가 필요하다. 이 엘리베이터와 같은 구조를 전문 용어로 ‘실리콘 관통 전극(TSV, Through Silicon Via)’이라고 부른다. SK하이닉스와 삼성전자가 치열하게 개발 경쟁을 벌이는 HBM4에는 수만 개의 TSV가 설치될 것으로 예측한다.

그런데 HBM엔 여러 용도의 TSV가 필요하다. 먼저 고속으로 신호를 전송하기 위한 ‘신호용 TSV’가 설치된다. 신호는 이 신호용 TSV를 타고 빛의 속도로 수직 방향으로 전달된다. 이후 HBM4에서 GPU(그래픽 처리 장치)까지 총 2048개의 수평 연결선으로 신호가 쫙 전달된다. 마치 2048차선 고속도로로 달리는 것과 같다. 다층 고속도로다. HBM4에선 순간적으로 보낼 수 있는 데이터양(대역폭)이 늘어나야 하는 만큼 TSV 개수도 함께 비례해 늘어난다. 자동차 수천 대가 한꺼번에 움직이는 것처럼, 대량의 데이터가 빠르고 잡음 없이 전달돼야 하기 때문이다.

HBM엔 이에 더해 전력을 공급하는 ‘전력 TSV’도 필요하다. HBM4에선 더욱 큰 크기의 전류를 공급해야 한다. 이때 조금이라도 저층과 고층 사이 전압 차가 발생하면 안 된다. 순간 정전 사태도 방지해야 한다. AI 작업이 정지될 수 있기 때문이다. HBM에선 전력 공급의 안정성이 제품의 신뢰성을 결정하는 경우가 많다. 퀄테스트(품질 검증)에서 가장 큰 난관이기도 하다. 그리고 전류가 돌아오는 길인 ‘접지용(Ground) TSV’도 설치돼야 한다. 반도체도 접지를 잘해야 동작이 안정되기 때문이다. 접지용 TSV가 HBM4 전체 전기 시스템의 안정성을 보장한다. 마지막으로 ‘열 방출용 TSV’도 다수 필요하다. TSV는 금속으로 채워져 있기에 열을 잘 배출시켜야 한다. 이렇게 HBM4에서 TSV는 다양하고 핵심적인 역할을 한다.

AI에서 HBM의 중요성은 나날이 증가하고 있다. 국제적인 세계 반도체 패권 경쟁이 앞으로 HBM 위주로 전환될 것으로 예측한다. 결국 HBM의 성능이 AI 컴퓨터와 AI 서비스의 성능을 좌우할 전망이다. 앞으로 HBM4에 이어 HBM5, HBM6 시리즈도 해마다 개발될 전망이다. 이 시장에서 삼성전자, SK하이닉스, 마이크론의 치열한 생존 경쟁이 예상된다. 내년에 양산될 HBM4의 성능이나 신뢰성·안정성은 TSV를 어떻게 설계하느냐에 달려있을 것으로 보인다. 경우에 따라 HBM4에 쌓는 메모리 칩 면적의 절반이 TSV로 채워질 수도 있다. TSV 설계가 중요해진 만큼 HBM4란 고층 빌딩을 설계할 땐 비용 절감보다는 제품의 성능과 안정성, 신뢰성에 더 투자해야 한다. AI 시대엔 반도체 제작 패러다임이 성능과 신뢰성 위주로 바뀌고 있다. 더는 싼 가격이 경쟁력이 아닌 시대다.