2024년형 AI 칩셋과 고대역폭 메모리 HBM 모듈이 정교하게 배치된 반도체 기술의 평면 부감 샷.
안녕하세요, 10년 차 블로거 rome입니다. 요즘 IT 업계에서 가장 뜨거운 감자를 꼽으라면 단연 AI 반도체와 그 심장 역할을 하는 HBM(고대역폭 메모리)이 아닐까 싶어요. 챗GPT가 세상에 나온 이후로 인공지능 연산 속도가 곧 기업의 경쟁력이 된 시대거든요. 저도 예전에 반도체 관련 종목에 무턱대고 투자했다가 기술 트렌드를 읽지 못해 쓴맛을 본 적이 있는데, 이번 2024년 시장은 그때와는 차원이 다른 속도로 변하고 있더라고요. 오늘은 엔비디아부터 삼성전자, SK하이닉스까지 얽히고설킨 차세대 HBM 기술의 흐름을 아주 깊숙하게 파헤쳐 보려고 합니다.
목차
4세대 HBM3에서 5세대 HBM3E로의 진화
HBM이라는 단어가 생소하신 분들도 있겠지만, 쉽게 말해 메모리 반도체를 아파트처럼 수직으로 쌓아 올려 데이터가 오가는 길을 넓힌 것이라고 이해하면 편해요. 2024년 현재 시장의 주력은 4세대인 HBM3를 넘어 5세대인 HBM3E로 급격히 넘어가고 있더라고요. 제가 예전에 일반 DDR4 메모리 시절에 컴퓨터 조립하던 때를 생각하면 정말 격세지감이죠. 그때는 단순히 용량만 크면 장땡이었는데, 이제는 대역폭 즉 데이터 전송 속도가 생명이거든요.
HBM3E는 기존 HBM3 대비 전송 속도가 약 25% 이상 향상되었고, 전력 효율성도 대폭 개선되었습니다. 엔비디아의 새로운 AI 가속기인 H200이나 블랙웰 시리즈에 이 녀석들이 탑재되면서 수요가 폭발하고 있는 상황이에요. 사실 저도 처음에는 메모리가 빨라져 봤자 얼마나 차이가 나겠어 싶었는데, 대규모 언어 모델(LLM)을 돌릴 때는 이 미세한 속도 차이가 학습 시간을 며칠씩 단축시킨다고 하더라고요.
| 구분 | HBM3 (4세대) | HBM3E (5세대) | HBM4 (6세대) |
|---|---|---|---|
| 최대 대역폭 | 819 GB/s | 1.2 TB/s 이상 | 2.0 TB/s 예상 |
| 적층 높이 | 8단 / 12단 | 12단 / 16단 | 12단 / 16단 이상 |
| 주요 특징 | 표준화 안착 | 열 관리 최적화 | 커스텀 HBM 시작 |
| 양산 시점 | 2022년 | 2024년 본격화 | 2025년 하반기 예정 |
적층 기술의 전쟁: TC-NCF vs MR-MUF
HBM 시장을 이해할 때 가장 중요한 게 바로 어떻게 쌓느냐는 기술이에요. 삼성전자와 SK하이닉스가 서로 다른 방식을 고수하며 자존심 대결을 펼치고 있거든요. 삼성전자는 전통적인 열압착 비전도성 필름(TC-NCF) 방식을 밀고 있고, SK하이닉스는 매스 리플로우 몰디드 언더필(MR-MUF)이라는 기술로 현재 시장의 우위를 점하고 있습니다.
제가 과거에 프라모델 조립할 때 본드를 너무 많이 바르면 디테일이 뭉개지고, 너무 적게 바르면 부품이 떨어졌던 경험이 있거든요. 반도체 적층도 비슷하더라고요. 칩 사이의 간격을 좁히면서도 열을 얼마나 잘 배출하느냐가 핵심인데, MR-MUF 방식이 방열 특성에서 현재까지는 좀 더 유리하다는 평가를 받고 있어요. 하지만 삼성전자가 준비 중인 차세대 NCF 기술도 칩이 얇아질수록 강점이 있다고 하니 끝까지 지켜봐야 할 대목입니다.
rome의 실전 꿀팁: 반도체 관련 뉴스를 보실 때 ‘수율’이라는 단어에 주목하세요. 기술이 아무리 좋아도 불량 없이 찍어내는 비율이 낮으면 수익성이 떨어지거든요. 현재 SK하이닉스가 앞서가는 이유도 이 MR-MUF 공정을 통한 안정적인 수율 확보 덕분이라는 분석이 많더라고요.
글로벌 3사의 점유율 싸움과 로드맵 비교
현재 HBM 시장은 SK하이닉스, 삼성전자, 그리고 미국의 마이크론이 삼파전을 벌이고 있습니다. 작년까지만 해도 하이닉스가 독주하는 분위기였는데, 올해 들어 삼성전자가 HBM3E 12단 제품을 세계 최초로 개발했다고 발표하면서 분위기가 묘해졌더라고요. 마이크론 역시 미국 정부의 지원을 등에 업고 엄청난 속도로 추격 중이고요.
실패담을 하나 공유하자면, 저는 예전에 1위 기업만 믿고 투자했다가 2위 기업의 기술 혁신 한 번에 수익률이 반토막 난 적이 있어요. 반도체 시장은 정말 한 치 앞을 모릅니다. 지금은 하이닉스가 엔비디아의 메인 파트너지만, 삼성전자가 12단 적층에서 수율을 제대로 잡는다면 판도는 언제든 뒤집힐 수 있거든요. 특히 마이크론이 HBM3E 8단 제품을 엔비디아에 공급하기 시작했다는 소식은 한국 기업들에게 큰 긴장감을 주고 있습니다.
주의사항: 특정 업체의 양산 발표만 믿고 덜컥 투자하는 건 위험해요. 실제로 고객사(엔비디아 등)의 퀄리티 테스트를 통과했는지, 그리고 실제 납품으로 이어지는지가 실적의 핵심이거든요.
6세대 HBM4가 가져올 패러다임의 변화
이제 시선은 벌써 2025년 이후의 HBM4로 향하고 있습니다. HBM4부터는 기술의 패러다임이 완전히 바뀔 거라고 하더라고요. 이전까지는 메모리 반도체 회사들이 규격에 맞춰 제품을 만들면 GPU 회사가 사 가는 방식이었는데, HBM4부터는 고객사가 원하는 기능을 메모리 안에 직접 넣는 커스텀 HBM 시대가 열린다고 합니다.
가장 큰 변화는 베이스 다이(Base Die)라고 불리는 맨 밑바닥 층에 로직 공정을 도입하는 거예요. 이를 위해 SK하이닉스는 TSMC와 손을 잡았고, 삼성전자는 파운드리와 메모리를 모두 직접 하는 강점을 내세우고 있습니다. 마치 기성복만 팔던 옷가게가 이제는 손님의 체형에 딱 맞춘 맞춤 정장을 제작하는 시스템으로 변하는 셈이죠. 이 단계에 접어들면 반도체 설계 능력과 미세 공정 능력이 결합된 회사만이 살아남을 가능성이 커 보입니다.
자주 묻는 질문
Q. HBM이 일반 RAM과 다른 점이 정확히 무엇인가요?
A. 일반 RAM은 평면에 칩을 배열하지만, HBM은 수직으로 쌓아 올리고 TSV(실리콘 관통 전극)라는 통로를 뚫어 수천 개의 구멍으로 데이터를 보냅니다. 비유하자면 1차선 도로를 100차선 고속도로로 만든 것이라고 보시면 됩니다.
Q. 왜 엔비디아 주가가 오르면 HBM 관련주가 같이 움직이나요?
A. 엔비디아의 AI 가속기(GPU)에는 반드시 세트로 HBM이 들어가야 합니다. GPU가 두뇌라면 HBM은 그 두뇌에 정보를 공급하는 혈관 같은 존재라 뗄 수 없는 관계거든요.
Q. 삼성전자가 HBM 시장에서 뒤처졌다는 소문은 사실인가요?
A. HBM3(4세대) 초기 대응에서 SK하이닉스에 밀린 것은 사실이지만, HBM3E 12단 제품을 통해 빠르게 추격 중입니다. 기술력 자체보다는 양산 수율과 고객사 인증 속도에서 차이가 있었던 것으로 보입니다.
Q. HBM4는 언제부터 상용화될까요?
A. 업계 로드맵에 따르면 2025년 하반기 샘플 공급을 시작으로 2026년부터 본격적인 양산이 시작될 것으로 보입니다. 이때부터는 맞춤형 제작 방식이 도입됩니다.
Q. MR-MUF 기술이 NCF보다 무조건 좋은 건가요?
A. 현재 8단, 12단 공정에서는 열 배출에 유리한 MR-MUF가 각광받고 있지만, 16단 이상으로 높아져 칩이 극도로 얇아지면 칩 휨 현상을 잡아주는 NCF 방식이 다시 유리해질 수 있다는 의견도 팽팽합니다.
Q. HBM 가격이 일반 메모리보다 많이 비싼가요?
A. 네, 공정이 훨씬 복잡하고 수율이 낮기 때문에 일반 DDR5 대비 최소 5배에서 10배 이상 비싼 가격에 거래되고 있습니다. 그래서 수익성이 엄청나게 높죠.
Q. 중국 반도체 기업들도 HBM을 만드나요?
A. 중국의 CXMT 등이 개발에 착수했다는 소식은 있지만, 미국의 장비 규제와 기술 격차 때문에 아직 글로벌 선두 기업들과는 수년 이상의 차이가 나는 상황입니다.
Q. AI 거품론이 있는데 HBM 수요가 계속될까요?
A. 단기적인 주가 등락은 있을 수 있겠지만, 클라우드 기업(구글, MS, 아마존)들의 인프라 투자가 지속되고 있고 AI 모델이 고도화될수록 더 많은 메모리가 필요하기 때문에 중장기적 수요는 견조할 것으로 보입니다.
2024년은 그야말로 HBM의 춘추전국시대라고 해도 과언이 아니에요. 기술 하나로 시가총액이 수십 조씩 왔다 갔다 하는 걸 보면 정말 무섭기도 하지만, 그만큼 우리 기술이 세계의 중심에 있다는 사실이 뿌듯하기도 하더라고요. 앞으로 펼쳐질 HBM4 전쟁에서는 또 어떤 반전이 일어날지 정말 궁금해집니다. 여러분도 이 흐름을 놓치지 말고 잘 따라가 보시길 바랄게요.
면책조항: 본 포스팅은 기술 트렌드 분석을 목적으로 작성되었으며, 특정 종목에 대한 투자 권유가 아닙니다. 모든 투자의 책임은 본인에게 있습니다.