HBM 둘러싼 ‘왕좌의 게임’···반도체 패권 경쟁 막 올랐다

[이뉴스투데이 고선호 기자] 고대역폭메모리(HBM) 시장 점유율을 놓고 업계 1위 SK하이닉스와 전통 강자 삼성전자의 왕좌 쟁탈전이 본격화될 전망이다.

이미 글로벌 인공지능(AI) 반도체 시장의 선두를 달리고 있는 엔비디아가 양사의 HBM 부문 경쟁력을 놓고 긍정적인 신호를 보낸 가운데 차세대 신제품 개발로 선두 탈환을 노리는 삼성전자와 이미 HBM 시장에서 주요 글로벌 반도체 기업들과 공고한 파트너십을 구축한 SK하이닉스 간의 경쟁 구도가 어떤 방향으로 흘러갈지 귀추가 주목된다.

22일 시장조사업체 트렌드포스에 따르면 지난 2022년 기준 2.6% 수준에 그쳤던 D램 산업 내 HBM의 매출 점유율이 올해 20.1%까지 확대될 것으로 전망된다. 이를 금액으로 환산하면 HBM 관련 시장규모는 총 169억1415만 달러(한화 약 22조6633억 원)에 달할 것으로 추정된다.

HBM은 여러 개의 D램 칩을 실리콘관통전극(TSV)으로 수직 연결해 데이터 처리 속도를 획기적으로 높인 초고성능 메모리 반도체다. 고속 병렬 연산에 적합하도록 입·출력 데이터가 지나가는 통로(대역폭)를 극대화한 것이 특징이다.

소품종 대량생산 방식인 기존 D램과 달리 고객사와의 협업을 통해 만들어지는 일종의 ‘맞춤형 메모리’다. HBM은 단순히 D램을 잘 만들고 잘 쌓는 게 경쟁력이 아니다. 각 프로세서에 맞는 맞춤형 최적화가 핵심이다. HBM은 △1세대 HBM △2세대 HBM2 △3세대 HBM2E △4세대 HBM3 등을 거쳐 현재 5세대 HBM3E까지 개발 및 양산이 진행됐다.

지난해 HBM 시장에서 SK하이닉스의 점유율은 53%로 1위를 차지했다. 삼성전자가 38%로 뒤를 바짝 추격 중이다.

최근 삼성전자는 기존 8단 HBM3E 제품보다 성능과 용량을 50% 이상 개선한 12단 개발을 통해 HBM3E 시장 선점을 노리고 있다. 반면 SK하이닉스는 세계 최초로 HBM3E 대규모 양산에 돌입하고 이달 말 엔비디아에 가장 먼저 납품을 시작한다.

◇1위 ‘탈환’ 삼성전자, 신제품·신공정 ‘투트랙’ 혁신 이끈다

“HBM 초기 의사 결정은 늦었지만, 방향성은 이미 다시 고쳐잡았다.” 현재 HBM 분야 선두 경쟁에서 잠시 밀려났던 삼성전자에 대한 업계의 평가다.

앞서 메모리 반도체 시장에서 압도적인 1위를 굳혀왔던 삼성전자는 AI 반도체 시장의 본격적인 성장이 이뤄지기 이전인 지난 2019년 시장성을 이유로 돌연 HBM 연구개발 전담팀을 해체했다.

이후 다시금 HBM 개발에 나섰으나, 지난해 말까지 HBM3 양산을 비롯해 엔비디아의 관련 테스트를 통과하지 못하는 등 공급에 차질을 빚은 바 있다. 다만 세계 최대 생산능력을 지닌 삼성전자만의 강점을 통해 다시금 HBM 부문의 성장을 도모하고 있다.

삼성전자는 올해 상반기 중 36GB HBM3E 12단 제품 양산 계획을 밝히며 본격적인 시장 공략을 천명했다. 36GB는 현재 개발된 제품 중 가장 큰 용량으로, 전 세계에서 HBM3E 12단 개발에 성공한 건 삼성전자가 유일하다.

삼성전자의 HBM3E 12단은 제품 성능과 용량은 전작인 HBM3 8단 대비 각각 50% 이상 향상했고, 수직 집적도는 20% 이상 높였다. 무엇보다 12개 단의 적층 과정에서 부피가 커질 수 있음에도 기존 8단과 동일한 높이를 구현하는 데 성공하면서 막대한 효율성 개선을 이뤄냈다.

18일(현지시간) 미국 캘리포니아에서 열린 엔비디아의 개발자 콘퍼런스인 ‘GTC 2024’ 행사장에서는 HBM3E 12단 실물을 공개 전시하기도 했다. 제품 실물을 최초 공개할 만큼 관련 부문 기술력의 자신감을 보여준 셈이다.

삼성전자는 지난 20일 제52회 정기주주총회에서 열린 ‘주주와의 대화’에서도 디바이스솔루션(DS)부문의 투자 확대를 골자로 한 미래 전략을 강조했다.

특히 대규모언어모델(LLM)을 지원하는 첫 인공지능(AI) 반도체 ‘마하1(MACH-1)’ 개발을 통해 선두 탈환에 나서겠다는 계획이다.

마하1은 데이터 병목 현상을 8분의 1로 줄이고 전력 효율을 8배 높인 제품으로, AI 가속기에 HBM 대신 LP D램을 활용할 수 있다면 가격 경쟁력은 물론 효율성 개선이 기대된다.

쉽게 말해 SK하이닉스가 주도하고 있는 HBM을 삼성전자의 LP D램으로 대체할 수 있는 시장 구조를 만들겠다는 구상으로 풀이된다. 이를 통해 2~3년 안에 반도체 세계 1위 탈환에 나서겠다는 전략이다.

DS부문에서는 메모리, 파운드리, 시스템LSI 등 반도체 사업 전반의 근원적인 경쟁력 제고를 강조했다. 우선 메모리는 12나노급 32Gb(기가비트) DDR5 D램를 활용한 128GB 대용량 모듈 개발로 시장을 선도하고, 12단 적층 HBM 선행을 통해 HBM3·HBM3E 시장의 주도권을 되찾겠다는 계획이다.

여기에 D1c D램, 9세대 V낸드, HBM4 등과 같은 차세대 신제품·신공정 개발을 통해 시장에서의 영향력을 확대하는 한편, 공격적인 투자를 통한 첨단공정 비중 확대와 제조 능력 극대화를 동시에 추진하겠다는 의지를 내비쳤다.

삼성전자 DS 부문장 경계현 사장은 “고부가가치 제품의 경쟁력 우위를 확보하고 신공정, 차세대 제품 의 경쟁력를 제고하겠다”며 “차별화된 패키지 솔루션 및 텐키 사업 확대를 추진하고 차세대 전력 반도체·디스플레이 시장에 대응할 것이며, AI 시대 도래에 대응해 AGI, 컴퓨팅랩을 신설하는 등 AI 아키텍처 혁신에 나서겠다”고 강조했다.

◇HBM ‘글로벌 스탠다드’ 향하는 SK하이닉스

SK하이닉스는 메모리반도체 업계에서 가장 먼저 HBM 5세대 제품인 HBM3E D램을 엔비디아에 납품하기로 하면서 시장 구도에서 유리한 고지를 선점했다. HBM3에 이어 HBM3E도 세계 최초로 대규모 양산에 돌입하며 HBM 시장 주도권을 굳힌다는 계획이다.

HBM3E 납품과 관련해 SK하이닉스는 “HBM3에 이어 현존 D램 최고 성능이 구현된 HBM3E 역시 가장 먼저 고객에 공급하게 됐다”며 “향후 양산도 성공적으로 진행해 AI 메모리 시장에서의 경쟁우위를 이어 가겠다”고 밝혔다.

SK하이닉스가 이번에 선보인 HBM3E는 초당 최대 1.18TB(테라바이트)의 데이터를 처리한다. 이는 풀HD급 영화(5GB) 230편 분량이 넘는 데이터를 1초 만에 처리하는 수준이다. 지난해 8월 HBM3E 개발을 알린 지 7개월 만이다. SK하이닉스 제품은 엔비디아의 차세대 그래픽처리장치(GPU)에 탑재될 것으로 보인다.

SK하이닉스의 HBM3E 대량 양산은 경쟁사들보다 더욱 빠른 속도로 진행되고 있다. 앞서 지난달 마이크론이 HBM3E를 엔비디아에 납품한다는 소식을 업계 최초로 발표한 바 있지만, 실제 납품 기회는 SK하이닉스가 차지하게 됐다. 현재 엔비디아의 최종 테스트용 HBM3E 양산을 시작한 뒤 인증을 마쳤으며, 제품 양산에 돌입했다.

SK하이닉스는 양산을 시작한 HBM3E에 독자 개발한 ‘매스리플로우 몰디드언더필(MR-MUF)’ 방식을 채택해 열 방출 성능을 이전 세대 대비 10% 향상시켰다.

이는 HDM의 물리적 한계를 개선하기 위해 삼성전자와는 다는 적층 방식이다. 삼성전자는 D램 사이에 비전도성접착필름을 넣어 HBM을 결합하는 ‘열압착 비전도성접착필름(Advanced TC NCF)’ 방식을 적용해 12단 개발을 추진했다.

앞서 지난달 미국 샌프란시스코에서 열린 국제고체회로학회(ISSCC) 콘퍼런스에서는 HBM3E 16단 기술을 세계 최초로 공개하기도 했다.

SK하이닉스는 HBM3E 납품을 기점으로 관련 연구개발(R&D) 투자를 더욱 강화해 글로벌 1위를 더욱 공고히 하겠다는 구상이다.

SK하이닉스에 따르면 매출액 대비 연구개발비 비중은 2012년 이후 최고치를 경신했다. SK하이닉스의 지난해 매출은 32조7657억원으로, 매출액 대비 R&D 비용 비중은 12.8%에 달한다. 올해도 연구개발은 지속될 것으로 전망된다. 비핵심 자산으로 꼽히는 이천캠퍼스 수처리센터를 매각해 마련한 1조1203억원의 현금을 기술개발과 미래산업 투자에 활용한다는 계획이다.

류성수 SK하이닉스 부사장은 “이번 세계 최초 HBM3E 양산을 통해 AI 메모리 업계를 선도하는 제품 라인업을 한층 강화했다”며 “그동안 축적해온 성공적인 HBM 비즈니스 경험을 토대로 고객관계를 탄탄히 하면서 ‘토털 AI 메모리 프로바이더’로서 위상을 굳혀 나가겠다”고 말했다.