[이뉴스투데이 김진영 기자] 엔비디아의 차세대 인공지능(AI) 가속기 로드맵이 고대역폭메모리(HBM) 경쟁의 속도를 한층 앞당기고 있다. 엔비디아가 내년 하반기를 전제로 HBM 16단 공급 가능성을 타진하면서 삼성전자·SK하이닉스·마이크론이 모두 상용화 경험이 없는 초고단 적층 HBM 개발에 착수했다. 기술 난도가 급격히 높아지는 구간에서 누가 먼저 양산 해법을 제시하느냐가 차세대 AI 메모리 주도권을 가를 수 있다는 관측이 나온다.
28일 업계에 따르면 엔비디아는 국내외 메모리 제조사에 내년 4분기 HBM 16단 납품 가능 여부를 문의한 것으로 파악됐다. 구체적인 계약이 체결된 단계는 아니지만, 각 사 내부에서는 개발 일정과 초기 생산 물량까지를 염두에 둔 논의가 진행 중인 것으로 전해졌다.
현재 엔비디아에 시제품을 공급하며 양산을 준비 중인 제품은 HBM4 12단이다. 다만 차기 제품으로 16단 논의가 본격화되면서 HBM 세대 전환 속도 역시 예상보다 빨라지는 분위기다. 업계에서는 해당 제품이 HBM4 16단이 될 가능성이 크지만, 성능과 양산 시점에 따라 HBM4E 등으로 명칭이 바뀔 여지도 남아 있다고 보고 있다.
HBM 16단이 주목받는 이유는 기술적 난도가 전례 없이 높기 때문이다. 기존 12단 HBM의 웨이퍼 두께는 약 50마이크로미터(㎛) 수준이지만, 16단을 구현하려면 30㎛ 안팎까지 줄여야 하는 것으로 알려졌다.
국제반도체표준협의기구(JEDEC)는 HBM4의 전체 두께 기준을 775㎛로 규정하고 있는데, 이는 HBM3E(725㎛)보다 50㎛ 두꺼운 수치다. 단수 증가에 따른 난이도를 감안해 여유를 둔 기준이지만, 업계에서는 16단을 위해 이 기준이 추가로 완화될 가능성은 크지 않다는 시각이 우세하다.
결국 동일한 두께 안에서 더 많은 D램을 적층해야 하는 구조다. 웨이퍼가 얇아질수록 절단과 연마(CMP) 과정에서 파손 위험이 커져 가공 기술 고도화와 신규 장비 도입이 필수적이다. 일부 메모리 제조사가 이미 새로운 웨이퍼 가공 장비를 도입한 것으로 알려진 배경이다. 적층 공정의 핵심인 본딩 기술 역시 부담 요인이다.
삼성전자와 마이크론은 열압착 비전도성 접착필름(TC-NCF)을, SK하이닉스는 매스 리플로우 몰디드 언더필(MR-MUF)을 적용하고 있는데 업계에서는 현재 10㎛ 안팎인 본딩 소재 두께를 더 줄이지 않으면 16단 경쟁에서 불리해질 수 있다는 지적이 나온다. 접합 이후 발생하는 발열을 효과적으로 제어하는 기술도 동시에 해결해야 할 과제로 꼽힌다.
단기적으로는 5세대 제품인 HBM3E가 시장의 주류 지위를 유지할 전망이다. 엔비디아의 ‘블랙웰’이 AI 가속기 시장 대부분을 차지하고 있고, H200의 대중(對中) 수출 재개 가능성까지 거론되면서 최소 2026년까지는 HBM3E 비중이 높게 유지될 것이란 분석이다. 구글·마이크로소프트·아마존웹서비스(AWS) 등 빅테크가 주문형 반도체(ASIC)를 확대하면서 HBM3E 수요 역시 추가로 늘어날 것으로 예상된다.
LS증권에 따르면 내년 전체 HBM 생산에서 HBM3E 비중은 66%로 올해(87%)보다 낮아지지만, 여전히 절반을 웃돈다. 이 같은 구조 속에서 HBM 시장 점유율 약 60%를 차지하고 있는 SK하이닉스의 우위는 당분간 유지될 가능성이 크다는 평가다.
경쟁 구도가 달라질 수 있는 시점은 HBM4다. HBM4는 단순한 성능 개선을 넘어 베이스 다이 적용과 공정 협업 비중이 커지며 파운드리와의 연계가 중요해지는 세대다. 내년 하반기 엔비디아의 차세대 AI 가속기 ‘루빈’이 HBM4 탑재의 신호탄을 쏘면, 본격적인 시장은 2027년 열릴 것으로 예상된다.
삼성전자는 파운드리 4나노 기반 베이스 다이와 6세대 10나노급(1c) D램 공정을 적용해 내부 평가에서 업계 최고 수준의 성능을 확보한 것으로 알려졌고, 최근 엔비디아의 HBM4 SiP 테스트에서도 긍정적인 평가를 받은 것으로 전해진다. 반면 SK하이닉스는 이미 HBM4 양산 체제를 구축하고 엔비디아에 대량의 유상 샘플을 공급하며 최적화 작업을 진행 중이다.
HBM 16단은 단순한 제품 진화를 넘어 적층 한계와 공정 기술, 양산 역량을 동시에 시험하는 무대라는 평가다. 엔비디아의 조기 요청으로 개발 시계는 빨라졌지만, 수율과 발열, 두께 제약이라는 기술적 장벽을 누가 먼저 넘느냐에 따라 HBM4 시대의 판도 역시 달라질 것으로 보인다.
