HBM 시대는 HBF로 대체될 것인가? 엔비디아, 마이크론이나 샌디스크 인수 가능성? 한국 고대역폭 메모리 아버지의 예언은 실현될까?

한국과학기술원(KAIST) 교수이자 'HBM(고대역폭 메모리)의 아버지' 김정호 교수가 최근 한 방송 프로그램에서 "AI 시대의 주도권이 GPU에서 메모리로 넘어가고 있다"고 언급했다. 그는 심지어 엔비디아(NVIDIA)가 삼성과 SK하이닉스에 대한 의존도에서 벗어나기 위해 미래에 마이크론(Micron)이나 샌디스크(SanDisk) 같은 메모리 회사를 인수할 수도 있다고 직언했다.

김정호 교수는 또한 미래의 새로운 시대는 현재의 HBM(고대역폭 메모리)에서 HBF(고대역폭 플래시 메모리)로 나아갈 것이며, 현재 HBM의 M은 DRAM이지만 미래 HBF는 Flash로 바뀔 것이라고 예측했다. 그는 "HBM 시대는 곧 끝나고 HBF 시대가 올 것!"이라고 예고하기도 했다.

김정호 교수는 현재 세계적으로 저명한 메모리 전문가이며, 그가 재직 중인 KAIST는 한국에서 가장 영향력 있는 최고의 연구 기관 중 하나로 인정받고 있다. 그가 이 예측을 했을 때, 전 세계 메모리 회사들의 주가도 동반 급등하며 시장에서 많은 토론을 불러일으켰다.

HBM이 곧 HBF로 대체될 것이라는 예측은 과연 타당한가? 엔비디아가 미래에 마이크론이나 샌디스크를 인수할 것이라는 예언이 실현될 가능성은 또 얼마나 될까?

가격, 전력 소모 vs. 수명: HBF의 딜레마

먼저 HBM이 HBF로 대체되는 문제를 논의해 보자.

결론부터 말하자면, 가격과 전력 소모를 비교할 때 HBF가 HBM을 능가할 기회는 분명히 있다. 하지만 수명 면에서 보면 HBF는 HBM에 미치지 못하는 부분도 있다.

DRAM과 Flash는 똑같이 메모리지만, 둘은 매우 다른 특성을 가지며 기능과 수명에서 큰 차이가 있다. DRAM은 주로 고속 임시 저장에 사용되며 수명이 길고 비용이 낮은 반면, Flash는 장기 저장에 사용되며 수명은 제한적이지만 전원이 꺼져도 데이터가 사라지지 않는다. 전반적으로 볼 때, DRAM의 수명은 Flash보다 길며, 특히 반복적인 쓰기 애플리케이션에서 더욱 그렇다.

따라서 현재의 AI 시스템은 엔비디아의 로직 연산 칩인 GPU에 SK하이닉스, 마이크론, 삼성전자가 적층한 HBM을 더해 CoWoS(서로 다른 칩을 고속으로 통합하기 위한 핵심적인 2.5D 어드밴스드 패키징 기술)로 패키징된다. 다만 현재 HBM 가격이 매우 비싼데, 엔비디아의 GPU가 이미 비싼 상황에서 값비싼 HBM까지 더해져 AI 시스템의 가격이 내려가지 않고 있다. 이는 엔비디아에게 있어 반드시 빠르게 해결해야 할 문제이다.

HBM 가격이 이토록 비싼 가장 핵심적인 이유는 DRAM 공정 기술이 한계에 부딪혔기 때문이다. 현재 DRAM 공정 기술은 계속 10나노미터(nm) 이상에 머물러 있으며, 1x, 1y, 1z, 그리고 1α, 1β, 1γ로 나아가고는 있지만 실제로는 매 세대의 발전이 매우 작아 10나노 이하로 나아가지 못하고 있다. 기술을 미세화할 수 없으니 칩 면적을 줄이기 어렵고, 가격이 하락하기도 당연히 쉽지 않다.

또한 HBM의 방식은 여러 층의 DRAM을 쌓아 올리고 실리콘 관통 전극(TSV)을 통로로 사용하는 것인데, 이 방식은 비싸기로 유명하다. 왜냐하면 각각의 DRAM을 매우 얇게 갈아내야 해서 조금만 부딪혀도 깨지고, 휘어짐 문제까지 발생하기 때문이다. 따라서 HBM 기술은 한계에 부딪혀 가격이 무어의 법칙이 끊임없이 나아가는 속도를 따라가지 못하고 있다.

반면 Flash 가격 하락 속도는 훨씬 빨라서 메모리 사용 비용을 크게 낮추고 있는데, 이 역시 적층 방식을 사용하여 계속 위로 쌓아 올리기 때문이다. 현재 Flash 기술은 236단 제품을 출시할 수 있으며, 280단, 심지어 300단 이상의 기술도 곧 출시될 예정이다. 학계의 연구를 보면, 미래에는 1,000단 정도까지 쌓을 수 있을 것으로 보이며, 적층을 통해 용량 및 저장 밀도를 크게 늘려 당연히 가격도 현저히 낮출 수 있다.

게다가 현재 AI 시스템은 대량의 데이터를 처리하는 속도를 높이기 위해 빠른 병렬 연산이 필요한데, Flash 칩 자체가 끊임없는 적층의 결과물로서 병렬 처리의 이점을 갖추고 있다. 반면 DRAM의 처리는 무작위(random)적이어서, Flash는 이 점에서도 많은 가점을 받을 수 있다.

전체 AI 산업의 병목 현상을 보면, 로직 IC 위주의 연산력은 지금까지 60,000배 향상되었지만, 메모리 부분의 기능은 겨우 300배 향상되었고, 통신 전송 속도는 최저 30배 향상에 그쳤다. 메모리와 전송 모두 로직 IC의 빠른 기능 성장을 따라가지 못하고 있으며, 미래 전체 AI 시스템의 성능 향상은 반드시 이러한 병목 지점들부터 착수해야 한다. 이것이 바로 HBM이 HBF로 대체될 것이라는 논의가 나오는 이유이기도 하다.

또한 전력 소모 면에서 보면, Flash는 전력 사용량이 적고 전원을 꺼도 데이터가 남아있어 그 자체로 전력을 소모하지 않는다. 하지만 DRAM은 계속해서 리프레시(갱신)가 필요하다. DRAM의 D는 Dynamic(동적)을 의미하는데, DRAM 안의 데이터는 전원을 끄면 사라지기 때문에 계속해서 데이터를 갱신해야 하므로 DRAM의 전력 소모가 Flash보다 많다.

전 세계 주요 Flash 메모리 공급업체 중 하나인 매크로닉스(Macronix)의 루즈위안(盧志遠) 총경리는 "원래 AI 시스템이 이미 상당한 전력을 소모하는데 HBM을 사용하면서 전력 소모량이 더욱 가중되고 있다"며, "따라서 제품 특성상 Flash로 DRAM을 대체하는 것은 매우 자연스러운 생각이며, 엔비디아도 메모리 제조사들에게 HBF 방향으로 노력할 것을 계속 독려하고 있다"고 말했다.

현재 DRAM 3대 업체인 SK하이닉스, 삼성전자, 마이크론 및 Flash 5대 업체, 즉 앞서 언급한 3사에 키오시아(Kioxia)와 샌디스크를 더한 업체들 모두 현재 HBF 연구개발을 가속화하겠다고 약속했으며, 2026년 말이나 2027년에 시장에 진입할 것으로 예상된다.

하지만 수명 면에서 보면, Flash의 읽기/쓰기 수명은 DRAM보다 훨씬 짧다. DRAM은 Flash처럼 물리적 마모를 동반하는 삭제 동작이 필요 없고 엄격한 쓰기 횟수 제한이 없기 때문에, 수명의 길고 짧음은 미래에 AI 시스템에 탑재될 때 중요한 영향 요인이 될 것이다.

왜냐하면 현재 AI 시스템은 모두 로직과 메모리를 함께 패키징하고 있으므로, 만약 HBF가 마찬가지로 이런 어드밴스드 패키징 기술(예: CoWoS)로 패키징되는데 HBF 제품 수명이 짧다면, 교체해야 할 때 매우 번거로워진다. 과거처럼 메인보드에 직접 꽂았다 뺐다 하면 되는 것이 아니라, CoWoS는 모든 칩을 다 함께 묶어버리기 때문에, 그때 가서 어떻게 교체할 것인지, 혹은 AI 시스템 전체를 다 바꿔야 할 것인지 하는 도전 과제에 부딪히게 될 것이다.

따라서 앞서의 설명에 근거하면, 가격과 전력 소모를 대비할 때 HBF가 확실히 몇 가지 우위를 가지고 있으며, 미래에 HBM을 능가하거나 대체할 기회가 있다. 하지만 수명 면에서 보면 HBF는 HBM에 미치지 못하는 부분이 있으며, 이는 HBM을 대체하고자 할 때 반드시 극복해야 할 핵심 문제이다.

엔비디아의 인수 타산: 왜 마이크론이나 샌디스크인가?

김정호 교수가 예측한, 엔비디아가 삼성과 SK하이닉스에 대한 의존도에서 벗어나기 위해 미래에 마이크론이나 샌디스크 같은 메모리 회사를 인수할 수도 있다는 점에 대해. 이 예측 역시 당연히 여러 토론을 불러일으켰다.

김정호 교수가 엔비디아가 삼성이나 SK하이닉스가 아닌 마이크론이나 샌디스크를 인수할 가능성을 언급한 데는 당연히 그럴 만한 이유가 있다. 삼성과 SK하이닉스는 모두 선두 기업이라 인수될 가능성이 크지 않고, 게다가 두 회사 모두 한국 기업으로 현재 한국의 강력한 대표 기업이어서 매각할 이유가 전혀 없다.

반면 마이크론과 샌디스크는 모두 미국 기업이라 인수가 어쩌면 좀 더 쉬워 보일 수도 있다. 하지만 현재의 지정학적 상황 하에서 반도체는 각국이 경쟁하는 목표가 되었고, 마이크론과 샌디스크도 세계 각국에 생산 거점과 사무실을 두고 있어, 엔비디아가 두 미국 회사를 인수하고자 해도 그 난도가 결코 낮지는 않을 것이다.

물론 시가총액 규모도 관건이다. 마이크론이나 샌디스크의 시가총액이 더 작다고 해도, 이미 시가총액 수조 (Multi-trillion) 달러에 달하는 엔비디아라 할지라도 반드시 순조롭게 집어삼킬 수 있는 것은 아니다.

인수 성공 여부에 영향을 미치는 조건과 요인은 너무나도 많다. 하지만 엔비디아가 메모리 공급업체들이 가격을 낮추고 AI 시스템에 발맞춰 더 높은 기능과 더 낮은 에너지 소모를 달성해 주기를 바라는 것은, 분명 현재 AI 산업 발전의 중점이다. 김정호 교수의 예언은 앞으로도 계속 지켜볼 가치가 있다.