(Ai 트렌드 공부) HBM이란 무엇인가?

 

 

 

안녕하세요~

 

이번에는 AI 메모리 반도체인 HBM에 대해 소개하려 합니다!

 

 

 

 

 

 

 

최근 엔비디아에서 6세대 hbm4 공급에 대해 Sk hynics와 파트너십 언급했어요

 

 

https://www.reuters.com/technology/nvidias-huang-asked-sk-hynix-bring-forward-supply-hbm4-chips-by-6-months-sks-2024-11-04/

 

 

 

기사 내용을 일부 인용하자면 

 

 

AI 및 GPU 분야의 글로벌 리더인 엔비디아는 SK 하이닉스와 파트너십을 맺고

 

곧 출시될 AI 가속기 및 고성능 GPU에 HBM4를 활용했습니다.

 

 

 

HBM4의 획기적인 잠재력을 인식한 엔비디아 CEO Jensen Huang은

 

SK 하이닉스에게 개발 일정을 6개월 단축해 달라고 직접 요청했어요.

 

 

 

이후에도 차세대 고대역폭 메모리(HBM4) 칩 공급을 6개월 연장해 달라고 요청해 

 

AI 애플리케이션에서 고급 메모리 솔루션에 대한 수요가 증가하고 있음을 강조했습니다.

 

 

SK하이닉스는 2025년 하반기에 HBM4 칩을 공급할 계획이라고 밝혔어요.

 

 

차후 계획에 관련해서는 SK AI SUMMIT 컨퍼런스에서 발표하더라고요

 

AI 반도체 관련 컨퍼런스에 관심이 있으시다면 내년에 참석해 보시는 것을 추천드립니다!!

 

 

 

 

 

 

 

여기서 HBM은

 

"High Bandwidth Memory"의 약자로 고속 대역폭 메모리를 의미합니다.

 

 

 

기능	HBM2	HBM3	HBM4 (예상)
대역폭	256GB/초	512GB/초	700GB/초 이상
메모리 용량	스택당 8GB	스택당 24GB	스택당 32GB 이상
속도	2.0~2.4Gbps/핀	6.4Gbps/핀	핀당 8Gbps+
전력 소비	GB당 2~4W	GB당 3~5W	GB당 2.5~4W
인터페이스 너비	스택당 1024비트	스택당 2048비트	스택당 2048비트 이상
사용 사례	게임, GPU, 워크스테이션	AI, 워크스테이션, 그래픽	AI, 슈퍼컴퓨팅, 게임, 그래픽

 

 

 

 

 

 

 

HBM은 기존의 DRAM보다 더 높은 데이터 처리 속도를 제공하며,

 

칩을 수직으로 적층한 구조를 통해 데이터 전송 속도를 크게 향상한 메모리 기술입니다.

 

 

주로 고성능 GPU, AI 가속기, 고속 네트워크 장비 등에서 사용됩니다

 

 

출처: https://www.joongang.co.kr/article/25250308

 

 

 

출처: https://www.joongang.co.kr/article/25250308

 

 

 

초기 HBM은 메모리와 로직을 분리하여 설계되었으나, 시간이 지남에 따라 메모리와 로직의 통합이 이루어졌습니다.

 

HBM4는 이러한 통합을 더욱 발전시켜, 메모리와 로직이 밀접하게 연결되어 성능과 효율성을 극대화하고 있습니다.

 

 

최신 세대인 HBM4가 기대되는 이유는 대표적으로 3가지가 있습니다.

 

 

1. 번개처럼 빠른 속도:

초당 2 테라바이트의 대역폭을 갖춘 HBM4는 이전 제품인 HBM3E보다 약 66% 더 빠릅니다. 

 

이는 눈 깜짝할 사이에 대규모 AI 워크로드를 처리하기에 충분합니다.

 

 

2. 증가된 용량:

최대 16개 레이어의 스택 메모리, 48GB 이상의 용량 지원할 수 있다고 합니다.

 

이는 땀을 흘리지 않고 더 큰 데이터 세트를 처리하는 것을 의미하죠.

 

 

 

3. 탁월한 전력 효율성:

데이터를 전송하는 동안 비트당 전력을 33% 적게 소비하므로 지속 가능하고 에너지 효율적인 시스템에 이상적입니다.

 

 

 

이것이 왜 중요한가?

 

HBM4는 더 빠른 컴퓨터에 관한 것뿐만 아니라 산업을 변화시키는 데 영향을 주고 있습니다. 

 

 

AI, 빅데이터, 심지어 자율주행차에 적용되는 메모리 기술이기에 

 

앞으로도 획기적인 발전을 이룰 가능성이 많은 기술력이에요.

 

 

엔비디아와 SK 하이닉스의 협력을 통해 기술 세계는

 

AI 연구부터 게임에 이르기까지 모든 분야의 성장을 촉진할 수 있습니다.

 

 

 

 

 

 

 

 

출처: https://www.joongang.co.kr/article/25250308

 

 

 

HBM4의 개발 생산 협력으로는

 

 

NVIDIA, SK Hynix, TSMC가 주요 파트너로, 각자의 역할을 통해 HBM4의 생산을 지원하고 있습니다.

 

TSMC는 GPU와 로직 다이를 제조하고, SK Hynix는 HBM4를 로직 다이에 통합하여 생산합니다.

 

HBM4의 성능을 극대화하는 데 중요한 역할을 하고 있습니다.

 

최종 생각 💡

HBM4와 같은 메모리 기술은 단지 기술 애호가만을 위한 것이 아닌

 

우리가 일하고 놀고 세상과 상호 작용하는 방식의 미래를 형성하고 있어요.

 

 

엔비디아와 SK 하이닉스는 협력을 통해 더 빠르고 스마트하며 친환경적인 기술을 위한 길을 닦고 있습니다.

따라서 HBM4로 구동되는 장치의 출시를 기대하게 됩니다.

 

 

 

AI반도체의 발전이 우리에게 어떤 영향력을 가졌는지는

 

주식 투자 방면에서도 AI의 활용방법을 학습하는 방면에서도

 

빠른 트렌드 습득은 앞으로의 발전에 필수요소이니 같이 공부해서 적응해보자구요~

 

 

 

 

 

 

 

순식간에 한 해의 마지막 월이 되었습니다.

 

 

다이어리를 쓰는 사람에게는

 

다음 해의 새로운 다이어리를 구매하는 흥미로운 시기일 것이고

 

 

크리스마스를 즐기는 사람에게는 

 

어떤 연말을 보낼지 행복한 고민을 하게 되는 시기일 듯합니다.

 

 

그 어떤 고민이던 앞으로의 행복함을 생각하고 기대하게 되는 12월을 보내시길 바라겠습니다.