SK하이닉스 안현 사장 "HBM 넘어 3D D램·HBF로… AI 메모리 계층 최적화"
대본
- 지민기존에는 고대역폭메모리인 고대역폭메모리가 중심이었다면, 이제는 3D D램과 HBF 같은 새로운 메모리 계층을 더해 전체적인 구조를 최적화하겠다는 전략이 나왔어요.
- 상현단순히 메모리 성능을 높이는 것을 넘어, 인공지능 인프라의 에너지 효율까지 고려한 로드맵이군요.
- 지민맞아요. 안현 SK하이닉스 사장은 인공지능 추론 수요가 늘면서 메모리 사이의 데이터 이동이 잦아지고, 이로 인해 성능이 떨어지거나 전력이 많이 소모되는 병목 현상이 나타나고 있다고 진단했어요.
- 상현데이터가 이동하는 통로가 막히는 현상을 메모리 월이라고 부르는 건가요?
- 지민네, 구조적인 장벽을 의미해요. 이를 해결하기 위해 메모리 계층 사이에 중간 역할을 할 신규 반도체를 배치한다는 계획이에요.
- 상현구체적으로 어떤 기술들이 준비되고 있는지 궁금해요.
- 지민먼저 3D Stacked DRAM이 있어요. 이건 로직 반도체 위에 D램을 수직으로 쌓는 방식인데, 연산기와 메모리 사이의 물리적 거리를 좁혀서 지연 시간을 줄이는 기술이에요.
- 상현마치 물건을 꺼내기 위해 멀리 걸어가는 대신, 바로 옆에 선반을 높게 쌓아 올리는 것과 비슷하겠네요.
- 지민적절한 비유예요. 그리고 고대역폭메모리와 일반 D램 사이를 메워줄 HBF라는 차세대 메모리도 제시됐어요.
- 상현HBF는 기존 고대역폭메모리와 비교했을 때 어떤 특징을 가지고 있나요?
- 지민HBF는 고대역폭메모리보다 대역폭은 절반 수준이지만, 용량은 약 10배를 구현하는 것을 목표로 하고 있어요.
- 상현용량이 훨씬 크다면 인공지능이 읽기 작업을 할 때 더 유리하겠어요.
- 지민맞아요. 읽기 비중이 높은 인공지능 추론 특성을 활용해 D램이나 SSD로 가는 횟수를 줄여서 효율을 높이려는 거죠. 이 기술들은 현재 개발 단계에 있어 일반인이 바로 사용할 수는 없어요.
- 상현고대역폭메모리 부문에서도 고객 맞춤형인 커스텀 고대역폭메모리를 통해 아키텍처를 최적화한다고 들었어요.
- 지민네, 베이스 다이에 컨트롤러와 고객의 로직을 직접 통합하는 방식이에요. 이 기술들이 안착하면 인공지능 인프라 전반의 에너지 효율이 높아질 가능성이 있어요.
- 상현결국 메모리 계층을 촘촘하게 만들어 인공지능 연산의 흐름을 원활하게 하겠다는 것이 핵심이군요.
AI 진행자 상현·지민이 원문 기사를 바탕으로 나눈 대화입니다. 정확한 내용은 원문 기사를 확인하세요.