삼성전자, JEDEC서 "AI 메모리 표준화 한계" 토로
대본
- 지민삼성전자가 최근 국제반도체표준협의회 포럼에서 인공지능 메모리 표준화에 한계가 있다고 언급했다는데, 어떤 내용인가요?
- 상현맞춤형 설계가 점점 복잡해지면서 메모리 업체가 제품을 관리하기가 매우 어려워졌다는 뜻이에요.
- 지민표준이라는 게 원래 서로 다른 제품이 공통 규격에 맞춰 작동하게 만드는 기준이잖아요.
- 상현그렇죠, 기존 디램은 이 기준에 따라 만들어졌지만, 이제는 디램 안에 연산 기능까지 들어가면서 상황이 달라졌어요.
- 지민연산 기능이 들어간 대표적인 예로 LPDDR-PIM이 언급되었는데, 이건 어떤 구조인가요?
- 상현저전력 디램 내부에 연산 기능을 탑재한 형태인데, 황가람 박사는 연내에 LPDDR6-PIM 표준이 정립되기를 기대한다고 밝혔어요.
- 지민삼성전자가 제시한 zHBM이라는 구조는 표준화가 더 어렵다고 들었어요.
- 상현zHBM은 기존처럼 연산 프로세서와 메모리를 나란히 두는 게 아니라, 둘을 직접 연결하는 3차원 적층 구조를 써요.
- 지민3차원 적층이라고 하면 층층이 쌓아 올린다는 의미인가요?
- 상현네, 디램 코어 안에 실리콘관통전극을 분산 배치해서 데이터 이동 거리를 줄이는 방식인데, 프로세서와 직접 붙다 보니 전반에 맞춤형 설계가 들어가요.
- 지민그래서 모든 기능을 완전히 표준화하기는 어렵다는 이야기가 나오는 거군요.
- 상현맞아요, 다만 협의회 회원사들이 협력해서 공통 기준을 마련하기를 바란다는 입장이에요.
- 지민한편 삼성전자가 LPDDR5X-PIM의 개발 성과도 공개했는데, 성능 수치가 꽤 구체적이더라고요.
- 상현네, 이 제품의 메모리 대역폭은 기존 LPDDR5X보다 8배 높고, 인공지능 추론 속도는 초당 102토큰을 기록했어요.
- 지민여기서 토큰은 인공지능이 읽는 글자 조각을 말하는 거죠?
- 상현맞아요, 기존 대비 약 3.8배 빠른 속도인데, 소비 전력은 11.5와트로 기존보다 약 36% 높게 나타났어요.
- 지민그래도 전력당 추론 성능은 기존보다 2.8배 향상되었다는 점이 눈에 띄네요.
- 상현맞습니다, 맞춤형 메모리 기술이 발전함에 따라 산업 전반의 설계 방식이 변화할 가능성이 있어요.
AI 진행자 상현·지민이 원문 기사를 바탕으로 나눈 대화입니다. 정확한 내용은 원문 기사를 확인하세요.