마벨, AI 메모리 확장 기술 강화…대규모 추론 시장 공략 나선다.
대본
- 지민마벨 테크놀로지가 인공지능 데이터센터의 메모리 부족 문제를 해결하기 위한 차세대 기술을 공개했어요.
- 상현데이터센터에서 메모리가 부족하면 인공지능 연산에 차질이 생길 수 있겠네요. 구체적으로 어떤 기술인가요?
- 지민컴퓨트 익스프레스 링크, 즉 CXL 3.2 규격을 지원하는 메모리 확장 컨트롤러인 스트럭테라 X 제품군을 발표했어요.
- 상현CXL은 프로세서와 메모리 사이에서 데이터를 효율적으로 주고받게 돕는 기술이라고 이해하면 될까요?
- 지민맞아요. 서버에 장착된 메모리만으로 부족할 때 추가 메모리를 연결해 자원을 유연하게 쓰도록 돕는 통로 같은 역할이에요.
- 상현이번 신제품은 기존보다 메모리 채널을 50% 늘려서 6개로 확대했다고 들었어요. 모델별로 지원 용량도 다른가요?
- 지민네, 3406 모델은 DDR4 메모리를 최대 9테라바이트까지, 3506 모델은 DDR5 메모리를 최대 6테라바이트까지 지원해요.
- 상현메모리 압축 기능도 들어갔는데, LZ4 압축 성능이 이전보다 5배나 향상되었다는 점이 눈에 띄네요.
- 지민실질적으로 활용 가능한 메모리 용량을 작업 환경에 따라 최대 2배에서 3배까지 늘릴 수 있다고 마벨은 설명했어요.
- 상현인공지능 추론 환경에서도 이점이 크겠어요. 답변을 생성할 때 필요한 키값 캐시 관리에도 도움이 될 것 같고요.
- 지민맞아요. 마벨은 동일한 문맥 길이 조건에서 첫 번째 토큰이 생성되기까지 걸리는 시간을 이전보다 최대 40에서 50% 줄일 수 있다고 밝혔어요.
- 상현다만 이 수치는 마벨이 제시한 성능 수치라 실제 환경에서의 별도 검증은 필요해 보여요.
- 지민그렇습니다. 이 기술은 클라우드 사업자와 대규모 데이터센터 운영업체를 대상으로 시장을 공략할 계획이에요.
- 상현일반인이 바로 쓸 수 있는 단계는 아니고, 고객사에 제공하는 초기 샘플은 2027년 1분기 출시를 목표로 하고 있네요.
- 지민맞아요. 2026년 10월에 열리는 오픈 컴퓨트 프로젝트 글로벌 서밋에서 제품이 소개될 예정이에요.
- 상현메모리 자원을 효율적으로 배분하면 데이터센터의 활용도를 높이고 추가 설비 투자 부담을 줄일 가능성이 있겠어요.
- 지민결국 고객사가 이 기술을 얼마나 빠르게 채택하고 실제 성능을 검증하느냐가 향후 성장의 관건이 될 것 같아요.
AI 진행자 상현·지민이 원문 기사를 바탕으로 나눈 대화입니다. 정확한 내용은 원문 기사를 확인하세요.