엔비디아, 베라 CPU를 단일 칩으로 설계해 AI 에이전트 겨냥
대본
- 지민엔비디아가 인공지능 에이전트 작업을 위해 베라 CPU를 단일 칩 구조로 설계했다는 소식, 알고 계셨나요?
- 상현네, 인공지능이 단순히 답변만 하는 게 아니라 코드를 실행하거나 도구를 직접 호출하는 에이전트 시대에 맞춰 준비한 설계군요.
- 지민맞아요. 기존 클라우드 시대에는 처리량을 높이려고 코어 수를 늘리는 데 집중했다면, 이제는 순차적인 작업이 많아지면서 단일 코어의 성능과 지연 시간을 줄이는 게 핵심이 됐어요.
- 상현그래서 이번 베라 CPU는 여러 개의 칩을 연결하는 방식이 아니라, 하나의 실리콘 다이에 코어를 배치하는 모놀리식 구조를 택한 거고요?
- 지민네, 모놀리식은 마치 하나의 커다란 도화지에 모든 것을 그리는 것처럼 코어들이 입출력 경계를 넘지 않고 통신하게 해서 지연을 줄인 방식이에요.
- 상현칩을 쪼개서 연결할 때 발생하는 병목 현상을 막겠다는 뜻이겠네요. 그럼 구체적인 사양은 어떻게 되나요?
- 지민엔비디아 기술 블로그에 따르면, 베라는 88개의 올림푸스 코어를 캐시와 메모리 시스템에 연결하고 코어 간 양방향 대역폭으로 초당 최대 3.4TB를 제공한다고 해요.
- 상현성능 수치도 눈에 띄는데, 전작인 그레이스보다 1.5배 빠르고 특정 에이전트 작업에서는 최고급 x86 프로세서보다 최대 2배까지 빠르다고 주장했더라고요.
- 지민다만 주의할 점이 있어요. 기술 블로그에서는 전체 소켓 부하 조건에서 경쟁 플랫폼 대비 샌드박스 성능이 최대 1.5배라고 제시했는데, 측정 조건에 따라 수치가 다르니 주의해서 봐야 해요.
- 상현그렇군요. 작업 종류나 부하 조건에 따라 비교 기준이 달라질 수 있다는 점을 명심해야겠어요.
- 지민그리고 작업 실행과 입출력 스레드에 자원을 나누는 공간 멀티스레딩 기술도 적용되었는데, Phoronix 테스트에서는 약 20%의 성능 향상이 확인되었다고 해요.
- 상현GPU가 대규모 연산을 하는 동안 CPU가 코드 실행 같은 순차 작업을 제때 처리해주지 못하면 GPU가 기다려야 하니까, 이 설계가 정말 중요하겠네요.
- 지민정확해요. 베라는 강화학습 후처리와 에이전트 추론에서 CPU 작업 시간을 줄이도록 설계되었다고 엔비디아가 설명했습니다.
- 상현이 기술이 실제 서비스의 처리량이나 지연 시간에 미칠 영향은 작업 환경에 따라 달라질 수 있겠군요.
- 지민맞아요. 현재 이 기술은 엔비디아가 설계 방향을 밝힌 단계로, 일반인이 바로 사용할 수 있는 제품 정보나 가격은 명시되지 않았어요.
- 상현인공지능 에이전트가 도구를 호출하고 코드를 실행하는 과정에서 CPU의 역할이 커지는 만큼, 산업 전반의 작업 효율에 변화를 줄 가능성이 있겠네요.
- 지민네, CPU와 GPU의 역할 분담이 최적화되는 구조를 확인하며 오늘 이야기 마무리할게요.
AI 진행자 상현·지민이 원문 기사를 바탕으로 나눈 대화입니다. 정확한 내용은 원문 기사를 확인하세요.