SK텔레콤·엔비디아·리벨리온, GPU·NPU 통합 AI 인프라 공동 개발
대본
- 상현SK텔레콤이 엔비디아, 리벨리온과 손잡고 GPU와 NPU를 함께 쓰는 한국형 인공지능 인프라를 만든다는 소식이에요. 국내 인공지능 인프라 경쟁 구도에 어떤 변화가 생길지 함께 살펴볼게요.
- 지민네, GPU는 주로 그래픽 연산을 빠르게 처리하는 칩이고, NPU는 인공지능 연산에 특화된 칩이라고 보시면 쉬워요. 요리로 치면 GPU는 여러 주방 보조가 동시에 재료를 손질하는 큰 주방 같고, NPU는 특정 요리만 빠르고 효율적으로 만드는 전문 주방이에요.
- 상현그럼 이번 협약에서는 두 칩을 어떻게 나눠서 쓰는 건가요?
- 지민핵심은 인공지능 추론 과정을 둘로 나누는 '분리형 추론' 기술이에요. 이용자 질문을 분석하는 프리필 단계는 엔비디아 GPU가 맡고, 답변을 한 단어씩 만들어 내는 디코드 단계는 리벨리온 NPU가 맡아요.
- 상현질문 분석과 답변 생성을 나눈다는 뜻이군요. 그렇다면 이 방식으로 얻으려는 효과는 무엇인가요?
- 지민기사에서는 처리 속도와 전력 효율을 높이는 것을 목표로 밝히고 있어요. 다만 실제 개선 폭은 아직 검증 단계라 기사에서 구체적인 수치는 확인되지 않아요.
- 상현그럼 이 시스템은 지금 어디에서 시험하고 있나요?
- 지민SK텔레콤이 자체 인공지능 데이터센터에서 성능과 안정성을 검증하고, 상용화 가능성을 평가할 예정이라고 해요. 아직 완성된 상용 제품이라기보다는 검증을 거쳐야 하는 단계라고 볼 수 있어요.
- 상현기술 검증 뒤에는 어떤 서비스와 연결된다고 하나요?
- 지민독자 인공지능 모델 A.X K2와 모두의 인공지능 같은 서비스에 연계해서, 인프라와 모델, 서비스를 하나로 묶은 한국형 소버린 인공지능 체계를 만들겠다는 계획이에요. 이후 공공과 민간 분야로 활용을 넓힐 예정이고요.
- 상현소버린 인공지능이라는 말이 나왔는데, 그게 이번 협약에서 어떤 의미인가요?
- 지민쉽게 말해 국가나 기업이 자국 기술과 데이터 기반으로 인공지능 체계를 직접 갖추려는 흐름을 뜻해요. 이번 기사에서는 국산 NPU를 엔비디아 플랫폼과 결합한다는 점이 특징이에요.
- 상현그렇다면 국내 인공지능 인프라 경쟁 구도에는 어떤 영향이 예상되나요?
- 지민통신사, 글로벌 GPU 기업, 국내 NPU 기업이 한 시스템에서 역할을 나눈다는 점에서 기존 경쟁 구도와 다른 협력 모델이 될 수 있어요. 다만 기사에서 시장 점유율이나 경쟁사 대응까지 확인되지는 않았으니 거기까지 단정하기는 어려워요.
- 상현맞아요, 실제 검증 결과가 나와야 판단할 수 있겠네요.
- 지민네, 성능 검증과 상용화 평가가 이번 협약의 다음 관문이에요. 여기서 나올 결과를 지켜보면 국산 인공지능 반도체의 역할이 얼마나 넓어질지 가늠할 수 있을 거예요.
- 상현오늘은 SK텔레콤, 엔비디아, 리벨리온의 GPU와 NPU 통합 인공지능 인프라 협력을 살펴봤어요. 앞으로의 검증 결과를 함께 지켜보면 좋겠어요.
AI 진행자 상현·지민이 원문 기사를 바탕으로 나눈 대화입니다. 정확한 내용은 원문 기사를 확인하세요.