하드웨어 한계 직면한 AI 데이터센터… 소프트웨어 제어로 돌파구 연다
대본
- 상현그동안 인공지능 데이터센터는 전력 소모를 줄이기 위해 주로 하드웨어를 교체하는 방식에 집중해 왔어요. 하지만 이제는 소프트웨어와 알고리즘을 최적화해서 에너지를 아끼는 방향으로 눈을 돌리고 있습니다.
- 지민하드웨어만으로는 한계가 왔다는 뜻인가요? 국제에너지기구의 분석을 보면 2030년 세계 인공지능 데이터센터 전력 사용량이 945테라와트시까지 늘어날 수 있다고 하더라고요.
- 상현맞아요. 그 수치는 일본 전체의 연간 전력 사용량과 맞먹는 수준이라 물리적인 확장 자체가 어려워질 수 있다는 전망이 나오고 있어요.
- 지민데이터센터 전력 사용 효율을 뜻하는 PUE 수치도 6년 연속 개선되지 않았다고 들었는데, 그래서 소프트웨어가 대안으로 떠오르는 거군요.
- 상현그렇죠. 재원 정 연구원의 설명에 따르면 하드웨어보다 소프트웨어나 알고리즘 층을 바꾸는 것이 상대적으로 쉽고 효율 개선 효과도 누적된다고 해요.
- 지민구체적으로 어떤 방식이 있는지 궁금해요. 알리바바의 사례를 보면 에프피에이트라는 저정밀 형식을 사용해서 에너지를 기존 방식보다 3분의 1 수준으로 줄였다고 하던데요.
- 상현여기서 에프피에이트는 데이터를 처리할 때 정밀도를 조절하는 방식인데, 쉽게 말해 복잡한 계산을 조금 더 단순화해서 에너지를 아끼는 기술이라고 이해하면 돼요.
- 지민엔비디아의 블랙웰도 전력 프로필 기능을 통해 에너지를 최대 15% 아끼고 처리량을 높이는 성과를 냈다고 하니 소프트웨어의 힘이 대단하네요.
- 상현게다가 페르세우스 학습 최적화기는 학습 에너지를 최대 30%까지 절감하기도 했어요. 클라우드 인스턴스를 최적화하거나 소형 모델에 단순 업무를 맡기는 전략도 활용되고 있고요.
- 지민그런데 소피 홀 연구원은 전력 소비 총량 자체보다 전력망 신호에 맞춰 가동 시점과 지역을 유연하게 조절하는 통제력이 더 중요하다고 강조하더라고요.
- 상현맞아요. 다만 국가별 데이터 주권 규제나 대용량 데이터를 옮길 때 발생하는 물리적 제약은 현장에서 해결해야 할 숙제로 남아 있습니다.
- 지민효율이 좋아지면 오히려 전체 연산량이 폭증해서 전력 소비가 더 늘어날 수도 있다는 제번스 역설도 경계해야 할 부분인 것 같아요.
- 상현결국 소비되는 매 와트의 가치를 극대화하는 소프트웨어 중심의 통제 전략이 데이터센터 운영의 핵심이 될 가능성이 높습니다.
- 지민이번 기술들은 현재 연구 단계이거나 기업들이 실제 사례로 입증하고 있는 단계라 일반인이 바로 체험하기는 어렵겠네요.
- 상현네, 하드웨어의 한계를 소프트웨어로 돌파하려는 이 흐름이 데이터센터 산업의 구조를 어떻게 바꿀지 지켜봐야겠습니다.
- 지민전력 효율화 경쟁이 변압기나 송배전 설비 같은 전력기기 수요를 자극하는 양면성도 가지고 있다는 점을 기억해야겠어요.
- 상현맞습니다. 오늘 준비한 내용은 여기까지예요.
AI 진행자 상현·지민이 원문 기사를 바탕으로 나눈 대화입니다. 정확한 내용은 원문 기사를 확인하세요.