LGU+, 모델·칩 최적화로 AX 승부수…“최대 90% 토큰 절감”
대본
- 지민LG유플러스가 인공지능 에이전트 성능은 높이면서도 토큰 사용 비용을 최대 90%까지 낮추는 기술로 기업용 AX 시장에 뛰어든다고 해서 오늘 이 쟁점을 짚어 보려고 해요.
- 상현토큰이라는 단어가 조금 낯설게 들리는데, 기사에서는 어떤 단위라고 설명하나요?
- 지민토큰은 인공지능이 질문을 읽고 답변을 만들 때 처리하는 데이터의 기본 단위이면서, 이용료를 매기는 기준이라고 해요. 쉽게 말해 인공지능이 일하는 만큼 계산되는 사용량 단위라고 보시면 돼요.
- 상현그렇다면 토큰 단가만 내리면 비용이 줄어드는 것 아닌가요?
- 지민기사에서 LG유플러스가 강조하는 부분이 바로 그 지점이에요. 토큰당 단가를 내리는 경쟁을 넘어서, 고객이 인공지능으로 업무 하나를 끝내는 데 드는 총비용을 줄이는 데 집중했다고 해요.
- 상현그걸 어떤 방식으로 실현한다는 건가요?
- 지민이용 패턴에 따라 적합한 인공지능 모델을 골라 배분하는 모델 라우팅 기술이 핵심이에요. 고성능 인공지능이 필요한 작업과 가벼운 작업을 나눠 처리해서 불필요한 비용을 줄인다는 거죠.
- 상현내부 테스트 결과는 구체적으로 어땠다고 하나요?
- 지민일반적인 질문 처리 비용은 25% 이상, 코딩 에이전트 비용은 30% 이상 절감하는 효과를 확인했다고 밝혔어요. 다만 이것은 회사 내부 테스트 결과라는 점은 함께 봐야 해요.
- 상현인공지능 통화 서비스 익시오 사례도 나온다고 들었는데, 어떤 식으로 적용됐나요?
- 지민익시오는 자체 인공지능 모델과 LG 인공지능연구원의 엑사원, 구글 제미나이를 상황에 맞게 조합해서 서비스 품질은 높이고 비용은 낮췄다고 해요. 여러 모델을 상황별로 섞어 쓰는 방식이라고 이해하시면 될 것 같아요.
- 상현반도체 쪽 이야기도 있었죠? 특정 칩에 의존하지 않는다는 말이 무슨 뜻인가요?
- 지민엔비디아와 AMD의 GPU, 퓨리오사인공지능의 NPU를 적합한 연산에 나눠 투입하는 방식이에요. 그래픽처리장치나 신경망처리장치를 일을 나눠 맡기는 팀 운영에 비유하면 이해가 쉬울 거예요.
- 상현앞으로 사업 계획은 어떻게 되나요?
- 지민내년부터 기업 고객의 인공지능 운영 비용을 줄여주는 사업을 적극 추진한다고 해요. 카카오와 협력 중인 모두의 인공지능 서비스를 상용화하는 것이 핵심이고요.
- 상현이 기술이 실제로 기업 시장에서 통할지는 어떻게 봐야 할까요?
- 지민기사에서는 인공지능 에이전트가 늘어날수록 모델 단가가 낮아도 반복 검색과 분석이 쌓이면 전체 비용이 커진다는 점을 짚고 있어요. 그래서 운영 최적화 기술이 핵심 경쟁력이 될 수 있다는 주장이에요.
- 상현결국 이번 발표의 핵심은 무엇이라고 정리할 수 있을까요?
- 지민LG유플러스는 단가 인하보다 업무 한 건을 완결하는 총비용을 줄이는 쪽으로 AX 시장을 공략하겠다는 것이고, 그 근거로 내부 실증 결과를 제시했다는 점이에요. 다만 실제 고객 시장에서 얼마나 효과가 재현될지는 지켜봐야 할 부분이에요.
AI 진행자 상현·지민이 원문 기사를 바탕으로 나눈 대화입니다. 정확한 내용은 원문 기사를 확인하세요.