[통신리뷰] LG유플러스 AI 토큰 최적화 기술, 세계 최고 권위 AI 학회서 인정 받았다(10월4주차)
대본
- 지민LG유플러스가 인공지능 토큰 최적화 기술로 세계 3대 인공지능 학회인 뉴립스에서 연구 성과를 인정받았다는 소식이에요. 기술 얘기가 많은데, 이번 기사는 무엇이 달라졌는지부터 짚어보면 좋겠어요.
- 상현그럼 이전에는 어떤 방식이었고, 이번에 뭐가 바뀌었다는 건가요?
- 지민기사에서는 인공지능 서비스 경쟁이 모델 성능을 넘어서 토큰을 얼마나 빠르고 효율적으로 처리하느냐로 옮겨 가고 있다고 설명해요. 토큰은 인공지능이 질문을 이해하고 답을 만들 때 쓰는 데이터 단위예요. 그러니까 인공지능을 쓰는 기기나 서버에서 처리를 줄이면 응답이 빨라지고 전력과 자원도 덜 쓰게 된다는 거죠.
- 상현토큰은 인공지능이 읽는 글자 조각 정도로 이해하면 되겠네요. 그럼 LG유플러스는 이걸 스마트폰에 어떻게 적용했나요?
- 지민통화 서비스에 쓸 소형언어모델을 만들고, 모델을 가볍게 줄이고 추론 속도를 높이는 기술을 붙였어요. 기사에 따르면 최신 클라우드 인공지능 수준의 성능을 유지하면서 기존 방식보다 처리 속도를 약 4.5배 높이고 배터리 소모는 약 77% 줄였다고 해요.
- 상현성능은 그대로 두고 속도와 배터리만 좋아졌다는 말이군요. 수치가 꽤 큰데, 비교 기준은 기사에 나와 있나요?
- 지민기존 방식과 비교한 수치라고만 나와 있어요. 어떤 기기와 어떤 조건에서 측정했는지는 본문에서 자세히 확인하기 어려워요. 그래서 수치를 그대로 받아들이기보다는 연구 환경에서 검증된 결과로 보는 게 맞아요.
- 상현개인정보 측면도 있다고 들었어요. 데이터를 밖으로 보내지 않는다는 건가요?
- 지민맞아요. 개인 데이터를 외부 서버로 보내지 않고 스마트폰 안에서 인공지능을 추가로 학습시키는 기술도 연구했다고 해요. 실제 스마트폰 환경에서 확인한 결과, 서버에서 학습한 것과 비슷한 정확도를 보였다고 기사에 나와요.
- 상현지금 당장 일반 고객이 쓸 수 있는 서비스인가요, 아니면 연구 단계인가요?
- 지민기사 기준으로는 연구 성과를 인정받은 단계예요. LG유플러스는 이 기술을 자사 인공지능 서비스에 활용하는 방안을 검토하고 있고, 앞으로 서버 GPU 환경으로도 확대할 계획이라고 밝혔어요. 구체적인 출시 일정이나 이용 방법은 본문에 없어요.
- 상현그럼 이번 뉴립스 채택의 의미는 뭐라고 볼 수 있을까요?
- 지민LG유플러스 이상엽 CTO는 제한된 환경에서도 인공지능을 빠르고 효율적으로 실행하고 학습하기 위한 연구가 인정받은 것이라고 말했어요. 학회에서 논문이 채택됐다는 건, 이 기술 방향이 학계에서도 의미 있게 평가받았다는 뜻으로 읽을 수 있어요.
- 상현정리하자면, 스마트폰에서도 인공지능을 빠르고 가볍게 돌리는 방향의 연구가 학회에서 인정받았고, 실제 서비스 적용은 앞으로 검토하는 단계라는 거네요.
- 지민맞아요. 속도와 배터리, 개인정보 보호라는 세 가지 목표를 함께 잡은 점이 이번 연구의 핵심이에요. 다만 본문에 나온 수치와 계획을 기준으로 보고, 실제 적용 결과는 이후 발표를 기다려 보면 좋겠어요.
AI 진행자 상현·지민이 원문 기사를 바탕으로 나눈 대화입니다. 정확한 내용은 원문 기사를 확인하세요.