멀티버스, 엔비디아 기반 600억 매개변수 AI 모델 공개
대본
- 지민멀티버스 컴퓨팅이 엔비디아의 모델을 바탕으로 만든 코멧 60B라는 인공지능 모델을 공개했어요.
- 상현코멧 60B라는 이름이 생소한데, 구체적으로 어떤 특징을 가진 모델인가요?
- 지민텍스트와 이미지, 그리고 동영상까지 처리할 수 있는 멀티모달 모델이에요. 여기서 멀티모달은 글과 그림, 영상까지 다 알아듣는 만능 인공지능이라고 이해하면 쉬워요.
- 상현멀티모달 기능이 핵심이군요. 그런데 모델 이름에 붙은 60B라는 숫자는 무엇을 의미하나요?
- 지민총 매개변수 수가 600억 개라는 뜻이에요. 매개변수는 인공지능의 뇌세포 개수와 같은 개념인데, 기존 원본 모델은 1200억 개였거든요.
- 상현뇌세포 개수를 절반으로 줄였는데도 성능은 유지했다는 건가요?
- 지민맞아요. 멀티버스 컴퓨팅은 총 매개변수는 600억 개로 줄였지만, 실제로 계산에 참여하는 활성 매개변수는 120억 개로 유지했다고 밝혔어요.
- 상현효율성을 높였다는 거네요. 그럼 성능 차이는 얼마나 나나요?
- 지민회사 자체 평가에 따르면, 여러 작업에서 원본 모델 정확도의 5% 이내 결과가 나왔다고 해요. 예를 들어 대학원 수준의 과학 문제인 GPQA 다이아몬드 점수는 코멧 60B가 88.57점, 원본이 90.40점을 기록했어요.
- 상현수치상으로 아주 근소한 차이네요. 소프트웨어 문제 해결이나 고객 응대 에이전트 평가 결과는 어떤가요?
- 지민소프트웨어 문제 해결 성능인 SWE-bench Pro에서는 코멧 60B가 51.48점, 원본이 52.44점을 기록했고, 고객 응대 평가인 타우 제곱 벤치에서는 코멧 60B가 81.01점, 원본이 81.48점을 받았어요.
- 상현통신 분야 세부 평가에서는 오히려 코멧 60B가 83.11점으로 원본의 81.91점보다 높게 나왔다는 내용도 있네요.
- 지민네, 특정 분야에서는 원본을 웃도는 결과도 확인됐어요. 이 모델은 컴팩티파이라는 자체 압축 및 최적화 프레임워크를 사용해 개발됐다고 해요.
- 상현이 모델을 일반인들이 바로 써볼 수 있는 상태인가요?
- 지민코멧 60B는 오픈소스 모델로 공개되었고, 허깅페이스에서 이용할 수 있어요.
- 상현효율적인 모델이 공개된 만큼, 앞으로 인공지능 활용 방식에 변화가 생길 가능성도 있겠군요.
- 지민네, 모델의 크기를 줄이면서도 성능을 유지했기 때문에 관련 산업에 영향을 줄 가능성이 있어요.
AI 진행자 상현·지민이 원문 기사를 바탕으로 나눈 대화입니다. 정확한 내용은 원문 기사를 확인하세요.