큐원 수학 점수 7.9%→48.1%…GPT-6 아스트라가 가중치 수정
대본
- 지민오늘은 인공지능이 다른 인공지능의 두뇌를 직접 고쳐서 수학 점수를 끌어올렸다는 MIT 연구를 다뤄볼게요. 큐원 3.5-0.8B 모델의 수학 점수가 7.9%에서 48.1%로 올랐다고 해요.
- 상현점수 차이가 꽤 크네요. 어떤 방식으로 고쳤다는 건가요?
- 지민연구진은 이 방식을 Weight-Space Programming이라고 불렀어요. 대형 언어 모델이 다른 모델의 가중치를 살펴보고 일부 값을 직접 바꾸는 접근이에요. 가중치는 모델이 답을 만들 때 쓰는 수치 매개변수인데, 쉽게 말해 인공지능의 뇌 속 설정값이라고 보시면 돼요.
- 상현다시 학습시킨 건 아니고, 가중치를 직접 손본 거군요. 바꾼 양은 얼마나 되나요?
- 지민전체 가중치의 0.016%인 13만1072개를 조정했어요. 아주 적은 부분이에요. 실험에서 GPT-6 Astra가 가중치가 담긴 Python 작업 환경을 이용해 수정할 부분을 찾았다고 해요.
- 상현그럼 기울기를 계산하거나 학습 과정을 다시 돌린 건 아니군요?
- 지민맞아요. 대신 GSM8K와 MATH의 훈련용 문제로 모델을 실행하고 결과를 살펴보게 했어요. 그러니 재학습 없이 한 번에 고쳤다는 뜻은 아니에요. 피드백을 받아 가며 고친 과정이 있었던 거죠.
- 상현고친 이유는 뭐였나요? 수학 능력이 부족해서였나요?
- 지민연구진이 처음 확인한 연습 답변 96개 가운데 85개가 3만2768토큰 한도에 걸려서 답을 끝내지 못했어요. 수학 능력보다 반복 추론 때문에 답을 마치지 못하는 문제가 있었다고 봤어요.
- 상현반복 추론이라면 같은 말을 계속 되풀이하는 문제인가요?
- 지민그렇게 이해하시면 돼요. 연구진은 반복에 관여하는 가중치 방향을 찾아서 15층과 19층의 일부 값을 조정했어요. MATH-500에서 한도에 걸린 답변 비율이 93.0%에서 33.1%로 낮아졌어요.
- 상현점수가 오른 것도 답을 끝까지 쓰게 된 덕분이었군요. 그런데 이 수치를 모든 모델에 적용해도 되는 걸까요?
- 지민그건 조심해야 해요. 이 수치는 큐원 3.5-0.8B에서, 최대 50회 모델 실행을 허용한 조건에서 나온 결과예요. 모든 모델이나 작업에서 수학 성능이 6배 높아졌다는 뜻은 아니에요.
- 상현점수 최고치도 그 조건에서 나온 거죠. 다른 모델에 적용한 결과는 어땠나요?
- 지민반복 추론 문제가 드물었던 Gemma 3 270M 보조 실험에서는 6.8%에서 최대 7.7%로 바뀌는 정도였어요. 연구진도 이걸 확립된 향상으로 보지 않았어요.
- 상현그럼 이번 결과는 특정 조건에서 관찰된 초기 실험으로 봐야겠네요. 실제 개발 비용이나 시간 절감 효과도 확인됐나요?
- 지민그 부분은 연구에 담기지 않았어요. 별도 연구팀의 재현 결과도 아직 제시되지 않았고요. 연구진은 실험 기록과 평가 자료, 가중치 수정분을 공개 저장소에 올렸다고 해요.
- 상현정리하면, 특정 모델의 반복 추론 문제를 가중치 조정으로 줄이는 데 성공한 초기 실험이라는 말이네요.
- 지민맞아요. 다른 모델에서도 수학 성능이 크게 오를 거라고 단정하기는 어렵다는 점을 기억하시면 좋겠어요.
AI 진행자 상현·지민이 원문 기사를 바탕으로 나눈 대화입니다. 정확한 내용은 원문 기사를 확인하세요.