AI 18개월 내 인간 추월? 힌턴, 크리스티아노 전망 전해
대본
- 상현인공지능이 18개월 안에 인간 지능을 넘어설 수 있다는 전망이 EU 정상회의에서 나왔다고 해요. 오늘은 이 전망이 어디에서 나온 건지, 그리고 어떤 우려가 함께 제기됐는지 짚어보려고 합니다.
- 지민먼저 짚을 점이 있어요. 이 18개월이라는 시한은 제프리 힌턴이 직접 내놓은 예측이 아니라, 인공지능 안전 연구자 폴 크리스티아노의 평가를 힌턴이 전한 거예요.
- 상현그럼 힌턴은 자기 생각을 말한 게 아니라 남의 전망을 소개한 거군요. 힌턴 본인은 기존에 어떤 시기를 말해 왔나요?
- 지민힌턴은 인공지능이 우리보다 똑똑해질 것이고, 10년 안에 일어날 수도 있다고 말해 왔어요. 이번에 18개월 전망을 들었을 때 그게 자신에게도 두렵다고 밝혔다고 해요.
- 상현10년에서 18개월로 시한이 크게 줄어든 셈이네요. 크리스티아노는 어떤 자리에서 이런 경고를 했나요?
- 지민11월 9일부터 11일까지 캐나다 토론토에서 열린 힌턴 강연에서 발표하면서, 향후 3년 안에 인공지능이 장악할 가능성을 경고했어요. 18개월과 3년이 같은 맥락인지까지는 기사에서 따로 정리돼 있지 않아요.
- 상현그렇다면 힌턴이 걱정하는 위험은 성능이 인간을 앞서는 문제에만 있는 건가요?
- 지민아니요. 인간이 시스템을 실질적으로 통제하지 못하는 폭주 인공지능과, 주권을 잃을 가능성도 위험으로 꼽아 왔어요. 파국적인 결과가 일어날 확률은 10에서 20퍼센트로 본다고 해요.
- 상현10에서 20퍼센트라는 확률과 18개월이라는 시한은 서로 다른 얘기군요. 그건 꼭 구분해야 할 것 같아요.
- 지민맞아요. 18개월은 시기에 관한 전망이고, 10에서 20퍼센트는 파국적 결과의 가능성에 관한 평가라서 따로 봐야 해요.
- 상현힌턴이 인공지능이 인간을 제거하려 한다는 주장도 했다고 하던데, 이건 인공지능이 지금 그런 의도를 가졌다는 뜻인가요?
- 지민기사에서는 그렇게 해석하지 않아요. 인공지능이 목표를 추구하는 과정에서 자기보존이나 인간 제거를 하위 목표로 삼을 수 있다는 우려이고, 목표 수행 중 인간의 의도와 다른 결과가 나올 수 있다는 뜻으로 설명돼요.
- 상현그럼 이런 위험을 누가 감시해야 하는지도 중요하겠네요. 기업 스스로 검증하는 방식이 괜찮은 건가요?
- 지민그 부분에 대해 공개서한이 나왔어요. 서명자들은 기업의 통제를 받는 평가단으로는 첨단 인공지능 모델의 위험을 객관적으로 검증하기 어렵다며, 독립 평가단에 실질적인 접근권과 편집권을 줘야 한다고 주장했어요.
- 상현이번 정상회의에서는 인공지능이 어떤 식으로 논의됐나요?
- 지민EU 정상회의에서 인공지능을 별도 의제로 다룬 첫 사례로 소개됐어요. 혁신과 안전의 균형을 추구하는 EU 인공지능법도 논의에 포함됐고, 코스타 유럽이사회 의장과 폰데어라이엔 집행위원장은 더 강한 거버넌스가 필요하다는 점을 인정했어요.
- 상현유럽이 국제 기준을 만드는 데 기여할 수 있다는 방안도 나왔다고 하네요. 정리하면, 18개월이라는 시한은 크리스티아노의 전망이고, 힌턴은 그 전망에 두려움을 표하며 위험을 알리고 있다는 거죠.
- 지민그렇습니다. 다만 확정된 사실이 아니라 전문가들의 경고와 평가라는 점을 기억하면 좋겠어요.
- 상현오늘은 여기까지 정리하겠습니다. 전망과 확정된 사실을 구분해서 들어 주시면 좋겠어요.
AI 진행자 상현·지민이 원문 기사를 바탕으로 나눈 대화입니다. 정확한 내용은 원문 기사를 확인하세요.