['AI의 진화' 축복인가 재앙인가?] ③ 군사작전 AI정보는 믿을 수 있나?
대본
- 상현군사 작전에서 인공지능이 내린 판단을 우리가 어디까지 믿을 수 있을까요?
- 지민최근 인공지능이 분석한 정보 때문에 민간인이 희생되거나 군사적 충돌 위기가 생기는 사례가 보고되면서 신뢰성 문제가 커지고 있어요.
- 상현구체적으로 어떤 사건이 있었는지 설명해 주시겠어요?
- 지민지난 2월 이란의 한 초등학교에서 최소 123명의 어린이가 사망하는 오폭 참사가 있었는데, 여기에 미국의 '메이븐 스마트 시스템'이라는 소프트웨어가 개입했어요.
- 상현메이븐은 150개 이상의 군사 데이터를 기반으로 표적을 설정하고 지휘를 지원하는 프로그램이라고 들었어요.
- 지민맞아요, 이 시스템은 과거에는 수 시간에 걸쳐 이루어지던 공격 목표 설정을 단 몇 분 만에 결정할 정도로 속도가 빨라요.
- 상현하지만 그 속도 때문에 오히려 잘못된 정보를 걸러내지 못하고 초등학교를 공격 대상으로 삼은 거군요.
- 지민네, 사전에 위성사진 등으로 확인할 수 있었음에도 알고리즘에 따라 신속하게 폭격이 진행된 거죠.
- 상현인공지능이 정보를 잘못 읽어서 작전이 중단될 뻔한 사례도 있었다면서요?
- 지민올해 초 미군은 중국 선박이 핵 관련 구성 요소를 수송한다는 보고서를 받았는데, 알고 보니 챗봇이 화물을 잘못 식별한 것이었어요.
- 상현만약 그대로 작전을 수행했다면 미·중 간의 무력 충돌로 이어질 수도 있었던 위험한 상황이었네요.
- 지민그래서 전문가들은 인공지능이 법적, 규제적 표준 안에서 작동하도록 책임성을 확보하는 '인공지능 컴플라이언스'가 필요하다고 강조해요.
- 상현컴플라이언스는 쉽게 말해 인공지능이 정해진 규칙과 법을 잘 지키는지 확인하고 감독하는 운영 체계라고 이해하면 될까요?
- 지민정확해요, 인공지능이 설계부터 배포까지 제대로 테스트되었는지 입증하는 과정이죠.
- 상현현재 미국과 중국은 기술 패권을 위해 인공지능 군사 적용을 강화하고 있는데, 이 과정에서 안전성 확보가 관건이겠어요.
- 지민맞아요, 기술 발전 속도를 조절하더라도 철저한 검증과 감독 플랫폼을 먼저 구축해야 한다는 목소리가 나오고 있어요.
- 상현인공지능의 판단이 실제 전장에서 오판으로 이어질 경우 그 대가가 매우 참혹할 수 있다는 점을 명심해야겠네요.
AI 진행자 상현·지민이 원문 기사를 바탕으로 나눈 대화입니다. 정확한 내용은 원문 기사를 확인하세요.