차팅·판독·수술 어시스트…AI는 절대 실패하지 않습니다?[AI 시대, 한국 사회를 다시 설계하자]
대본
- 지민의료 현장에 인공지능이 들어온 지 꽤 됐는데, 이번 기사에서는 차팅, 판독, 수술 보조까지 한꺼번에 다뤄요.
- 상현맞아요. 특히 기사 제목에 있는 "인공지능은 절대 실패하지 않습니다?"라는 물음표가 눈에 띄어요. 그 질문이 이번 이야기의 핵심인가요?
- 지민네, 기사는 인공지능이 실패하지 않는다는 믿음 자체를 위험하다고 짚어요. 영상 판독 인공지능이 잘못된 결과를 내면 책임이 누구에게 있는지가 쟁점이라는 거죠.
- 상현의사가 인공지능 추천을 믿고 판단했는데 결과가 틀렸다면, 의사 책임인지 개발사 책임인지 헷갈릴 수밖에 없겠네요.
- 지민기사도 바로 그 지점을 물어요. 의사, 개발사, 병원 경영진, 규제 당국 가운데 어디까지 책임을 물어야 하는지요. 불량 주사기라면 설계나 생산 공정을 조사해 원인을 찾을 수 있지만, 인공지능은 그런 방식의 원인 분석이 어렵거나 불가능할 때가 있다고 해요.
- 상현그러면 원인을 밝히기 어려운 기술을 두고 어떤 기준을 세워야 하는 거예요?
- 지민기사에 따르면 세계보건기구가 2021년에 보건분야 인공지능 윤리 지침을 내놨어요. 인간이 의료 결정에 대한 통제권을 유지해야 하고, 피해를 본 사람이 이의를 제기할 수 있는 구제 절차가 있어야 한다는 내용이에요.
- 상현그런 원칙은 좋은데, 실제로는 누가 어떤 책임을 나눠 갖는지가 중요하겠네요.
- 지민맞아요. 기사는 개인이나 의료기관의 활용만이 아니라, 개발과 생산부터 관리까지 전 과정을 아우르는 틀이 필요하다고 말해요. 국내 인공지능 기본의료 전략에도 윤리와 보안 가이드라인이 들어 있지만, 기사는 그것만으로는 부족하다고 봐요.
- 상현데이터 쪽도 걱정이 많아 보여요. 인공지능을 학습시키려면 결국 환자 데이터가 필요하잖아요.
- 지민그래서 기사가 중요하게 보는 게 개인정보예요. 비식별 처리된 데이터라도 여러 자료를 결합하면 개인을 다시 알아볼 수 있다는 연구 사례가 소개돼요. 2013년 유전체 데이터 연구와 2022년 흉부 엑스레이 연구가 대표적이에요.
- 상현가명이나 익명으로 처리해도 안심할 수 없다는 얘기네요. 그럼 정부는 지금 어떤 방향으로 가고 있나요?
- 지민기사에 따르면 정부는 인공지능 학습 데이터를 늘리는 쪽에 더 무게를 두고 있어요. 개인정보보호법 개정 추진이나 의료영상과 전자의무기록 같은 공공데이터 개방이 언급돼요. 반면 유럽연합은 환자가 데이터의 2차 활용을 거부할 수 있는 권리를 두고 있다는 대비가 나와요.
- 상현기술의 이익은 기업이 가져가고, 개인정보 유출의 비용은 사회가 떠안을 수도 있다는 우려로 이어지겠네요.
- 지민네, 기사도 그 점을 경고해요. 결국 기술이 빨리 발전하는 만큼, 어떻게 쓸지에 대한 사회적 합의도 함께 만들어야 한다는 거죠.
- 상현오늘 이야기를 정리하면, 인공지능 의료는 분명 기대를 모으고 있지만 책임과 개인정보 문제는 아직 답이 없는 상태군요.
- 지민맞아요. 기사의 결론도 그래요. 기술을 얼마나 믿을지보다, 누가 책임지고 누구의 권리를 지킬지 먼저 정해야 한다는 것입니다.
AI 진행자 상현·지민이 원문 기사를 바탕으로 나눈 대화입니다. 정확한 내용은 원문 기사를 확인하세요.