AI는 분석하고, 판사는 책임져라
대본
- 지민판결 한 줄이 한 사람의 자유를 묶을 수 있다는 말, 오늘 기사가 그 지점에서 시작하더라고요. 대법원 법원행정처가 지난 2월 13일 생성형 인공지능 기반 재판지원 시스템을 시범 개시했다는 소식이에요.
- 상현그러면 이 시스템이 판결을 대신 내리는 건가요, 아니면 판사를 돕는 도구인가요?
- 지민기사 설명으로는 판례와 법령, 문헌을 검색하고 분석해서 법관 업무를 돕는 도구예요. 증거의 진위를 가리거나 유무죄를 정하는 기계는 아니라고 선을 그었어요.
- 상현그럼 구체적으로 인공지능이 맡는 일은 어떤 건가요?
- 지민사기 사건을 예로 들면, 계약서와 계좌 내역, 문자메시지를 시간순으로 엮어서 진술이 바뀐 대목이나 거래가 어긋난 곳을 짚어주는 일이에요. 의료사고라면 진료기록과 의료진 조치 시각을 맞대어 보는 식이고요.
- 상현말씀하신 것처럼 증거를 정리해 주는 역할이네요. 그런데 인공지능이 내놓는 결과에도 문제가 있을 수 있다고 하죠?
- 지민네, 기사는 특히 생성형 인공지능이 없는 판례를 그럴듯하게 지어낼 수 있다는 점을 강조해요. 그래서 당사자의 주장, 상대방이 다투는 사실, 법정에서 확인된 사실을 섞지 말고 원문 출처와 판례 사건번호를 달아야 한다고 했어요.
- 상현편향 문제도 언급됐다고 들었어요. 예를 들어 어떤 사례가 있었나요?
- 지민2016년 미국 탐사보도 매체 프로퍼블리카가 재범위험 평가도구 COMPAS를 분석했는데, 2년 안에 다시 체포되지 않은 흑인 피고인이 고위험으로 잘못 분류되는 비율이 백인보다 높았다고 밝혔어요. 과거 데이터에 있던 편견이 알고리즘을 통해 되풀이된 사례로 소개됐어요.
- 상현그렇다면 양형에서도 같은 위험이 있겠네요. 기사는 어떻게 대응하라고 하나요?
- 지민평균 형량만 들이대면 과거의 잘못된 관행까지 물려받을 수 있다는 거예요. 그래서 피해 규모, 범행 동기, 피해 회복 여부를 사건마다 따져서 왜 판단이 달랐는지 설명할 수 있어야 한다고 봤어요.
- 상현국민참여재판에서는 인공지능의 역할이 어떻게 설명되나요?
- 지민인공지능이 배심원에게 법률용어를 풀어주고 쟁점을 정리하는 데는 쓸 수 있다고 해요. 다만 배심원보다 먼저 유죄 가능성을 내밀면 기계의 결론이 시민의 판단을 짓누를 수 있어서 안 된다고 강조했어요.
- 상현마지막으로 책임 문제는 어떻게 정리됐나요?
- 지민인공지능이 엉터리 판례를 내놓고 판사가 그대로 받아썼다면 책임은 누구에게 있느냐는 질문을 던져요. 기사는 인공지능 분석의 출처와 시스템 버전을 기록으로 남기고, 당사자에게 반박 기회를 주며, 법원 밖 독립 기구가 정확성과 편향을 감사해야 한다고 제안해요.
- 상현정리하면 인공지능은 분석하고, 판사는 판단하고 책임지는 구조를 어떻게 지키느냐가 핵심이라는 말이네요. 오늘 내용은 여기까지 짚어볼게요.
AI 진행자 상현·지민이 원문 기사를 바탕으로 나눈 대화입니다. 정확한 내용은 원문 기사를 확인하세요.