AI 챗봇 건강상담, 오류보다 위험한 건 '보이지 않는 피해'
대본
- 지민인공지능 챗봇에게 건강 상담을 받다가 잘못된 정보를 믿고 병원에 입원하는 사례가 발생했어요.
- 상현챗GPT나 클로드 같은 생성형 인공지능이 의학적 조언을 줄 때 생기는 위험성을 경고하는 내용이군요.
- 지민맞아요. 학술지 네이처 헬스에 실린 논문에 따르면, 인공지능이 부정확한 정보를 주거나 개인 맞춤형 허위 정보를 만들 위험이 있다고 해요.
- 상현인공지능이 마치 없는 사실을 진짜처럼 말하는 환각 현상이 건강 정보와 만나면 정말 치명적이겠는데요.
- 지민실제 사례로 60세 남성이 식단 조절법을 묻다가 식탁염 대신 브로민화나트륨을 쓰라는 답을 받았다고 해요.
- 상현브로민화나트륨이라니, 일반인이 알기 어려운 성분이라 더 위험해 보여요.
- 지민결국 그 남성은 브로민 중독으로 입원까지 했는데, 의료진은 환자가 어떤 조언을 받았는지 알 길이 없어서 치료에 어려움을 겪었대요.
- 상현기록도 남지 않고 신고할 창구도 없어서 발생하는 구조적인 사각지대 문제라는 말씀이시죠?
- 지민네, 플랫폼 밖에는 대화 기록이 없고 사용자가 신고할 곳이나 결과를 측정할 독립적인 연구도 없다는 게 핵심이에요.
- 상현카이청 양 조교수는 아무도 이 과정을 들여다보지 않기 때문에 오류가 생겨도 알 방법이 없다고 지적했고요.
- 지민그래서 연구진은 인공지능 기업이 투명성을 높이고 책임을 강화해야 한다고 제안하고 있어요.
- 상현구체적으로 어떤 대책들이 논의되고 있나요?
- 지민사용자가 대화 기록을 확인해서 의료진과 공유할 수 있어야 하고, 건강 안내를 신고하고 조사하는 체계도 필요하다고 해요.
- 상현정치권에서 인공지능 기업에 의사와 같은 의료과실 책임을 물어야 한다는 주장도 포함되어 있겠네요.
- 지민맞아요. 양 교수는 기업에만 맡기지 말고 제3자가 모니터링하는 독립적인 평가 체계가 반드시 필요하다고 강조했어요.
- 상현인공지능의 편리함 뒤에 숨은 이런 보이지 않는 피해를 막기 위한 제도적 장치가 시급해 보여요.
- 지민맞습니다. 이 기술이 일상에 깊숙이 들어오는 만큼, 기업의 책임 범위에 대한 논의가 계속될 가능성이 있어요.
AI 진행자 상현·지민이 원문 기사를 바탕으로 나눈 대화입니다. 정확한 내용은 원문 기사를 확인하세요.