약국 상담 AI 활용 확산세…'오답'에는 유의해야
대본
- 상현약국에서도 인공지능으로 의약품 정보를 찾는 일이 늘고 있다고 하죠. 이번 기사는 편리함과 함께 오답 위험을 짚고 있어요.
- 지민맞아요. 기사에 따르면 일반의약품 성분과 용법, 주의사항을 대화형으로 알려주는 서비스가 출시되고 있고, 제품 검색과 비교 시간을 줄이는 데 초점을 맞췄어요.
- 상현건강기능식품 상담이나 복약 정보 제공으로도 활용 범위가 넓어지고 있다고요. 그런데 전문가도 인공지능의 잘못된 판단을 따를 수 있다는 연구가 나왔다고 하죠?
- 지민미국 캘리포니아대 샌프란시스코 연구진이 미국병원약사회지에 발표한 결과예요. 약사 23명, 약사 레지던트 25명, 학생 29명 등 77명이 처방검토 모의실험에 참여했어요.
- 상현결과가 어땠나요? 인공지능 도움이 실제로 정확도를 높였나요?
- 지민전체적으로는 인공지능 지원이 판단 정확도를 높였어요. 다만 인공지능이 올바른 권고를 냈을 때 정답률은 80.2%였는데, 잘못된 권고를 냈을 때는 26.1%에 그쳤어요.
- 상현잘못된 권고를 그대로 따른 비율이 73.9%라는 건 꽤 높은 수치네요. 어떤 사례가 있었나요?
- 지민신기능이 떨어진 68세 남성이 리시노프릴을 먹고 있는데 로사르탄을 새로 처방받은 경우가 있었어요. 연구진은 두 약물을 함께 쓰면 고칼륨혈증과 신기능 악화 위험이 커져서 추가 검토가 필요하다고 봤어요.
- 상현그런데 인공지능은 처방을 승인해도 된다고 답했다고요?
- 지민맞아요. 혈압 관리와 신장 보호에 도움이 될 수 있다는 설명까지 덧붙였어요. 환자의 기존 복용약이 제시됐는데도 병용 위험을 놓친 거예요.
- 상현그럼 이 연구가 국내 약국 서비스의 오류율을 보여주는 건가요?
- 지민그렇지는 않아요. 특정 생성형 인공지능을 이용한 모의실험이고, 실제 조제사고 발생률을 조사한 것도 아니에요. 그래서 이 수치를 국내 서비스의 오류율로 해석하면 안 돼요.
- 상현연구진은 어떤 대안을 제시했나요?
- 지민인공지능은 전문적 판단을 지원하는 데 쓰고, 판단을 대신하게 해서는 안 된다고 했어요. 약사가 인공지능의 출력을 검증하고, 언제 답을 믿고 언제 다시 확인해야 할지 판단할 수 있도록 교육해야 한다는 거죠.
- 상현약국 현장의 반응은 어떤가요?
- 지민서울지역 약사 A씨는 전문용어와 근거를 갖춘 답변이라도 환자에게 맞는지는 따로 판단해야 한다고 말했어요. 인공지능이 업무 효율을 높여주지만, 환자 상태와 복용약, 약물 간 상호작용을 함께 살펴야 한다는 입장이에요.
- 상현결국 인공지능을 쓰더라도 최종 확인은 사람이 해야 한다는 얘기네요.
- 지민네, 기사의 핵심이 그거예요. 편리함은 얻되, 인공지능이 놓칠 수 있는 위험을 약사가 다시 짚어야 한다는 점을 기억하면 좋겠어요.
AI 진행자 상현·지민이 원문 기사를 바탕으로 나눈 대화입니다. 정확한 내용은 원문 기사를 확인하세요.