"뽀뽀해봤어?" A2O 아이돌 AI에 질문 던지자…안전장치 즉각 작동 [TEN스타필드]
대본
- 지민기존 팬 소통 서비스는 아티스트가 직접 메시지를 보내야 대화가 시작됐지만, 이제는 인공지능이 아티스트의 말투를 재현해 대신 답하는 방식이 도입됐어요.
- 상현아티스트가 잠든 시간에도 대화할 수 있다는 점이 특징이군요. 구체적으로 어떤 서비스인가요?
- 지민이수만 전 프로듀서가 제작한 신인 그룹 A2O의 멤버들을 구현한 블루밍톡이라는 플랫폼이에요. 아티스트 1인당 월 6800원에 이용할 수 있고, 매월 100건의 메시지가 제공돼요.
- 상현인공지능이 아티스트의 외모와 목소리뿐만 아니라 말투까지 흉내 낸다는 건데, 대화 수준은 어느 정도인가요?
- 지민영어로 질문해도 막힘없이 답하고, 실제 메신저처럼 짧은 메시지를 연달아 보내기도 해서 꽤 자연스러워요. 다만 긴 이야기를 이어가거나 구체적인 정보를 얻기에는 아직 한계가 있어요.
- 상현인공지능이 마치 실제 멤버처럼 말하다 보니, 혹시 잘못된 정보를 전달할 위험은 없을까요?
- 지민맞아요. 다음 앨범 준비 상황 같은 민감한 질문에 인공지능이 그럴듯하게 답할 수 있는데, 이게 실제 상황과 일치하는지는 확인되지 않았거든요.
- 상현인공지능의 답변을 팬들이 실제 아티스트의 공식 입장으로 오해할 수도 있겠네요.
- 지민그래서 서비스 내에 구분 장치를 뒀어요. 실제 멤버가 보낸 건 직접 보냄이라고 표시하고, 인공지능 답변도 별도로 표시해서 인공지능은 공식 입장과 다를 수 있다고 안내해요.
- 상현부적절한 질문을 던지는 이용자에 대한 방어 기제도 마련되어 있나요?
- 지민네, 확인해 보니 뽀뽀해봤어와 같은 부적절한 표현을 입력하면 메시지가 전송되지 않고 규정 위반 경고가 즉각 떠요.
- 상현안전장치는 작동하지만, 대화 내용의 보안 문제도 궁금해요. 누가 이 내용을 볼 수 있죠?
- 지민블루밍톡에는 아티스트에게 내용이 전달되지 않는 비밀채팅 기능이 있지만, 일반채팅에서는 실제 아티스트도 대화 내용을 볼 수 있다고 답했어요.
- 상현기술적으로는 편리해졌지만, 아티스트의 이미지를 보호하는 문제와 정보의 정확성을 관리하는 과제가 남았군요.
- 지민맞아요. 특히 13세인 미성년 멤버들의 얼굴과 목소리를 재현한 인공지능을 유료로 제공하는 것에 대한 적절성 논란도 함께 제기되고 있어요.
- 상현인공지능 기술이 팬 소통의 새로운 가능성을 보여주는 동시에, 아티스트 보호라는 새로운 책임도 요구하고 있네요.
- 지민네, 기술이 정교해지는 만큼 잘못된 정보가 퍼지지 않도록 관리하는 것이 중요한 시점이 될 것 같아요.
AI 진행자 상현·지민이 원문 기사를 바탕으로 나눈 대화입니다. 정확한 내용은 원문 기사를 확인하세요.