앤트로픽, 'AI모욕' 이용자 차단…"클로드 지속 학대시 대화 종료"
대본
- 상현이전에는 인공지능에게 욕설을 하더라도 이용자가 차단되는 규정이 명확하지 않았지만, 이제는 앤트로픽의 클로드 이용 정책이 바뀌었어요.
- 지민앤트로픽이 이용 정책을 개정하면서 사용자가 인공지능에게 모욕적이거나 잔인한 행동을 할 경우 대화를 종료할 수 있게 했다는 뉴스군요.
- 상현맞아요, 다만 모든 경우에 적용하는 건 아니고 반복적이고 극단적인 사례에만 이 새로운 정책을 적용하겠다고 밝혔어요.
- 지민일반적인 불만이나 반발, 혹은 모델을 테스트하고 연구하는 목적의 대화에는 적용하지 않는다는 점이 구체적인 조건이네요.
- 상현그렇습니다. 그런데 앤트로픽 측에서 어떤 행동을 모욕적이거나 잔인한 행동으로 판단할지는 구체적으로 밝히지 않았어요.
- 지민현재 금지행위 목록에는 타인 괴롭힘이나 자해 조장, 비동의 성적 이미지 제작 등이 규정되어 있긴 하지만요.
- 상현이번 정책을 두고 소셜미디어에서는 인공지능을 어느 정도까지 인간처럼 대해야 하는지를 놓고 논란이 일고 있어요.
- 지민올바른 매너를 장려한다는 의견도 있지만, 인공지능을 과도하게 의인화한다는 비판도 있더라고요.
- 상현배리 스캐널 박사는 인공지능을 실제와 다른 존재로 오인하게 만들 수 있어 해롭다고 지적하기도 했고요.
- 지민실제 학대의 의미가 희석될 수 있다는 우려도 나오는데, 대화할 때 예의 바른 표현이 필요한지에 대해서도 의견이 갈리네요.
- 상현전문가 중에는 예의 바른 표현이 인공지능이 읽는 글자 조각인 토큰을 불필요하게 소모한다고 지적하는 분들도 있어요.
- 지민반대로 예의를 갖추는 것이 더 나은 답변을 끌어낼 수 있다는 반론도 있어서 논쟁이 계속되는 것 같아요.
- 상현오픈에이아이의 샘 올트먼 최고경영자도 예의 바른 표현에 드는 비용이 발생하지만 잘 쓴 돈이라고 언급한 적이 있죠.
- 지민이번 개정안에는 유권자를 속이거나 선거를 방해하는 데 클로드를 사용하는 것도 금지한다고 명문화했네요.
- 상현인공지능에 대한 학대 방지와 선거 방해 금지라는 두 가지 측면에서 이용 정책이 강화된 모습이에요.
- 지민인공지능을 대하는 방식에 대한 사회적 논의가 계속될 가능성이 있어 보여요.
- 상현앞으로 앤트로픽이 어떤 구체적인 기준을 적용할지 지켜봐야 할 것 같습니다.
AI 진행자 상현·지민이 원문 기사를 바탕으로 나눈 대화입니다. 정확한 내용은 원문 기사를 확인하세요.