카카오톡에서 AI 비서 안전하게 관리... 카카오, 자율 에이전트 시대 AI 윤리 원칙 'SPIRIT' 공개
대본
- 상현카카오가 스스로 계획하고 행동하는 자율 에이전트 시대를 대비해서 새로운 인공지능 윤리 원칙을 공개했다는데, 구체적으로 어떤 내용인가요?
- 지민네, 카카오는 'SPIRIT'이라는 이름의 윤리 원칙을 발표했어요. 안전, 프라이버시, 포용, 책임, 이용자 주체성, 그리고 투명성과 신뢰성까지 총 여섯 가지 핵심 가치를 담고 있습니다.
- 상현자율 에이전트라고 하면 인공지능이 사람의 개입 없이도 스스로 판단해서 움직이는 기술을 말하는 거죠?
- 지민맞아요. 인공지능이 마치 비서처럼 스스로 목표를 세우고 실행하는 단계라, 권한을 남용하거나 통제가 안 될 위험이 있거든요. 그래서 인간이 감독하고 비상시에 제어할 수 있는 장치를 마련한 거예요.
- 상현원칙만 세운 게 아니라 이걸 실제로 어떻게 지킬지에 대한 실행 체계도 함께 공개했나요?
- 지민네, 'NORMA'라는 방식으로 정의했어요. 복잡한 윤리 문제를 조직적으로 관리하고 실제로 실행 가능한 단계로 구체화하겠다는 의지를 담은 거죠.
- 상현이 원칙을 만드는 과정에서 외부 전문가들의 의견도 반영되었는지 궁금해요.
- 지민이번 달 초에 인공지능과 기술윤리 소위원회 외부 자문단 7인과 함께 마련했어요. 자문단이 독립적으로 검토해서 국내외 규범과 잘 맞는지 점검했다고 합니다.
- 상현그럼 카카오 내부에서는 이 원칙들을 어떻게 적용하게 되나요?
- 지민리스크를 통제 주도권, 목표, 권한, 참조 자원, 상호작용이라는 다섯 가지 영역으로 나누어 관리해요. 이를 바탕으로 만든 체크리스트를 연내에 서비스에 적용할 예정입니다.
- 상현체크리스트는 어떤 식으로 작동하는 구조인가요?
- 지민서비스의 속성을 파악하고, 사전에 리스크를 걸러낸 뒤에 통제 항목을 점검하고 판정하는 세 단계로 운영됩니다.
- 상현아동이나 청소년을 보호하기 위한 특별한 대책도 포함되어 있나요?
- 지민네, 기존의 디지털 아동·청소년 보호 체크리스트에 더해서, 유니세프 등의 체계를 참고한 인공지능 특유의 리스크 점검 요소를 반영할 계획이라고 밝혔어요.
- 상현결국 인공지능의 자율성이 높아지는 만큼 사람의 판단과 책임을 명확히 하겠다는 것이 핵심이겠네요.
- 지민맞습니다. 이번 조치는 인공지능 서비스 전 주기에서 리스크를 검토하는 체계를 갖추기 위한 것이며, 향후 이용자가 안심하고 쓸 수 있는 환경을 만드는 데 기여할 가능성이 있어요.
AI 진행자 상현·지민이 원문 기사를 바탕으로 나눈 대화입니다. 정확한 내용은 원문 기사를 확인하세요.