오픈AI, 인공지능 행동 원칙 전면 정비…'인간의 의도' 중심으로 안전 기준 강화
대본
- 상현오픈AI가 인공지능 행동 원칙을 전면 정비했다는데, 핵심이 무엇인지 궁금해요. 기사에서는 어떤 기준을 가장 앞에 내세웠나요?
- 지민인간의 의도를 중심에 둔 것이 가장 눈에 띄어요. 오픈AI가 공개 지침인 모델 명세를 개정했는데, 사용자가 쓴 문장을 글자 그대로만 해석하는 것으로는 부족하다고 설명했어요.
- 상현글자 그대로만 해석하면 부족하다는 건, 요청의 배경과 목적을 파악해야 한다는 뜻인가요?
- 지민맞아요. 지시가 불분명할 때도 사용자가 무엇을 이루려는지 합리적으로 판단해야 한다는 거예요. 다만 그 판단이 사용자의 선택을 대신하거나 숨은 방식으로 방향을 유도하면 안 된다는 조건도 함께 붙었어요.
- 상현그러니까 도와주되 결정은 사용자가 하도록 하자는 거네요. 개정안의 원칙은 다섯 가지라고 했죠?
- 지민네, 인간의 의도에 충실할 것, 피해를 최소화할 것, 정직하고 투명하게 행동할 것, 인간의 주체성을 존중할 것, 사람들의 상황과 필요를 세심하게 고려할 것이에요.
- 상현안전성 원칙도 따로 강조됐다고 들었어요. 어떤 이유로 강조된 건가요?
- 지민인공지능이 복잡한 업무를 처리하고 외부 시스템과 연결되는 능력이 커질수록, 예상하지 못한 행동이 실제 피해로 이어질 가능성도 높아진다는 점이에요. 그래서 예상 가능한 위험을 미리 고려하고, 문제가 생길 수 있는 상황에서는 적절한 제한을 두라는 거죠.
- 상현정직성과 투명성도 신뢰의 핵심 조건으로 들었어요. 구체적으로 어떤 행동을 말하는 건가요?
- 지민자신이 아는 사실과 불확실한 내용을 구분하고, 실제로 한 작업과 하지 않은 작업을 정확히 설명해야 한다는 거예요. 정보가 부족한데 확실하지 않은 내용을 사실처럼 말하면 사용자가 잘못 판단할 수 있으니까요.
- 상현그렇다면 업무 자동화나 의사결정 지원 분야에서 특히 중요하겠네요. 개정 명세가 현재 모델에 이미 반영된 건가요?
- 지민아니요, 회사가 현재 모델들이 개정된 명세를 아직 완전히 반영하고 있지는 않다고 설명했어요. 문서에 원칙을 명시하는 것과 모델이 그 원칙을 안정적으로 수행하는 것은 나눠서 봐야 한다는 뜻이에요.
- 상현그럼 앞으로 기술 경쟁력을 판단할 때 무엇을 봐야 할까요?
- 지민처리 속도나 성능만이 아니라, 사용자의 의도를 얼마나 정확히 이해하는지, 위험을 얼마나 줄이는지, 사람의 감독과 수정 요청에 얼마나 적절히 응하는지도 중요한 기준이 될 전망이라고 기사에서 짚었어요.
- 상현결국 기술의 자율성과 인간의 통제 사이에서 균형을 잡는 게 핵심 과제가 되겠네요. 오늘 정리하면 어떤 내용일까요?
- 지민오픈AI는 모델 명세로 행동 기준을 공개하고 인간의 의도와 안전, 투명성을 강조했어요. 다만 공개된 가치가 실제 서비스에서 얼마나 일관되게 구현되는지가 앞으로의 관건이에요.
AI 진행자 상현·지민이 원문 기사를 바탕으로 나눈 대화입니다. 정확한 내용은 원문 기사를 확인하세요.