[김정윤의 미국 AI 현장기]⑥ AI가 똑똑한데도 엉뚱한 답을 내놓는 이유
대본
- 상현예전에는 인공지능이 단순히 정보를 찾는 도구였다면, 이제는 실제 업무를 수행하는 에이전트 단계로 넘어가고 있어요.
- 지민그런데 인공지능이 똑똑해졌는데도 왜 가끔은 엉뚱한 답을 내놓는 걸까요?
- 상현뉴욕 제츠의 데이터 총괄인 이와오 푸실로는 인공지능을 아주 생산적이지만 맥락을 모르는 인턴에 비유했어요.
- 지민인턴처럼 일은 빨리 하지만, 왜 이 일을 해야 하는지 그 배경을 모른다는 뜻이군요.
- 상현맞아요, 그래서 첫 번째 조건으로 일을 시키기 전에 업무의 목적과 제약 조건 같은 맥락을 충분히 설명해야 한다고 강조해요.
- 지민단순히 질문을 길게 쓰는 게 아니라, 무엇을 위해 이 일을 하는지 알려줘야 한다는 거네요.
- 상현그리고 두 번째로 데이터 공장을 통해 데이터를 가공하고, 시맨틱 레이어를 구축하는 과정이 필요해요.
- 지민시맨틱 레이어라면 인공지능이 단어의 뜻을 헷갈리지 않게 해주는 회사의 사전 같은 개념인가요?
- 상현정확해요, 부서마다 서로 다르게 계산하는 기준을 하나로 통일해서 인공지능이 일관된 정답을 내놓게 만드는 거죠.
- 지민데이터가 아무리 많아도 그 숫자가 무엇을 의미하는지 정의되지 않으면 소용이 없겠어요.
- 상현마지막으로는 인공지능이 할 수 있는 일과 사람이 판단해야 할 일을 명확히 구분해야 해요.
- 지민인공지능이 고객 의견을 분석할 수는 있지만, 그 결과가 적절한지 최종 결정하는 건 결국 전문가의 몫이겠네요.
- 상현모든 단계를 사람이 확인하면 속도가 느려지니까, 전문가가 꼭 필요한 시점에만 개입하도록 설계하는 것이 핵심이에요.
- 지민결국 인공지능을 잘 쓰려면 역설적으로 자기 업무를 완벽히 이해하는 전문가가 더 필요하다는 결론이네요.
- 상현맞아요, 업무의 맥락을 설명하고 데이터의 의미를 정의할 수 있는 능력이 앞으로 더 중요해질 가능성이 있어요.
- 지민인공지능에게 일을 맡기기 전에 우리가 먼저 우리 일을 제대로 이해하고 있는지 돌아봐야겠어요.
- 상현인공지능의 활용도가 높아질수록 사람의 전문성이 판단의 기준이 되는 구조가 만들어질 것으로 보여요.
AI 진행자 상현·지민이 원문 기사를 바탕으로 나눈 대화입니다. 정확한 내용은 원문 기사를 확인하세요.