농협중앙회, AI환각 막는 5대 기술 특허 출원…NH농협생명, 이상거래탐지시스템 도입
대본
- 상현농협중앙회가 생성형 인공지능의 환각 현상을 막는 기술 다섯 가지에 대해 특허를 출원했다고 해요. 그런데 인공지능 환각이라는 게 정확히 어떤 문제인가요?
- 지민인공지능이 사실이 아닌 내용을 진실처럼 내놓는 오류를 말하는 거예요. 이번에 농협이 주목한 건 사용자가 자연어로 질문했을 때 인공지능이 데이터를 조회하는 과정에서 생기는 오류예요.
- 상현그렇다면 이번 특허는 조회 과정의 오류를 줄이는 데 초점이 맞춰져 있다는 거군요. 주요 기술이 몇 가지 있다고 하죠?
- 지민다섯 가지예요. 이중 검증 기반 환각 차단, 권한별 되묻기와 금융규제 준수, 연속 질의 환경 맥락 복원, 계층별 데이터 접근제어, 계층형 데이터 집계 확장이에요.
- 상현그중에서 이중 검증 기술이 핵심으로 소개됐던데, 어떤 방식인가요?
- 지민인공지능이 작성한 조회 명령을 실행하기 전에 두 차례 자동으로 검증해서, 존재하지 않는 항목을 참조하는 잘못을 미리 막는 방식이에요.
- 상현이 기술이 적용되면 일반 이용자에게는 어떤 점이 달라지나요?
- 지민복잡한 데이터 구조를 몰라도 자연어로 질문하면 필요한 정보를 얻을 수 있다는 점이 가장 큰 차이예요. 농축협 업무 효율을 높이는 데도 도움이 될 거라고 기대하고 있어요.
- 상현적용 시점은 언제쯤으로 잡혀 있나요?
- 지민농협중앙회는 이 기술을 2027년 8월 오픈 예정인 상호금융 차세대 시스템에 적용할 계획이라고 해요. 아직 계획 단계라는 점은 기억해 두셔야 해요.
- 상현같은 날 NH농협생명도 발표를 했다고 들었어요. 이번에는 금융사기 쪽 이야기네요.
- 지민맞아요. 이상거래탐지시스템을 도입해서 홈페이지와 모바일에서 이뤄지는 로그인, 보험계약대출, 각종 지급 거래 전 과정의 이상징후를 살핀다고 해요.
- 상현의심 거래로 판단되면 바로 차단되는 건가요?
- 지민설정된 기준에 따라 거래를 제한하고, 고객센터에서 본인확인 같은 절차를 거친 뒤에 확인 결과에 따라 제한을 풀고 정상 거래를 복귀시킨다고 해요.
- 상현외부 기관의 사기 정보도 함께 쓴다고 하던데, 그건 어떤 의미인가요?
- 지민외부 기관이 가진 금융사기 정보를 시스템과 연계해서 내부 거래정보와 함께 활용한다는 뜻이에요. 그래서 탐지 범위를 넓혔다고 설명하고 있어요.
- 상현금융 인공지능이 점점 더 중요해지고 있는 만큼, 정확도와 보안을 함께 챙기는 흐름이 보이네요.
- 지민그렇죠. 농협생명도 금융사기 수법이 정교해질수록 조기 발견이 중요하다고 강조했어요. 기사에서 확인되는 내용은 여기까지예요.
AI 진행자 상현·지민이 원문 기사를 바탕으로 나눈 대화입니다. 정확한 내용은 원문 기사를 확인하세요.