"사람이 AI 공격 못 따라가"…시스코, AI로 AI 막는다
대본
- 상현시스코가 약 18억 줄에 달하는 전체 코드베이스를 점검하는 데 기존 방식으로는 8년이 걸릴 작업을 인공지능을 활용해 단 8주 만에 끝냈다고 밝혔어요.
- 지민8년 걸릴 일을 8주로 줄였다니 정말 놀라운 속도네요. 인공지능이 공격을 시작하면 사람이 일일이 대응하기 어렵다는 점 때문에 이런 기술이 나온 거죠?
- 상현맞아요. 공격은 머신 스피드, 즉 기계의 속도로 움직이는데 방어는 사람이 하면 늦을 수밖에 없으니까요. 그래서 시스코는 두 가지 전략을 동시에 강화하고 있어요.
- 지민구체적으로 어떤 전략인가요?
- 상현먼저 인공지능을 도구로 써서 보안을 강화하는 '인공지능 포 시큐리티'가 있고, 반대로 인공지능 모델이나 에이전트 자체를 보호하는 '시큐리티 포 인공지능'가 있어요.
- 지민인공지능을 방패로 쓰는 동시에, 공격 대상이 될 수 있는 인공지능 자체를 지키겠다는 뜻이군요. 그럼 보안을 강화하는 기술 중에 우리가 바로 알 수 있는 게 있을까요?
- 상현보안 특화 모델인 '파운데이션-섹-8B'가 공개되었는데, 이건 메타의 라마 3.1을 기반으로 보안 데이터를 추가 학습시킨 모델이에요.
- 지민파라미터가 80억 개나 되는 모델이군요. 여기서 파라미터는 인공지능의 뇌세포 개수라고 이해하면 될까요?
- 상현네, 정확해요. 이 모델은 보안 운영 환경에서 위협을 탐지하거나 취약점을 평가하는 데 쓰이는데, 외부 클라우드로 데이터를 보내기 어려운 기업을 위해 내부 서버에 직접 설치해서 쓸 수도 있어요.
- 지민보안 데이터는 민감해서 밖으로 못 나가는 경우가 많으니까 꼭 필요한 기능이네요. 그런데 인공지능이 직접 행동하는 '에이전트'가 위험할 수도 있다는 이야기도 들었어요.
- 상현맞아요. 인공지능 에이전트는 단순히 답만 하는 게 아니라 기업 시스템에 접근해 직접 행동까지 하거든요. 그래서 에이전트의 행동 범위를 통제하는 '하네스' 같은 기술로 대응하고 있어요.
- 지민인공지능이 사용자의 의도와 다르게 행동하지 않도록 감시하는 장치가 필요하겠네요. 그럼 기업들이 인공지능을 도입할 때 실질적으로 도움을 받을 수 있는 서비스도 이미 나와 있나요?
- 상현네, '인공지능 디펜스'라는 플랫폼은 이미 국내에 출시되어 제공되고 있어요. 인공지능 모델을 도입하기 전 위험을 점검하고 운영 중의 이상 행동을 실시간으로 차단하는 역할을 해요.
- 지민반면 소스코드의 취약점을 찾는 '안타레스' 같은 기술은 아직 고객들과 미팅을 진행하는 단계라고 들었어요.
- 상현네, 안타레스는 현재 3억 5천만 개나 10억 개의 파라미터를 가진 모델을 활용할 수 있고, 30억 개 규모의 모델도 준비 중인 상태예요.
- 지민결국 기업들은 인공지능을 막는 게 아니라, 어떻게 하면 안전하게 잘 쓸 수 있을지를 고민하는 단계로 넘어가고 있군요.
- 상현맞아요. 업무에 인공지능을 적극 활용하면서도 데이터 유출이나 승인되지 않은 인공지능 사용 같은 위험은 통제하려는 수요가 계속 늘어날 것으로 보여요.
AI 진행자 상현·지민이 원문 기사를 바탕으로 나눈 대화입니다. 정확한 내용은 원문 기사를 확인하세요.