[보안] AI 에이전트 해킹과 유출… 엔비디아, '이중 방어'로 해법 찾다
대본
- 지민스스로 판단하고 도구를 사용하는 인공지능 에이전트가 늘어나면서, 이들의 권한을 어떻게 통제하고 보안을 유지할지가 중요한 화두로 떠오르고 있어요.
- 상현맞아요, 기존 소프트웨어와 달리 인공지능 에이전트는 기업 내부 데이터나 외부 서비스에 직접 접근할 수 있어서 권한이 넓은 만큼 위험도 커질 수 있겠네요.
- 지민그래서 엔비디아가 소프트웨어와 하드웨어를 결합한 이중 방어 체계인 오픈 에이전트 세이프티 플랫폼을 발표했어요.
- 상현이중 방어라고 하면, 소프트웨어 계층과 하드웨어 계층에서 각각 역할을 나누어 감시한다는 뜻인가요?
- 지민네, 우선 소프트웨어 계층의 오픈쉘은 에이전트를 격리된 공간에 두고 파일이나 네트워크 접근 범위를 정책에 따라 제한하는 역할을 해요.
- 상현마치 건물의 각 방에 들어갈 수 있는 출입증을 다르게 발급해서, 허용된 방에만 들어갈 수 있게 관리하는 것과 비슷하겠어요.
- 지민정확해요, 그리고 에이전트가 생성한 코드나 하위 프로세스도 동일한 정책을 적용해서 보안 규칙이 우회되지 않도록 관리하죠.
- 상현그런데 소프트웨어 보안이 뚫릴 수도 있잖아요, 그럴 때를 대비한 하드웨어 계층의 역할은 무엇인가요?
- 지민엔비디아 센트리라는 기술이 블루필드-4 데이터처리장치에서 에이전트의 행동을 독립적으로 감시해요.
- 상현소프트웨어 보안이 무력화되더라도 하드웨어라는 별도의 감시자가 에이전트의 요청과 응답을 직접 살피는 구조군요.
- 지민맞아요, 에이전트가 소프트웨어 경계를 벗어나려 하면 하드웨어 단계에서 동작을 중단하거나 격리할 수 있도록 설계되었어요.
- 상현보안의 영역이 단순히 답변의 유해성을 검사하는 수준을 넘어, 실제 시스템 접근 권한을 관리하는 쪽으로 확장된 느낌이에요.
- 지민맞습니다, 특히 로봇이나 자율주행처럼 물리적 움직임이 있는 피지컬 인공지능 영역으로 가면 보안은 더욱 중요해져요.
- 상현실제로 엔비디아가 LG전자의 휴머노이드 로봇 개발에 플랫폼을 제공하며 협력하고 있다는 내용도 눈에 띄네요.
- 지민네, 한국 기업들이 해외 플랫폼을 도입하거나 공동 개발할 때 이러한 권한 통제와 감사 기능을 확인하는 것이 필수적이에요.
- 상현결국 인공지능 에이전트가 기업 시스템을 직접 제어하게 되는 만큼, 성능만큼이나 보안이 도입의 전제 조건이 되고 있네요.
- 지민맞아요, 엔비디아는 이 보안 체계를 개발과 운영 전 과정에 적용할 수 있는 개방형 설계로 제공하며 생태계를 넓히고 있어요.
AI 진행자 상현·지민이 원문 기사를 바탕으로 나눈 대화입니다. 정확한 내용은 원문 기사를 확인하세요.