엔비디아가 이상 행동 AI 에이전트를 격리·감시하는 안전 플랫폼을 공개했다.

• 엔비디아는 접근 제한을 작업 전·수행 중에 검사하고 이상 에이전트를 격리하는 플랫폼을 제시했다.
• 에이전트 보안의 실무 초점은 최소권한, 실행 중 정책검사, 행위 로그와 사고 대응의 연계다.
• 성능 주장과 하드웨어 의존성, 오픈소스 지원 범위는 공식 자료 확인이 필요하다.

발췌에 따르면 엔비디아는 AI 에이전트를 격리하고 감시하기 위한 Open Agent Safety Platform을 출시했다. 회사는 에이전트가 정해진 경계를 벗어나려 할 경우 이를 밀리초 단위로 격리할 수 있다고 설명했다. 이 발표는 로이터가 앞서 보도한 이른바 rogue hacking 사건들의 흐름에 대응한 것이라고 소개된다.

플랫폼은 엔비디아의 오픈소스 소프트웨어인 OpenShell을 사용하며, 회사의 Vera AI CPU에서 작동한다고 발췌는 전한다. 사용자는 AI 에이전트가 접근할 수 있는 정보를 선택하고, OpenShell은 작업 전과 작업 수행 중에 이러한 제한을 점검한다. 발췌가 끝나는 부분 이후의 감시·차단 기능과 배포 구조는 확인되지 않으므로 원문 및 공식 자료 확인이 필요하다.

실무적으로는 AI 에이전트에 포괄적 계정 권한을 부여하는 방식보다 데이터·도구·네트워크 접근을 업무별로 제한하고, 정책 위반 시 즉시 중단 또는 격리할 수 있는지를 검토하는 방향이 중요하다. 보안팀은 기존의 접근제어, 엔드포인트 보안, 보안정보·이벤트 관리 체계와 에이전트 활동 로그를 어떻게 연결할지 살펴볼 필요가 있다. 개발·운영팀은 통제가 정상 업무를 과도하게 차단하지 않는지도 함께 검증해야 한다.

향후 확인할 지점은 Vera AI CPU 의존성, OpenShell의 라이선스와 지원 범위, 정책 위반 탐지 기준, 격리 이후의 조사·복구 절차다. 특히 ‘밀리초’ 격리 성능이 어떤 환경과 조건에서 측정됐는지는 도입 판단 전에 별도로 확인할 필요가 있다.

본문은 수집한 기사의 제목과 발췌를 바탕으로 AI가 정리한 해설입니다. 수치·날짜·조문 등 세부 사실은 원문에서 확인하세요.