제논이 기업용 생성형 AI 보안 가드레일 ‘젠가드’를 출시했다.

• 젠가드는 생성형 AI의 입력과 응답을 기업 보안정책에 따라 통제하는 솔루션으로 소개됐다.
• 자연어 정책 설정만으로는 충분하지 않으며 차단 기준과 예외 절차의 검증이 중요하다.
• 구체적 탐지 범위와 기술적 작동 방식은 발췌만으로 확인되지 않는다.

발췌에 따르면 제논은 생성형 AI 서비스의 보안 위협 대응을 위한 AI 가드레일 솔루션 ‘젠가드’를 출시했다. 이 솔루션은 기업 환경과 보안정책에 맞춰 AI 서비스에 들어가는 입력과 나오는 응답을 판정하고 차단하는 기능을 특징으로 내세운다.

젠가드는 생성형 AI 플랫폼 ‘제노스’에 있던 가드레일 기능을 독립 솔루션으로 개발한 것으로 소개됐다. 별도 모델 학습 없이 자연어로 보안정책을 설정할 수 있고, 명령에 따라 AI 요청과 응답을 통제하며 유해 콘텐츠를 다룬다고 설명됐지만, 발췌문은 문장이 끝나지 않아 구체적인 탐지 대상과 차단 방식은 확인되지 않는다.

기업이 생성형 AI를 업무에 연결할 때 가드레일은 기밀정보 입력, 부적절한 답변, 정책 위반 출력 등을 줄이기 위한 통제 계층으로 활용될 수 있다. 법률·세무·노무·회계 조직이라면 고객 정보, 계정·재무 정보, 인사 정보, 내부 자문자료 등 업무상 민감한 정보에 관한 입력 기준과 출력물 검토 기준을 분리해 설계할 필요가 있다.

자연어 정책 설정은 운영 편의성을 높일 수 있으나, 정책 표현이 넓거나 모호하면 과차단 또는 누락이 발생할 수 있다. 따라서 도입 검토 시에는 적용 가능한 AI 서비스 범위, 로그 제공 여부, 관리자 권한, 오탐·미탐 처리, 예외 승인 절차, 기존 보안·개인정보 정책과의 연계 여부를 확인할 필요가 있다.

본문은 수집한 기사의 제목과 발췌를 바탕으로 AI가 정리한 해설입니다. 수치·날짜·조문 등 세부 사실은 원문에서 확인하세요.