앤트로픽이 반복적 모욕 이용자와의 클로드 대화 종료를 허용했다.

• 클로드는 극단적·반복적 모욕 또는 잔인한 행동이 있는 대화를 종료할 수 있게 됐다.
• 일반적 불만, 모델 테스트, 연구 활동은 정책 적용 대상에서 제외한다고 밝혔다.
• 기업 이용자는 레드팀·테스트 업무와 이용정책의 충돌 가능성을 점검할 필요가 있다.

보도에 따르면 앤트로픽은 자사 AI 모델 클로드에 대한 이용 정책을 개정했다. 개정 내용은 AI에 모욕적이거나 잔인한 행동을 반복하는 이용자의 대화를 클로드가 종료할 수 있도록 한 것이다. 회사는 이 정책을 극단적이고 반복적인 사례에 한정해 적용하겠다고 설명했다.

생성형 AI 서비스의 이용 정책은 통상 불법행위, 안전 침해, 타인에 대한 위해 등을 중심으로 운영돼 왔다. 이번 조치는 이용자의 행위가 AI를 향한다는 점에서 기존의 유해 콘텐츠·괴롭힘 정책과는 다른 논점을 제기한다. 발췌문만으로는 모욕적 행동의 구체적 판단 기준, 자동 탐지 여부, 이의제기 절차는 확인되지 않는다.

기업에서 클로드를 업무용 도구로 쓰는 경우에는 사용자 정책과 내부 AI 사용 가이드에 서비스 제공자의 대화 종료 가능성을 반영할 필요가 있다. 특히 스트레스 테스트, 레드팀 평가, 고객 응대 시뮬레이션처럼 강한 표현이 포함될 수 있는 업무는 일반적 테스트·연구 예외가 실제로 어떻게 적용되는지 점검할 필요가 있다. 서비스 중단이 업무 연속성이나 로그 보존에 미칠 영향도 함께 검토 대상이 될 수 있다.

향후에는 정책 전문과 실제 집행 사례를 통해 금지행위의 경계가 구체화되는지 확인할 필요가 있다. 대화 종료가 일시적 세션 종료인지 계정 제재까지 포함하는지, 기업용 계약 및 API 이용에도 같은 기준이 적용되는지도 원문 확인이 필요하다.

본문은 수집한 기사의 제목과 발췌를 바탕으로 AI가 정리한 해설입니다. 수치·날짜·조문 등 세부 사실은 원문에서 확인하세요.