교황 레오 14세가 치명적 자율무기 금지를 촉구했다.

• 교황은 치명적 자율무기 금지를 위한 유엔 회원국의 구체적 행동을 촉구했다.
• 핵심 메시지는 AI 활용에 대한 인간의 통제·변경·거부 책임이다.
• 법적 의무가 곧바로 생긴 것은 아니지만 고위험 AI 거버넌스 논의의 압력 요인이다.

발췌에 따르면 교황 레오 14세는 연설에서 AI 시스템을 ‘무장 해제’해야 한다고 표현하며, 인간에게는 AI의 적용을 이끌고 바꾸며 필요할 때 거부할 책임이 있다고 밝혔다. 특히 다음 달 제네바에서 열릴 회의를 앞두고 유엔 회원국들이 치명적 자율무기 금지를 위한 구체적 조치를 취할 것을 권고했다.

이는 AI가 표적 탐지·분류·의사결정 등 군사적 기능에 활용될 수 있다는 우려와 맞닿아 있다. 자율무기의 허용 범위와 인간 개입의 수준은 국제적으로 계속 논의되는 주제이며, 이번 발언은 인간의 존엄과 책임을 중심에 둔 교황의 기존 AI 관련 메시지를 연장한 것으로 소개된다.

방산·AI 개발·공공조달 및 컴플라이언스 실무에서는 모델이나 시스템이 군사·치안 등 고위험 용도로 전용될 가능성을 별도로 점검할 필요가 있다. 특히 최종 공격 결정에 대한 인간의 관여, 사용 목적 제한, 고객·협력사 심사, 감사 가능한 기록과 책임 배분은 기술 성능과 별개로 검토 대상이 될 수 있다.

다만 발췌만으로는 제네바 회의의 정확한 형식, 논의될 합의안, 각국의 규제 추진 내용은 확인되지 않는다. 실제 규범 변화 여부는 유엔 차원의 후속 논의와 국가별 법·조달정책의 구체화를 확인할 필요가 있다.

본문은 수집한 기사의 제목과 발췌를 바탕으로 AI가 정리한 해설입니다. 수치·날짜·조문 등 세부 사실은 원문에서 확인하세요.