캘리포니아 뉴섬 주지사, 프런티어 AI 모델 '킬스위치' 의무화 추진

• 뉴섬 주지사가 프런티어 AI 모델 킬스위치 의무화 검토를 담은 행정명령을 발동했다.
• 전문가 그룹이 2개월 내 주법 강화 권고안을 제시할 예정이다.
• 독립 검증기관 상시 감사, 투명성 보고 표준화 등이 검토 대상에 포함된다.

이번 행정명령은 캘리포니아가 주 차원에서 AI 안전 규제를 선도하겠다는 의도로, 전문가 그룹을 소집해 두 달 안에 주법 차원의 AI 안전 조치 강화 방안을 제시하도록 지시했다. 검토 대상에는 AI 기업이 독립 검증 그룹을 현장에 상주시켜 정기 감사를 받도록 하는 방안과 투명성 보고서·위험평가를 독립적 기준으로 검증받도록 하는 방안이 포함된다.

캘리포니아는 이미 AI 관련 여러 법안을 통과시키거나 검토해 온 주로, 프런티어 모델의 안전성 규제를 둘러싼 논쟁이 이어져 왔다. '킬스위치'는 위험 상황에서 모델 운영을 강제로 중단시킬 수 있는 기술적·제도적 장치를 의미하며, 논의 자체는 AI 안전 커뮤니티에서 꾸준히 제기돼 온 개념이다.

AI 기업의 법무·컴플라이언스 부서는 향후 캘리포니아에서 나올 구체적 입법 권고안에 따라 모델 배포 전 안전성 검증 절차, 온사이트 감사 수용 여부, 투명성 보고 체계를 미리 점검해볼 필요가 있다. 특히 독립 검증기관 상주나 감사 요구가 현실화될 경우 프런티어 모델을 운영하는 기업의 내부 프로세스에 상당한 변화가 예상된다.

전문가 그룹의 구체적 권고안 내용과 실제 입법 반영 여부, '킬스위치'의 기술적 정의는 발췌만으로는 확인되지 않아 원문과 후속 보도 확인이 필요하다.

본문은 수집한 기사의 제목과 발췌를 바탕으로 AI가 정리한 해설입니다. 수치·날짜·조문 등 세부 사실은 원문에서 확인하세요.