OpenAI·Anthropic, 자체 안전평가팀 내재화 추진…독립성 논란

두 AI 랩은 독립적 안전평가자를 자사 내부에 내재화(embed)하는 방향을 추진하고 있다. 이를 통해 평가자들은 이전보다 더 깊은 접근 권한을 얻게 되지만, 동시에 평가 주체가 피평가 기업 내부에 위치하게 되는 구조적 긴장이 발생한다.

AI 안전성 평가는 통상 외부 연구기관이나 독립 감사기구가 수행할 때 신뢰성이 높다고 여겨져 왔으며, 최근 각국에서 AI 시스템에 대한 제3자 평가·레드티밍 요구가 커지는 흐름과 맞물려 있다. 기업이 평가팀을 내부화하는 방식은 접근성 확대라는 장점과 이해관계 충돌 우려라는 단점을 동시에 갖는다.

AI 서비스를 제공하거나 도입하는 기업의 법무·컴플라이언스 담당자는 향후 안전성 검증 결과가 규제기관이나 계약 상대방에게 어느 정도 신뢰를 얻을 수 있는지 판단할 때 평가 주체의 독립성 여부를 함께 검토할 필요가 있다. 특히 이 이슈는 향후 AI 관련 인증·감사 제도가 도입될 경우 평가 주체의 자격 요건 논의로 이어질 가능성이 있다.

발췌만으로는 구체적으로 어떤 형태로 평가팀이 내재화되는지, 투명성 확보를 위한 조치가 무엇인지까지는 확인되지 않아 원문 확인이 필요하다.

본문은 수집한 기사의 제목과 발췌를 바탕으로 AI가 정리한 해설입니다. 원문 전체를 옮긴 것이 아니므로 수치·날짜·조문 등 세부 사실은 위 원문 링크에서 확인하세요. 개별 사안에 대한 법률·세무·노무·회계·의료 자문을 대체하지 않습니다.