OpenAI 차세대 모델 Astra, '재귀적 깊이' 추론 기법으로 안전 전문가들 우려

• OpenAI Astra, '재귀적 깊이' 기법으로 순차적 추론 방식 탈피
• AI 안전 전문가들이 해당 기법에 우려 제기
• 모델 해석가능성·감사 가능성에 미칠 영향 주시 필요

OpenAI의 차세대 모델 Astra는 '재귀적 깊이'라는 기법을 사용해 기존 추론 모델 대부분이 따르는 순차적 사고(sequential thinking) 방식 밖에서 작동할 수 있게 한다고 보도됐다. 이 기법이 AI 안전 전문가들 사이에서 우려를 낳고 있다는 것이 기사의 핵심이다.

기존 대형언어모델의 추론 방식은 토큰을 순차적으로 생성하며 사고 과정을 거치는 chain-of-thought 방식이 일반적이었다. 이런 순차적 방식은 모델의 사고 과정을 어느 정도 사람이 검토·해석할 수 있다는 점에서 안전성 점검의 근거로 활용돼 왔는데, 순차성을 벗어나는 새로운 추론 구조는 이 같은 해석가능성(interpretability)에 변화를 줄 수 있다.

AI 거버넌스나 리스크 관리 업무를 담당하는 실무자는 새로운 추론 기법이 모델 출력의 예측가능성과 감사(audit) 가능성에 미치는 영향을 주시할 필요가 있다. 기업 내부에서 생성형 AI 도입 시 모델의 추론 과정을 검토·통제하는 정책을 마련해온 조직이라면 이 같은 아키텍처 변화가 기존 통제 체계에 미치는 영향을 점검해볼 필요가 있다.

안전 전문가들이 구체적으로 어떤 위험을 지적했는지, OpenAI가 이에 어떤 대응을 하는지는 발췌만으로는 확인되지 않아 원문 확인이 필요하다.

본문은 수집한 기사의 제목과 발췌를 바탕으로 AI가 정리한 해설입니다. 수치·날짜·조문 등 세부 사실은 원문에서 확인하세요.