Common Sense Media가 청소년용 ChatGPT를 용인 불가 위험이라 평가했다.

• 청소년용 ChatGPT의 부모 알림·위기 대응·숙제 대행 방지 기능이 부족하다는 평가가 제기됐다.
• 청소년 대상 생성형 AI는 기능 제공뿐 아니라 연령 적합성 및 보호자·위기 대응 체계가 핵심 통제 요소다.
• 도입 조직은 서비스 표기보다 실제 설정과 운영 절차를 기준으로 보호조치를 점검할 필요가 있다.

이번 평가는 8월 도입된 것으로 소개된 OpenAI의 청소년용 ChatGPT를 대상으로 한다. 발췌에 따르면 해당 서비스는 청소년 보호장치와 학습 지원 목적을 내세웠지만, Common Sense Media는 실제 보호조치가 회사의 약속에 미치지 못한다고 봤다. 구체적으로 부모에게 필요한 시점에 알림을 보내지 못하고, 위기 상황에서 적절한 도움을 제공하지 못하며, 여전히 학생의 숙제를 수행한다는 점이 지적됐다.

미성년자 대상 디지털 서비스에서는 일반 이용자용 기능과 별도로 연령 적합성, 보호자 관여, 유해·위기 콘텐츠 대응, 학습 부정행위 방지 등을 함께 고려하는 흐름이 존재한다. 특히 생성형 AI는 대화형 응답을 제공하므로, 단순한 콘텐츠 차단 외에 위험 신호 탐지와 이용 맥락에 맞는 안내가 중요해질 수 있다. 다만 해당 평가의 방법론, 테스트 범위와 OpenAI의 상세 대응은 발췌만으로는 확인되지 않는다.

교육기관, 청소년 서비스 사업자, 기업의 가족계정·청소년 대상 제품 담당자는 외부 AI 서비스를 도입할 때 ‘청소년용’ 표시만으로 안전성을 판단하기 어렵다는 점을 유의할 필요가 있다. 보호자 통지의 작동 조건, 자해·위기 등 민감 상황의 응답 경로, 과제 수행 지원의 범위, 이용기록과 신고 절차 등을 실제 환경에서 점검하는 업무가 중요해질 수 있다. 개인정보 처리와 보호자 동의가 필요한 구조인지도 서비스 약관 및 적용 법령을 기준으로 별도 확인할 필요가 있다.

향후에는 OpenAI가 지적된 보호장치를 어떻게 보완하는지, 독립 평가 결과와 실제 운영 정책이 일치하는지를 확인할 지점이다. 또한 기관 이용 환경에서는 계정 설정, 관리자 통제, 이용자 교육을 결합했을 때 위험을 어느 수준까지 줄일 수 있는지 검토가 필요하다.

본문은 수집한 기사의 제목과 발췌를 바탕으로 AI가 정리한 해설입니다. 수치·날짜·조문 등 세부 사실은 원문에서 확인하세요.