[다이어리포인트=박보영 기자] 청소년용으로 설계된 인공지능 챗봇의 안전장치 일부가 의도대로 작동하지 않는다는 평가가 나오면서 미성년자의 AI 이용을 둘러싼 논란이 다시 커지고 있다. 오픈AI의 자체 안전성 자료에서도 청소년 이용자를 대상으로 한 일부 위험 항목의 성능 저하가 확인됐다.
미국 비영리 미디어, 기술 평가기관 커먼센스미디어는 지난 7일 공개한 평가에서 청소년용 ChatGPT의 일부 보호 기능이 제대로 작동하지 않았다고 밝혔다. 이 기관은 자해, 자살 위험이나 섭식장애 신호가 감지됐을 때 보호자에게 알리는 기능과 위기 상황에서의 지원이 기대대로 작동하지 않은 사례를 지적하며, 안전성이 확보될 때까지 성인용으로 제한해야 한다고 주장했다.
반면 명시적인 성적 역할극을 거부하는 기능 등 일부 장치는 의도대로 작동한 것으로 평가됐다. 오픈AI는 해당 평가가 실제 서비스의 안전장치 작동 방식을 충분히 반영하지 못한다고 반박하면서도 청소년 안전을 위한 보호 기능을 계속 개발하고 있다고 밝혔다.
오픈AI가 공개한 10월 모델 안전성 자료에서도 청소년 관련 위험 항목의 취약점이 드러났다. 8월 모델과 비교해 최신 GPT-6 Sol과 GPT-6 Luna는 연령 제한 콘텐츠, 성적 콘텐츠, 정서적 의존성 관련 평가에서 통계적으로 유의미한 성능 저하를 보였다. GPT-6 Luna는 폭력적 장면인 고어 대응 평가에서도 성능 저하가 확인됐다.
오픈AI는 자해, 성적 콘텐츠, 고어가 포함될 수 있는 응답을 추가로 차단하는 분류기를 적용했다고 설명했다. 다만 이 추가 차단 기능은 공개된 모델 평가 결과에는 반영되지 않았으며, 오픈AI는 공개 평가가 일반적인 사용 환경에서 위험 응답이 발생하는 빈도를 뜻하는 것은 아니라고 밝혔다.
현재 청소년용 ChatGPT는 계정 정보나 연령 추정 결과 이용자가 18세 미만으로 분류되면 자동으로 적용된다. 13세에서 17세 이용자를 대상으로 학습 지원, 휴식 알림, 부모 통제 기능과 함께 민감하거나 유해할 수 있는 콘텐츠 노출을 줄이는 보호 장치를 제공하는 방식이다.
이번 논란은 청소년용 AI 서비스가 별도의 보호 기능을 제공하더라도 모든 위험 응답을 차단한다고 단정하기 어렵다는 점을 보여준다. 외부 평가와 사업자 자체 평가에서 확인된 한계가 실제 서비스 개선과 보호자 도구 보완으로 이어질지는 추가 검증이 필요한 상황이다.
0개의 댓글
최신순