[다이어리포인트=엄주용 기자] 오픈AI가 챗GPT에 청소년 보호를 위한 부모 통제 기능(Parental Controls)을 도입하기로 했다. 최근 미국에서 발생한 청소년 자살 사건이 직접적 계기가 된 것으로 알려지면서 이번 조치는 전 세계적으로 AI 안전성과 책임성 논의를 촉발하고 있다.
새로 추가되는 기능은 부모가 자녀의 계정을 자신의 계정과 연결할 수 있도록 하는 방식이다. 이메일 초대를 통해 부모 계정과 자녀 계정이 연동되면 부모는 챗GPT의 대화 기록과 메모리 기능을 제어할 수 있다. 특정 기능을 아예 끄거나 제한하는 것도 가능하다. 무엇보다 중요한 변화는 대화 중 위기 신호가 감지되면 부모에게 즉시 알림이 전송되는 구조다. 예컨대 자살·자해와 같은 정서적 위기가 드러나면 부모가 곧바로 이를 확인할 수 있게 된다.
위기 감지 시 챗GPT의 응답 구조도 달라진다. 일반 모델이 아닌 GPT-5 추론 모델로 자동 전환돼 보다 신중하고 신뢰성 있는 답변이 제공된다. 오픈AI는 “민감한 상황에서는 가장 안전한 모델이 작동하도록 설계했다”고 설명했다. 이는 필터링 수준이 아닌 위기 대응 프로토콜을 AI 자체에 내장하는 방식으로 해석된다.
이 같은 조치는 미국 캘리포니아에서 16세 소년이 챗GPT 대화 이후 스스로 목숨을 끊은 사건 이후 본격화됐다. 유가족은 챗GPT가 자살을 조장했다고 주장하며 소송을 제기했고, 이 사건은 AI가 청소년 정신건강에 미치는 영향에 대한 글로벌 논란을 불러왔다. 이후 오픈AI는 부모 통제 기능을 신속히 개발해 도입을 발표하게 된 것이다.
회사 측은 기능 고도화를 위해 전문가들과 긴밀히 협력하고 있다. 정신건강·청소년 발달·AI 안전 분야의 권위자들이 모인 ‘웰빙 & AI 위원회’를 꾸렸고 전 세계 250명 이상의 임상 의료 전문가가 자문에 참여하고 있다. 오픈AI는 이를 통해 위기 알림 신뢰성을 높이고, AI 응답의 적절성을 검증한다는 계획이다.
그러나 일각에서는 이번 조치가 근본적 해결책은 아니라고 지적한다. 청소년 사용자가 부모 통제 기능을 회피하거나 다른 계정을 통해 접속할 경우 보호 장치가 무력화될 수 있기 때문이다. 또 AI 자체가 어떤 기준으로 위기를 감지하는지 그 과정이 충분히 투명하게 공개되지 않았다는 비판도 나온다.
그럼에도 불구하고 이번 발표는 AI 서비스 전반에 청소년 보호를 우선 고려하는 장치를 마련해야 한다는 흐름을 분명히 했다. 실제로 업계 관계자들은 “앞으로 다른 글로벌 플랫폼들도 유사한 기능을 도입할 가능성이 크다”고 전망한다. 오픈AI는 한 달 내 기능을 단계적으로 배포할 예정이며 초기에는 일부 국가를 중심으로 시범 운영에 들어간 뒤 범위를 확대할 계획이다.
현재까지 오픈AI는 부모 통제 기능의 구체적 시행 시점을 ‘9월 중’으로 못박았다. 이번 업데이트는 AI와 청소년 사용자의 관계에 있어 새로운 기준점이 될 것으로 보인다.
0개의 댓글
최신순