머스크의 ‘X’ 플랫폼, AI 성인용 영상 생성 기능 도입 논란

[다이어리포인트=김정훈 기자] 일론 머스크가 이끄는 소셜미디어 플랫폼 X(구 트위터)가 최근 인공지능(AI)을 활용한 영상 생성 기능 ‘Grok Imagine’을 도입하면서, 그 중 하나인 성인 콘텐츠 생성 기능이 논란의 중심에 섰다.

해당 기능은 사용자가 텍스트나 이미지를 입력하면 AI가 이를 기반으로 짧은 동영상을 생성해주는 서비스다. 그러나 문제는 '스파이시(spicy)' 모드라는 성인용 영상 생성 기능이 포함되어 있다는 점이다. 이 기능을 통해 반나체, 누드 등 NSFW(Not Safe For Work, 업무 부적절 콘텐츠) 수준의 영상까지 제작이 가능하다.

이 서비스는 현재 X의 유료 구독자인 SuperGrok 또는 Premium+ 이용자에게 우선 제공되고 있으며, 일부 안드로이드 사용자에게도 점진적으로 개방되고 있다.

해당 기능은 출시 직후부터 사용자들 사이에서 유명인의 비동의 누드 영상이나 딥페이크 영상이 제작될 수 있다는 우려가 제기됐다. 실제로 일부 기술 매체들은 테스트를 통해 세계적인 팝스타 테일러 스위프트를 모델로 한 누드 영상을 ‘의도하지 않았음에도’ 생성하는 데 성공했다고 보도했다.

전문가들은 이처럼 현실적인 딥페이크 생성이 가능해졌다는 점에서 기존보다 훨씬 심각한 윤리적 문제가 발생할 수 있다고 지적한다.

Grok Imagine은 연령 제한이 명확하게 설정되어 있지 않으며, ‘스파이시 모드’의 접근도 비교적 자유로운 편이다. 이에 따라 청소년 사용자의 접근 가능성과 아동 성착취 이미지 악용 우려가 함께 커지고 있다.

전문가들은 X가 AI 기능을 도입하면서도 내용 검열이나 오남용 방지 장치 없이 서비스를 개방했다는 점을 문제 삼고 있다. 일부 국가는 이미 비동의 딥페이크 제작·유포를 금지하는 법률을 마련하고 있으며, 이번 논란을 계기로 미국, EU, 한국 등 주요국의 관련 입법 논의도 한층 빨라질 것으로 보인다.

X 측은 공식 입장을 밝히지 않았지만, 그간 일론 머스크는 표현의 자유 보호를 이유로 콘텐츠 규제에 소극적인 태도를 보여왔다. 하지만 이번 사태는 기술적 자유와 사회적 책임의 경계를 다시 한 번 시험하는 계기가 되고 있다.

AI 전문가들은 “단지 기술적으로 가능하다는 이유만으로 이를 사회에 전면적으로 도입하는 것은 매우 위험한 접근”이라며, 강력한 사전 필터링 및 연령 인증 시스템 도입이 필요하다고 입을 모은다.

Grok Imagine은 X 플랫폼의 AI 전략 중 하나로, 머스크는 이를 통해 생성형 AI 시장에서의 경쟁력 강화를 노리고 있다. 그러나 사회적 반발이 커지고, 법적 리스크가 가시화되면서 X의 브랜드 이미지와 수익 모델에도 적잖은 타격이 예상된다.

업계 관계자들은 “머스크 특유의 공격적인 실험이 이번에도 반복된 것”이라며 “다만 이번에는 그 후폭풍이 훨씬 클 것”이라고 내다봤다.