챗GPT 성인물 논란에…"우린 '도덕 경찰' 아냐" CEO 나섰다

챗GPT 개발사 오픈AI가 챗봇 내 성적 대화나 성인 콘텐츠를 허용하겠다고 밝힌 후 논란이 커지자 샘 올트만 최고경영자(CEO)가 직접 입장을 밝혔다.

올트만 CEO는 15일(현지시간) 엑스(X·옛 트위터)에 올린 글에서 전날 자신이 챗GPT 콘텐츠 정책 변경 방향에 대해 알린 게시물을 언급하며 "이 트윗은 챗GPT의 향후 변경 사항에 관한 내용인데, 성애물(erotica) 부분에서 예상보다 훨씬 더 폭발적인 관심을 받았다"는 글을 게재했다.

전날 공개된 게시물에는 "12월부터 연령 제한 기능을 더 완전히 도입하면서 '성인 이용자는 성인답게 대하자'는 원칙에 따라 (연령이) 인증된 성인에게는 성애물 같은 훨씬 더 많은 것을 허용할 것"이라는 내용이 담겨 있다.

하지만 이후 우려의 목소리가 쏟아졌다. 현실에서도 이용자 연령 확인이 제대로 이뤄지기 힘든 상황에서 어린이·청소년의 성인 콘텐츠 접근을 어떻게 막을 수 있겠냐는 것. 성인 이용자라 해도 성도착증 등 정신건강 문제를 더 심화할 수 있다는 우려도 제기됐다.

이에 올트만 CEO는 이날 올린 게시물을 통해 "우리는 세계의 선출된 도덕 경찰이 아니다(we are not the elected moral police of the world)"며 "사회가 다른 적절한 경계(예를 들어 R등급 영화)를 구분하는 것과 같은 방식으로, 우리도 여기서 비슷한 것을 하고 싶다"고 반박했다.

이어 "성인 이용자를 성인답게 대하는 원칙도 매우 중시한다"면서 "AI가 사람들의 삶에서 더 중요한 역할을 하게 됨에 따라 그들이 원하는 방식으로 AI를 사용할 수 있게 많은 자유를 허용하는 것은 우리의 사명에서 중요한 부분"이라고 전했다.

이어 "물론 이 원칙이 모든 경우에 적용되는 것은 아니다"라며 "예를 들어 타인에게 해를 끼치는 것은 여전히 허용하지 않으며, 우리는 정신건강 위기를 겪는 이용자와 그렇지 않은 이용자를 완전히 다르게 대우할 것"이라고 덧붙였다.

그렇지만 올트만 CEO의 해명에도 챗GPT의 성인 콘텐츠 허용을 둘러싼 갑론을박은 이어지고 있다. 시민단체 전미성착취반대센터(National Center on Sexual Exploitation)의 헤일리 맥나마라 이사는 이날 성명에서 "성적으로 대상화된 AI 챗봇은 본질적으로 위험하며, 가공된 친밀감으로 인해 실제 정신건강에 해로운 영향을 줄 수 있다"고 비판했다.

김소연 한경닷컴 기자 sue123@hankyung.com