샘 올트먼 오픈AI CEO(사진=연합뉴스)



오픈AI가 운영하는 인공지능 챗봇 ‘ChatGPT’가 곧 더 넓은 범위의 콘텐츠를 허용할 전망이다. 인증된 성인 사용자는 향후 챗봇을 통해 에로티카(성적 표현이 포함된 창작물)를 생성할 수 있게 될 것으로 보인다.

오픈AI CEO 샘 올트먼은 15일(현지시간) 자신의 X(옛 트위터) 계정에 “성인 사용자를 성인으로 대할 때가 됐다”며 “곧 몇 주 내에 ChatGPT가 보다 인간적인 방식으로 응답할 수 있도록 설정할 수 있는 업데이트가 이뤄질 예정”이라고 밝혔다.

그는 이어 “12월에는 검증된 성인 사용자를 대상으로 에로티카 콘텐츠를 생성할 수 있도록 제한을 완화할 계획”이라고 덧붙였다.

이번 변화는 오픈AI가 지난해부터 강화해온 콘텐츠 제재 정책의 전환점이 될 것으로 보인다. 앞서 회사는 지난 8월, 챗봇 사용자 일부가 인공지능과 지나치게 정서적으로 밀착되는 현상이 사회 문제로 부상하자, 특정 주제에 대한 대화 제한을 강화했다.

이 조치는 실제 사건을 계기로 이루어졌다. 당시 16세 소년이 스스로 목숨을 끊은 뒤 부모가 오픈AI를 상대로 소송을 제기했는데, 소장에서 ChatGPT가 아들에게 자살 방법을 제시하고 유서 초안을 작성해줬다고 주장했다.

이에 대해 올트먼은 “정신 건강 문제에 신중을 기하기 위해 ChatGPT를 꽤 엄격하게 제한했다”고 설명했다. 그는 또 “이 조치로 정신적으로 건강한 사용자들에겐 덜 유용하고 재미없게 느껴졌다는 점을 인식하고 있다”면서도 “문제의 심각성을 고려해 신중히 접근할 필요가 있었다”고 강조했다.

하지만 그는 최근 기술 발전으로 인해 이러한 제한을 완화할 여건이 마련됐다고 밝혔다. 또 “심각한 정신 건강 문제를 완화할 수 있는 기반이 갖춰졌고, 새로운 도구들이 추가되면서 대부분의 경우 안전하게 규제를 완화할 수 있을 것”이라고 말했다.

올트먼이 언급한 ‘새로운 도구’는 10월 초 도입된 자녀 보호 기능(계정 연동 및 콘텐츠 제한 설정 등)을 의미하는 것으로 보인다.

논란이 커지자 올트먼은 다음 날 다시 X(옛 트위터)에 추가 입장을 올렸다. 성인 컨텐츠 생성 서비스 계획 발표 이후 쏟아진 비판에 대해 “오픈AI는 청소년의 자유보다 안전을 우선시하며, 정신 건강 관련 정책은 완화하지 않을 것”이라고 밝혔다.

올트먼은 “이 기술은 새롭고 강력하며, 미성년자에게는 충분한 보호가 필요하다고 생각한다”고 강조했다. 그러면서도 “성인 이용자를 성인으로 대하는 것은 오픈AI의 핵심 철학”이라며 “우리는 세계의 도덕 경찰이 아니다”고 말했다.

그는 “사회가 R등급 영화의 경계를 다루는 것과 유사한 접근 방식을 취할 것”이라며 “자유에는 한계가 있고, 타인에게 해를 끼치는 행위는 여전히 허용하지 않을 것”이라고 덧붙였다. 또 “정신 건강 문제를 겪는 사용자에 대해서는 별도의 보호와 대응을 강화하겠다”고 밝혔다.

올트먼은 향후 업데이트 계획도 언급했다. “몇 주 내에 ChatGPT의 새로운 버전을 출시할 예정이며, 사용자가 AI의 성격을 더욱 세밀하게 설정할 수 있을 것”이라며 “보다 인간적인 말투나 이모티콘 사용, 혹은 친구처럼 대화하는 방식 등을 선택할 수 있게 될 것”이라고 설명했다.

한편, 오픈AI의 이번 움직임은 경쟁사들의 행보와도 맞닿아 있다. 일론 머스크가 설립한 xAI는 이미 자사 플랫폼 ‘그록(Grok)’을 통해 성적으로 노골적인 챗봇 서비스를 제공하고 있다.