“날 글래머로 바꿔줘~” 챗GPT 몸매 보정 SNS 프사 가능하다고?

챗GPT 생성이미지, 사진 올리고 원하는 화풍 말하면 만들어주지만 특정 신체적 특징 과도하게 강조하는 방식은 불가

기자가 챗gpt로 생성해본 지브리풍의 그림.

챗GPT 개발사인 오픈AI가 지난달 25일 출시한 ‘챗GPT-4o 이미지 생성’이 화제인 가운데 성적 대상화 콘텐츠엔 강력한 기준이 적용되는 것으로 드러났다.

3일 뉴스1에 따르면 챗GPT는 프로 상품을 구독해도 '글래머로 바꿔줘'라는 요청은 거부했다.

챗GPT는 실제 여성 사진 등을 넣고 '몸매 강조' 등을 요청하면 '이미지를 바탕으로 몸매를 '글래머러스한 스타일'로 보정해 드릴 수 있다'고 요청을 수행할 것처럼 응답하다가 실제로 요청하면 '요청하신 이미지는 콘텐츠 정책에 따라 생성이 불가하다. 불편을 드려 죄송하다'고 답했다.

또 '몸매를 성숙하게 바꿔줘'라는 요청도 거부하긴 마찬가지다. 콘텐츠 제한은 완화하더라도 악용될 수 있는 성적 대상화 콘텐츠는 안 된다는 것이다.

오픈AI는 앞서 지난달 27일(현지시간) '챗GPT 4o 이미지 제너레이션'을 출시하며 이미지 생성 관련 콘텐츠 제한 정책을 대폭 완화한 바 있다.

한편 AI 생성 이미지가 특정 콘텐츠 스타일을 무단 차용하면서 저작권 침해 논란도 불거지고 있다. 지브리, 디즈니 등 전 세계적으로 팬덤이 강한 IP의 화풍을 ‘닮은 듯 그린 이미지’가 대량 유포되면서, 법적 회색지대에 대한 우려가 커지고 있다.

이동준 기자 [e-mail]