최근 OpenAI가 챗지피티(ChatGPT)에서 성인용 콘텐츠(이른바 19금 콘텐츠) 생성과 관련한 정책을 완화할 가능성이 있다는 발표가 나오며, 국내외 AI 사용자들 사이에서 큰 화제가 되고 있습니다. 지금까지는 명확하게 제한돼 왔던 챗지피티의 NSFW(노골적 콘텐츠) 사용 범위가 달라질 수 있다는 신호이기 때문입니다.
이번 글에서는 챗지피티의 성인 콘텐츠 정책 변화와 향후 적용 가능성, 기술적·윤리적 논란까지 최신 정보 기반으로 정리해드립니다.
OpenAI, 19금 콘텐츠 허용 움직임의 배경
2025년 10월 기준, OpenAI는 공식적으로 “성인 인증을 거친 사용자에 한해” 성인 콘텐츠 생성 기능을 2025년 12월부터 점진적으로 허용할 계획이라고 발표했습니다.
[Reuters]에 따르면, 이는 기존의 엄격한 검열 정책에서 중요한 방향 전환을 시사합니다. OpenAI CEO 샘 알트먼(Sam Altman)은 “성인은 성인답게 대우받아야 한다”며 일부 표현의 자유와 사용자 자율권을 확대하겠다는 취지를 밝혔습니다. (출처)
기존 정책은 어땠을까?
OpenAI의 공식 이용 정책(Usage Policies)에서는 아래와 같은 항목이 명시되어 있습니다.
- 아동 또는 미성년자와 관련된 성적 콘텐츠는 절대 금지
- “합의 없는 노출(non-consensual imagery)”, 혐오 콘텐츠, 성적 괴롭힘 등도 포함해 성적으로 민감한 주제는 전반적으로 제한
- 정책 문서 확인하기
즉, 지금까지는 NSFW, 포르노, 에로티카 등 성인 콘텐츠 전반이 차단 대상이었습니다.
바뀌는 점은 무엇인가?
✅ 연령 인증 시스템 도입 예정
성인 콘텐츠 접근은 본인 인증된 사용자만 가능하도록 설계됩니다.
✅ erotica(에로티카) 범위 내 일부 허용
전체 포르노 수준이 아닌, 감정 중심의 문학적 표현 또는 성인적 분위기의 콘텐츠부터 허용될 가능성이 높습니다. (Ars Technica)
✅ 텍스트 위주, 이미지/영상은 제한적
Sora나 DALL·E 등 이미지 생성 AI에서는 여전히 엄격한 콘텐츠 제한이 유지될 예정입니다.
우려되는 부분과 비판
⚠ 윤리적 책임 논란
- 자극적인 콘텐츠가 딥페이크나 명예훼손에 악용될 가능성
- 사용자의 상상력이나 표현이 무제한 허용될 경우 사회적 영향 우려
⚠ 청소년 유입 차단 문제
- VPN, 우회 가입 등을 통한 미성년자 접근 차단이 기술적으로 완벽하지 않음
⚠ 생성물에 대한 책임 소재 모호
- AI가 생성한 콘텐츠의 소유권, 법적 책임 문제에 대한 기준이 아직 미흡함
다른 AI 기업과의 차이는?
Midjourney, Stable Diffusion 등 일부 AI는 비공식 경로로 성인 콘텐츠 생성이 가능했던 반면, OpenAI는 지금까지 가장 엄격한 제한을 유지해 왔습니다. 이번 정책 변화는 이용자 확대 전략과 함께, AI의 표현 능력을 넓히려는 의도로 해석됩니다.
정리: 성인 콘텐츠 허용은 시대의 흐름일까?
OpenAI의 이번 정책 변화는 “단순한 19금 해제”를 넘어, AI 윤리와 사용자 권한의 새로운 기준을 제시하는 움직임으로 해석할 수 있습니다.
- ✅ 성인 인증 시스템 기반으로 제한적 허용
- ✅ 문학적 erotica 표현부터 테스트 가능성
- ⚠ 청소년 보호 및 기술적 통제 필요
- ⚠ 생성물의 법적 책임 분배 논의 필요
앞으로 챗지피티를 포함한 생성형 AI가 어디까지 인간의 표현과 욕망을 대체할 수 있을지, 기술뿐 아니라 사회적 기준까지 함께 지켜봐야 할 시점입니다.
