AI로 이미지를 생성할 수 있다는 사실은 요즘 이슈라서 잘 아실텐데요. 이러한 이미지는 정말 실사처럼 보이는 사진이나 애니메이션같은 일러스트처럼 생기기도 합니다. 하지만 이러한 이미지들 중 사람의 특정 부위를 강조한 사진이나 음란물과 다름이 없는 결과물들도 존재하는데 이를 돈을 받고 공유하거나 구입하는 경우가 늘어나고 있습니다. 이와 같은 사유는 ‘음란물 유포죄’로 처벌이 가능할까요?
AI로 19금 컨탠츠 생성?
AI 스크립트를 실행 후 특정 프롬프트를 입력하면 키워드에 들어맞는 이미지를 생성 할 수 있습니다. 사전 학습 된 모델이 키워드에 맞게 이미지를 생성하는겁니다. 이는 스크립트를 실행하는 환경만 있고 키워드를 입력만 하면 수십분안에 여러장의 사진을 얻을 수 있기에 어린 청소년들도 쉽게 접근 가능하고 제작 가능합니다.
AI 음란물 문제
글로벌 플랫폼이지만 국내에서는 제작자와 이용자 모두에게 상당한 인기가 있는 것으로 알려져 있습니다. 국내 온라인 커뮤니티 A사이트는 AI 이미지와 관련된 주제로 유명한데, 이 사이트에서는 해외 거래 사이트에서 음란물을 판매하는 방법에 대한 정보가 공유되는 경우도 있습니다. 예를 들어, 미국에 기반을 둔 P사이트에서 음란물을 판매하는 한 한국인 업자는 “아청법을 회피하기 위해서는 작성한 글에 국적을 드러내지 말고 후원금을 페이팔이나 비트코인으로 받아야 한다”고 조언하며, “문제가 될 수 있는 사진은 구글 드라이브나 텔레그램을 통해 거래하면 좋다”고 설명하였습니다. 다른 판매자도 “P사이트에 사진을 올렸더니 실제 성적인 사진을 요청하는 등 더 고난이도의 사진을 요구하는 경우가 있어 고민 중”이라고 글을 남기면, “처음에는 수영복 사진부터 시작하여 점차 수위를 높이면서 가격도 높게 책정하라”는 답변이 올라온 적도 있습니다.
제보자 A씨는 AI 음란물 유통에 대한 구조를 잘 이해하고 있는데, “특히 일본 플랫폼에서 이와 관련된 거래가 활발하게 이루어지며, 한 달에 10만 엔(약 100만 원) 이상의 후원을 받는 사례도 많이 있습니다”라고 밝혔습니다. 그는 “하지만 최근에는 거래 플랫폼에서 아동 포르노에 대한 제재가 강화되면서 수익을 얻기 어려워졌기 때문에, 간접적인 방법으로 트위터, 디스코드, 텔레그램 등을 통해 후원을 유도하는 추세도 나타나고 있다”고 덧붙였습니다.
이러한 판매자들은 주로 유튜브와 트위터와 같은 커뮤니티 플랫폼을 활용하여 샘플 사진과 영상을 게시하고, 거래 플랫폼 페이지를 홍보하는 방식을 채택하고 있습니다. 그리고 이들의 홍보 게시물 중에서 화제가 되는 AI 이미지들도 상당 부분이 포함되어 있습니다.
음란물 유포죄로 처벌근거는 있나
기술 발전으로 새로운 유형의 범죄가 증가하면서, 어떤 기준으로 처벌할지에 대한 명확한 기준이 없는 상황이 발생하고 있습니다. 특히 생성 AI를 이용한 음란물은 ‘N번방’ 사건을 계기로 2020년 6월에 시행된 ‘딥페이크 처벌법’을 우회할 수 있다는 해석이 나오고 있습니다. 이 법은 다른 사람의 얼굴이나 신체를 가공하여 가짜 성 착취물을 만들거나 배포하는 행위를 처벌하는 내용을 담고 있습니다. 그러나 생성 AI는 여러 인물의 특징을 학습하여 가상의 인물을 생성하므로, 해당 법에 적용되지 않을 가능성이 있습니다. 또한 초상권 침해나 명예 훼손과 같은 법적 문제에 대한 적용도 모호할 수 있습니다.
법률 전문가인 서아람 법무법인 SC 변호사는 “생성 AI를 통해 성인물 이미지를 생성하고 공유하는 커뮤니티는 민·형사적으로 큰 문제가 될 수 있지만, 수사와 처벌은 어려울 수 있다”고 말하였습니다. 그는 덧붙여 “AI 생성 이미지의 원본 이미지를 추적하기 어려울 수 있으며, 여러 이미지를 결합하여 식별을 어렵게 만든 경우 AI 알고리즘에 의해 우연히 해당 이미지가 생성되었다는 주장도 가능하다”고 설명하였습니다.
전문가들은 AI의 영역이 빠르게 확장되면서 다양한 사회적 문제를 빠르게 논의해야 한다고 강조하고 있습니다. 한국인공지능&윤리협회 이사장인 전창배는 “AI의 등장으로 처음 겪는 문제가 늘어날 것”이라며 “제도를 마련하는 데는 시간이 필요하며, 완전한 차단은 어려울 수 있기 때문에 기업과 이용자 모두가 따를 수 있는 지침을 마련하는 것이 중요하다”고 강조하였습니다.