본인도 모르는 사이 'AI 누드' 제작돼 유포… 피해 여성들, 아리조나서 업체 고소

 

자신의 사진이 도용돼 성적인 목적의 인공지능(AI) '가상 인플루언서' 제작에 무단으로 사용됐다며 여성들이 해당 기술 업체를 상대로 집단 소송을 제기했다.

피해 여성 3명은 자신들의 동의 없이 이미지를 훔쳐 음란물을 제작하고 이를 통해 수익을 챙긴 혐의로 피닉스에 소재한 생성형 AI 플랫폼 운영자들을 아리조나주 법원에 고소했다.

이들의 변호인단에 따르면 해당 업체는 사용자들이 평범하게 옷을 입은 여성의 사진을 업로드하면, AI 기술을 이용해 의상을 삭제하고 나체 상태의 디지털 아바타로 변환하는 서비스를 제공했다.

이렇게 만들어진 불법 합성물은 온라인상에서 판매돼 업체 측의 돈벌이 수단으로 악용됐다.

피해자들은 자신의 얼굴과 신체를 정교하게 모방한 딥페이크 영상이 인터넷에서 '바이럴' 되며 수백만 건의 조회수를 기록한 뒤에야 피해 사실을 인지했다.

익명을 요구한 한 피해자는 "내가 가본 적도 없는 장소를 배경으로 나랑 똑같이 생긴 AI가 등장하는 것을 보고 큰 충격을 받았다"며 "이미 영상이 수백만 번 조회되고 사람들이 이를 퍼다 나르면서 지인들까지 알게 된 상황"이라고 토로했다.

또 다른 피해자는 "누군가 이 영상을 찾아볼까 봐 매일 공포 속에 살고 있다"며 "하루빨리 영상이 삭제되고 더 이상 두려움에 떨지 않기를 바랄 뿐"이라고 호소했다.

이번 소송을 대리하는 닉 브랜드 변호사는 "생성형 AI 기술의 발전 속도가 너무 빨라 현행 법률이 이를 따라가지 못하고 있다"고 지적했다.

공동 변호인인 크리스티나 페레즈 헤사노 변호사도 "상상할 수 없는 방식으로 인권을 침해당한 피해자들의 억울함을 푸는 것이 우선"이라면서도 "잘못된 손에 들어간 AI 기술이 얼마나 큰 해악을 끼칠 수 있는지 보여주는 사례인 만큼, 관련 법규와 안전장치를 마련하는 계기가 돼야 한다"고 강조했다.

소송을 당한 업체 측은 현재 변호인을 선임하지 않은 상태이며, 소장에 기재된 주소로도 연락이 닿지 않고 있다.

이번 사건은 최근 미국 전역에서 일반인의 얼굴을 음란물에 합성하는 '딥페이크' 범죄가 급증해 당국이 규제 강화에 나선 가운데 발생해 주목된다.

기술이 법의 사각지대를 파고들며 피해를 키우고 있다는 지적이 제기되면서, 향후 법원의 판단이 관련 입법 논의에 영향을 미칠 것으로 보인다.