인공지능 포르노 '딥페이크'···피해자 25%가 한국 女연예인

[테크]by 중앙일보

'딥페이크' 포르노 1년 새 두배 늘어

기존 포르노에 얼굴만 연예인으로 합성

美·英 여배우 41%, 케이팝스타 25%

미국에서는 제작·유통 금지 움직임


인공지능 기술을 이용해 기존의 포르노 영상에 유명 여자 연예인의 얼굴을 붙이는 일명 '딥페이크' 포르노가 급증하는 가운데, 영상 속 얼굴 도용 피해자의 25%가 한국 여자 연예인인 것으로 나타났다.

중앙일보

<이미지를 클릭하시면 크게 보실 수 있습니다>



영국 BBC는 7일 네덜란드의 사이버 보안 연구 회사 '딥트레이스'의 딥페이크 연구 보고서를 인용해 2018년 12월 약 8000개로 집계됐던 딥페이크 비디오가 2019년 현재 1만 4698개로 두 배 가까이 늘었다고 보도했다. 이 영상 중 96%는 포르노로 소비되고 있으며, 얼굴 합성 피해자 중에는 미국과 영국의 여배우(46%) 다음으로 케이팝 여자 가수(25%)가 많았다고 미국 대중문화전문지 롤링스톤은 전했다. 딥트레이스의 연구진들은 2차 피해를 막기 위해 피해자들의 이름을 공개하지 않겠다는 방침이다.

중앙일보

<이미지를 클릭하시면 크게 보실 수 있습니다>



딥트레이스에 따르면 케이팝 스타의 얼굴을 합성한 딥페이크 동영상 중 대부분은 한국이 아닌 중국에서 만들어지는 것으로 나타났다. 롤링스톤은 "케이팝이 50억 달러(약 5조 9750억) 규모의 세계적인 산업으로 성장하며 케이팝 스타들이 딥페이크 포르노의 피해자가 되고 있다"며 이러한 현상은 케이팝의 인기가 매우 높다는 방증일 수도 있다고 전했다.


이어 "하지만 (피해자의) 절반 정도가 영국이나 미국 출신이라는 점을 고려하면 딥페이크 포르노는 국적이나 문화적 배경을 불문하고 모든 유형의 여성 연예인을 타깃으로 한다는 것이 더 유력한 설명"이라고 덧붙였다.

중앙일보

<이미지를 클릭하시면 크게 보실 수 있습니다>


'딥페이크'란 인공지능 기술을 활용해 특정 인물의 얼굴을 원하는 영상에 붙이는 합성 영상물이다. 딥페이크 기술을 사용하면 특정 포르노 영상에서 특정인의 얼굴만을 떼어내 연예인의 얼굴을 붙일 수도 있고, 유명 정치인이 우스꽝스러운 내용의 연설을 하는 것처럼 보이는 가짜 동영상을 만들 수도 있다. 표정이나 이목구비의 움직임 뿐 아니라 제스처와 목소리까지 복제 가능하다.



딥트레이스의 헨리 아이더 연구 분석 책임자는 BBC와의 인터뷰에서 "딥페이크에 대한 논의는 너무 많이 빗나갔다"며 "이 기술이 등장했을 때 사람들은 정치적 문제나 사기 범죄가 증가할 것이라고 우려했는데, 정작 문제는 포르노였다"고 지적했다.


딥페이크 기술을 이용해 유명 정치인의 얼굴을 내세운 가짜 뉴스가 대량 생산될 것이라는 전망과는 달리, 딥페이크 동영상 중 압도적인 비율(96%)을 차지하는 것은 포르노라는 것이다.


또 딥트레이스에 따르면 여성의 얼굴을 다양한 각도에서 담은 사진 250장만 있으면 이틀 안에 딥페이크 포르노를 '맞춤 제작'할 수 있는 것으로 알려졌다. 이런 영상을 판매하는 업체도 생겨났는데, 이들이 제작한 딥페이크 포르노 영상은 3달러(약 3580원)에 판매되고 있다고 CNN 방송은 전했다.


하지만 대부분의 나라에서 딥페이크에 대한 규제는 기술 발전 속도를 따라가지 못하는 형편이다. 딥페이크 포르노에 얼굴을 도용당하는 것은 피해자에게 엄청난 정신적 피해를 가져오지만, 법적으로는 이같은 행위가 불법 촬영 영상 유포나 성폭행에 해당하지 않아 처벌이 사실상 불가능하다.


최근 미국의 버지니아주와 캘리포니아주 등이 딥페이크 규제에 발 벗고 나섰는데, 버지니아주는 지난 7월 미국에서 최초로 딥페이크 포르노 유포와 공유를 금지했다. 성적 사진이나 동영상을 피해자 동의 없이 유포하는 리벤지 포르노를 범죄로 규정한 법에서 유포 금지 대상을 '조작된 사진 또는 영상'까지 확대함으로써 딥페이크를 최초로 범죄화한 것이다.


캘리포니아주 또한 동의 없이 만들어진 딥페이크 포르노를 제작하거나 유통하는 자에게 최대 15만 달러(약 1억 7925만원)의 손해배상을 하게 하도록 최근 법을 개정했다.


홍지유 기자 hong.jiyu@joongang.co.kr


중앙일보 '홈페이지' / '페이스북' 친구추가


이슈를 쉽게 정리해주는 '썰리'


ⓒ중앙일보(https://joongang.co.kr), 무단 전재 및 재배포 금지

2022.08.06원문링크 바로가기

본 콘텐츠의 저작권은 저자 또는 제공처에 있으며, 이를 무단 이용하는 경우 저작권법 등에 따라 법적 책임을 질 수 있습니다.

Copyright © ZUM internet Corp. All Rights Reserved.