충격적인 故김새론의 고백, ‘AI 조작’이라고? [해시태그]

(디자인=김다애 디자이너 mnbgn@)

충격 기자회견이 더 큰 충격으로 다가왔습니다. 고인의 녹취록이 공개된 데 이어 그 목소리가 ‘AI로 조작된 것’일 수 있다는 반박이 나오면서였는데요. 진실을 판단할 기준이 흔들리면서, 우리가 믿는 ‘소리’의 실체를 되묻고 있습니다.

7일 고(故) 김새론 씨 유족 측 법률대리인 부지석 변호사(법무법인 부유)와 유튜브 채널 ‘가로세로연구소(가세연)’ 김세의 대표가 기자회견을 열고 배우 김수현을 아동복지법 위반 및 무고 혐의로 고소한 사실을 발표했습니다. 또 미국 뉴저지에 거주하는 한 제보자로부터 받은 김새론의 생전 통화 녹취 일부도 공개했죠.

(신태현 기자 holjjak@)

녹취에 따르면 고인은 “중학교 때부터 김수현과 사귀었고, 성인이 된 후에도 관계가 이어졌다”며 “처음 관계를 가진 시점은 중2 겨울방학”이라고 말했습니다. 김수현과 소속사 관계자들에 대해 “무섭고 뭐든지 하는 사람들”이라고 묘사하며 “처음부터 이용당한 느낌”이라고 한탄했죠. 이어 “형편만 됐으면 이미 다 까발렸다”며 억울한 감정을 토로했고, “왜 가만히 있느냐”는 주변의 반응도 함께 전했는데요.

부 변호사는 “김수현이 미성년자인 고인에게 음란한 행위를 시키거나 성희롱 등 성적 학대를 했다”며 “김수현은 사실을 말하는 유족 측을 허위사실 유포 및 명예훼손으로 고소했지만, 유족은 이에 대해 김수현이 무고했다는 혐의로 다시 고소한 것”이라고 목소리를 높였습니다. 이 과정에서 제보자가 흉기 피습을 당해 생명을 잃을 뻔했다고 덧붙였죠.

충격적인 녹취록에 놀랐던 마음은 뒤이어 날아온 어퍼컷에 정신을 차릴 수 없었습니다. 김수현 측과 유튜버 이진호의 반박이었죠. 이들은 해당 녹취록이 인공지능(AI)을 이용한 딥보이스 조작이라고 주장했는데요. 이진호는 해당 음성을 제공한 제보자가 딥러닝 기반의 음성합성 기술을 활용해 고인의 목소리를 조작했고, 금전적 이득을 시도했다고 폭로했죠. 

그러면서 “해당 녹취파일을 가세연에 전달한 사람은 골드메달리스트에도 고인이 김수현 배우에 대해 유리한 발언을 한 녹취파일이 있다며 접근한 사기꾼”이라며 “해당 녹취 파일에 대한 기술적 검증을 진행하고 있으며 검증 결과가 나오는 대로 즉시 공유하도록 하겠다”고 강조했습니다.

(신태현 기자 holjjak@)

그러자 가세연 측은 라이브 방송을 통해 제보자의 현 피습 상황을 영상으로 공개하며 재반박했고, 이진호 또한 제보자가 보내온 음성을 공개하며 다시 맞섰죠. 현재까지는 이 녹취 파일이 고인의 음성인지, 아니면 AI 기술로 합성된 것인지를 아직 누구도 명확히 밝히지 못하고 있는데요.

네티즌들 또한 혼란스러웠습니다. 고 김새론 목소리에 의심할 수 없는 진실로 인식했지만, AI라는 반박에 순간 입을 다물게 됐는데요. 확실한 목소리지만 ‘그럴 가능성이 있다’고 받아들인 건 그만큼 AI 기술이 발전했기 때문입니다. 단순한 의혹 제기가 아닌 지금 우리가 살아가는 시대의 기술 수준을 반영하는 사회적 현상인 셈이죠.

이처럼 딥페이크(Deep Fake) 영상보다 훨씬 더 탐지하기 어려운 딥보이스(Deep Voice) 공격은 사람의 목소리를 수 초간 학습하는 것만으로도 억양, 감정, 속도, 숨소리까지 재현할 수 있어 피해자가 실제 인물과의 통화를 믿고 속는 경우가 급증하고 있는데요.

글로벌 사이버 보안 기업 크라우드스트라이크(CrowdStrike)가 지난해 말 발표한 보고서에 따르면 AI 기반 딥보이스 기술을 활용한 보이스피싱 범죄가 전 세계적으로 전년 대비 442% 증가한 것으로 나타났습니다.

그러면서 “음성 기반의 사회공학적 공격(Social Engineering) 기술이 AI로 강화된 상태”라고 평가하며, 딥보이스 범죄의 확산 속도는 “이메일 피싱의 초기 확산보다도 빠르다”고 경고했는데요. 이메일·문자와 달리 ‘귀에 들리는 믿을 만한 목소리’를 기반으로 이뤄지기 때문에 피해자로서는 위조 여부를 즉각 파악하기 어렵고, 기존의 보안 훈련이 무용지물이 되는 상황이 반복된 겁니다.

(게티이미지뱅크)

실제 전기통신금융사기 통합신고대응센터에 따르면 지난해 말 외국 거주 부모가 자녀의 얼굴과 목소리를 딥페이크과 딥보이스로 조작한 협박 영상을 받고 금전을 송금할 뻔한 사건이 있었는데요. 

다행히 이 사건에서 피해는 발생하지 않았지만, 해당 영상에 등장한 자녀의 모습이 딥페이크 기술로 만들어진 가짜였다는 점이 확인되면서 AI 기술이 범죄에 악용될 수 있다는 심각성을 보여줬죠.

또한, 올해 1분기 기준 국내 보이스피싱 피해는 총 3116억 원, 건당 평균 피해액은 5301만 원에 달했는데요. 문자·메신저를 통한 스미싱 역시 공모주 사칭, 단기 알바 위장 등의 방식으로 진화하고 있으며, AI 기반 음성 조작이 이들과 결합해 정밀화되고 있습니다.

AI 피싱은 사람의 심리를 파고드는데요. 특히 가족의 목소리를 들으면 누구라도 쉽게 믿어버리게 되죠. 딥보이스 기술은 단 3~10초의 샘플만으로 억양, 감정, 말투, 숨소리까지 완벽히 복제할 수 있는데요. 부족한 보안 의식 때문이 아니라 ‘믿는 사람’이기에 속게 돼 버립니다.

그렇다면 이런 AI 피싱은 어떻게 예방할 수 있을까요? 출처가 불분명한 전화나 메시지는 반드시 2차 확인. 말투, 억양, 메신저 프로필 등을 점검해야 하고요. 기업들은 음성·영상 기반 요청은 내부 결재 시스템을 통과하게 하고, 다중 인증과 보안교육도 강화해야 합니다. 

또 AI 생성 콘텐츠에 워터마크 삽입을 의무화하고, 포렌식 대응 기술 개발과 탐지 툴 도입도 확대하는 것을 지향하는데요. KT도 지난달 AI 기반 보이스피싱 탐지 기술을 2개월간 운영한 결과 약 160억 원의 피해를 사전 차단했다고 밝힌 바 있습니다.

(게티이미지뱅크)

현재 한국에는 AI 음성 조작 자체를 직접 처벌하는 전용 법 조항은 마련돼 있지 않은데요. 다만 정보통신망법 제70조, 허위사실 유포로 인한 명예훼손이나 형법 제137조 공무집행방해죄, 형법 제314조 업무방해죄, 성폭력처벌법 등을 들어 처벌할 수 있습니다.

실제로 지난해 한 파견 비서가 상사의 성희롱 음성을 조작해 진정서를 제출했으나, AI 합성된 가짜 음성으로 밝혀져 공무집행방해 혐의로 형사 고발 검토된 사건이 있었죠.

이번 故 김새론 AI 진위 논란은 연예계의 폭로성 논란을 넘어서 우리가 얼마나 ‘귀로 듣는 것’을 신뢰하고 있었는지 되돌아보게 하는데요. 故 김새론 사건의 진실 여부는 향후 수사와 감정 결과를 통해 밝혀지겠지만, 이번 사건이 우리 사회에 던지는 메시지는 명확하죠. 믿고 들었던 목소리조차 진짜인지 의심해야 하는 시대, 우리는 이미 그 문턱을 넘어섰습니다.

기정아 기자 kki@etoday.co.kr