본문 바로 가기

[ 테크 ]

얼굴 인식하려 하면 방해, 인공지능 속이는 인공지능

by조선비즈

소셜 미디어에 올린 사진이나 동영상이 개인 정보를 유출하는 경로가 되고 있다. 인공지능은 얼굴 인식 시스템으로 사진과 동영상을 분석해 사진 속 사람이 누구인지, 어디에 사는지, 아는 사람은 누구인지 등의 정보를 축적한다. 캐나다 토론토대 연구진이 사생활 보호를 위해 인공지능의 얼굴 인식을 무력화할 수 있는 또 다른 인공지능을 개발했다.

토론토대 전기컴퓨터공학과의 파람 아라비 교수 연구진은 '적대신경망'이라는 새로운 인공지능 심층학습법을 도입했다. 간단히 말해 한 시스템 안에서 두 개의 인공지능이 서로 싸우는 방식이다. 한 인공지능은 주어진 사진을 보고 얼굴을 인식한다. 반대편 인공지능은 사진의 정보를 미세하게 바꿔 첫 번째 인공지능의 얼굴 인식을 방해한다. 이를 반복하면 어떤 얼굴 인식 시스템도 속일 수 있는 방법을 터득할 수 있다.

얼굴 인식하려 하면 방해, 인공지능

유명 배우들의 사진. 왼쪽이 원본이고 가운데는 사생활 보호 인공지능이 변형시킨 것이다. 사람 눈으로는 분간이 되지 않지만 얼굴 인식에 필수적인 부분이 미세하게 바뀌었다(오른쪽). /캐나다 토론토대

연구진은 다양한 인종을 실내외에서 촬영한 600장 이상의 얼굴 사진을 사생활 보호 인공지능에 입력했다. 이후 이 사진들을 기존 인공지능에 제시하자 얼굴 인식 정확도가 100%에서 0.5%로 떨어졌다. 얼굴 인식 기능이 사실상 무력화된 것이다.

 

기존 얼굴 인식 시스템은 사람의 얼굴에서 80가지 특징을 추출해 개인별 특성을 파악한다. 눈 사이의 거리나 턱선의 모양 등이 대표적이다. 토론토대의 인공지능은 이런 부분의 화소(畵素)를 미세하게 변화시켜 전혀 다른 사람으로 인식하게 만든다. 연구진은 "우리가 개발한 인공지능은 얼굴 인식을 하는 인공지능이 보려고 하는 곳을 공격한다"며 "사진에서 매우 미세한 부분만 바꿔 사람 눈에는 똑같이 보이지만 얼굴 인식 인공지능을 속이기에는 충분하다"고 밝혔다.

 

연구진은 이번 연구 결과를 '2018 국제전기전자공학회(IEEE) 멀티미디어 신호 처리 워크숍'에서 발표할 계획이다. 또 스마트폰 앱이나 웹사이트에서 누구나 쓸 수 있는 형태의 사생활 보호 필터를 만들어 보급하기로 했다.

 

미국 매사추세츠공대(MIT)가 발간하는 기술 전문지인 '테크놀로지 리뷰'는 지난 2월 적대신경망을 올해 세상을 획기적으로 변화시킬 10대 기술에 포함시켰다. 인공지능 연구자들은 적대신경망을 이용하면 광고나 게임산업에서 복잡한 창작 과정 없이 언제든 새로운 이미지를 만들어낼 수 있다고 본다. 실제로 그래픽카드 업체인 미국 엔비디아는 지난해 같은 방법으로 진짜 같은 가짜 연예인 사진들을 만들어냈다. 소프트웨어업체 어도비는 적대신경망으로 세상에 둘 도 없는 개인 맞춤형 패션을 디자인하는 데 성공했다.

 

 

이영완 과학전문기자(ywlee@chosun.com)