본문 바로 가기

[ 테크 ]

기계는 목적을 위해 사람을 속일 수 있는가? 구글 듀플렉스의 질문

by김국현

기계는 목적을 위해 사람을 속일 수

구글이 올해 개발자행사 구글 I/O에서 선보인 구글 듀플렉스. 딥러닝 인공지능으로 만들어진 기계 비서가 사람 대신 상점에 전화를 걸어 예약을 해주는 데모였다. 그 대화의 자연스러움은 억양뿐만이 아니어서, 영어가 다소 서툰 점원과의 대화 사례에서는 심지어 원어민의 아량과 배려심까지 느껴질 정도였다.


이는 다른 모든 발표를 가려버릴 정도로 충격적이었는데, 그래서 그런지 수많은 걱정과 예측을 담은 기사가 양산되기도 했다. 인간이 드디어 프로그램이 호출할 수 있는 무료 API 모듈이 되어버렸다는 우려는 이미 현실이기도 하다. 구글 지도에 표기할 업장 영업시간 확인을 위해 이 전화 하는 기계가 문의할 것이라는 소식에서 미래는 이미 와 있고, 우리 동네에 안 왔을 뿐이었음을 느끼게 된다. 


실제로 실황 영상을 보면 여러 가지 심정이 든다.

내 경우, ‘아, 확실히 넌 나보다 영어를 잘하는구나’라는 분함이 먼저 엄습했지만, 그 후에 찾아온 감정은 조금 더 복잡했다. 지치지 않는 학습력으로 인간의 소통 방식을 통계적으로 학습한 기계가 언젠가는 나의 대화력이 정규분포상 어디쯤 위치했는지 점수 매기기가 가능할지 모른다는 공상 덕이었다.

 

이런 기술의 대중화 초기에야 감정적으로 지칠 리 없는 로봇 텔레마케터의 공세를 겁낼 수도 있겠지만, 인간이 기계와 대화하는 것에 익숙해진 근미래에는 정부와 같은 공적 영역에서 수시로 시민에게 전화를 걸어 그 정신적 안녕을 확인하는 절차가 시행될지도 모르겠다. 명분은 시민의 니즈를 먼저 알아차리는 친절한 정부가 되기 위한 것이겠지만, 정권이 바뀌어 같은 기술이 시민의 성향을 파악하기 위한 도구로 쓰일 수도 있는 일이다. 기계에 대고 빈정대는 말투를 했다가는 후환이 두려워진다.


지금도 로보콜(robocall)이라고 미국에서는 사회 문제가 될 정도로 기계가 전화를 걸어 대는 일은 일상이 되어가고 있다. 하지만 우리는 수신전화에서 ARS 느낌이 나면 대부분 바로 끊어 버린다.


그러나 이번에 목격된 것처럼 기계와 인간의 구분이 사실상 불가능해진다면, 인간은 기계의 호출에 위화감 없이 응하게 된다. 모듈의 신세가 되는 것은 순간이다. 사실 기계가 자신의 목적을 위해 사람을 속일 수 있도록 설계되는 이 방향성은, 기술 발전상 피할 수 없는 일이었다.


감정에 흔들리기 쉬운 인간이라는 모듈을 시스템에 편입시키기 위해서는 호출받는 쪽, 즉 인간의 허술함까지 커버하기 위해 호출하는 쪽이 진화하는 편이 나을 수도 있는 일이다. 공학적으로는 강건성(robustness)이라고 부를 수 있는 영역인데, 연동이 생각처럼 되지 않을 위험에 빠질 때 그냥 에러를 내고 뻗어버리는 것이 아니라, 최대한 다른 모듈을 아우르며 감싸 안고 운영될 수 있는 경지로 나아가는 일이다. 구글 듀플렉스는 의심 많은 인간에게 안도감을 주기 위해 '엄'이나 '흠'과 같은 추임새나 눌변·말더듬(disfluency) 같은 인간다움까지 도입했다. 우리는 우리를 닮은 기술에서 진보를 느낀다.


그럼에도 불구하고 눈치 빠른 인간은 상대가 기계임을 알아차릴 수도 있을 터이다. (구글의 경우는 기계임을 알리기로 했다는 후문이다.) 그런데 그 수화기 너머의 상대가 잠재고객이라면, 즉 갑인 경우에는 어쩔 수 없이 기계를 향한 감정노동을 해야 할 신세다. 상대는 기계라도 내 전화 매너를 별점으로 고객의 스마트폰에 찍어줄지도 모르기 때문이니까.