▲SBS <그것이 알고싶다>의 한 장면.
SBS
"앞으로는 사기범행의 양상이 아예 달라질 수도 있다. 사건을 수사하고 기소하면서 마주치는 증거들이 모두 '허위'일 수도 있겠다는 두려움이 들기 시작했다."
"'인간은 자기가 보는 것을 믿는다'고 하는 전통적인 공식이 붕괴되는 것이다. 시각과 청각을 혼동시키면 우리 인간이 판단할 수 있는 근거가 아예 없어진다. 이에 어떻게 대비할 수 있을지 생각해보면 정말 무서운 일이다."
'딥페이크(Deepfake)'란 딥러닝과 페이크의 합성어로 인공지능을 기반으로 활용한 이미지 합성 기술을 의미한다. 실존하는 인간의 얼굴과 몸, 음성 등을 디지털로 정교하게 합성하여 영상편집물을 만드는 기술이 발전하면서 일부가 범죄에 악용되는 문제가 날로 심각해지고 있는 상황이다.
20일 방송된 SBS <그것이 알고싶다>에서는 '빼앗긴 얼굴과 가짜의 덫, 화면 속 그들은 누구인가' 편을 통해 딥페이크를 활용한 신종 피싱범죄의 심각성을 조명했다.
전 코미디언이자 현재는 개인투자자로 활동 중인 황현희는 최근 SNS에 자신의 이름을 사칭한 가짜 계정들이 수도 없이 범람하고 있다는 사실을 뒤늦게 인지하고 큰 충격을 받았다. 누군가 황현희의 얼굴과 이름을 무단 도용해, SNS와 동영상 플랫폼에서 정체불명의 투자 광고를 진행하고 있었던 것이다.
영상 속 링크를 클릭하니 투자 정보를 알려주는 채팅방으로 연결됐다. 그 안에서는 놀랍게도 황현희를 사칭한 인물이 그의 개그맨 시절 유행어까지 따라하며 주식 투자를 유도하고 있었다. 이미 투자 피해자가 속출하고 있는 상황이었고, 황현희는 실제 자신이 하지도 않는 일에 연루되었다는 억울한 누명을 써야만 했다.
투자 전문가로 유명한 금융인 존 리 역시 황현희와 비슷한 피해를 입은 사실을 인터뷰에서 밝혔다. 사칭 계정으로 인하여 사기 피해를 당한 피해자가 무고한 존 리를 고소한 사건도 있었다. 존 리는 "일일이 잡으러 다닐 수도 없고 사칭 계정은 너무 많다. 사람들은 계속 속고 있다"며 곤혹스러워 했다.
유명인 137명, 피해금액 약 1조 원... 심각한 피싱범죄
상황이 악화되자 지난 3월에는 '유명인 사칭 온라인 피싱범죄 해결을 위한 모임'이 결성되어 공동대처에 나섰다. 황현희와 존 리를 비롯하여 유재석, 송은이, 홍진경 등 이름과 사진을 도용당했다는 유명인만 무려 137명에 이르렀다. 또한 유명인을 사칭하여 이루어진 온라인 피싱 범죄의 피해액은 무려 약 1조 원에 달할 정도로 심각해진 상황이다.
피해자들은 사회적으로 유명한 연예인이나 전문가들이 등장하는 모습에서 신뢰감을 얻고 투자를 결심하는 경우가 많다. 2차 전지 관련주 돌풍으로 화제를 모은 '배터리 아저씨' 박순혁 작가 역시 SNS와 동영상 플랫폼에 그를 사칭한 계정이 등장하면서 앞으로 상승할 주식 종목을 추천해 많은 투자자들을 유인했다고 한다.
그래도 진위 여부를 반신반의하던 투자자들의 의심을 결정적으로 불식시킨 계기는, 유명 배우 송혜교와 조인성이 출연했다는 축하영상이었다. 투자자들은 이들의 영상 메시지를 보고난 후, 해당 종목이 어린이 자선사업에 쓰일 공모주 프로젝트라는 사실을 믿고 투자를 결정했다.
하지만 놀랍게도 두 배우는 이런 영상을 촬영한 일이 전혀 없었고, 화면 속 모습은 피싱범죄 조직들이 딥페이크 기술로 얼굴과 목소리를 조작해낸 가짜 영상이라는 것이 드러났다. 박순혁 작가 역시 SNS를 하지 않는다고 고백하며 자신을 사칭한 계정이나 공모주 추천이 모두 허위라고 확인했다.
이처럼 최근에는 딥페이크 기술로 인하여 과거의 CG 기술에 비하여 훨씬 손쉽고 정교하게 진짜같은 가짜를 만드는 게 가능해졌다. 해외에서도 유명인의 사진이나 자료를 활용하여 일반인들이 딥페이크 영상을 만들어내는 모습을 쉽게 찾아볼 수 있다. 외국인 일론 머스크가 한국어로 말하는 모습이나, 그림인 모나리자가 실제 사람처럼 대화를 하는 모습도 딥페이크로 얼마든지 만들어낼 수 있게 됐다.
문제는 딥페이크가 빠른 속도로 진화하면서 우리의 눈과 귀를 속이는 새로운 범죄수단으로 떠올랐다는 것이다. 누구라도 손쉽게 범행을 저지를 수 있고, 누구든지 표적이 될 수 있다는 것은, 딥페이크 신종 범죄가 더욱 위험한 이유다.
강정희(가명)씨는 최근 대부업자에게 납치되었다는 딸 김슬기씨(가명)의 다급한 전화를 받고 크게 놀랐다. 전화번호와 목소리는 분명 슬기씨의 것이었지만, 이는 '딥보이스' 기술로 변조된 가짜였다. 다행히 진짜 슬기씨는 집에 있다는 사실이 바로 확인되었지만 하마터면 속아 넘어가서 큰 범죄 피해로 이어질 수도 있었던 위험천만한 사건이었다.
개인 SNS에서 얻은 신상 자료 도용해, 딥페이크 제작