인공지능(AI)이 보이스피싱 범죄에 악용되고 있다.
사회관계망서비스(SNS)에 올린 동영상 속 목소리를 이용해 실감나는 사기 행각으로 가족과 지인에게 몸값을 요구하는 방식이다.
12일 언론들에 따르면 아리조나주 스카츠데일에 사는 제니퍼 데스테파노는 ‘딸을 납치했다’는 전화를 받았다.
납치범은 딸의 몸값으로 100만달러를 요구했다.
수화기 너머로는 15살 딸 브리아나 데스테파노의 겁에 질린 절규가 들렸다.
제니퍼는 친구들과 함께 스키여행을간 걸로 알고 있었던 딸이 납치돼 겁에 질려 울부짖고 있다는 사실에 말할 수 없는 충격을 받았다.
납치범은 “여기 당신의 딸이 있다”며 “네가 경찰이나 지인에게 신고한다면 나는 당신 딸의 장기에 마약을 가득 채운 뒤 멕시코에 데려가 풀어줄 것""이라고 협박했다.
제니퍼의 귓가에는 계속 살려 달라며 애원하는 브리아나의 울음소리가 들렸다.
제니퍼는 현재 그렇게 큰 돈이 없다고 하고 납치범과 협상을 시도해 브리아나의 몸값을 우선 5만달러로 낮췄다.
제니퍼는 돈을 마련하기 위해 움직이려고 했지만 당시 제니퍼와 함께 있던 지인이 보이스피싱을 의심했다.
그 덕분에 제니퍼는 911에 신고 접수를 한 뒤 잘 놀고 있는 브리아나와 통화할 수 있었다.
납치범의 전화가 보이스피싱이라는 사실도 확인하게 됐다.
자녀를 납치했다며 거액의 몸값을 요구하는 것은 보이스피싱의 고전적인 수법이지만 제니퍼는 전화기 너머로 들린 목소리가 “틀림없이 딸의 목소리였다. 울음소리까지 비슷했다”고 전했다.
WKYT 방송은 전화 속 목소리가 인공지능(AI)을 통해 복제한 목소리였을 가능성이 높다고 보도했다.
과거엔 사기 피해자를 심리적으로 압박해 가짜 목소리를 자녀의 목소리인 것처럼 여기게 했다면 이제는 진짜로 피해 대상의 자녀 목소리를 복제해 보이스피싱에 이용한다는 것이다.
전문가들은 AI를 활용한 보이스피싱 범죄가 증가할 것이라며 주의를 당부했다.
수바리오 캄밤파티 아리조나주립대학 교수는 “예전에는 AI가 사람의 목소리를 복제하기 위해 충분한 길이의 샘플을 필요로 했다”며 “이제는 단 3초짜리 샘플로도 목소리를 변조할 수 있다”고 말했다.
그러면서 "물론 영상 샘플의 양이 길수록 사람의 감정을 모방하는데 용이하다"고 덧붙였다.
실제로 지난 1월 발표된 마이크로소프트(MS)의 음성 합성 AI 모델 발리(VALL-E)는 단 3초의 음성 샘플만으로도 사람의 목소리 및 감정이 실린 톤을 합성할 수 있다.
단 마요 FBI 특별 수사관은 "음성 복제 사기범들은 소셜미디어를 노린다. 개인 정보가 공공에 노출되어 있으면 이런 방식으로 스스로 사기당하는 것을 허용하는 격"이라며 "이를 예방하기 위해 수상한 전화를 받으면 사기범이 모를만한 정보로 많은 질문을 하라"고 조언했다.
또한 익숙하지 않은 지역 번호나 국제 전화는 받지 말고, 도움 요청 시 가족만이 알고 있는 비밀 코드를 사용할 것을 권장했다.
