5초 정도의 영상이나 음성만으로도 딥보이스 제작 가능
개인·기업 고객 상담 서비스 등에 침투…탐지 기술 필요
#아랍에미리트의 한 은행 지점장은 그동안 거래하던 주요 고객인 대기업 임원의 전화를 받고 3500만달러(약 499억원)를 송금했지만 그 목소리는 해당 임원을 사칭한 딥보이스 피싱이었다.
#60대 여성 A 씨는 “친구 보증을 섰는데 친구가 연락되지 않아 잡혀 왔다”는 딸의 전화를 받은 직후 돈을 준비하라는 협박범의 전화를 받았다. A씨는 은행으로 달려가 현금 2000만원을 인출했다. 다행히 이 모습을 미심쩍게 여긴 은행원의 신고로 범인은 체포됐다. A씨는 딥보이스로 조작된 딸의 목소리를 듣고 보이스피싱이라는 의심을 할 수 없었던 것이다.
생성형 인공지능(AI)이 발전하면서 딥러닝 기술로 거짓 정보를 타인의 목소리로 재현한 ‘딥보이스’ 범죄가 심각한 사회문제로 대두되고 있다. 목소리가 대중적으로 노출돼 있는 유명인들은 물론 개인 제작 영상이나 전화통화를 통해 녹음한 일반인들의 목소리도 쉽게 딥보이스 범죄에 악용될 위험이 커졌기 때문이다.
딥보이스 범죄자들은 방송 영상이나 동영상 사이트에 공개된 영상에 등장하는 유명인들의 목소리를 복제해 꾸며진 내용으로 합성한다. 현재 기술로는 타인의 목소리가 담긴 5초 정도의 영상만으로도 쉽게 딥보이스를 제작할 수 있다.
일반인들도 자신이 출연한 동영상을 온라인에 공개하는 일이 흔해졌기 때문에 누구나 딥보이스 범죄 타깃이 될 수 있다. 또한 전화통화 만으로도 내 목소리가 녹음돼 범죄에 이용될 수 있다는 점에서 더욱 경각심이 높아지고 있다.
딥보이스는 콘텐츠를 제작하는 효율적인 도구이기도 하지만 고도화된 보이스피싱 범죄에 악용되기도 한다. 경찰청에 따르면 보이스피싱 피해액은 2021년 7744억원으로 집계된 이후 2022년 5438억원, 2023년 4472억원으로 하락세를 기록하다가 지난해 8545억원으로 급증했다.
낯선 이의 목소리로 접근하는 보이스피싱은 수년 전에 비해 그 수법이 널리 알려진 편이며 피싱 탐지 애플리케이션(앱) 등으로 과거 대비 피해가 줄어들고 있다. 하지만 딥보이스 기술이 빠르게 발전하면서 가족이나 지인의 목소리를 흉내 내는 정교해진 수법으로 행해지는 보이스피싱 범죄가 늘어남에 따라 지난해 피해액이 급증했다는 게 전문가들의 분석이다.
딥보이스를 이용한 피싱은 고객사 임원이나 자사 최고경영자(CEO)의 목소리로 기밀 정보 문의, 거래 계좌 변경 등을 요청하며 기업에 피해를 주는 지시를 내리거나, 자녀 등 사랑하는 가족인 듯 연기해 금전을 요구하는 식으로 이뤄질 수 있다. 또한 일반인 목소리를 흉내내 기업의 고객서비스 센터 등을 공격할 수 있다. 가령 타인의 목소리로 금융기관이나 통신사에 전화해 정보를 교란하거나 금전 편취 등의 범죄를 저지를 수 있다.
이러한 딥보이스 기술은 목소리 톤은 물론, 억양까지 정교하게 복제하는 단계에 이르렀으며, 딥보이스를 제작해 주는 업체들은 이미 온라인 검색만으로도 수십 곳 이상을 찾을 수 있다.
이에 따라 딥보이스 탐지 기술의 확산이 필요해졌다는 것이 업계의 공통된 목소리다. 고도화된 딥보이스 기술을 악용하는 범죄가 증가할 위험이 높아지고 있는 만큼 정교하게 조작된 목소리를 구분해 내는 탐지 기술이 전 산업적으로 도입될 필요성이 부각되고 있다. 이러한 실정에 발맞춰 국내 보안 기업이 기술 개발에 나섰다.
IT보안인증 플랫폼 기업 라온시큐어 는 AI 기술을 통해 모바일 앱으로 딥페이크 동영상이나 이미지를 탐지할 수 있는 기능을 자사 개인용 모바일 백신 앱인 ‘라온 모바일 시큐리티’에 탑재한 데 이어 AI 기반 딥보이스 탐지 기술을 개발하고 있다.
라온시큐어는 딥보이스 탐지 기능을 고객 상담 서비스 업무 등을 진행하는 기업들에 제공할 방침이다. 이 기술을 통해 기업들은 CEO나 임원 사칭 통화, 가짜 고객 상담으로부터 기업 정보와 자산을 지킬 수 있다. 특히 개인 고객들의 정보를 대규모로 다루는 기업들은 딥페이크나 딥보이스 범죄로부터 고객 정보를 지키는 일에 수십억 원 이상의 예산 편성을 추진하고 있는 것으로 알려졌다.
보안 업계 한 전문가는 “딥보이스를 악용하는 범죄는 AI 기술로 점점 정교해지고 있으며 개인과 기업들 사이에서는 지인이나 임원, 고객의 목소리로 걸려온 전화도 안심하고 받기 어려워질 수 있다는 경각심이 높아지고 있다”며 “이를 효과적으로 방지하는 기술 역시 딥보이스를 학습한 AI 기술이며 개인과 기업의 정보와 자산을 지키고 나아가 국가 경쟁력을 지키기 위해 딥보이스 탐지 기술의 확산과 지속적인 연구개발이 필요하다”고 말했다.