자녀 목소리로 “엄마, 난데”… AI 보이스피싱 확산

해외 연구진 “시중 복제 도구
3초짜리 목소리도 카피 가능”

맥킨지 “생성형 AI, 생산성 향상
年 4조4000억弗 부가가치 창출”

생성형 인공지능(AI) 기술의 발달로 타인의 목소리를 복제해 보이스피싱에 악용하는 것이 점점 더 쉬워지고 있다는 연구 결과가 발표됐다고 미국 온라인매체 액시오스가 13일(현지시간) 전했다. 생성형 AI가 연간 4조4000억달러(약 5620조원)의 경제 가치를 창출할 수 있다는 장밋빛 전망도 나왔다.

액시오스에 따르면 글로벌 보안기업 맥아피의 연구진이 시중에 공개된 12개의 유·무료 음성 복제 도구와 함께 다양한 프로그램들을 시험해 본 결과 단 3∼4초의 음성을 가지고도 사용자의 목소리와 약 85% 일치하는 음성을 제작할 수 있었다.

사진=AFP연합뉴스

유료 프로그램을 사용할 경우 감정이나 말투 등을 실제와 거의 구별할 수 없을 정도로 만들 수 있었고, 연구원들이 시간을 들여 데이터 모델을 훈련시켰을 경우 약 95%의 일치율을 보이는 음성을 제작하는 것이 가능했다.

스티브 그로브먼 맥아피 최고기술경영자(CTO)는 “이런 (음성 복제) 도구들은 사용하기 정말 간편하고, 공격자가 AI에 대한 전문지식이 전혀 없어도 된다”고 액시오스에 말했다.

실제 피해 사례도 쏟아지고 있다.

맥아피가 올해 4월 미국·프랑스·인도·일본 등 9개국에서 성인 7000명을 대상으로 설문조사를 진행한 결과, 응답자 10명 중 1명은 AI 음성을 사용한 보이스피싱 전화를 받은 적이 있었다. 또 이들 중 77%는 실제 송금까지 했다.

그로브먼 CTO는 AI 음성 기술에는 오디오북 제작, 언어 장애인의 의사소통 보조 등 합법적인 사용 사례도 존재해 “전면 금지는 불가능하다”고 말했다. 맥아피는 보고서에서 AI 보이스피싱 피해를 방지하기 위해 가족 간 암호를 사용하고, SNS 등에 음성을 공개할 때 주의를 기울이라고 조언했다.

컨설팅업체 맥킨지 글로벌연구소는 14일 발표한 보고서에서 생성형 AI가 업무 자동화를 통해 근로시간을 60∼70%까지 줄여 생산성을 극대화할 수 있으며, 2030년부터 2060년까지 모든 업무의 절반을 자동화할 수 있을 것이라고 내다봤다. 이를 통해 생성형 AI는 영업과 엔지니어링, 연구개발 등의 분야에서 4조4000억달러 이상의 부가가치를 창출할 수 있다는 내용이다.

윤솔 기자 [e-mail]