딥브레인AI, 딥페이크 탐지 솔루션 고도화
영국 유니버시티 칼리지 런던(UCL) 루이스 그리핀 교수팀은 3일 과학저널 '플로스 원'(PLOS ONE)에서 영어와 중국어 딥페이크 음성을 들려주고 진짜와 가짜를 찾아내는 실험에서 참가자들이 딥페이크 음성의 27%를 구분해내지 못했다고 밝혔다.
연구팀은 이 연구에서 텍스트 음성 변환(TTS, Text To Speech) 알고리즘을 사용해 영어와 중국어로 된 딥페이크 음성 샘플 50개씩을 만들고 이를 529명에게 들려주면서 가짜와 진짜 음성을 구분하도록 했다. 실험 결과 참가자들은 딥페이크 음성의 73%만 구분해 냈으며, 이런 탐지율은 영어와 중국어 사이에 차이가 없었다.
연구팀은 딥페이크 음성 구분이 어렵다는 것은 딥페이크가 악용될 가능성이 높다는 것을 의미한다며 이런 위협에 대한 방어 대책이 필요하다고 지적했다. 지난 2019년 영국의 한 에너지 회사에서는 한 직원이 AI 기술로 제작된 상사의 딥페이크 음성 메시지를 받고 헝가리 회사에 20만 유로(약 2억5천만원)를 송금하는 사건이 발생한 바 있다.
논문 제1 저자인 킴벌리 마이 연구원(박사과정)은 "실험에 사용된 샘플이 비교적 오래된 알고리즘으로 만들어진 점을 고려하면, 사람들이 현재와 미래의 정교한 기술로 만든 딥페이크 음성을 얼마나 감지해낼 수 있을지 의문이 든다"고 말했다.
그리핀 교수는 "생성형 AI 기술이 발달하고 이중 상당수가 공개돼 누구나 사용할 수 있게 되면서 그 이점뿐 아니라 위험도 목격하게 됐다"며 "정부와 기관들은 이런 기술의 남용에 대처하기 위한 전략을 개발해야 할 것"이라고 말했다.
한편, 국내 생성형 인공지능(AI) 기업 딥브레인AI는 딥페이크(Deepfake) 탐지 솔루션을 고도화했다고 3일 밝혔다. 딥브레인AI는 종합 탐지 모델 · 특정 인물 탐지 모델 · 음성 탐지 모델 등 딥페이크 탐지 솔루션을 선보였다.
딥페이크 탐지 솔루션은 한국어·영어·중국어·일본어가 우선 지원된다. 현재 국내 일부 관공서에서 활용되고 있다. 일반 소비자도 쉽고 간편하게 사용할 수 있는 딥페이크 SaaS(서비스형 소프트웨어) 서비스도 연내 자사 홈페이지에 공개될 예정이다.
장세영 대표는 "인공지능 기술이 고도화되면서 이를 악용해 범죄를 저지르는 사례가 전 세계적으로 증가하고 있어 대비가 필요하다"며 "딥페이크 콘텐츠 탐지 솔루션을 관공서와 기업, 개인 등 맞춤 지원해 AI 기술의 악용으로 인한 피해 예방에 앞장서겠다"고 말했다. [이덕근 마켓뉴스 기자]
