라온시큐어, 개인용 모바일 백신 앱에 ‘딥페이크 탐지 기능’ 추가

지난 2024년 1월부터 11월까지 경찰청에 접수된 딥페이크 성범죄 신고 건수는 1,000여건에 육박하며, 정부에서는 딥페이크 범죄 예방책 등을 담은 AI 기본법 제정에 속도를 내고 있다. 회사는 이번 딥페이크 탐지 기술을 통해 누구나 특정인에 대한 명예훼손과 가짜 정보로 인한 사회 혼란을 예방하는 데 기여할 수 있으며, 개인과 기업의 자산과 정보 편취로부터 사전에 대응할 수 있다고 강조했다.

딥페이크 탐지 기능은 개인용 모바일 백신 앱인 ‘라온 모바일 시큐리티’에 탑재됐다. 이용자가 라온 모바일 시큐리티에 스마트폰에 저장된 동영상이나 이미지, 유튜브 링크 등을 업로드 하면 해당 콘텐츠가 생성형 AI로 조작된 딥페이크일 가능성이 얼마나 높은지 몇 초만에 식별되는 형태로 동작한다.

설명에 따르면 회사의 딥페이크 탐지 기술은 합성된 얼굴과 실제 얼굴을 상호 비교해 분류하도록 학습된 AI가 안면 추출, 주파수 계열 변환 등의 기술을 이용해 딥페이크 가능성을 계산한다.

라온시큐어는 추후 실시간 딥페이크 탐지 서비스도 라온 모바일 시큐리티에 추가할 계획이다. 이를 통해 영상통화 시에도 상대방이 조작된 얼굴로 지인을 사칭하는지 실시간으로 탐지할 수 있게 된다. 현재 라온 모바일 시큐리티는 딥페이크 탐지 기능을 포함해 무료로 이용할 수 있다.

회사는 향후 더욱 고도화된 유료 딥페이크 탐지 기능도 제공할 예정이라고 밝혔다. 또 자사 딥페이크 탐지 기술을 기업용 애플리케이션 프로그래밍 인터페이스(API) 서비스로도 제공할 예정이며, 목소리로 타인을 사칭하는 딥보이스 탐지 기술도 개발하고 있다고 전했다.

아울러 향후 기업들이 라온시큐어의 기술을 통해 딥페이크 생성물을 구별해 내 AI 생성물 표시 의무화 규정을 지킬 수 있게 할 계획이라고 라온시큐어는 덧붙였다.

이정아 라온시큐어 대표는 “라온 모바일 시큐리티를 통한 딥페이크 탐지 기술 제공을 시작으로 딥보이스 탐지, 실시간 탐지 등 기술 고도화를 지속해 범죄 예방과 고객사들의 경쟁력 강화에 기여하겠다”라고 말했다.
[email protected]