메타 “2024년 선거를 전후해 AI가 생성한 허위 정보의 1% 미만”

2024년 전 세계에서 치러진 정치 선거와 관련된 허위 정보를 확인한 결과, AI가 생성한 콘텐츠는 1% 미만을 차지했다고 메타가 밝혔다. 미국, 영국, 방글라데시, 인도네시아, 인도, 파키스탄, 프랑스, 남아프리카공화국, 멕시코, 브라질과 유럽연합 선거의 데이터를 분석한 결과라고 메타는 전했다.

메타의 글로벌 업무 담당 사장 닉 클레그는 “올해 초, 많은 사람들이 딥페이크와 AI 기반 허위 정보 캠페인의 확산 위험을 포함하여 생성형 AI가 다가오는 선거에 미칠 수 있는 잠재적 영향에 대해 경고했. 우리 서비스를 통해 모니터링한 결과, 이러한 위험은 크게 현실화되지 않았다. 그 영향도 미미하고 범위도 제한적이라고 판단한다”라고 말했다.

그러나 메타는 주요 선거와 관련해 AI 생성 허위 정보가 얼마나 발견되었는지에 대한 자사의 사실 확인 데이터 세부 내용은 발표하지 않았다.

한편 메타는 허위 정보를 퍼뜨리는 데 AI가 사용된 것으로 확인되거나 의심되는 사례가 일부 있었지만, 회사의 기존 정책으로 이를 완화했다고 주장했다. 예를 들어, 미국 대선 전 한 달 동안 회사의 이매진 AI 이미지 생성기가 트럼프 대통령 당선인, 밴스 부통령 당선인, 해리스 부통령, 월즈 주지사, 바이든 대통령의 딥페이크 요청 약 59만 건을 거부했다는 설명이다.

메타는 또 올해 선거에 영향을 미치기 위한 약 20건의 캠페인도 성공적으로 저지했다고 밝혔다. 회사에 따르면 이러한 캠페인의 배우에 가장 빈번히 존재했던 나라는 러시아였고, 이란이 2위였다.
dl-ciokorea@foundryco.com