AI가 프로파간다 도구로 활용될 미래 온다··· ‘AI 문화 전쟁’에 대비하기

중국산 딥시크의 출시 이후 각종 논쟁이 뜨거웠다. 그러나 당시 많은 전문가들이 놓친 부분이 있었다. 중국이 이러한 AI 모델을 사용해 전 세계에 문화적, 정치적 의제를 설정하려 할 수 있다는 점이다.

이제 일부 AI 전문가들은 이 기술이 중국 정부의 선전 메시지를 퍼뜨리는 데 사용될 수 있다는 점을 우려하고 있다 사이버 보안, 개인 정보 보호, 지적 재산권 및 기타 문제에 그치지 않는다는 지적이다.

우려하는 바는 다음과 같다. 딥시크 개발사 HDSAIBTRC(The Hangzhou DeepSeek Artificial Intelligence Basic Technology Research Co.)는 지난 1월 출시 시점에 딥시크가 차세대 AI 모델을 훈련시킬 수 있는 일종의 백과사전으로 동작할 수 있도록 한다는 비전을 제시했다.

사실 AI의 편향성에 대한 우려는 예전에도 있었다. 단 과거의 편향성 사례들은 대개 의도적인 것으로 보기 어려웠다.

딥시크에 대한 우려를 제기하는 사람들은 이것이 미래 모델의 훈련 도구로 사용될 가능성이 있는 유일한 대규모 언어 모델(LLM) AI가 아니라는 점을 인정한다. 또 중국 정부 외에 다른 국가의 정부나 조직도 AI 모델을 선전 도구로 사용하려는 의도를 가질 수 있다고 인정한다.

그러나 중국 회사가 오픈소스 MIT 라이선스에 따라 딥시크의 렌더링 모델을 공개하기로 결정함에 따라, 딥시크가 소규모 AI를 훈련하는 증류 과정(distillation process)에서 사용할 수 있는 매력적인 모델이 될 수 있다는 점이 문제라고 이들은 입을 모은다.

쉬운 증류

일부 AI 전문가들은 딥시크가 다른 모델을 위해 쉽게 ‘증류’될 수 있다는 점에 주목한다. 따라서 개발도상국을 포함한 많은 국가에서 저렴한 비용으로 소규모 AI 모델을 구축하려는 조직은 중국 정부의 세계관을 표현하도록 훈련된 AI를 선택할 가능성이 커진다는 것. 항저우(HDSAIBTRC)는 이러한 우려에 대한 논평 요청에 응답하지 않았다.

비즈니스 컨설팅 업체 웨스크 몬로의 첨단 기술 및 소프트웨어 실무 책임자인 다발 무지메인은 딥시크 구축에 저렴한 하드웨어가 사용됐다며, 이는 많은 조직이 상대적으로 낮은 비용으로 AI를 개발할 수 있게 됨을 의미한다고 설명했다. “어떤 면에서 딥시크는 가능성을 열어냈다”라고 그는 덧붙였다.

디지털 혁신 기업 UST의 최고 AI 아키텍트인 아드난 마수드에 따르면, 항저우가 AI 모델의 설계와 테스트에 일반적으로 사용되는 고성능 칩에 대한 미국의 수출 통제를 뚫고 딥서크를 개발했다는 사실에 주목할 만하다. 이러한 어려움을 극복하고 첨단 AI 모델이 얼마나 빨리 등장할 수 있는지를 보여준다는 설명이다.

어쨌든 비용 하락으로 인해 이제 시중의 기업들에게는 AI 구축이 더 쉬워졌다. 문제는 문화적, 정치적 편견이 내장됐을 수 있다는 점이다. 마수드는 “전체 인구가 자신도 모르게 특정 국가에 의해 형성된 내러티브를 소비할 수 있다는 것을 의미한다. 정책 책임자들이 그것을 깨닫기 전에, 내러티브가 이미 대중의 마음에 스며들 수 있다”라고 말했다.

선전 도구로서의 기술

AI 모델이 선전 도구로 활용될 가능성에 대해 이야기하는 사람은 많지 않지만, 사실 이는 그리 놀라운 일이 아니라고 무지메인은 진단했다. 결국, 텔레비전, 인터넷, 소셜 미디어를 포함한 많은 기술들이 대중화되는 가운데 정치적, 문화적 의제를 추진하는 수단으로 활용되고 있다. CIO와 다른 IT 리더들은 중국 정부나 다른 조직들이 AI 모델에 자신들의 이야기를 담을 가능성을 인식해야 한다고 그는 덧붙였다.

무지메인은 AI 훈련 모델에서도 “모델이 여러 면에서 서술, 사고, 결과를 형성할 수 여지를 가진다”라고 덧붙였다.

그는 이어 AI가 소위 소프트 파워의 새 도구로 부상하고 있으며, 중국이 주도권을 잡을 가능성을 가진다고 지적했다. 도널드 트럼프 미국 대통령이 전통적인 소프트 파워 수단인 해외 원조와 국가 지원 미디어에 대한 자금 지원을 삭감하고 있기도 하다고 그는 말했다.

만약 딥시크와 다른 인공지능 모델들이 역사적으로 민감한 사건에 대한 언급을 제한하거나 분쟁 지역에 대해 특정 국가의 견해를 반영한다면(중국이 개발한 인공지능에 내재됐다고 의심되는 두 가지 편견), 이러한 모델들은 전세계 문화 관련 논조를 바꾸는 주인공으로 동작할 수 있다고 마수드는 덧붙였다.

그는 “AI가 이념 확산과 국가적 소프트파워 수출에 사용되는 증폭기가 되었다. 딥페이크와 자동화된 챗봇이 이미 공공 담론을 넘쳐 흐르고 있다. AI가 문화적, 정치적 포지셔닝을 위한 영향력이 큰 리더십 도구로 진화하고 있다는 것은 분명하다”라고 말했다.

AI는 이미 딥페이크를 생성하는 데 사용되거나 기타 허위 정보를 생성하는 데 사용되고 있다. 이렇듯 많은 사람들을 속이고 있지만, AI 훈련 도구가 야기하는 편견은 훨씬 더 미묘할 수 있다고 무지메인은 덧붙였다.

그는 “결국, 모델의 문화적 영향과 산출물의 유효성을 검증하려면 테스트와 훈련이 필요하다. 하지만 쉽지 않을 것”이라고 말했다.

AI 모델, 주의해서 선택해야

무지메인이 권고하는 해법은 모듈식 AI 아키텍처다. 새로운 AI 모델이 나오면 쉽게 갈아탈 수 있는 구조가 필요하다는 이야기다. “앞으로 지속적인 혁신이 나타난다. 시간이 지나면서 모델을 교체할 수 있도록 확장 가능한 아키텍처를 만들어야 한다”라고 말했다.

CIO는 모듈형 AI 인프라를 구축하는 것 외에도, AI 도구와 프레임워크를 선택하기 전에 확장성, 보안, 규제 준수, 공정성 등을 신중하게 평가해야 한다고 마수드는 덧붙였다.

NIST AI 리스크 매니지먼트 프레임워크, OECD AI 프린시플, EU 트러스트워시 AI 가이드라인 등 같은 확립된 프레임워크를 사용함으로써 모델의 신뢰성과 투명성을 평가할 수 있다는 설명이다. CIO는 또 AI 도구를 지속적으로 모니터링하고 책임 있는 라이프사이클 거버넌스를 실행해야 한다고 그는 설명했다.

“이렇게 함으로써 AI 시스템이 생산성과 효율성 향상을 통해 비즈니스 가치를 제공할 뿐만 아니라 이해관계자의 신뢰를 유지하고 책임 있는 AI 원칙을 준수할 수 있다”라고 그는 말했다.

데이터 추출 플랫폼 공급업체인 SOAX의 CEO 겸 공동 설립자인 스티판 솔로베브는 오늘날 소셜 미디어를 이용할 때 소비자가 정보의 정확성을 검토해야 하는 현실을 예로 들었다. 이와 같은 CIO와 기타 AI 의사 결정권자는 AI 모델의 결과에 대해 비판적으로 생각해야 한다는 조언이다.

“어떤 사람들은 무엇이 진실이고 무엇이 거짓인지 이해하려고 노력하지만, 어떤 사람들은 단지 자신이 얻는 것을 소비하고 사실 확인에 신경 쓰지 않는다. 모든 기술 혁명의 가장 우려되는 부분이라고 본다. 사람들은 일반적으로 비판적으로 보지 않는다. 특히 AI에 입력하는 첫 번째 프롬프트나 검색 엔진에서 얻는 첫 번째 검색 결과에는 더욱 그렇다”라고 그는 말했다.

경우에 따라서는 IT 리더들이 딥시크와 같은 LLM을 통해 전문적인 AI 도구를 훈련하는 대신, 더 틈새적 입지의 AI 모델에 이용할 수도 있다고 그는 설명했다. 이러한 상황에서는 AI 사용자가 문화적 편견이 내재된 훈련 모델을 접할 가능성이 적다는 것이다.

그럼에도 불구하고, CIO는 AI 모델 간의 결과를 비교하거나 다른 방법을 사용하여 결과를 확인해야 한다고 그는 강조했다. “만약 한 AI가 편향된 메시지를 퍼뜨린다면, 다른 AI나 AI로 강화된 인간 팩트체커가 그 메시지를 빠르게 반박할 수 있다. 향후 고양이와 쥐의 역학 관계가 나타날 수 있다. 시간이 지나면 진실과 투명성이 승리할 것이라고 생각다. 특히 아이디어의 열린 시장에서 말이다”라고 그는 말했다.

경쟁이 해결책

솔로베프는 AI가 선전에 악용될 가능성을 우려하면서도 결국 훈련에 사용된 데이터에 대해 투명하고 편견 없는 결과를 제공하는 모델에 사용자들이 몰릴 것이라고 믿는다. 그러나 일부 IT 리더들은 투명성과 정확성보다 낮은 비용을 우선시할 수 있다고 그는 말했다.

결국 향후 더 많은 AI 모델이 시장에 쏟아져 나오면서, 엄청난 경쟁이 일어날 가능성이 크다. “이 경쟁이 공정하게 이루어지고, 기업과 개인 모두 여러 모델을 비교할 수 있도록 하는 것이 과제다”라고 그는 말했다.

IT 및 AI 솔루션 업체인 테트라누들 테크놀로지의 설립자이자 CIO인 마누즈 아가왈도 딥시크 또는 다른 LLM의 잠재적 편향에 대한 해결책으로 경쟁을 언급했다.

“한 가지 모델이 세계에 큰 영향을 미칠 가능성은 희박하다. 딥시크는 수많은 모델 중 하나일 뿐이고, 머지않아 전 세계 곳곳에서 수천 개의 모델이 등장할 것이다. 수많은 다양한 시스템이 상호 작용하는 상황에서, 단일 AI가 대규모로 서사를 지시할 수는 없을 것”이라고 그는 말했다.

아가왈을 비롯한 몇몇 AI 전문가들에 따르면 딥시크 출시 이후 미스트랄 AI는 AI 모델을 오픈소스화 했고 메타의 라마(Llama)와 xAI의 그록(Grok)과 같은 모델은 이미 오픈소스 소프트웨어로 제공되고 있다.

무엇을 선택하든 대규모 LLM을 사용하여 자체 AI 모델을 훈련하려 한다면 브랜드 신뢰성을 중시해야 할 것이라고 아가왈은 강조했다. “버락 오바마의 첫 당선 이후, 선거 운동은 AI 기반 분석을 사용해 유권자를 정확하게 노릴 수 있도록 진화했다. 이제 딥시크와 같은 모델이 등장하면서, 그 위험성은 더욱 커졌다. 문제는 AI가 선전에 사용될 것인지의 여부가 아니라, 다양한 주체들이 얼마나 많은 통제권을 가질 것인가 하는 것이다”라고 그는 말했다.
[email protected]