“중소기업에도 리스크 점검 지원”··· 영국 정부, AI 안전 보증 플랫폼 발표

영국 정부가 잠재적 AI 리스크를 파악하고 관리하는 데 필요한 지침을 제공하는 중앙 집중형 AI 보증 플랫폼을 발표했다. 기업을 대상으로 AI 시스템 신뢰를 구축하기 위한 노력의 일환이다.

영국 정부는 현재 영국 AI 산업이 524개 기업에서 1만 2,000개 일자리와 13억 달러 이상 수익을 창출하고 있다고 밝혔다. 공식 발표에 따르면 이 시장은 2035년까지 84억 달러 규모로 성장할 전망이다.

영국 정부는 성명을 통해 “AI 보증 플랫폼은 AI 영향 평가 및 평가 수행 방법, AI 시스템에서 사용되는 데이터 편향성 검토 등 명확한 단계에 대한 지침과 실용성 높은 리소스를 통합한다. 기업이 일상 운영에 AI를 사용할 때 신뢰를 확보하도록 지원할 것”이라고 설명했다.

정부는 또한 새로운 자체 평가 도구를 통해 특히 중소기업(SMB)이 책임 있는 AI 관리 관행을 적용할 수 있도록 할 방침이다.

이 도구는 기업이 AI 기술을 개발하고 구현하는 과정에서 정보에 기반한 의사결정을 내리는 데 도움을 주는 것을 목표로 한다. 도구 출시와 함께 열리는 공개 간담회에서 업계의 피드백을 수집해 효율성을 높일 예정이다.

AI를 관리하려는 시도

AI 보증 플랫폼은 전 세계적으로 기업과 규제 기관이 AI의 안전한 활용, 특히 프라이버시 문제를 두고 해결책을 모색하는 시기에 출시됐다. 이에 맞춰 기업이 AI 리스크를 체계적으로 관리하고 규정을 준수하는 데 필요한 방안을 제공할 방침이다.

사이버미디어 리서치(CyberMedia Research)의 산업 인텔리전스 그룹 부사장인 프라부 람은 “AI 보증 플랫폼은 명확한 규제 프레임워크를 수립해 신뢰와 책임감을 조성할 수 있다. 이는 GDPR 및 산업별 규정과 같은 법률 준수에 중요하다”라고 평가했다.

반면 아말감 인사이트(Amalgam Insights)의 CEO이자 수석 분석가인 박현은 이 플랫폼이 AI에 대한 신뢰를 구축하는 도구로 홍보됐지만, 실질적인 목적은 기업이 정부 기준에 맞춰 AI를 평가할 프레임워크를 제공하는 데 있다고 지적했다. 또한 그는 현재 플랫폼 형태의 효율성에 대해서도 우려했다.

박현은 “이 플랫폼은 아직 초기 단계로, 핵심 도구도 완전히 개발되지 않은 상태다. 또한 AI 시스템과의 직접적인 연동이 아니라 사용자의 응답에 의존한다. 평가 도구가 제시하는 기준도 단순한 ‘예/아니오’나 ‘일부’와 같이 정량화하기 어려운 모호한 선택지만을 제공하고 있다”라고 분석했다.

향후 과제

영국 정부 AI 보증 플랫폼은 주관적 응답에 의존하는 평가 도구로 인해 실제 구현 과정에 어려움을 겪을 가능성이 있다. 반면 이를 사용하는 기업은 비교적 적은 노력으로 거버넌스 요구사항을 충족할 수 있다.

박현은 “편향성 평가는 더 큰 과제다. 편견은 사실 AI가 더 많은 맥락과 상세한 답변을 제공하게 하는 요소이기도 하다. 모든 AI에는 편견이 있다. 이를 제거할 수 있다는 생각은 잠재적으로 위험하다. 사용자가 AI에 편견이 없다고 잘못 믿게 될 수 있기 때문이다”라고 말했다.

그는 차라리 기업이 보유한 AI 시스템을 체계적으로 문서화하고, 각 모델별로 어떤 편향성이 허용되고 필요한지에 대한 구체적인 가이드라인을 수립하는 것이 더 현실적인 해결책일 수 있다고 조언했다.

또한 이 조치가 중소기업에게 새로운 과제를 안길 가능성도 있다. 다시 말해 위험 평가, 데이터 감사, 편향성 검사 등 새로운 규제 요구사항들이 추가되면서, 제한된 자원을 가진 중소기업에게 추가적인 부담을 줄 수 있다.

람은 “자원이 제한된 중소기업은 AI 보증 관행을 기존 업무 흐름에 통합하는 과정에서 자원 제약, 전문성 부족 등의 어려움을 겪을 수 있다”라고 말했다.
dl-ciokorea@foundryco.com