Skip to content
Tiatra, LLCTiatra, LLC
Tiatra, LLC
Information Technology Solutions for Washington, DC Government Agencies
  • Home
  • About Us
  • Services
    • IT Engineering and Support
    • Software Development
    • Information Assurance and Testing
    • Project and Program Management
  • Clients & Partners
  • Careers
  • News
  • Contact
 
  • Home
  • About Us
  • Services
    • IT Engineering and Support
    • Software Development
    • Information Assurance and Testing
    • Project and Program Management
  • Clients & Partners
  • Careers
  • News
  • Contact

“중소기업에도 리스크 점검 지원”··· 영국 정부, AI 안전 보증 플랫폼 발표

영국 정부가 잠재적 AI 리스크를 파악하고 관리하는 데 필요한 지침을 제공하는 중앙 집중형 AI 보증 플랫폼을 발표했다. 기업을 대상으로 AI 시스템 신뢰를 구축하기 위한 노력의 일환이다.

영국 정부는 현재 영국 AI 산업이 524개 기업에서 1만 2,000개 일자리와 13억 달러 이상 수익을 창출하고 있다고 밝혔다. 공식 발표에 따르면 이 시장은 2035년까지 84억 달러 규모로 성장할 전망이다.

영국 정부는 성명을 통해 “AI 보증 플랫폼은 AI 영향 평가 및 평가 수행 방법, AI 시스템에서 사용되는 데이터 편향성 검토 등 명확한 단계에 대한 지침과 실용성 높은 리소스를 통합한다. 기업이 일상 운영에 AI를 사용할 때 신뢰를 확보하도록 지원할 것”이라고 설명했다.

정부는 또한 새로운 자체 평가 도구를 통해 특히 중소기업(SMB)이 책임 있는 AI 관리 관행을 적용할 수 있도록 할 방침이다.

이 도구는 기업이 AI 기술을 개발하고 구현하는 과정에서 정보에 기반한 의사결정을 내리는 데 도움을 주는 것을 목표로 한다. 도구 출시와 함께 열리는 공개 간담회에서 업계의 피드백을 수집해 효율성을 높일 예정이다.

AI를 관리하려는 시도

AI 보증 플랫폼은 전 세계적으로 기업과 규제 기관이 AI의 안전한 활용, 특히 프라이버시 문제를 두고 해결책을 모색하는 시기에 출시됐다. 이에 맞춰 기업이 AI 리스크를 체계적으로 관리하고 규정을 준수하는 데 필요한 방안을 제공할 방침이다.

사이버미디어 리서치(CyberMedia Research)의 산업 인텔리전스 그룹 부사장인 프라부 람은 “AI 보증 플랫폼은 명확한 규제 프레임워크를 수립해 신뢰와 책임감을 조성할 수 있다. 이는 GDPR 및 산업별 규정과 같은 법률 준수에 중요하다”라고 평가했다.

반면 아말감 인사이트(Amalgam Insights)의 CEO이자 수석 분석가인 박현은 이 플랫폼이 AI에 대한 신뢰를 구축하는 도구로 홍보됐지만, 실질적인 목적은 기업이 정부 기준에 맞춰 AI를 평가할 프레임워크를 제공하는 데 있다고 지적했다. 또한 그는 현재 플랫폼 형태의 효율성에 대해서도 우려했다.

박현은 “이 플랫폼은 아직 초기 단계로, 핵심 도구도 완전히 개발되지 않은 상태다. 또한 AI 시스템과의 직접적인 연동이 아니라 사용자의 응답에 의존한다. 평가 도구가 제시하는 기준도 단순한 ‘예/아니오’나 ‘일부’와 같이 정량화하기 어려운 모호한 선택지만을 제공하고 있다”라고 분석했다.

향후 과제

영국 정부 AI 보증 플랫폼은 주관적 응답에 의존하는 평가 도구로 인해 실제 구현 과정에 어려움을 겪을 가능성이 있다. 반면 이를 사용하는 기업은 비교적 적은 노력으로 거버넌스 요구사항을 충족할 수 있다.

박현은 “편향성 평가는 더 큰 과제다. 편견은 사실 AI가 더 많은 맥락과 상세한 답변을 제공하게 하는 요소이기도 하다. 모든 AI에는 편견이 있다. 이를 제거할 수 있다는 생각은 잠재적으로 위험하다. 사용자가 AI에 편견이 없다고 잘못 믿게 될 수 있기 때문이다”라고 말했다.

그는 차라리 기업이 보유한 AI 시스템을 체계적으로 문서화하고, 각 모델별로 어떤 편향성이 허용되고 필요한지에 대한 구체적인 가이드라인을 수립하는 것이 더 현실적인 해결책일 수 있다고 조언했다.

또한 이 조치가 중소기업에게 새로운 과제를 안길 가능성도 있다. 다시 말해 위험 평가, 데이터 감사, 편향성 검사 등 새로운 규제 요구사항들이 추가되면서, 제한된 자원을 가진 중소기업에게 추가적인 부담을 줄 수 있다.

람은 “자원이 제한된 중소기업은 AI 보증 관행을 기존 업무 흐름에 통합하는 과정에서 자원 제약, 전문성 부족 등의 어려움을 겪을 수 있다”라고 말했다.
[email protected]


Read More from This Article: “중소기업에도 리스크 점검 지원”··· 영국 정부, AI 안전 보증 플랫폼 발표
Source: News

Category: NewsNovember 8, 2024
Tags: art

Post navigation

PreviousPrevious post:“벌이 살아서, 전력망이 불안해서” 메타·아마존 ‘핵발전소’ 기반 AI 데이터센터 건립 난항NextNext post:EU, ‘고릴라글래스’ 코닝 반독점 조사 착수

Related posts

Start small, think big: Scaling AI with confidence
May 9, 2025
CDO and CAIO roles might have a built-in expiration date
May 9, 2025
What CIOs can do to convert AI hype into tangible business outcomes
May 9, 2025
IT Procurement Trends Every CIO Should Watch in 2025
May 9, 2025
‘서둘러 짠 코드가 빚으로 돌아올 때’··· 기술 부채 해결 팁 6가지
May 9, 2025
2025 CIO 현황 보고서 발표··· “CIO, 전략적 AI 조율가로 부상”
May 9, 2025
Recent Posts
  • Start small, think big: Scaling AI with confidence
  • CDO and CAIO roles might have a built-in expiration date
  • What CIOs can do to convert AI hype into tangible business outcomes
  • IT Procurement Trends Every CIO Should Watch in 2025
  • ‘서둘러 짠 코드가 빚으로 돌아올 때’··· 기술 부채 해결 팁 6가지
Recent Comments
    Archives
    • May 2025
    • April 2025
    • March 2025
    • February 2025
    • January 2025
    • December 2024
    • November 2024
    • October 2024
    • September 2024
    • August 2024
    • July 2024
    • June 2024
    • May 2024
    • April 2024
    • March 2024
    • February 2024
    • January 2024
    • December 2023
    • November 2023
    • October 2023
    • September 2023
    • August 2023
    • July 2023
    • June 2023
    • May 2023
    • April 2023
    • March 2023
    • February 2023
    • January 2023
    • December 2022
    • November 2022
    • October 2022
    • September 2022
    • August 2022
    • July 2022
    • June 2022
    • May 2022
    • April 2022
    • March 2022
    • February 2022
    • January 2022
    • December 2021
    • November 2021
    • October 2021
    • September 2021
    • August 2021
    • July 2021
    • June 2021
    • May 2021
    • April 2021
    • March 2021
    • February 2021
    • January 2021
    • December 2020
    • November 2020
    • October 2020
    • September 2020
    • August 2020
    • July 2020
    • June 2020
    • May 2020
    • April 2020
    • January 2020
    • December 2019
    • November 2019
    • October 2019
    • September 2019
    • August 2019
    • July 2019
    • June 2019
    • May 2019
    • April 2019
    • March 2019
    • February 2019
    • January 2019
    • December 2018
    • November 2018
    • October 2018
    • September 2018
    • August 2018
    • July 2018
    • June 2018
    • May 2018
    • April 2018
    • March 2018
    • February 2018
    • January 2018
    • December 2017
    • November 2017
    • October 2017
    • September 2017
    • August 2017
    • July 2017
    • June 2017
    • May 2017
    • April 2017
    • March 2017
    • February 2017
    • January 2017
    Categories
    • News
    Meta
    • Log in
    • Entries feed
    • Comments feed
    • WordPress.org
    Tiatra LLC.

    Tiatra, LLC, based in the Washington, DC metropolitan area, proudly serves federal government agencies, organizations that work with the government and other commercial businesses and organizations. Tiatra specializes in a broad range of information technology (IT) development and management services incorporating solid engineering, attention to client needs, and meeting or exceeding any security parameters required. Our small yet innovative company is structured with a full complement of the necessary technical experts, working with hands-on management, to provide a high level of service and competitive pricing for your systems and engineering requirements.

    Find us on:

    FacebookTwitterLinkedin

    Submitclear

    Tiatra, LLC
    Copyright 2016. All rights reserved.