“AI 사고 발생하면 72시간 내 당국 신고 의무” 뉴욕주 AI 안전 법안 제정

뉴욕주지사 캐시 호컬은 19일 ‘RAISE 법(RAISE Act)’에 서명하며, 초대형 프론티어 AI 모델을 개발하는 기업들에게 안전 프로토콜 공개와 사고 보고를 의무화했다.

책임 있는 AI 안전 및 교육법(Responsible Artificial Intelligence Safety and Education Act)으로 명명된 이 법안은 올해 3월 뉴욕주 여러 의원에 의해 발의됐으며, 주지사의 서명을 거쳐 최종 제정됐다. 법안에 따르면 RAISE 법은 90일의 유예기간을 거친 뒤 시행된다.

구체적으로 RAISE 법은 대규모 AI 개발사가 자사 모델의 안전 관리 체계와 위험 완화 방안을 문서화해 공개하도록 요구한다. 또한 AI로 인해 ‘중대한 피해(critical harm)’가 발생한 경우, 이를 인지한 시점으로부터 72시간 이내에 주정부에 보고해야 한다.

이번 법안의 핵심 중 하나는 뉴욕주 금융서비스국(Department of Financial Services, DFS) 내에 새로운 AI 감독 전담 부서를 신설한 점이다. 새로운 부서는 오픈AI, 앤트로픽과 같이 최첨단 대규모 AI 모델을 개발하는 기업들을 평가하고, 투명성을 높이기 위한 감독 역할을 수행한다. 또한 매년 관련 보고서를 발간할 예정이다. 법을 위반하거나 허위 보고를 할 경우, 뉴욕주 검찰총장이 민사 소송을 제기할 수 있으며, 첫 위반 시 최대 100만 달러, 재위반 시 최대 300만 달러의 벌금이 부과된다.

호컬 주지사는 공식 보도자료를 통해 “RAISE 법은 AI 안전과 투명성에 대한 강력하면서도 합리적인 기준을 제시하며, 뉴욕이 다시 한번 전국을 선도하고 있음을 보여준다”라고 밝혔다. 그는 연방 차원의 규제가 미흡한 가운데, 캘리포니아의 최근 입법과 보조를 맞추며 기술 산업이 집중된 미국 주요 주(州) 간 공통 기준을 마련했다는 점을 별도로 언급했다.

법안을 발의한 앤드루 고나르데스 상원의원은 “RAISE 법은 AI 혁신과 안전이 양립할 수 있음을 보여준다”라고 말했다. 알렉스 보어스 하원의원 역시 “이 법안은 캘리포니아의 SB53을 기반으로 하되, 더 강화된 공개 요구사항을 포함하고 있다”라고 관련 보도자료를 통해 설명했다.

오픈AI와 앤트로픽 등 주요 AI 개발사들도 법안에 대해 대체로 찬성 입장을 밝혔다. 앤트로픽의 대외협력 책임자 사라 헥은 뉴욕타임즈와의 인터뷰에서 “이번 새로운 안전장치를 통해 뉴욕은 AI 규제 기준을 한 단계 끌어올렸다”라고 평가했다. 오픈AI의 글로벌 대외정책 총괄 크리스 레핸 역시 “우리는 연방 입법을 통해 프론티어 AI 모델에 대한 단일한 국가 안전 기준을 마련하는 것이 사람들을 보호하고 혁신을 지원하는 최선의 방법이라고 계속 믿고 있다”라고 밝혔다.
jihyun.lee@foundryco.com