“AI가 탈락 결정에 영향 줬다면 책임” 워크데이 소송이 바꿀 채용 AI 규제 지형

연방법원이 워크데이(Workday)의 주장을 받아들이지 않았다. 워크데이는 자사 도구가 다른 주(州)의 구직자를 선별하고 탈락시키는 과정에 사용되더라도 캘리포니아 차별금지법상 책임을 질 수 없다고 주장해 왔다.

이번 주 미국 연방지방법원의 리타 린(Rita Lin) 판사는 워크데이를 상대로 제기된 추가적인 주(州) 차원의 차별 소송도 진행을 허용할 가능성이 높다고 밝혔다. 이 경우 현재 업계의 주목을 받고 있는 이번 사건의 범위가 크게 확대될 수 있으며, 연령·인종·성별·장애 여부 등과 관련해 AI 채용 도구에 내재할 수 있는 편향성에 대한 감시와 검증도 한층 강화될 것으로 보인다.

또한 이번 판단은 해당 기업이 최종 고용주가 아니더라도 자사 도구가 지원자의 탈락 여부에 실질적인 영향을 미쳤다면 책임을 질 수 있음을 시사한다. 전문가들은 이것이 AI 채용 시스템에 대한 새로운 법적 기준을 마련하고 다양한 산업 분야에 영향을 미칠 수 있다고 분석했다.

인포테크 리서치 그룹(Info-Tech Research Group)의 자문 연구원 밸런스 하우든(Valence Howden)은 “이번 사건은 AI 위험을 실제로 관리하는 것이 얼마나 중요한지를 보여준다”라며 “AI 기반 모델이나 지원자 추적 시스템(ATS)이 과거 데이터를 바탕으로 의사결정을 내린다면, 결과와 데이터셋에 존재하는 편향이 적절히 해소됐는지에 대한 의문이 제기될 수 있다”라고 설명했다.

현재까지 진행 상황

‘모블리 대 워크데이(Mobley v. Workday, Inc.)’라고 불리는 이번 소송은 워크데이의 AI 지원자 선별 도구가 연령, 인종, 장애를 이유로 구직자를 차별했다는 의혹을 담고 있다. 소송은 2024년 미국 캘리포니아 연방지방법원에 제기됐다. 원고인 데릭 모블리(Derek Mobley)는 40세 이상 흑인 장애인으로, 워크데이 플랫폼을 통해 100개가 넘는 채용 공고에 지원했지만 워크데이 알고리즘이 반복적으로 자신을 탈락시켰다고 주장했다.

원고 측은 여러 미국 연방법과 캘리포니아주 법률이 금지하는 차별 행위가 발생했다고 주장하고 있다. 여기에는 1964년 민권법(Title VII)에 따른 인종 및 성별 차별, 미국 장애인법(ADA)에 따른 장애 차별, 고용연령차별금지법(ADEA)에 따른 연령 차별, 그리고 캘리포니아 공정고용주택법(FEHA)에 따른 인종·성별·연령 차별이 포함된다.

소송의 핵심은 워크데이가 지원자 선별 과정에 활용하는 자동화된 알고리즘 기반 평가 도구다. 원고 측은 이러한 시스템이 과거 데이터와 통계 모델에 의존하기 때문에 인종, 연령, 성별, 장애 여부와 같은 보호 대상 정보가 직접 입력되지 않더라도 기존의 사회적 편향에 영향을 받을 수 있다고 주장했다.

원고 측에 따르면 편향은 학습 데이터, 모델 설계, 지원자 적합성 평가 기준 등 다양한 경로를 통해 시스템에 반영될 수 있다. 또한 알고리즘이 데이터 간 상관관계를 학습하면서 차별적 결과를 재생산할 가능성도 있다는 주장이다. 예를 들어 이력서의 경력 연수는 연령을 추정하는 지표가 될 수 있으며, 장기간의 경력 공백은 장애 여부나 가족 돌봄 책임을 암시할 수 있다. 학력이나 출신 기관 정보 역시 인종적 배경과 연관될 수 있다는 설명이다.

워크데이는 자신이 구직자의 ‘고용주(employer)’에 해당하지 않기 때문에 고용 관련 차별금지법에 따른 책임을 질 수 없다고 주장해 왔다. 그러나 연방법원은 소송의 주요 쟁점에 대한 심리를 허용하면서, 차별금지법 적용 목적상 워크데이가 고용주의 ‘대리인(agent)’으로 간주될 가능성이 있다고 판단했다.

최근 쟁점은 캘리포니아 공정고용주택법(FEHA)에 집중되고 있다. 법조계에 따르면 FEHA는 미국 내에서도 가장 강력한 차별금지법 중 하나로 평가되며, 많은 경우 연방 고용 관련 법률보다 폭넓은 보호를 제공한다.

워크데이는 FEHA가 다른 주에 있는 기업과 구직자의 채용 결정에는 적용되지 않아야 한다며 관련 청구를 기각해 달라고 법원에 요청했다. 회사 측은 이를 허용할 경우 기업이 워크데이 플랫폼을 사용했다는 이유만으로 캘리포니아 법률이 다른 주의 법률보다 우선 적용되는 결과를 초래할 수 있다고 주장했다.

그러나 린 판사는 이에 동의하지 않았다. 린 판사는 FEHA가 적용될 수 있으며, 워크데이가 “고용주를 대신해 FEHA 규제 대상 활동에 직접 관여한 행위”에 대해서는 스스로 책임을 질 수 있다고 판단했다. 또한 기업이 “자신의 차별적 행위”에 대해 책임을 지도록 하는 것은 FEHA의 적용 범위와 입법 취지에 부합하며 공공정책과도 일치한다고 설명했다.

다만 이 사안에 대한 최종 판단은 아직 내려지지 않았으며, 린 판사는 최종 결정을 언제 발표할지에 대해서는 언급하지 않았다.

워크데이의 반론

워크데이 대변인은 이번 소송에서 제기된 주장에 대해 “사실이 아니다”라고 반박했다.

대변인은 CIO와의 인터뷰에서 “워크데이의 AI 채용 도구는 채용 결정을 내리지 않으며, 인간의 감독을 핵심 원칙으로 설계됐다”라며 “우리 기술은 인종, 나이, 장애와 같은 보호 대상 특성이 아니라 직무 자격 요건만을 평가한다. 또한 책임 있는 AI 프로그램의 일환으로 제품을 엄격하게 검증해 보호 대상 집단에 피해를 주지 않는다는 점을 확인하고 있다”라고 밝혔다.

워크데이에 따르면 자사 플랫폼은 지원자의 역량이 채용 공고의 요구 사항과 얼마나 부합하는지를 분석하는 정보를 제공하기 위한 목적을 갖고 있다. 해당 도구는 지원서에 기재된 자격 요건만을 검토하며, 이를 고용주가 해당 직무에 중요하다고 지정한 자격 요건과 비교하는 방식으로 작동한다.

워크데이 최고 책임 AI 책임자(CRAIO) 켈리 트린델은 자사 AI가 채용 결정을 내리거나 지원자를 자동으로 탈락시키지 않으며, 누가 채용될지를 결정하지도 않는다고 설명했다. 또한 회사의 도구가 보호 대상 집단에 피해를 초래한다는 증거도 없다고 주장했다.

미국 평등고용기회위원회(EEOC) 수석 분석관 출신인 트린델은 심리학자와 박사급 데이터 과학자로 구성된 전담 조직을 이끌고 있다. 이 조직의 역할은 AI가 “책임 있고 공정하며 윤리적으로” 운영되도록 보장하는 것이다.

트린델은 의도하지 않은 부작용을 방지하기 위해 AI 시스템이 개발부터 운영까지 전 생애주기에 걸쳐 지속적인 검토를 받는다고 설명했다. 또한 워크데이는 “책임성, 투명성, 신뢰”를 핵심 원칙으로 삼고 있으며, 편향을 식별하고 완화하기 위해 상당한 자원을 투자하고 있다고 밝혔다.

아울러 워크데이는 윤리적 AI 구현에 대한 전사적 의지를 갖고 있으며, 미국 국립표준기술연구소(NIST)와 국제표준화기구(ISO)의 기준을 기반으로 한 AI 거버넌스 프로그램을 운영하고 있다고 설명했다. 이 프로그램은 독립적인 외부 평가도 받고 있다.

트린델은 “워크데이는 사람을 대체하기 위해서가 아니라 사람을 지원하기 위해 AI를 개발하고 있으며, 이는 채용 분야에서 특히 중요하다”라며 “플랫폼은 기업이 대규모 채용 프로세스를 보다 효율적으로 관리하고 관련 정보를 파악할 수 있도록 지원하며, 행정 업무를 줄여 채용 담당자가 전문성과 판단력을 활용한 의사결정에 더 많은 시간을 투입할 수 있도록 설계됐다”라고 말했다.

기업 리더에게 주는 시사점

워크데이만 법적 논란에 직면한 것은 아니다. 다른 AI 채용 솔루션들 역시 알고리즘 설계 방식과 데이터 수집 관행, 평가 방법론 등을 둘러싸고 규제 당국과 법원의 검증을 받고 있다. 예를 들어 에이트폴드(Eightfold)는 자사 도구가 구직자의 온라인 데이터를 활용해 직무 적합성을 예측하는 과정에서 불공정한 판단을 내렸다는 이유로 캘리포니아 집단소송에 직면해 있다.

이는 기업들이 AI 채용 도구를 평가하고 도입하는 과정에서 더욱 엄격한 검증 절차를 마련해야 함을 의미한다. 이미 많은 기업이 채용 결정 과정의 문서화, AI 편향성 감사, 채용 과정에서의 인간 감독 유지 등에 대한 압박을 받고 있는 가운데, 앞으로는 AI 도구 자체에 대한 검증 책임도 한층 커질 것으로 보인다.

인포테크 리서치 그룹의 하우든은 기업이 채용 도구가 어떤 방식으로 작동해야 하는지를 명확히 정의하고, 알고리즘 내 편향을 식별하며, 의사결정 로직 전반에 걸쳐 편향 여부를 검증할 수 있는 체계를 구축해야 한다고 조언했다.

하우든은 “편향이 없는 결과를 검증하는 작업 역시 일회성 점검에 그쳐서는 안 되며, 지속적이고 능동적으로 수행돼야 한다”라고 말했다.

또한 워크데이를 비롯한 여러 업체가 인간의 감독이 중요하다고 강조하고 있지만, “플랫폼이 인간이 개입하기도 전에 지원자를 걸러낸다면 실제로 인간을 의사결정 과정에 포함시키기 어렵다”라고 지적했다.

하우든은 과거 채용 결정 자체에 이미 차별적 편향이 존재할 수 있으며, AI는 이를 학습해 그대로 모방하거나 새로운 방식으로 적용할 수 있다고 설명했다. 특히 언어 처리 과정에서도 문제가 발생할 수 있다. 문화권마다 표현 방식이 다르기 때문에 AI가 이러한 차이를 학습한 뒤 특정 지원자를 배제하는 데 활용할 가능성이 있다는 것이다.

결국 그는 이번 사건을 일부 조직이 AI 위험을 지나치게 가볍게 다뤄온 현실을 보여주는 “경고 사례”라고 평가했다. 또한 지금까지 활용해 온 제한적인 관리 체계에 의존하기보다, 보다 고도화된 기업 리스크 관리 체계를 구축해야 할 시급성을 보여주는 사례라고 분석했다.
dl-ciokorea@foundryco.com