칼럼 | AI 개발에 신경다양성 관점이 필수적인 이유

AI에 대한 이야기가 매일 들려온다. AI의 잠재력, 위험성 등에 대한 이야기다. 이미 AI에 대한 과대 광고 단계가 지났고 이제는 이 기술이 우리 삶의 일환으로 자리잡은 세상이라고 평해도 과언이 아니다.

이러한 가운데, AI를 보다 포용적이고 윤리적으로 만드는 방법에 대한 시각은 제각이다. 또 누가 수많은 사용자의 안전을 책임져야 할 지에 대한 의견도 각양각색이다. 오늘날 새로운 모델이 개발되고 출시되는 속도를 감안할 때, 또 모델이 공정하고 편파적이지 않도록 감독해야 할 필요성을 감안할 때, 안전과 윤리의 중요성이 필수적이다.

지난달 파리에서 개최된 제1회 국제 안전 및 윤리 AI 협회(International Association for Safe and Ethical AI) 행사에서 많은 질문이 제기됐다. 학계, 시민 사회, 산업계, 미디어, 정부 전문가들이 AI 안전과 윤리의 최신 발전에 대해 논의하고 토론했다. 그러나 인공지능 개발에 있어 신경다양성 관점(neurodivergent perspectives)의 목소리는 드물었다. 미국에서만 7,000만 명이 다양한 측면에서 다르게 배우고 사고한다는 점을 고려할 때 이는 큰 문제다.

기술은 모두를 위해 구축되고 모두에게 제공되어야 된다. 그렇다면 신경다양성 표현이 고려되지 않는다면, 어떻게 미래의 AI 모델에서 편견을 없앨 수 있을까? 모든 것은 개발 단계에서 시작되는 법이다.

AI 접근성을 향한 노력

좋은 소식은 이에 대한 시도가 이미 존재해오고 있다는 사실이다. 그러나 접근성이 윤리적이고 포용적인 AI과 동의어가 되기까지는 아직 갈 길이 멀다. 지난 몇 년 동안 애플과 구글 같은 기업들이 의식적으로 노력했으며, 그 결과 애플의 라이브 스피치와 아이 트래킹, 구글의 가이드 프레임과 룩아웃과 같은 모바일 제품이 등장했다. 그러나 기술의 접근성은 여전히 틈새 시장으로 간주되고 있다.

‘언더스투드 어시스턴트’(Understood Assistant)가 개발되고 훈련된 이유가 여기에 있다. 학습 과정과 관점이 다른 사람들을 감안해 일단의 전문가들이 개발한 이 이니셔티브는 방대한 콘텐츠 라이브러리에 더 쉽게 접근할 수 있도록 하는 것을 목표로 한다. 예를 들어, 질문을 할 수 있는 음성-텍스트 변환 기능을 포함하고 있으며, 8학년 수준의 읽기 수준에 맞춰 명확하고 간결한 답변을 제공한다.

하지만 아직 할 일이 더 많다. 조직에 따라서는 어려움을 겪을 수도 있다. 포괄성에 대한 논의는 여전히 논쟁의 여지가 있는 가운데, 점점 더 AI가 콘텐츠, 비즈니스, 사람들의 생활 방식을 지배하고 있다. 그럼에도 불구하고 우리는 모든 사람의 뇌가 다르게 동작한다는 사실을 우선시하고 존중해야 한다. 이를 위한 방법은 다음과 같다.

1. AI 개발의 기반이 되는 데이터와 팀은 인지적 다양성을 반영해야 한다. 챗봇과 AI 모델에 편향되고 결함이 있는 데이터가 지속적으로 제공된다면, 그 결과도 항상 편향되고 결함이 있게 된다. 이러한 데이터 세트가 신뢰할 수 있고 포괄적이며 편견이 없도록 하는 가장 좋은 방법은 인지적으로 다양한 개발자를 포함시키는 것입니다. 신경다양성 팀은 또한 더 넓은 범위의 사용 사례와 애플리케이션 관련된 위험을 더 쉽게 탐색할 수 있게 한다. 개발 단계에서 신경다양성 사람들을 참여시키면, 다양한 사고 방식, 학습 방식, 작업 방식을 이해하고 우선순위를 정하는 팀을 만들 수 있다. 그리고 그것은 모든 사용자에게 이익이 된다.
2. 기업은 다양한 인재 풀에서 인재를 채용해야 한다. 가트너의 연구에 따르면, 의사결정 팀이 다양성과 포용성을 반영하는 조직의 75%가 인지 다양성에 특히 중점을 둠으로써 생산성, 혁신, 긍정적인 재무적 결과의 향상을 경험했다. 그리고 액센츄어 보고서는 장애를 가진 사람이 1%만 더 노동 인구에 포함된다면 미국의 경제 생산량이 최대 250억 달러까지 향상될 수 있다는 사실을 뒷받침한다.
3. 사용자들은 생존과 번영에 도움이 되는 기술을 원한다. EY의 새 데이터에 따르면, 신경다양성 직원의 85%가 생성형 AI로 인해 보다 포용적인 직장을 만들 수 있다고 생각한다. 따라서 기업DMS넓은 범위의 직원과 번영과 보다 정확하고 강력한 데이터 세트를 생성하는 데 필요한 도구를 포함하도록 함으로써 경쟁의 장을 평준화해야 할 책임이 있다. 또한, 생성형 AI는 생산성, 품질 보증, 시간 관리와 같은 단순한 작업에 신경이 분산된 작업를 돕는 데 큰 도움이 될 수 있다. 같은 EY 보고서에 따르면, 생성형 AI의 결과로 응답자의 65%가 자신의 업무에 자신감을 느끼고, 64%가 업무에 대한 명확성을 더 많이 느끼고 있었다. 또 61%가 AI가 업무에서 고통스러운 장애물을 제거하는 데 도움이 될 수 있다는 사실에 안도감을 느끼고, 30%가 업무에서 더 많이 수용되었다고 느꼈다고 밝혔다.

2027년이면 인공 일반지능(AGI) 도래한다는 전망이 제기되는 가운데, AI 환경을 형성하는 데 있어 초기 단계의 전략적 참여가 매우 중요하다. 아울러 급속한 AI 진화는 주의를 필요로 한다는 점을 기억해야 한다. 여전히 많은 질문이 남아 있지만, 학습 및 사고 방식이 다른 사람들이 필요로 하고 마땅히 받아야 하는 기술을 제공하기 위해서는 AI의 안전성과 포용성 요소에 집중하고 우선순위를 정하는 것이 중요하다.
[email protected]