칼럼 | AI ‘Judgment Day’가 오려면…

인공지능은 결과를 예측하는 데 큰 잠재력을 가지고 있다. 가령 AI는 강수 확률을 예측할 수 있다. 하지만 악천후에 대비해 준비하거나 옷을 입는 데 도움을 주기에는 한계가 있다.

이러한 준비에는 비나 눈의 확률 이상의 것이 포함되기 때문이다. 사람들은 자신의 선호도, 직관, 또는 삶의 경험을 바탕으로 매우 미묘한 판단을 내린다. 오늘날의 인공지능은 이러한 속성과 미묘한 사고 측면에서 미흡하다.

차이가 극명하게 엇갈리는 지점은, 인공지능의 경우 알려진 정보를 바탕으로 비교적 정확하면서도 매우 빠르게 예측할 수 있지만, 인간이 가진 판단력(judgment)이 부족하다는 것이다. 사실 정보의 과잉은 오히려 핸디캡이 될 수 있다.

생성형 AI와 대규모 언어 모델(LLM) 덕분에 AI는 의학 시험이나 LSAT 시험을 통과하는 등 놀라운 일을 할 수 있다. 하지만 AI를 여러분의 의사나 변호사로 활동하게 할 만큼 신뢰할 수 있을까?

AI는 도구이지 전문가가 아니다.

역설적인 사실 하나는 생성형 AI(genAI)가 거의 모든 주제에 대해 거의 모든 것을 알고 있다는 것이다. 읽을 수 있는 모든 것을 즉시 읽고 체계화할 수 있기 때문이다. 그러나 결국 생성형 AI는 가장 가능성이 높은 결과를 산출하도록 설계된 통계 프로그램일 뿐이다.

대부분의 경우 산출 결과는 정확하다. 하지만 항상 그런 것은 아니다.

세계 역사상 가장 위대한 지도자를 꼽으라는 질문에 마이크로소프트 코파일럿은 BBC와 포춘이 선정한 여러 명단을 인용하며 마하라 란짓 싱을 꼽았다. 진보적인 정치, 사회, 문화 정책이 주요 근거였다. 다른 생성형 AI 서비스들은 마하트마 간디, 넬슨 만델라, 마틴 루터 킹 주니어를 꼽기도 했다.

하지만 명백히 누락된 리더들도 있었다. 로마 황제, 미국 대통령, 유명한 군사 지도자들이 목록에 없었다. 일반적으로 민주주의를 확립하거나 보존한 것으로 알려진 사람들도 목록에 없었다.

코파일럿이 한 작업은 권위 있는 여러 미디어가 정리한 목록들을 수집하고 큐레이팅해 정리한 것일 뿐이다. 그리고 한 가지 기준, 즉 사회 변화를 위한 평화적 저항이라는 기준만 적용했다. 요점은 이렇다. AI는 인간 판단을 단순히 인용(그리고 매우 좁은 관점에서만)했을 뿐이다. 자체적 판단력이 부재했기 때문이다. 그러나 AI 판단의 날이 오고 있다.

‘인공지능’이라는 단어에는 이 기술이 인간과 같은 지능을 가지고 있다는 의미가 담고 있다. 어쩌면 적절한 표현이 아니다. AI가 수집하는 데이터와 정보, 그리고 부족한 지혜를 고려할 때, ‘인공 지식’이 더 적절할 수 있다.

의료 진단에서 재무 예측에 이르기까지, 효율성과 정확성을 향상시킬 수 있는 AI의 잠재력은 부인할 수 없다. 그러나 인간이 판단할 때 사용하는 연속적이거나 종합적인 이해가 부족하다. 인간은 감각, 경험, 윤리적 고려 사항 등 다양한 요소를 결합하고 고려해 판단을 내린다. 현재로서는 AI가 완전히 아우를 수 없는 요소들이다. 이러한 격차는 AI 시스템에 대한 인간의 감독을 유지하는 것이 중요하다는 것을 환기한다. 그래야 데이터에 기반한 결정뿐만 아니라 윤리적으로 건전하고 사회적으로 책임 있는 결정을 내릴 수 있도록 보장할 수 있다.

AI는 모든 데이터에 대해 너무 많이 알고 있지만, 삶에 대해서는 거의 알지 못한다. 공개적으로나 전자적으로 접근할 수 있는 모든 것을 알고 있다고 할 수 있다. 그리고 너무 많이 알고 있기 때문에 가장 일반적인 답을 찾는다. 본질적으로 지금까지 수집한 모든 의견과 사실을 평균화한다. 인터넷 상의 평균적인 지성을 모방하는 수백만 개의 로봇 AI를 생성하는 행위 자체로는 사회를 발전시키거나 복잡한 문제를 해결하는 데 도움이 되지는 않는다. 그것은 우리를 완벽하게 평범한 존재로 몰아넣을 뿐이다.

인간의 판단력 수준에 도달하려면 삶의 경험이 필요하다. 언젠가는 시간이 지남에 따라 학습하고 인간이 된다는 것이 무엇을 의미하는지 이해하기 시작하고 도구로서 봉사할 수 있는 지능적인 AI가 등장할 수 있다. 하지만 오늘날의 AI나 인터넷이 모든 해답을 가지고 있을 것이라고 기대하는 것은 순진한 생각이다. 인간은 교육, 경험, 환경의 산물이다. 진정한 ‘지능’으로 발전하려면 이 모든 것이 필요하다.

언젠간 삶을 경험할 수 있거나 그와 유사한 시뮬레이션을 거친 인공지능이 출현하는 미래가 도래할 수 있다고 기대한다. 강좌를 수강하고, 프로젝트 팀에서 일하며, 다른 선견지명이 있는 존재들과 함께 생태계의 일부로서 타협하고 다른 존재들과 공존하는 존재들이 있는 미래다.

이러한 미래에는 장애물, 부족함, 한계, 결과에 직면한 존재들이 통찰력과 직관을 적용하여 극복하거나, 반복되는 실패를 통해 배우고, 불공정한 상황과 불완전한 조건 속에서, 인간와 마찬가지로 살아갈 수도 있겠다. 이러한 존재들은 더 신뢰할 수 있고, 지능적이며, 미묘한 차이를 이해하고 윤리적인 존재가 될 것이다.

이를 위한 유일한 방법은 중학교, 고등학교, 좋은 관계와 나쁜 관계, 가족의 성장, 우연과 타인에 대한 의존, 심지어 비즈니스 활동과 같은 생생한 경험을 디지털화한 환경에서 AI를 ‘키우는’ 것일 수 있다. 그저 평균적인 결정이 아니라 부모, 상사, 교사, 친구로서 올바른 결정을 내릴 수 있도록 판단력을 길러주는 필수불가결한 요인이 바로 이것이기 때문이다.

단기간에 성취될 만한 성질의 것이 아니다. 그때까지 판단과 최종 결정을 필요로 하는 중요한 결정을 내리는 일을 AI에 맡기지 않아야 한다. 엄청난 인공 지식과 인간의 판단을 이끄는 진정한 지능과 지혜 사이에는 큰 차이가 있다는 것을 인식해야 한다.

현실적인 경험과 환경을 통해 봇을 훈련할 수 있는 세상이 언젠가는 올 수도 있겠다. 봇이 중요한 리더십, 성취, 실패, 그리고 인간의 모든 좋은 점과 나쁜 점을 독립적으로 인식하여 도덕성을 모방하고 ‘올바른’ 결정을 내릴 수 있는 미래다. 오해는 마시라. 인간를 대체할 수 있는 인공 인간을 옹호하려는 것이 아니다. 고객 경험 분야의 AI 리더로서 필자는 AI를 인간의 능력을 향상시키는 도구로 책임감 있게 활용해야 한다고 말하는 것이다.

AI는 방대한 양의 정보를 추출하고 인간이 판단하여 행동할 수 있는 결과를 예측함으로써 인간의 성과와 경험을 가속화하고 개선하는 강력한 도구다. AI는 안전하고 올바르게 사용될 때 훌륭한 도구일 수 있다.
dl-ciokorea@foundryco.com