구호 아닌 기술로 증명할까…마이크로소프트 HSI의 진정성 실험

‘휴머니스트 초지능’이라는 개념은 익숙한 기술 유행어를 엮어낸 조어처럼 들린다. 실체 없는 구호일 수도 있지만, 향후 인공지능 발전 방향을 새롭게 제시할 가능성도 있다.

기술 기업은 실질적 혁신보다 그럴듯한 마케팅 구호를 만들어내는 데 능하다. 얼핏 신기술처럼 보이지만, 실상은 낡은 개념을 새 포장에 담은 경우도 많다. 새로운 것을 창조하는 일보다 구호를 만들어내는 일이 훨씬 수월하기 때문이다.

마이크로소프트가 발표한 ‘휴머니스트 초지능’ 비전 역시 그러한 접근처럼 보일 수 있다. ‘초지능’이라는 인공지능 분야의 대표 유행어에 ‘휴머니스트’라는 사회 중심적 단어를 조합한 구성은 전형적인 구호 마케팅처럼 보인다.

이 비전은 마이크로소프트 AI 부문 최고경영자이자 부사장인 무스타파 술레이만이 블로그 게시물을 통해 소개했다. 딥마인드 공동 창업자이자 응용 인공지능 부문 총괄을 역임한 술레이만은, 딥마인드를 구글에 4억~6억 5,000만 달러에 매각한 후 인플렉션 AI를 창업했고, 이후 마이크로소프트에 합류했다.

마케팅보다 기술에 집중해온 이력은 분명하지만, ‘휴머니스트 초지능’이 실질적 비전인지, 혹은 또 하나의 과장된 구호에 불과한지는 여전히 검토가 필요하다. 술레이만이 공개한 구체적 계획을 살펴보는 것이 그 판단의 출발점이다.

인간 중심의 기술 선언, AGI 패러다임에 반기를 들다

‘휴머니스트 초지능’ 개념을 이해하려면 현재 인공지능 업계가 추구하는 핵심 목표인 범용 인공지능(AGI) 개념부터 살펴야 한다. AGI는 인간처럼 사고하고 추론할 수 있는 능력을 갖춘 기계를 의미하며, 어떤 작업에도 적응 가능하고, 별도 학습 없이도 새로운 상황을 인식하고 판단하며 자율적으로 행동할 수 있는 인공지능을 지향한다.

AGI 지지자들은 이 기술이 인류에 혜택을 가져올 것이라고 주장하지만, 동시에 적절한 제어 없이 작동할 경우 존재론적 위협이 될 수 있음을 경고한다.

이에 반해 술레이만은 ‘휴머니스트 초지능’을 통해 AGI 담론에 명확히 선을 긋는다. “현실적이고 구체적인 문제를 해결하며, 기반을 명확히 두고 통제 가능한 기술”이라며, “모호하고 정의되지 않은 초지능이 아니라, 오직 인류 복지에 봉사하도록 명시적으로 설계된 실용 기술”임을 강조했다. “AGI 경쟁이라는 내러티브는 수용하지 않는다”고 단언했다.

AGI가 하나의 대형 만능 모델을 추구하는 반면, ‘휴머니스트 초지능’은 각기 다른 사회 문제 해결을 위한 개별 기술의 집합으로 접근한다. 모든 기술은 특정 분야에 최적화되어 있으며, 사람들의 삶을 향상하는 데 초점을 둔다.

기술 자체의 진보보다도 기술이 사회에 미칠 영향을 더 중시해야 한다는 점도 술레이만의 주장에서 두드러진다. “기술인은 전 세계 사람들이 실제로 살고 싶어 할 미래를 상상하는 데 더 많은 책임을 져야 한다”며, “‘휴머니스트 초지능’은 모든 분야에서 인간을 능가하고 지배하려는 기술이 아니라, 사회적 도전 과제를 해결하는 데서 출발하는 접근”이라고 설명했다.

이러한 철학은 이상적으로 들릴 수 있다. 이에 마이크로소프트는 구체적 실행 방향도 함께 제시했다. 현재 의료 초지능 개발을 진행 중이며, 차기 과제로는 풍부하고 청정하며 저렴한 에너지 기술 설계에 착수할 계획이다.

AGI가 통제 불가능한 위험을 내포할 수 있다는 비판을 의식한 듯, 술레이만은 ‘휴머니스트 초지능’의 설계 자체가 종속적이고 통제 가능한 인공지능임을 강조한다. “판도라의 상자를 열지 못하며, 가치 정렬과 안전성이 전제된 구조로, 언제나 인간이 운전석에 앉아 있는 시스템”이라고 설명했다.

실현 가능한 혁신인가, 또 하나의 구호인가

이 같은 비전은 분명 인상적이다. 그러나 아무리 고상한 표현이라 해도 현실적 결과로 이어지지 않는다면 공허할 수밖에 없다. ‘휴머니스트 초지능’ 역시 기술 산업의 과장된 마케팅에 불과한 것일까?

술레이만의 과거 행보는 이 구상이 단지 허상만은 아님을 보여준다. 『다가오는 물결: 기술, 권력, 그리고 21세기의 가장 큰 딜레마(The Coming Wave: Technology, Power, and the Twenty-first Century’s Greatest Dilemma)』에서 자율 무기, 병원체 생명공학 조작 등 인공지능이 초래할 수 있는 위협을 구체적으로 제시하며, 이를 제어하기 위한 글로벌 차원의 규제 도입을 주장했다. 또한 딥마인드 재직 당시에는 인공지능의 해악 가능성을 사전 검토하고 대응하는 전담 부서인 ‘윤리 및 사회’ 팀을 설립했다.

‘휴머니스트 초지능’은 수익성과도 충돌하지 않는다. 오히려 최근까지 업계 전반에서 주목받았던 범용 생성형 인공지능 기술은 기대만큼의 수익을 내지 못하고 있다.

맥킨지의 『생성형 AI의 현주소(The State of Generative AI)』 보고서는 “10개 기업 중 8개가 생성형 인공지능을 도입했지만, 수익 개선 효과는 거의 없었다”고 분석했다. MIT 보고서 『생성형 AI 격차: 2025년 AI 비즈니스 현황(The GenAI Divide: State of AI in Business 2025)』도 생성형 AI 파일럿 프로젝트의 95%가 실패했다는 결과를 제시했다.

이에 따라, 기술 전문가는 범용 인공지능보다 특정 문제 해결에 집중하는 전문화된 AI 기술이 더 현실적이고 수익성 있는 해법이 될 수 있다고 본다. 인공지능 기업을 두 차례 창업한 게리 마커스는 뉴욕타임스 기고에서 “기술 업계는 만능 도구에 집중하는 대신, 특정 문제 해결에 최적화된 AI 개발로 방향을 전환해야 한다”고 강조했다.

현재까지 ‘휴머니스트 초지능’은 수익성과 직접 충돌한 적 없으며, 실현 가능한 기술 모델로서의 타당성을 검토받고 있는 단계다. 마이크로소프트가 이를 통해 실제 수익을 창출할 수 있을지 여부는 아직 미지수다. 결국 이 구상이 현실에서 구현될 수 있을지는 향후 수년간의 성과가 판단 기준이 될 것이다.

분명한 것은, 술레이만이 제시한 방향은 기술과 사회를 조화롭게 연결하려는 가치 있는 시도라는 점이다. 기술이 인류를 중심에 두고 진화할 수 있다는 가능성을 현실로 증명해 주기를 기대한다.
dl-ciokorea@foundryco.com