칼럼 | 생성형 AI를 효과적으로 사용하는 비결

생성형 AI(genAI)가 형편없다고 생각하는가? 나도 그렇게 생각했다. 생성형 AI에 대한 과장이 한동안 지나칠 정도였다. 특히 초기에는 대부분의 도구를 진지한 업무 목적으로 사용하려고 할 때 이내 한계를 보이곤 했다.

2023년 초 챗GPT가 급격하게 성장하기 시작했을 때, 필자는 꽤 강하게 부정적이었다. 그것은 그저 잠재적으로 흥미로운 연구용 제품이 아니었다. 그것은 마구잡이로 밀어붙이는 나쁜 개념이었다.

인간을 로봇으로 대체한다는 아이디어를 좋아하는 경영진에 의해 추진된 기업 구조조정으로 인해 많은 직원들이 피해를 입는다. 또한 결국 많은 기업들도 피해를 입는다. 돌이켜 보면, 이제 우리는 모두 다음에 동의할 수 있다. ‘초창기 형태의 생성형 AI는 제대로 작동하지 않았다.

2023년 말에 필자는 마이크로소프트의 당시 새로운 코파일럿 AI 챗봇에 대한 글에 “스토리텔러 — 혼란스럽고 창의적인 엔진. 가상 비서 가 단정하게 차려 입었지만 항상 꿰맨 자국이 보인다”라고 요약했다.

그 당시에도 언급했듯이, 아마도 많은 이들이 생성형 AI를 틀리게 사용하곤 했다. 제대로 사용한다고 해도, 그렇게 대단하지도 못했다. 좀 더 똑똑한 자동 완성 기능을 사용하는 것 같은 느낌이라고 할 수 있었다.

이제 많은 것이 바뀌었다. 2025년 현재, 인공지능 도구는 실제적인 유용성을 지닌다. 하지만 제대로 사용할 때에 한해서다. 그리고 많은 실험과 숙고 끝에, 필자는 그 비밀을 찾은 것 같다.

AI를 사용하거나 사용하지 않고 윈도우 생산성을 높일 준비가 되셨습니까? 무료 윈도우 인텔리전스 뉴스레터에 가입하세요. 특별한 환영 보너스로 무료 윈도우 필드 가이드를 보내드립니다!

사용자 내면의 대화 활용

결론을 먼저 말하자면, 생성형 AI를 최대한 활용하기 위해서는 내면의 대화를 외부화해야 한다. 간단히 말해서, AI 모델은 더 많은 정보와 맥락을 제공받을 때 제대로 작동한다.

이런 종류의 상호 작용은 인간에게 그리 익숙한 방식이 아니지만 전례가 없지는 않다. 구글 자체가 처음 출시되었을 때 사람들은 종종 긴 문장을 입력하여 구글에 질문을 하고 싶어 했다. 그러나 그것은 검색 엔진을 가장 효과적으로 사용하는 방법이 아니었다. 구글 검색 쿼리는 최소한의 단어로 줄여야 했다.

생성형 AI는 이와 반대다. AI에게 최대한 많은 세부 정보를 제공해야 한다. 새로운 채팅을 시작하고 한 문장으로 된 질문을 입력하면, 깊이 있거나 흥미로운 답변을 얻기 어렵다.

즉 2023년의 방식으로 생성형 AI에게 질문을 던져서는 안 된다. 웹 검색을 하는 것이 아니다. 질문을 하는 것이 아니다.

대신, 생각을 밖으로 꺼내야 한다. 앞뒤로 조금식 가며 반복해야 한다. 각종 세부 정보를 제공하고, 시스템이 알려주는 내용을 확인한 다음, 흥미로운 것을 골라내어 자세히 살펴보고 계속 진행해야 한다.

어떤 의미에서는 사용자가 생성형 AI와 함께 무언가를 발견하는 작업이다. 생성형 AI를 브레인스토밍 파트너라고 생각하면 적절하겠다. 결과에 빠진 것이 있는가? 다시 알려주도록 한다. 아마도 사용자가 놓친 것이 있다면, 생성형 AI가 놓친 부분을 수면 위에 드러나게 할 것이다. 이 작업을 많이 할수록 더 좋은 답변을 얻을 수 있다.

사실 이것은 무척 쉬운 일이다. 그러나 이것은 또한 꽤 어려운 정신적 전환 중 하나이기도 하다. 간단한 예를 들어 본다: 어떤 단어를 기억하려고 하는데, 그 단어가 혀끝에 맴돌고 있다. 그 단어를 정확히 기억할 수는 없지만, 어렴풋이 묘사할 수는 있다. 구글을 사용하여 그 단어를 찾으려고 한다면, 완벽한 검색어를 어떻게 구성할 것인지에 대해 무척 깊이 생각해야 할 것이다.

이와 같은 상황에서 다음과 같이 다소 횡설수설하는 대화식 프롬프트를 통해 AI를 활용할 수 있다.

“따뜻하지만 약간 차가운 느낌을 주는 부드러운 느낌을 표현하는 단어는 무엇일까? 슬프지만 딱 들어맞는다고 할 수는 없다. 무언가를 그리워하지만, 그리워하는 것이 행복하다. 우울하다고도 할 수 없다. 그러기에는 슬프다. 모르겠다. 햇볕이 좋은 가을 오후에 학교에서 집으로 걸어가는 모습이 떠오른다. 해가 지고 곧 겨울이 올 거라는 것을 알면서도 여름이 그리워지고, 여름이 끝났다는 것을 알면서도 여름이 지나서 기쁘다는 생각이 든다.”

그리고 생성형 AI가 ‘wistful’이라는 대답을 내놓을 수 있다. 어쩌면 이 도구는 답으로서의 가능성이 있는 단어 목록을 내놓을 수도 있다. 사용자가 ‘wistful’이라는 단어를 떠올리려 한다는 사실을 생성형 AI 도구가 마법처럼 알아차리지는 못할 수 있겠지만, 사용자는 제시한 후보 답안 목록의 단어를 보는 순간 ‘그래 이거였다’라고 판단할 수 있다.

위의 사례가 지나치게 과장된 측면이 있음을 인정한다. 단어에 대한 더 짧은 설명, 가령 ‘마치 이것과 같고 저것과도 같다’는 식의 입력도 아마도 비슷한 결과로 이어질 것이다.

장황한 잡설

이 전략을 요약은 간단하다. ‘장황하게 떠들어야 한다’

실험 삼아 시도해 보라. 안드로이드 또는 iOS 휴대폰에서 챗GPT 앱을 열고 채팅 상자 오른쪽에 있는 마이크 버튼을 누른다. 마이크 버튼이 켜져 있는지 확인한다. 음성 채팅 모드 버튼을 누르면 제대로 작동하지 않는다.

(재미있게도, 챗GPT 윈도우 앱은 이런 방식의 음성 입력을 지원하지 않으며, 마이크로소프트 코파일럿 앱도 마찬가지다. 이 사실은 이 유형의 제품을 만드는 회사들이 이 제품의 최적 사용 방법을 제대로 이해하지 못하고 있다는 것을 보여준다. 음성으로 길게 말하고 싶다면, 휴대폰을 사용해야 한다. 아니면 키보드로 길게 입력해야 한다.)

마이크 버튼을 누른 후, 의식의 흐름대로 장황하게 떠들어 보라. 예를 들어, TV 프로그램 추천을 원한다고 가정한다. 좋아하는 프로그램, 그 프로그램에 대한 생각, 좋아하는 부분 등에 대해 떠들어 본다. 관련성이 있을 수도 있고, 관련성이 없을 수도 있는 다른 좋아하는 것들에 대해서도 이야기한다. 큰 소리로 생각한다고 볼 수 있다. 1분에서 2분 정도 이야기하고 다 끝나면 마이크 버튼을 한 번 더 누른다. 중얼거린 내용이 이제 상자에 텍스트로 나타나다. 말투의 특징이 반영되어 사용자의 생각에 대한 추가적인 맥락을 형성한다. 읽으려고 할 필요 없다. 오타가 있다면 AI가 알아낼 것이다. 보내기를 클릭한다. 이제 어떤 일이 일어나는지 차례다.

챗GPT(또는 다른 도구)가 하나의 간결한 답변을 제공하지 않을 것임을 일단 예상해야 한다. 그것은 사용자가 말한 것을 반추하고 생각할 거리를 제공해 줄 것이다. 그런 다음 흥미롭다고 생각하는 것을 포착할 수 있다. 답변을 읽을 때 끌리는 무언가가 있을 것이다. 드릴다운하고 질문하고, 생각을 공유한다. 도움이 된다면 음성 입력을 계속 사용한다. 편리하고, 정말로 무의식적인 상태에 빠지게 해줄 것이다.

받은 답변에 끌리는 내용이 없는가? 또 말한다. 다른 것을 기대했기 때문에 실망했다고 말한다. 이미 그 프로그램을 다 봤고 마음에 들지 않았다고 말한다. 그것은 추가적인 맥락이다. 계속 파고드는 것이다.

반드시 음성 입력을 사용할 필요는 없다. 그러나 타이핑을 한다면, 마치 자신과 대화하는 것처럼, 내면의 대화와 의식의 흐름적 스타일로, 마치 큰 소리로 말하는 것처럼 입력해야 한다. 뭔가 잘못 입력했다고 해서 백스페이스를 누르지 않는다. 계속 진행한다. 그저 ‘잘못 입력했다. 사실은 이런 식으로 입력하려고 했다’라고 입력하면 된다.

앞뒤왕복의 아름다움

예를 들어, 생성형 AI를 사용해 캠페인 마케팅 슬로건을 브레인스토밍한다고 가정해 본다. 프로젝트에 대해 횡설수설하거나, 아니면 짧은 프롬프트를 말하면서 시작하게 된다. 여러 가지 아이디어를 요청하고, 거기서부터 시작할 수 있다.

단 비판적으로, 또 지속적으로 진행한다. 특히 몇 가지 아이디어가 마음에 들어서 그 방향으로 더 나아가고 싶다고 말한다. 몇 가지 가능성을 다시 얻는다. 계속 진행한다. ‘음, 세 번째 아이디어가 마음에 들지만 [어떤 것]이 더 필요하다고 봐. 여섯 번째 아이디어는 괜찮지만 [다른 것]이 필요해.” 계속 이야기하고, 가정하고, 다듬고, 개념의 경로를 따라가면서 자신에게 더 느낌이 오는 것을 찾는다.

제대로 작동하지 않는다고 해서 좌절하거나 포기하지 않을 일이다. 대신 이렇게 말한다 ‘아니, 네가 이해하지 못했어. 이건 대형 의류 회사용이야. 전문적인 느낌을 주면서도 사람들의 시선을 사로잡아야 해. 그래서 네 제안이 너무 과한 거야.”

긴 흐름의 의식 산문이 유용한 것처럼, 이 앞뒤로 오가는 대화는 많은 맥락을 제공하게 된다. 그 시점까지의 전체 대화가 대화의 기초를 형성하고 스레드에서 향후 응답에 영향을 미친다. 대화를 계속 추가하고 계속 진행하면서, 원하는 것에 더 잘 맞출 수 있다.

이 때 생성형 AI가 결정을 내리지 않는다. 모든 결정은 사용자가 내린다. 사용자의 취향과 감각이 발휘된다. 아이디어를 얻기 위해 이 방향 또는 저 방향으로 밀어붙일 수 있다. 사용자가 동의하지 않는 방향으로 결정이 내려지면, “아니야 전혀 옳지 않아. 완전히 빗나갔어. 다른 건…”이라고 반박할 수 있다.

바보 같은 행동일까? 브레인스토밍은 보통 빈 방에 앉아 페인트가 마르는 것을 바라보며 명상하는 것을 의미하지 않는다. 브레인스토밍은 종종 구글을 검색하고, 다른 사람들의 의견을 보고, 영감을 얻기 위해 이리저리 뒤적이는 것을 의미한다. 이것과 비슷하면서도 더 빠를 뿐이다.

아마도 브레인스토밍을 할 때면 구글을 사용하거나, 산책하러 나가 생각에 잠기곤 할 것이다! 그것도 좋은 방법이다. 생성형 AI는 도구 상자에 있는 또 다른 도구일 뿐이다. 모든 것을 해결할 수 있는 답은 아니다.

더 큰 AI 그림

분명히 말하지만, 필자는 생성형 AI를 수용할 시점이라고 강변하려는 것이 아니다. 오히려 오늘날 생성형 AI 도구를 판매하는 회사들이 잘못된 것을 팔고 있다고 말하려 한다. 그들이 기술에 대해 말하는 방식이 적절하지 않다. 인간 사용자가 이 기술을 사용하는 방식을 더 고민해야 한다. 많은 똑똑한 사람들이 이 기술에 대해 반발하는 데에는 이유가 있으며, 우리가 어떤 상품에 대해 정당하게 비판하는 것도 당연한 일이다.

생성형 AI가 사고를 대신할 수 없다. 개념과 개념 간의 연결을 탐구하는 도구일 뿐이다. 이 도구를 사용하여 더 나은 이메일을 작성할 수 있다. 마케팅 계획을 세우는 데 사용할 수 있다. 또 중요하게는 미처 예상하지 못했던 일을 해낼 수도 있다.

그렇다. 환각을 일으킬 수도 있고 무언가를 해낼 수도 있다. (그래서 두뇌를 계속 사용해야 하는 것이다.) 그냥 끄고 싶을 수도 있다. 계속해서 답을 찾기 위해 노력하기로 결정할 수도 있다. 기억해야 할 점은, 만약 생성형 AI를 사용한다면, 인간다움을 더하기 위해 사용해야 한다는 것이다. 더 나은 이메일을 작성하는 데 도움이 되겠지만, 그 외에도 훨씬 더 많은 것을 성취하도록 뒷받침할 수 있다.
[email protected]