AI 실무 파트너의 진입점

최근 AI 관련 가장 따끈따끈한 논문 중에서 Kimi K2 모델이 눈길을 끄는 제목으로 발표되었다. https://arxiv.org/abs/2507.20534 (submitted on 28 Jul)

MoE 모델로 LLM의 발전 방향에서 Agentic 특성을 어떻게 끌어올릴 수 있는지에 대한 흥미로운 논문이였다. 다음 문장에 올 단어를 확률적으로 생성하는 것으로부터 시작한 트랜스포머 기반의 LLM이 이제는 Reasoning 을 넘어 어떻게 사람과 협업 관계를 구축하고 Agentic workflow 를 효과적으로 만들어 낼 수 있는지에 대한 실무적 고민을 하는 단계에 도달했다. 개인적으로 PM의 직무를 따라 쌓아온 일의 경험과 업무방식이 앞으로는 크게 바뀔 것으로 생각되었고, 이 변화의 시작점에 내가 느끼는 것들을 기록으로 남기고 싶었다.

PM이 IT 회사에서 일하는 방식

PM. 정확히 Product Manager는 IT 산업의 진화와 함께 탄생하고 발전해온 직무다. 기본적으로 PM은 단일 팀 내에서 단순하게는 프로덕트의 feature를 담당하는 책임자 역할부터 비지니스 모델 전체 혹은 특정 부분을 담당하는 역할까지 다양한 스펙트럼을 갖는다. Product의 정의가 산업 측면에서도 다양하지만 IT 산업의 세분화된 도메인에서도 다양하기 때문에, PM의 역할과 책임 범위 역시 조직마다 크게 다르다.

IT 회사의 Product는 필연적으로 Maker와의 협업을 통해 탄생한다. Backend Developer, Frontend Developer, Product Designer, QA engineer - 이들과의 긴밀한 협업 없이는 사용자에게 가치를 전달 할 수 없다. 이 때문에 PM의 가장 중요한 역량 중 하나는 Maker 들과의 커뮤니케이션을 통해 제품을 만들어내는 것이다.

이는 PM에게 고유한 커뮤니케이션 역량이라는 역할을 요구하게 된다. 사업팀, 마케팅팀, 고객지원팀 등 다방면의 이해 관계자들 사이에서 그리고 그것이 전달되는 사용자들까지 균형을 잡아야 하기 때문이다. 온전한 제품의 사용자만을 보고 "필요한" 제품을 만들기 위해 스타트업은 팀 구성원을 10명 이내로 피자 한판을 먹을 정도의 팀으로 줄이고, 데일리 스크럼을 하고, 스프린트를 2주 단위로 줄여서, 제품이 사용자에게 출시되는 시간을 줄이고 그때까지의 제품 Maker 간의 긴밀하고 끈끈한 소통 및 지표 설계를 통한 데이터 분석을 통해 제품의 퀄리티를 높이는데에 집중했다. 이런 관점에서 Product팀의 비지니스 영역에서 제품 탐색과 설계를 PM에게 집중시키고 (우리나라에서는 PO 이름으로 변하기도 했고) 그 Product가 사용자에게 전달되는 최종 단계까지 관리하게 함으로서 Product의 퀄리티를 관리하는 방식이 가장 이상적으로 정착되었다.

물론 다양한 이해관계자의 그 역할 책임을 갖는 업무의 분담 체계에 있어서 PM이 온전히 모든 것을 감당할 수 없는 구조에서는 PM은 보다 더 조율자의 역할을 갖게 되고, Proudct의 출시 책임과 비지니스의 방향성도 개인의 차원이 아닌 전략팀이나 별도의 협의체, 데이터 분석가들의 지원을 통해 관리되는 경우가 있다.

AI Agent의 등장과 PM의 역할

인공지능의 쓰나미급 파도의 한가운데에서 AI 는 단순히 텍스트 기반 어시스턴트를 넘어 실무 협업 파트너로 진화하고 있다. 올해 초부터 업계는 인공지능 '에이전트의 시대'가 될 것을 예견했고, Claude Code Max 요금제 무제한을 기점으로 MS Copilot 같은 IDE 개발 보조 도구 수준에서 차원이 다른 진정한 에이전트로서 개발을 지시하고 그 결과물을 바로 실무에 적용할 수 있는 수준이 등장한 것이다. 이젠 같이 일하던 개발자의 개발 스타일을 가진 cladue agent 가 내가 자연어로 업무 요청을 하면 단계별로 수행 계획을 세우고 2-3명이 합을 맞춰서 슬랙에 열띤 대화를 하며 만들어할 일을 혼자서 토큰을 마구 써가면 묵묵히 될때까지 결과물을 만들어 온다. PM은 업무를 체계적으로 요청하고, 5시간 마다 리프레시되는 토큰 제한에 맞춰 어떻게 일을 지시할지 다듬고 어떻게 컨택스트를 이해시키고 토큰을 효율적으로 사용하여 결과물을 만들어낼지 고민하는 시간이 업무의 50%이상을 차지하게 될 것이다.

Claude Code가 가져온 혁신

여러가지 AGI나 초지능에 대한 논쟁적인 주제를 차치하고 "바이브 코딩"이라는 용어로부터 시작된 에이전틱 개발의 파도는 근본적으로 IT 회사의 일하는 방식 자체를 바꿀 것으로 예상된다. 전통적인 IT 회사가 일했던 구조에서의 PM과 Maker의 관계는 어쩔수 없이 일을 주는 입장과 수행하는 입장으로 나눠질 수 밖에 없었다. 아무리 Maker가 주도권을 갖고 Product를 만들고자 해도 제품의 전반을 관리하는 PM의 책임과 역할 범위에 따르면 그 적절한 선을 어떻게 잡아야 할지, PM은 얼마나 Maker가 제품에 애정을 갖고 사용자가 만족할만한 퀄리티로 자율적으로 만들어 내도록 어떻게 관리를 해야할지 모호한 부분이 존재했다.

그런데 에이전틱 개발의 등장은 이러한 구조를 완전히 바꾸고 있다. PM과 Maker 모두 제품을 개발하는 과정에서 발생하는 반복성과 기계적인 작업들을 모두 에이전트에게 위임하고 온전히 Design(설계)와 전략적 의사결정에만 집중할 수 있게 되었다. PM은 더이상 제품을 Prototyping 하기 위해 Maker를 거칠 필요가 없고, Maker는 제품의 구성요소들을 최대한 모듈화하고, 마이크로서비스로 서버 단위를 쪼개서 제품 수정사항이 제품 전반에 영향을 미치지 않도록 독립적인 단위로 만들 필요가 없어졌다.

제품을 만든다는 것의 새로운 의미

과거 IT 제품을 출시하기 위해 거쳐야 했던 커뮤니케이션과 조율은 어쩔수 없이 거쳐야만 결과를 만들어낼 수 있는 통과의례였다. 그래서 IT 회사의 유일한 자산이자 최대 리스크는 인적 자원이였고, 이들이 얼마나 협력적으로 하나의 목표에 따라 기민하게 움직이느냐에 따라 회사의 생산성과 경쟁력을 판단하는 핵심 요소 중 하나 였다. 여기에는 필연적으로 소모적으로 이뤄지는 논의와 비효율적인 조직 변화가 발생하는 부분을 피할 수 없었다. 개인적으로는 모바일 앱 서비스에서 파생된 정량적 데이터 분석 기법이나 사용자 지표 설계를 통한 분석들에서 꼬리가 몸통을 흔드는 경우 진정 제품의 가치를 전달하는가에 대한 의구심을 지울 수 없는 순간들이 종종 있었다. 혹은 그런 상황을 방지하기 위해 소모적이고 비효율적인 설계와 논의를 지속하는 순간들이 어떤 제품을 만들어야 하는가에 대한 고민을 깊어지게 했다.

이제는 에이전트와의 협업을 통해 더 높은 효율로 결과물을 만들어 낼 수 있는가가 회사의 성패를 가르는 중요한 요소가 될 것이다. 제품을 빠르게 만들어 시장에 내놓는 방식인 애자일 프로세스는 PM을 통해 시장 태핑 자체를 Maker를 거치지 않고 극단적으로 짧은 시간과 비용으로 시장 조사 및 검증을 진행할 수 있도록 만들었고, 이전에는 Maker 리더가 제품 구현하는 규칙을 다듬고 제품 구현 방법과 출시 속도 예측을 만들어가면서 적어도 3개 이상의 스프린트를 거처야 했던 팀빌딩 과정도 크게 단축할 수 있게 되었다.

그래서 앞으로

비지니스 측면으로 볼때 인공지능이 어떤 새로운 사업 분야를 열지에 대해서는 아직 그 시장의 가능성들이 더 테스트 되어야한다고 본다. 하지만 분명한 것은 IT의 연결고리를 갖는 모든 산업 영역에서 생산성의 극적인 효율을 추구할 수 있는 기회가 주어졌다는 점이다.

인터넷 기술을 통해 검색엔진, 소셜미디어, 클라우드, 모바일 앱 시장이 새롭게 만들어진 것 처럼 인공지능 자체가 어떤 새로운 산업 분야를 열 것인지는 지켜볼 일이지만, 당장 산업에서의 파급력을 생각하면 이건 IT기술이 기존 산업에 침투해서 만들어낸 파급력인 긱이코노미, 모빌리티, 이커머스를 뛰어넘는 수준의 혁신이 예상된다.

다음 포스팅에는 구체적으로 어떻게 에이전틱 개발 방법론을 적용하고 제품 개발에 적용하고 있는지 소개해볼까 한다.