[크리스의 SW아키텍처] 에이전트를 늘리기 전에, 아키텍처부터 다시 그려라.

올해 엔터프라이즈 IT 업계를 보면 반복해서 마주치는 숫자가 하나 있다. 가트너가 집계한 멀티에이전트 시스템 관련 기업 문의 건수가 2024년 1분기 대비 2025년 2분기 사이 1445% 급증했다는 통계다. 불과…

39%의 코드 처리량 증가가 말해주는 것

코드 분석 업체 깃클리어(GitClear)의 올해 조사에 따르면, AI 도구를 적극 활용하는 개발 환경에서는 코드 변경(처리)량이 39% 늘었다. 언뜻 생산성이 좋아진 신호처럼 보이지만, 같은 조사에서 기술 리더의 75%는 향후 1년 안에 AI 지원 개발로 인한 기술부채가 중간 이상 심각한 수준에 이를 것이라 답했다. 코드는 더 빨리 쌓이는데, 그 코드가 장기적으로 조직에 어떤 유지보수 비용을 남길지는 아무도 통제하지 못하고 있다는 뜻이다. 실제로 최근 학계에서는 이런 현상을 '에이전틱 기술부채(agentic technical debt)'라는 별도의 용어로 정식화하기 시작했다. AI 에이전트는 당장 눈앞의 작업을 완수하는 데는 능하지만, 자신이 내린 설계 결정이 6개월 뒤, 1년 뒤 시스템에 어떤 비용을 지울지는 스스로 모델링하지 않는다. 그 청구서는 결국 사람이, 그것도 한참 뒤에 받아 들게 된다.

이는 필자가 그동안 이 지면을 통해 지적해온 문제의식과 정확히 맞닿아 있다. 마이크로서비스가 확산되던 시절에도 우리는 '서비스를 잘게 쪼갤수록 유연해진다'는 명제를 검증 없이 받아들였고, 그 결과가 오늘날 수많은 기업이 앓고 있는 '마이크로서비스 스프롤(sprawl)'이다. 서비스 간 호출이 늘어날수록 지연시간과 장애 지점이 함께 늘어난다는 사실을, 우리는 시스템이 다 만들어진 뒤에야 깨달았다. 지금 에이전틱 AI 앞에서 업계가 보이는 열광은, 그 실패를 복기하지 않은 채 같은 길을 더 빠른 속도로 다시 걷는 모습에 가깝다.

'네트워크 세금'과 모놀리스의 조용한 귀환

흥미로운 신호도 있다. 최근 아키텍처 커뮤니티에서는 에이전트 간 통신에서 발생하는 지연을 '네트워크 세금(Network Tax)'이라 부르며 경계하는 목소리가 커지고 있다. 에이전트 A가 에이전트 B에게 묻고, B가 다시 C에게 묻는 구조를 순수 마이크로서비스로 구현하면 매 홉(hop)마다 직렬화·전송·역직렬화 과정이 발생하고, 이는 실제 운영 환경에서 수십에서 수백 밀리초의 지연으로 쌓인다. 실시간 응답이 생명인 음성 비서나 현장 제어 시스템에서 이 정도 지연은 곧 서비스 품질의 실패로 직결된다. 이 때문에 일부 아키텍트들은 레이(Ray) 같은 액터 프레임워크 기반의 '모듈러 모놀리스'로 회귀해, 에이전트끼리 1메가바이트가 넘는 컨텍스트를 네트워크 너머로 복사하는 대신 메모리 포인터를 주고받는 '제로카피' 방식을 택하고 있다.

이는 단순한 기술적 유행이 아니라 아키텍처 철학의 재점검이다. '분산이 곧 유연성'이라는 지난 10년의 공식이, 에이전트가 밀리초 단위로 서로를 호출하는 시대에는 더 이상 성립하지 않을 수 있다는 뜻이다. 실제로 컨설팅업계에서도 "AI로 기술부채에서 벗어날 수는 없다"는 냉정한 진단이 나온다. 사람과 AI가 함께 현대화 작업을 수행하는 조직이, AI에게 전권을 맡긴 조직보다 오히려 4배 빠르게 마이크로서비스 전환을 완료하면서도 결함은 더 적었다는 최근 조사 결과가 이를 뒷받침한다. AI가 코드 분석과 의존성 매핑을 대신해주는 것은 분명한 진전이지만, 그 결과물이 조직의 장기적 구조에 부합하는지 판단하는 것은 여전히, 그리고 앞으로도 사람의 몫이라는 이야기다.

지금 필요한 것은 더 많은 에이전트가 아니라 더 단단한 아키텍처 원칙

에이전틱 엔지니어링을 처음 공식화한 랭체인(LangChain)의 정의를 빌리면, AI 에이전트는 이제 '역할과 공유 메모리, 통합된 관측 체계를 가진 디지털 팀원'으로 소프트웨어 개발 파이프라인에 편입되고 있다. 이 정의가 함축하는 바는 명확하다. 에이전트 그 자체도 결국 소프트웨어이며, 그것을 설계하고 배포하고 거버넌스하는 일은 여전히 소프트웨어 공학의 연장선에 있다는 것이다. 다만 그 공학의 중심에는 '얼마나 많은 에이전트를 배치했는가'가 아니라 '그 에이전트들이 조직의 데이터 정합성과 보안 경계, 장애 복원력이라는 원칙 안에서 움직이는가'라는 질문이 놓여야 한다.

금융권을 비롯해 규제가 엄격한 산업에서 이 원칙은 선택이 아니라 생존의 조건이다. 필자가 그동안 국내 금융분야 AI 가이드라인을 다루며 거듭 강조해온 것도 같은 맥락이다. 감사 추적이 불가능한 에이전트, 데이터 계보를 설명할 수 없는 파이프라인은 아무리 화려한 자동화 성과를 보여줘도 규제 앞에서는 무용지물이다. AI가 사무 업무와 물리적 생산 현장 모두에서 생산성을 끌어올리고 있는 지금, 정작 오래 살아남는 기업은 에이전트를 가장 많이 도입한 기업이 아니라, 그 에이전트들을 떠받칠 아키텍처 원칙을 가장 먼저 다시 세운 기업일 것이다. 속도의 시대일수록, 설계는 더 신중해야 한다.

관련 태그: #크리스컴퍼니 #AI #저널리즘

본 콘텐츠는 글로벌 IT 아키텍처 컨설팅 회사 CHRISCOMPANY의 기술 인사이트를 바탕으로 제공됩니다. 발행: 크리스미디어 (CHRISMEDIA)