[크리스의 SW아키텍처] 에이전트 도입 전 ‘시스템 지도’부터 그려라… 금융·대기업 성패 가르는 ‘AI-Ready 아키텍처 자산화’
기업 AI 에이전트 프로젝트 10건 중 8건 이상이 ‘프로덕션(실전 배치) 문턱’에서 좌초… 원인은 모델 성능 아닌 ‘아키텍처 맥락 부재’ 올해 국내외 금융권과 대기업 IT 현장을 관통하는 가장 뼈아픈 역설이 하나…
기업 AI 에이전트 프로젝트 10건 중 8건 이상이 ‘프로덕션(실전 배치) 문턱’에서 좌초… 원인은 모델 성능 아닌 ‘아키텍처 맥락 부재’
지난 20년간 ‘사람’이 이해하도록 설계된 엔터프라이즈 시스템, 자율 행동하는 ‘AI 에이전트’에게는 안개 속 미로와 같아
수십억 본사업·GPU 투자 앞서 폐쇄망 내 ‘AI-Ready 아키텍처 지도(Context Map)’ 구축하는 사전 진단이 가장 안전한 첫걸음
올해 국내외 금융권과 대기업 IT 현장을 관통하는 가장 뼈아픈 역설이 하나 있다. 기업마다 앞다투어 생성형 AI와 에이전트(Agent) 도입 예산을 늘리고 수십 건의 개념검증(PoC)을 성공리에 마쳤다고 발표하지만, 정작 이를 기간계나 핵심 업무 시스템과 연결해 실전 배치(Production)까지 밀어붙인 비율은 1020% 남짓에 불과하다는 점이다.
챗봇처럼 질문에 답하는 수준을 넘어, 스스로 판단하고 API를 호출해 업무를 완결짓는 ‘행동하는 AI(Agentic AI)’ 시대로 넘어오면서 기업들의 발목이 일제히 잡히고 있다. 왜 데모 화면에서는 완벽하게 작동하던 AI 에이전트가 실제 기업 시스템 앞에만 서면 멈춰 서거나 통제 불능의 보안·트랜잭션 리스크를 일으키는 것일까?
결론부터 말하자면, AI 모델이 부족해서도 아니고 기업의 기존 전산 시스템이 잘못 만들어져서도 아니다. ‘사람을 위해 설계된 시스템’에 ‘AI를 위한 아키텍처 지도’ 없이 에이전트를 곧바로 풀어놓았기 때문 이다.
1. 기존 시스템의 잘못이 아니다… ‘시스템을 읽는 주체’가 바뀌었을 뿐이다
그동안 한국의 금융권과 대기업 전산조직은 세계 최고 수준의 안정성과 처리 속도를 가진 시스템을 구축해 왔다. 수천 개의 테이블과 수만 개의 인터페이스, 복잡한 비즈니스 로직이 얽혀 있어도 시스템이 완벽하게 돌아갔던 이유는, 그 시스템을 개발하고 운영하는 주체가 ‘맥락(Context)을 이해하는 사람’이었기 때문이다.
시니어 엔지니어의 머릿속에는 어느 모듈을 건드리면 어디서 장애가 나는지, 어떤 배치가 새벽 몇 시에 도는지, 왜 특정 레거시 코드는 건드리면 안 되는지에 대한 암묵지(Tacit Knowledge)가 들어 있다. 설계 산출물이 실제 코드와 조금 달라도 사람이 맥락을 보정하며 운영해 왔기에 아무런 문제가 없었다. 즉, 지금까지의 엔터프라이즈 IT는 ‘휴먼 레디(Human-Ready) 아키텍처’로서 자기 역할을 100% 완수해 왔다.
하지만 시스템의 사용자가 사람이 아닌 ‘AI 에이전트’로 바뀌는 순간 이야기는 완전히 달라진다.
AI 에이전트는 엔지니어의 머릿속에 있는 암묵지를 읽지 못한다. 에이전트에게 필요한 것은 현재 실제로 돌아가고 있는 코드와 서비스 간의 호출 관계, 데이터 흐름, 트랜잭션 경계, 그리고 절대 넘어서는 안 될 보안 권한을 기계가 읽을 수 있는 형태로 시각화·구조화해 놓은 ‘AI-Ready 아키텍처 지도(AI Context Map)’다. 정밀 지도(HD Map) 없이 자율주행차를 서울 도심 한복판에 풀어놓을 수 없듯, 아키텍처 지도 없이 기업 내부에 에이전트를 연결하는 것은 시스템 장애를 자초하는 일이다.
2. ‘아키텍처 지도’ 없는 AI 도입이 부르는 세 가지 재앙
실제로 사전 아키텍처 자산화 없이 AI 에이전트 본사업부터 밀어붙인 기업들은 예외 없이 다음 세 가지 벽에 부딪히고 있다.
첫째, 블랙박스 레거시와 비결정적 AI의 충돌이다. 10년 이상 축적된 기업의 기간계 시스템은 철저히 결정론적(Deterministic) 규칙으로 움직인다. 반면 AI 에이전트는 확률에 기반해 비결정적(Non-deterministic)으로 행동한다. 전체 시스템의 의존성(Dependency)과 스파게티처럼 얽힌 호출 경로를 사전에 파악해 ‘아키텍처 가드레일’을 쳐두지 않으면, 에이전트 하나가 일으킨 잘못된 호출이 연쇄 장애로 번진다.
둘째, 산출물과 실제 코드의 괴리가 만드는 환각(Hallucination)이다. 대부분의 기업에서 수년 전 작성된 아키텍처 정의서와 실제 운영 중인 소스코드는 일치하지 않는다. 현행화되지 않은 과거 문서를 기반으로 AI 에이전트를 설계하면, 에이전트는 존재하지 않는 인터페이스를 호출하거나 이미 폐기된 로직을 참조하며 치명적인 오작동을 일으킨다.
셋째, 망분리 완화와 책무구조도 시대의 ‘거버넌스 공백’이다. 특히 금융권과 대기업은 핵심 자산인 소스코드와 아키텍처가 폐쇄망 밖으로 한 줄도 나가서는 안 된다. 게다가 금융권 책무구조도 도입 등으로 인해 시스템 사고 발생 시 경영진과 임원에게 직접적인 내부통제 책임이 부과된다. ‘우리 시스템의 어디까지를 AI에게 허용하고 어디서 차단할 것인가’를 증명하는 아키텍처 도면과 사전 검증 근거가 없으면, 임원진 입장에서는 불안해서 본사업 승인 도장을 찍을 수가 없다.
3. 가장 영리한 첫걸음: 운영 시스템을 건드리지 않는 ‘AI-Ready 아키텍처 자산화’
따라서 지금 현명한 CIO와 IT 기획·아키텍처 부서가 가장 먼저 예산을 배정해야 할 곳은 수십억 원짜리 AI 모델 도입이나 무리한 기간계 개편이 아니다. 기존 운영 시스템을 단 1%도 흔들지 않으면서, 향후 어떤 AI 에이전트든 안전하게 꽂아 넣을 수 있도록 현행 시스템의 구조를 발가벗겨 지도화하는 ‘AI-Ready 아키텍처 자산화(Context Mapping) 및 사전 진단’이다.
이 사전 준비 사업이 경영진과 실무진 모두에게 압도적인 실익을 주는 이유는 명확하다.
운영 리스크 제로(0%)와 폐쇄망 보안 완벽 준수: 운영 중인 서버나 코드를 수정하지 않는다. 외부 네트워크와 완전히 단절된 고객사 폐쇄망(On-Premise) 내부의 로컬 장비에서 아키텍처 시각화·분석 도구를 구동해, 외부 유출 위험 없이 현행 시스템의 토폴로지(Topology)와 복잡도를 X-Ray처럼 찍어낸다.
묵은 기술부채 파악과 설계 산출물 자동 현행화: ‘AI 시대 대비’라는 미래지향적 목표 아래 프로젝트를 수행하면서, 실무 부서는 평소 예산과 시간이 없어 미뤄두었던 레거시 시스템의 숨은 의존성 파악, 불필요한 데드 코드 식별, 그리고 실제 코드 기반의 아키텍처 문서 현행화라는 해묵은 숙제를 한 번에 해결할 수 있다.
경영진을 위한 명확한 의사결정 근거(Second Opinion) 확보: 수천만 원 수준의 가벼운 사전 진단 예산만으로, 이사회와 경영진에게 보고할 수 있는 ‘전사 AI-Ready 아키텍처 청사진’과 ‘단계별 AI 도입 가드레일 기준서’를 손에 쥐게 된다. 이후 본사업(차세대 개편이나 AI 확산) 발주 시 제안요청서(RFP)의 완성도를 높이고 예산 낭비를 막는 가장 확실한 보증수표가 된다.
4. 코드는 AI가 짜도, 아키텍처와 통제는 사람의 몫이다
과거 클라우드와 마이크로서비스(MSA) 붐이 일었을 때, 기존 시스템에 대한 정밀한 아키텍처 진단 없이 유행에 떠밀려 쪼개기부터 시작했던 기업들은 막대한 기술부채와 관리 비용이라는 청구서를 받아야 했다. 지금의 AI 에이전트 열풍 앞에서 똑같은 실수를 반복해서는 안 된다.
화려한 AI 에이전트 시연 화면에 현혹되기 전에, 우리 회사의 시스템 지도가 AI를 받아들일 준비가 되어 있는지부터 물어야 한다. 기존 전산 자산을 안전하게 지키면서 AI 시대로 넘어가는 다리, 그것이 바로 ‘AI-Ready 아키텍처 자산화’다.
🔍 내일 아침 CIO·PMO가 점검해야 할 ‘AI-Ready 아키텍처’ 질문 3가지
“우리 회사의 현행 아키텍처 문서는 실제 운영 중인 코드와 100% 일치하는가?” — 만약 사람이 보기에도 안 맞는 문서라면, AI 에이전트를 연결했을 때 어떤 오작동이 일어날지 어떻게 통제할 것인가?
“폐쇄망 내부에서 특정 레거시 모듈을 AI 에이전트가 호출했을 때, 그 여파가 어디까지 미치는지 한 장의 시각화된 도면(Topology)으로 즉시 확인할 수 있는가?”
“수행사나 벤더가 가져온 화려한 AI 도입 제안서가 우리 회사의 기존 기술부채를 줄여주는가, 아니면 낡은 레거시 위에 통제 불가능한 새 기술부채 층(Layer)을 하나 더 얹는 것인가?”
본 콘텐츠는 글로벌 IT 아키텍처 컨설팅 회사 CHRISCOMPANY의 기술 인사이트를 바탕으로 제공됩니다. 발행: 크리스미디어 (CHRISMEDIA)