가트너 'AI 지출 2.7조 달러'의 이면: 모델 자체 구축(Building)의 거품과 '엔터프라이즈 오케스트레이션'의 생존학

From Building to Orchestrating | Legacy & AI Native 2조 7,000억 달러. 가트너가 9월 16일 내놓은 올해 전 세계 AI 지출 전망이다. 1년 전 1조 7,900억 달러에… — AI Architecture, 파운데이션 모델

2조 7,000억 달러. 가트너가 9월 16일 내놓은 올해 전 세계 AI 지출 전망이다. 1년 전 1조 7,900억 달러에서 49.5% 늘어난 규모이고, 내년에는 3조 6,400억 달러로 36.2% 더 커진다는 예측이 붙었다( CIO.com , DQ India 보도. 가트너 원문 페이지는 열리지 않아 이 두 매체의 전달을 따랐다). 숫자만 보면 모든 기업이 AI에 뛰어들어야 할 것 같다. 그런데 이 돈이 어디로 흘러가는지 뜯어보면 전혀 다른 그림이 나온다. 이 글은 그 내역을 보고, 같은 가트너의 다른 경고들과 겹쳐 읽은 뒤, 기업 IT가 '모델을 만드는 일'이 아니라 '잇는 일'에서 살아남아야 하는 이유를 따라가 본다.

2.7조 달러는 누구의 돈인가

내역부터 보자. 가트너 분류로 올해 AI 인프라가 약 1조 4,800억 달러로 가장 크다. AI 최적화 IaaS, 서버, 네트워크, AI 반도체, 기기를 합친 값이다. 전체 2.67조 달러에서 차지하는 비중은 대략 55%다(필자 계산). AI 서비스는 약 5,765억 달러, AI 소프트웨어는 약 4,616억 달러다. 반면 생성형 AI 모델은 약 283억 달러로 전체의 1% 남짓이고, 에이전트와 어시스턴트는 약 292억 달러, AI 애플리케이션 개발 플랫폼은 약 95억 달러다(DQ India가 전한 가트너 수치).

가트너의 존 데이비드 러브록 애널리스트는 이 지출이 다른 IT 예산에서 빠져나온 돈이 아니라고 설명한다. 칩이 들어간 노트북을 사고, AI가 내장된 기업 소프트웨어를 사고, 기존 프로젝트를 'AI가 사업을 어떻게 바꿀까'라는 틀로 다시 포장하는 식으로 기존 예산이 AI 쪽으로 이름을 바꾸고 있다는 것이다. 하이퍼스케일러(AWS, 구글, 마이크로소프트, 메타)는 클라우드 투자를 줄이지 않고 그대로 이어가면서 AI 데이터센터를 짓고 있다. 그는 이 일을 "인류가 시도한 가장 큰 인프라 프로젝트"라고 불렀다( CIO.com ).

그러니 2.7조 달러의 대부분은 기술 대기업과 반도체, 데이터센터 쪽 돈이다. 일반 엔터프라이즈가 '자기 모델을 만드는 데' 쓰는 돈이 거기서 큰 몫을 차지한다고 볼 근거는 가트너 발표에서 확인되지 않는다.

'짓는 일'에 대한 가트너의 경고들

이 대목에서 가트너의 다른 발표들이 같은 방향을 가리킨다. 5월 말 공개된 생성형 AI 하이프 사이클에서 가트너는 맞춤 모델을 만들려는 조직 대부분이 비용, 복잡성, 기술 부채를 이유로 중도에 포기할 것이라고 내다봤다. 생성형 AI 프로젝트의 최소 절반은 '잘못된 아키텍처 선택과 운영 노하우 부족' 때문에 예산을 넘길 것이라고도 했다. 도메인 특화 모델은 성숙도가 '청소년기'로, 주류가 되려면 최소 25년이 걸린다고 평가했다(The Register, 5월 28일). 이 매체는 '대부분의 생성형 AI 프로젝트가 실패한다'는 기사 제목이 본문 내용보다 넓다고 스스로 짚었는데, 본문이 뒷받침하는 것은 '절반 이상의 예산 초과'와 '맞춤 모델 구축 시도 대부분의 포기'다.

'에이전트' 쪽 경고도 있다. 가트너는 2025년 6월 에이전틱 AI 프로젝트의 40% 이상이 2027년 말까지 비용 증가, 불분명한 사업 가치, 부실한 리스크 통제 때문에 취소될 것이라고 예측했다. 상당수는 초기 실험 단계이고, 에이전틱 방식이 꼭 필요하지 않은 용도가 많다는 것이다(가트너 2025. 6. 25). 9월 29일에는 벤더 엔지니어가 고객사에 상주해 만드는 방식(FDE)으로 구축한 에이전틱 AI를 기업의 70%가 2028년까지 버릴 것이라고 내다봤다. 이유는 비용 상승과 고객이 시스템을 스스로 발전시키지 못하는 점이다. 가트너가 제시한 처방은 책임질 임원 지정, 지식 이전, IP 권리 확보, 출구 전략을 계약 시점부터 정해 두라는 것이다.

다만 정확히 읽을 부분이 있다. 가트너가 경고한 것은 '맞춤 모델 구축'인데, 가트너가 말하는 도메인 특화 모델에는 처음부터 만든 모델뿐 아니라 도메인 데이터로 파인튜닝한 모델도 들어간다. 또한 모델 지출 자체는 작은 규모에서 가파르게 늘고 있다. 생성형 AI 모델 시장은 올해 117% 성장한다는 전망이고, 가트너는 도메인 특화 언어모델을 '작지만 커지는 기회'로 본다. 눈여겨볼 대목은 AI 애플리케이션 개발 플랫폼의 올해 성장 전망이 28%에서 39%로 올라갔다는 점이다. 가트너는 그 이유를 기업과 소프트웨어·서비스 업체가 맞춤 AI 애플리케이션을 만들고 있기 때문이라고 설명했다. 정리하면 기업이 짓는 것은 모델에서 애플리케이션으로 옮겨 가고 있다.

오케스트레이션: 가트너가 한 말과 필자의 해석

이제 질문은 '무엇을 지을 것인가'다. 여기서 분명히 해 둘 점이 있다. 취재한 가트너 발표문들에는 '오케스트레이션'이라는 표현으로 가치가 옮겨 갔다는 진술이 없었다. 아래는 사실들에서 이끌어 낸 필자의 해석이다.

가트너가 지적한 사실들은 한 방향으로 모인다. 첫째, 모델의 값이 내려가고 있다. 가트너는 3월 2030년까지 1조 파라미터 LLM의 추론 비용이 2025년보다 90% 넘게 줄 것이라고 예측했다(보도자료 제목 기준이며 본문은 확인하지 못했다). 둘째, 앞서 본 대로 프런티어 모델의 API 가격이 비슷한 구간으로 모이고 있다. 한 모델 동향 정리 글에 따르면 Claude Sonnet 5.5와 GPT-6.1 Sol은 100만 토큰당 입력 2달러·출력 10달러이고, Gemini 4 Argon은 같은 가격에서 12월 1일 4달러·20달러로 오른다(2차 자료라 수치 확인이 필요하다). 모델을 처음부터 만드는 일은 이런 흐름 속에서 차별화하기 어려운 범용재 경쟁에 뛰어드는 일이 되기 쉽다. 셋째, 기업이 AI를 얻는 경로는 이미 쓰는 소프트웨어에 내장된 AI다. 가트너는 2028년까지 기업용 소프트웨어의 3분의 1이 에이전틱 AI를 포함할 것이라고 봤고, 러브록은 서비스 지출이 대규모 전환 프로그램보다 기존 소프트웨어의 AI 기능을 활용하는 소규모 프로젝트로 흐른다고 말했다.

그 위에서 기업에 남는 일은 모델, 에이전트, SaaS 속 AI, 그리고 오래된 기간계를 하나의 업무 흐름으로 잇는 일이다. 이것이 필자가 말하는 오케스트레이션이다. 가트너 스스로도 이 일의 어려움을 경고했다. 2025년 6월 발표에서 에이전트를 레거시 시스템에 통합하는 일은 기술적으로 복잡하고 업무 흐름을 흔들며 비싼 수정을 요구할 수 있다고 했다. 같은 하이프 사이클에서 에이전트 통신 규약은 가장 덜 성숙한 기술로 꼽혔고, MCP와 A2A가 가장 많이 쓰이지만 대안이 계속 나오는 중이라고 한다(The Register).

레거시와 만나는 지점에서 실제로 무너지는 곳

이 경고를 구체적으로 보여 주는 사례가 올해 8월 공개된 논문이다. 20년 넘게 운영된 Visual Basic 6 기반 ERP의 12개 기능을 Claude Code로 .NET으로 옮긴 실험에서, 업무 규칙과 DB 연산 331개 중 70%가 동등했고 복잡도가 높은 기능은 47%에 그쳤다. 틀린 100건 가운데 42건은 인접 모듈, 곧 알림이나 불러오기, 보고서처럼 기능 경계 바깥의 로직을 빠뜨린 경우였고, 여러 파일에 흩어진 규칙과 코드에 드러나지 않은 암묵적 규칙도 자주 빠졌다(arXiv 2608.28972. 한 조직, 한 모델의 결과라는 한계는 저자들이 밝혔다). AI 코딩 에이전트가 실패하는 곳은 코드를 쓰는 능력이 아니라 '어디까지가 한 덩어리인가'를 아는 능력이었다.

AI 쪽의 구조적 제약도 같은 얘기를 한다. 코드 그래프 기업 Blitzy의 엔지니어링 디렉터는 에이전트의 유효 컨텍스트가 20만30만 토큰, 코드로는 2만3만 줄 정도이고 1억 줄 코드베이스에서는 정보 손실이 일어난다고 설명했다(SiliconANGLE, 9월 28일). 에이전트가 한 번에 이해할 수 있는 크기로 시스템의 경계를 긋는 일, 곧 Context Isolation은 기술이 발전해도 사라지지 않는 설계 문제다.

왜 CPSA인가: 경계와 분할을 체계로 배운다는 것

여기서 아키텍처 역량의 문제가 등장한다. 오케스트레이션은 결국 '시스템 경계(System Context)를 어디에 긋고, 무엇을 모듈(Building Block)로 나누고, 그 사이 Interface를 어떻게 약속하고, 품질 요구 사이의 Trade-off를 누가 어떤 근거로 결정하는가'의 문제다. iSAQB CPSA-F(Foundation Level)의 커리큘럼은 바로 이 주제들을 다룬다. 2025년 개정판(2025.1-rev2-EN) 기준으로 이해관계자 요구와 제약의 정리, 품질 요구의 공식화(ISO 25010 기반 품질 모델, 자극·응답·측정으로 구성하는 Quality Scenario), 빌딩 블록으로의 분해와 정보 은닉·결합도, 내부·외부 Interface 설계, Cross-cutting Concerns, 분산 시스템, 그리고 컨텍스트 뷰와 빌딩 블록 뷰, Architecture Decision Record(ADR)를 이용한 의사결정 기록과 분석·평가까지 포함한다. 교육 시간은 최소 3일, 약 18시간이다. 구성과 학습 목표는 iSAQB가 공개한 커리큘럼 문서에서 확인했다.

취재한 커리큘럼 목차에는 AI 오케스트레이션이 별도 주제로 나오지 않는다. 그러니 'CPSA가 AI 시대의 해법'이라는 말은 사실이 아니라 필자의 주장이다. 주장의 근거는 두 가지다. 하나는 가트너가 생성형 AI 프로젝트가 예산을 넘기는 원인으로 지목한 '잘못된 아키텍처 선택과 운영 노하우 부족'이다. 다른 하나는 앞서 본 실패 지점, 즉 경계 밖 로직의 누락과 에이전트의 컨텍스트 한계가 모두 시스템 경계와 모듈 분할의 문제라는 점이다. 다만 이 자격을 가진 사람이 AI 프로젝트에서 더 높은 성공률을 낸다는 데이터는 찾지 못했다. 증명되지 않은 부분은 증명되지 않았다고 적어 둔다.

앞으로: 짓는 능력에서 가르는 능력으로

아래는 필자의 전망이다. 첫째, 엔터프라이즈 AI의 경쟁은 모델을 가졌는가에서 모델을 얼마나 바꿔 끼울 수 있게 설계했는가로 옮겨 갈 가능성이 크다. 모델 가격과 성능이 수시로 바뀌는 환경에서는 특정 모델에 묶이지 않는 경계가 자산이 된다. 둘째, 레거시는 '교체 대상'이 아니라 오케스트레이션이 연결해야 하는 사실의 원천으로 남는다. 가트너도 에이전트를 레거시에 붙이는 것이 어렵다고 했을 뿐 레거시를 없애라고 하지 않았다. 셋째, 에이전트 시대의 아키텍트 역할은 코드를 짜는 사람이 아니라 경계와 계약, 품질 우선순위와 그 근거를 정하는 사람에 가까워질 것이다. 앞서 본 FDE 경고의 처방(책임 임원, 지식 이전, 출구 전략)이 모두 설계와 거버넌스에 관한 것이라는 점도 이 방향과 맞는다.

참고) 이 기사를 발행하는 크리스미디어의 모회사 크리스컴퍼니는 iSAQB CPSA-F의 국내 독점 교육기관이다. CPSA를 다룬 대목은 이 점을 감안해 읽어 주시기 바란다. 자격의 효과를 입증하는 데이터가 없다는 점은 본문에 밝혔다.

관련 태그: #AI Architecture #파운데이션 모델 #기술부채 #AI-native architecture #AI SW 아키텍처 #AI Software Architecture #AI 시대 SW 아키텍처 #SW아키텍트 #iSAQB

본 콘텐츠는 글로벌 IT 아키텍처 컨설팅 회사 CHRISCOMPANY의 기술 인사이트를 바탕으로 제공됩니다. 발행: 크리스미디어 (CHRISMEDIA)