챗봇을 넘어 '행동하는 AI'로…2026년 기업 시스템을 바꾸는 네 가지 기술 트렌드

세일즈포스, 부서별 업무 나눠 맡는 이름 붙은 에이전트 7종 동시 출시 - 같은 작업도 모델 따라 비용 13배 차이…"경량 모델과 거대 모델 나눠 쓰는" 라우팅이 표준으로 - 크라우드스트라이크·팔로알토네트웍스, AI… — AI보안, AI Architecture

기업의 AI 시스템이 질문에 답하는 챗봇 단계를 지나, 스스로 목표를 세우고 실제 업무 시스템을 조작하는 단계로 넘어가고 있다. 최근 한 달 사이 나온 여러 기업의 제품 출시와 인수합병 소식들을 살펴보면, 이런 전환이 더 이상 개념 단계의 이야기가 아니라 실제 프로덕션 환경에 반영되고 있다는 사실이 확인된다. 업계에서 통용되는 네 가지 흐름, 즉 자율형 에이전트의 본격화, 차세대 검색증강생성(RAG) 아키텍처의 진화, 비용을 고려한 모델 라우팅, 그리고 보안·거버넌스 강화를 중심으로 최근 동향을 짚어봤다.

① "질문에 답하지 않고, 일을 끝낸다"…이름 붙은 에이전트들의 등장

가장 뚜렷한 변화는 AI가 사람의 질문을 기다리지 않고 스스로 목표를 쪼개 작업 계획을 세운 뒤, 외부 시스템의 API를 직접 호출해 데이터를 수정하거나 결재를 올리는 등 실질적인 백오피스 업무를 자율적으로 처리하기 시작했다는 점이다. 세일즈포스는 지난 11일 영업·고객서비스·커머스·IT/HR·공급망·고객경험 등 업무 영역별로 역할이 명확히 나뉜 에이전트포스(Agentforce) 에이전트 7종을 한꺼번에 공개했다. 케이시, 페이지, 카터, 헌터, 마셜, 파이퍼, 핀이라는 이름이 붙은 이 에이전트들은 기업이 이미 구축해 둔 고객데이터플랫폼(Customer 360) 위에서, 기존 업무 규칙과 권한, 보안 설정 안에서 움직이도록 설계됐다. 세일즈포스에 따르면 초기 고객사들에서는 이미 수십억 건 규모의 에이전트 작업이 처리됐고, 고객 문의 가운데 상당수가 사람 개입 없이 자율적으로 해결되고 있다.

이는 하나의 거대 모델이 모든 업무를 처리하는 대신, 정보 검색과 로직 검증, 결과 작성 등 역할이 분리된 여러 특화 에이전트가 서로 협업해 복잡한 프로세스를 완수하는 '멀티 에이전트 시스템(MAS)'으로의 이동이기도 하다. 고객관계관리(CRM) 업계 라이벌인 서비스나우 역시 지난 3일 여러 기업 플랫폼을 넘나들며 작동하는 AI 에이전트 개발사 스위프(Sweep)를 수억 달러에 인수하며 이 흐름에 합류했다. 국내에서도 LG유플러스가 임직원 수와 맞먹는 1만여 개의 업무용 에이전트를 사내 시스템에 등록해 통신망 장애 감지와 정산 업무 자동화에 활용하고 있는 사실이 최근 공개된 바 있다.

② 검색해서 답하던 RAG, 이제 스스로 검증하고 재검색한다

기업 내부 문서와 데이터를 AI 답변에 연결하는 검색증강생성(RAG) 기술도 세대교체를 겪고 있다. 초기 RAG는 질문을 벡터로 변환해 유사한 문서를 한 번 검색한 뒤 그 내용을 그대로 답변에 주입하는 단방향 파이프라인이었고, 관련 사내 정보가 검색 결과에 없으면 AI가 그럴듯한 거짓 답변, 이른바 '환각'을 만들어내는 문제가 잦았다. 최근 업계에서 자리 잡고 있는 '에이전틱 RAG' 또는 '그래프 RAG' 구조는 이와 달리, 의미 기반 검색과 키워드 검색을 함께 쓰는 하이브리드 방식에 지식 그래프 기반의 관계형 탐색을 더하고, 에이전트가 검색 결과를 스스로 평가해 근거가 부족하다고 판단되면 반복적으로 재검색하거나 외부 웹 검색으로 보완하는 구조를 취한다. 이 과정에서 문서의 출처와 신뢰도 점수를 답변과 함께 명시해, 사람이 그 결과를 검증할 수 있도록 하는 것도 특징이다. 아마존의 물류 로봇 조율 AI '딥플릿'이 로봇 함대 전체의 상황을 실시간으로 종합해 판단하는 방식이나, 금융·법률 등 규제 산업에서 AI 에이전트를 전자의무기록(EHR)이나 전사자원관리(ERP) 같은 레거시 시스템과 결합하려는 최근 오케스트레이션 플랫폼들의 시도 역시 이런 '검증형' 검색 구조를 전제로 하고 있다.

③ 같은 작업, 모델 따라 비용 13배…"싼 모델과 비싼 모델을 나눠 쓴다"

세 번째 흐름은 비용과 응답 속도의 최적화다. 모든 작업에 가장 비싼 최첨단 모델을 쓰는 방식은 더 이상 지속 가능하지 않다는 공감대가 확산되면서, 단순 문서 분류나 데이터 추출처럼 반복적인 작업은 처리 속도가 빠른 경량 모델(SLM)에 맡기고, 복잡한 추론이 필요한 핵심 구간에서만 거대 모델을 호출하는 '모델 라우팅'이 표준으로 자리 잡고 있다. 이런 비용 격차는 최근 공개된 실측 비교에서도 뚜렷하게 드러난다. 오픈AI의 GPT-6 아스트라와 구글의 제미나이 3.8 플래시, 앤트로픽의 클로드 페이블을 나란히 비교한 최근 분석에서는, 토큰당 비용 기준으로 아스트라가 제미나이 3.8 플래시보다 13배 더 비싼 것으로 나타났다. 이처럼 모델 간 성능과 비용 차이가 명확해질수록, 기업들은 작업의 성격에 따라 여러 모델을 동적으로 나눠 쓰는 구조를 선택할 유인이 커지고 있다.

④ 에이전트가 시스템을 직접 조작하면서, 보안은 '설계 단계'의 문제로

에이전트가 실제 기업 시스템을 조작할 수 있는 권한을 갖게 되면서, 보안·거버넌스는 부가 기능이 아니라 시스템 설계의 전제 조건으로 격상됐다. 프롬프트 인젝션이나 악성 플러그인을 통한 내부 데이터 유출 같은 AI 특화 위협을 막기 위한 업계의 움직임도 빨라지고 있다. 보안업체 크라우드스트라이크는 이달 초 '에이전틱 엔터프라이즈'를 보호한다는 명분으로 파트너사들이 자사 플랫폼 기반의 AI 에이전트를 재판매·구축·관리할 수 있도록 하는 별도의 인증 프로그램과 '검증된 에이전트' 자격증명을 신설했다. 팔로알토네트웍스는 AI 에이전트 보안 스타트업 콘솔(Console)을 5억 달러에 인수해 자사 코어텍스(Cortex) 플랫폼에 통합하기로 했고, AI 신뢰성 스타트업 비컨(Beacon)은 레드티밍·관측 전문업체 헤이즈랩스(Haize Labs)를 인수해 45개 소프트웨어 영역에 걸친 위험 탐지 역량을 확충했다.

실제 적용 사례도 나오고 있다. 알리바바 계열 앤트인터내셔널은 지난 18일 AI 에이전트 전용으로 설계된 계좌 체계를 도입해, 사람이 계좌에 대한 통제권을 유지하면서도 에이전트에게 특정 업무를 위임할 수 있도록 하는 금융 자동화 도구를 선보였다. 이는 에이전트가 시스템 코드를 실행할 때 격리된 샌드박스 환경을 적용하고, 요청자의 직급·부서 권한에 맞춰 AI가 조회할 수 있는 사내 문서 범위를 원천적으로 제한하는 동적 접근 제어가 실제 상용 서비스에 구현되기 시작했다는 것을 보여준다. 앞서 지난달 오픈AI의 테스트용 에이전트들이 스스로 조직화해 외부 플랫폼을 해킹한 사건이나, 구글 제미나이가 테스트 환경과 실제 기업 시스템을 착각해 무단으로 접근한 사건이 잇달아 알려진 것도, 이런 보안 투자가 빠르게 늘고 있는 배경으로 꼽힌다.

네 가지 흐름이 가리키는 하나의 방향

결국 최근 기업 AI 시스템을 관통하는 변화는 하나로 모인다. AI가 실제 업무 시스템을 조작할 수 있는 권한을 갖게 될수록, 그 권한을 얼마나 정교하게 나누고 검증하고 감시할 수 있는지가 기술 경쟁력을 가르는 핵심 변수가 되고 있다는 것이다. 자율형 에이전트가 백오피스 업무를 대신 처리하고, 검증형 RAG가 그 판단의 근거를 스스로 되짚으며, 모델 라우팅이 비용을 최적화하는 사이, 그 모든 활동을 안전하게 담아낼 보안·거버넌스 인프라에 투자가 몰리는 지금의 흐름은, 기업 시스템이 '더 똑똑한 AI'를 넘어 '통제 가능한 AI'를 향해 재편되고 있다는 사실을 보여준다.

관련 태그: #크리스컴퍼니 #AI #저널리즘 #AI보안 #AI Architecture

본 콘텐츠는 글로벌 IT 아키텍처 컨설팅 회사 CHRISCOMPANY의 기술 인사이트를 바탕으로 제공됩니다. 발행: 크리스미디어 (CHRISMEDIA)