"AI 에이전트, 막는 것보다 통제가 먼저"…크리스컴퍼니, 'AI 에이전트 아키텍처 진단' 서비스 출시

업종별 무료 자가진단부터 실제 로그 기반 증거 검증까지…금융·제조 폐쇄망 겨냥 AI가 질문에 답하는 도구를 넘어 직접 업무를 실행하는 '에이전트'로 진화하면서, 기업 보안의 질문이 바뀌고 있다. "AI가 해킹당하지… — AI 시대 SW 아키텍처

AI가 질문에 답하는 도구를 넘어 직접 업무를 실행하는 '에이전트'로 진화하면서, 기업 보안의 질문이 바뀌고 있다. "AI가 해킹당하지 않는가"에서 "AI가 지금 무엇을 할 수 있고, 실제로 무엇을 했는가"로 옮겨가는 것이다.

올해 업계 논의도 이 방향으로 모이고 있다. AI가 의사결정과 실행까지 맡는 단계로 넘어가면서 '비인간 계정'에 대한 통제 실패가 새로운 보안 리스크로 떠올랐고, AI 계정의 권한이 오남용되거나 탈취되면 피해가 기존보다 훨씬 커질 수 있다는 우려가 나온다. 팔로알토네트웍스, IBM, 구글 등 주요 기업 보안 리더들은 스스로 계획하고 실행하는 에이전트 AI를 2026년 최대 위협으로 지목했다. 신용정보기업 Experian은 2025년 자사가 대응한 데이터 유출 사고 5,000건 중 40%가 AI 기반이었다며, 올해는 에이전트 AI가 데이터 유출의 주된 원인이 될 것으로 전망했다.

문제는 '똑똑함'이 아니라 '권한'

전문가들이 공통으로 지적하는 지점은 프롬프트 필터나 모델 보안만으로는 부족하다는 것이다. 에이전트는 사람의 승인 없이 도구를 호출하고, 데이터에 접근하고, 외부 시스템과 통신한다. 보안 검토 대상이 직원 계정을 넘어 에이전트 계정, 플러그인, 워크플로 자동화, 벡터DB, 모델 호출 권한까지 넓어져야 한다는 분석도 같은 맥락이다. 최근 서울에서 열린 한 AI 보안 컨퍼런스에서도 금융보안원, Microsoft, OpenAI 등 전문가들이 금융권 대응과 기업의 권한 관리를 주요 의제로 다뤘다.

결국 기업이 답해야 할 질문은 세 가지로 좁혀진다. 우리 에이전트는 어떤 권한을 위임받았는가, 어디로 데이터를 내보낼 수 있는가, 그리고 그 행동을 감독기관이나 감사인 앞에서 설명할 증거가 남아 있는가.

업종별 15문항 자가진단, 즉시 보고서 발송

엔터프라이즈 소프트웨어 아키텍처 컨설팅 기업 크리스컴퍼니(chris.company)가 이 질문에 답하는 'AI 에이전트 아키텍처 진단(AI Agent Architecture Assurance)' 서비스를 출시했다.

서비스의 첫 단계인 Agent Control Scan 은 무료 자가진단이다. 권한 위임, 실행 경로(Egress), 데이터, 로깅·감사, 거버넌스 5개 영역의 공통 문항 9개에 업종별 심화 문항 6개를 더한 15문항으로 구성되며, 약 10분이면 끝난다.

업종에 따라 묻는 내용과 보고서 관점이 달라진다는 점이 특징이다.

금융: 망분리 환경에서의 외부 LLM 연결, 고객·신용정보가 프롬프트나 로그에 남는지, 이체·심사 등 고위험 업무의 사람 승인 여부를 점검한다. 보고서는 "감독·감사에서 설명 가능한가"를 기준으로 증적 공백과 참조 기준 매핑표를 제시한다.

제조: OT(설비망)와 IT망 경계에서의 에이전트 접근 범위, MES 연동 시 쓰기 권한, 설계도·공정 데이터 유출 경로를 본다. 보고서는 기술유출 시나리오 Top 3와 단계적 보완 로드맵을 담는다.

일반(IT·서비스): 섀도 AI, 개인정보 국외 이전, API 키 관리, 비용 통제, 장애 시 중단(kill switch) 절차를 점검하고 30일 개선안을 제공한다.

진단을 마치면 업종별 PDF 보고서가 메일과 마이페이지로 바로 전달된다. 평가 기준은 OWASP Top 10 for LLM, NIST AI RMF, 금융보안원 가이드 등을 참조했다.

"설계도의 보안 말고, 로그가 증명하는 보안"

자가진단은 응답에 기반한 결과다. 크리스컴퍼니는 실제 상태를 확인하려는 기업을 위해 유료 Architecture Review 를 함께 운영한다. 고객사의 실제 설정과 로그, 실행 경로를 근거로 아키텍처를 검증하는 증거 기반 실사다.

이 과정에서 회사가 내세우는 원칙은 '데이터 무유출(Zero Egress)'이다. 고객사는 설치가 필요 없는 단독 실행 파일을 오프라인 PC에서 실행하고 AWS CloudTrail·API Gateway 로그를 불러온다. 로딩 즉시 IP 주소, 이메일, 계정 ID, 프롬프트 본문은 PC 메모리 안에서 마스킹된다. 화면에는 로그로부터 역으로 재구성한 시스템 다이어그램이 나타나고, 인가되지 않은 외부 통신과 과도한 권한 구간이 붉게 표시된다. 크리스컴퍼니에 제출되는 것은 로그 원본이나 시스템 형상이 아닌 위험 발생 횟수와 통계(CSV)뿐이다. 프로그램에는 외부 서버로 전송하는 기능 자체가 없다.

금융·공공처럼 로그를 외부로 내보내기 어려운 폐쇄망 기업도 진단을 받을 수 있도록 설계한 것이다. 이후에는 분기별 재진단과 변경 리뷰를 제공하는 정기 구독형 Assurance 상품으로 이어진다.

크리스컴퍼니 관계자는 "서비스 출시 배경으로 국내 1위 감리회사와 IT컨설팅 회사에서 일한 금융권·증권·보험 차세대 자문 경험이 반영되어 설계하게 되었다. AI통제의 핵심은 독립적인 제3자 검증을 통해 검증하는 것으로, 스스로 여러 툴로 꽁꽁 싸두더라도 결국 Legacy와의 자연스런 연결은 내부 아키텍처 일관성 유지와 정확한 민감점(Trade-Off Point)를 이해하고 통제 하는 데 있다"고 말했다. 무료 자가진단은 크리스컴퍼니 홈페이지 'AI 아키텍처 진단' 메뉴에서 크리스미디어 계정으로 로그인해 이용할 수 있다.

관련 태그: #AI 시대 SW 아키텍처 #AI Architecture #AI Software Architecture #AI SW 아키텍처 #SW아키텍트 #기술부채 #AI-native architecture #아키텍처설계 #아키텍처 트레이드오프 #아키텍처 #AI 아키텍처 #AI-Native 소프트웨어 아키텍처 #결함 격리 아키텍처 #글로벌 아키텍처 #소프트웨어 아키텍처 품질속성 #아키텍트 역할 #생성형 UI 아키텍처 #에이전틱 AI 애플리케이션 아키텍처 #에이전틱 워크플로우

본 콘텐츠는 글로벌 IT 아키텍처 컨설팅 회사 CHRISCOMPANY의 기술 인사이트를 바탕으로 제공됩니다. 발행: 크리스미디어 (CHRISMEDIA)