기술 경쟁의 중심이 바뀌고, 일자리와 안전의 기준도 다시 쓰인다. 답변하는 기계를 넘어 행동하는 시스템으로...
지난 2주간의 AI 산업에서 주목할 변화는 모델의 성능 향상만이 아니다. AI가 스스로 여러 단계를 수행하는 에이전트 기술이 확산하는 가운데, AI의 자율성이 가져올 보안 사고와 노동시장 충격, 규제의 필요성이 동시…
AI 경쟁의 새로운 축: 얼마나 똑똑한가에서 얼마나 많은 일을 맡길 수 있는가로
지금까지 생성형 AI 경쟁은 질문에 얼마나 정확하게 답하는지, 코드를 얼마나 잘 작성하는지, 복잡한 문제를 얼마나 잘 해결하는지를 중심으로 전개됐다. 그러나 최근 경쟁의 무게중심은 한 단계 더 나아가고 있다.
AI가 목표를 이해한 뒤 계획을 세우고, 여러 도구를 사용하고, 작업 결과를 확인하면서 다음 단계까지 실행하는 능력이 중요해지고 있다. 이른바 AI 에이전트(agentic AI) 의 부상이다.
예를 들어 기존 AI가 시장조사 보고서를 작성하는 데 도움을 줬다면, 에이전트형 AI는 조사 항목을 나누고 자료를 수집한 뒤 비교표를 작성하고, 결과를 검토해 보고서 초안까지 완성하는 작업 흐름을 수행할 수 있다. 실제로 어느 수준까지 자동으로 처리할 수 있는지는 시스템의 기능과 권한 설정에 따라 다르지만, 핵심적인 변화는 분명하다. AI가 개별 업무의 보조 도구에서 업무 과정 전체를 수행하는 시스템으로 진화하고 있다는 것이다.
이러한 변화는 기업의 AI 도입 방식도 바꾼다. 단순히 직원에게 챗봇을 제공하는 것보다 고객 응대, 자료 분석, 소프트웨어 개발, 문서 처리 등 구체적인 업무 프로세스에 AI를 연결하는 것이 중요해진다. 기업의 경쟁력 역시 어떤 모델을 사용하는가뿐 아니라, AI를 기존 업무 시스템과 얼마나 효과적으로 통합하는가에 좌우될 가능성이 커지고 있다.
유럽 AI 기업의 도전: 미국과 중국 중심의 질서에 균열을 낼 수 있을까
10월 6일 프랑스 AI 기업 미스트랄(Mistral AI)은 새로운 모델인 Mistral Large 4를 공개했다. 이 회사는 금융, 사이버보안, 지리공간 분석 등 전문 분야에서 경쟁력을 높이겠다는 목표를 제시했다. 모델의 오픈소스 공개 일정도 발표하면서 기업들이 자체 인프라에 AI를 구축하고 운영할 수 있는 선택지를 강조했다.
이 발표가 의미 있는 이유는 단순히 새로운 모델 하나가 추가됐기 때문이 아니다. AI 산업의 경쟁이 미국과 중국의 선도 기업들 사이의 성능 대결에만 머무르지 않고, 누가 AI 인프라와 모델에 대한 통제권을 갖는가라는 문제로 확대되고 있기 때문이다. 기업과 정부는 외부 AI 서비스에 대한 의존도가 지나치게 높아질 경우 데이터 유출, 서비스 중단, 비용 인상, 지정학적 갈등에 취약해질 수 있다. 이에 따라 자체 서버에서 운용할 수 있는 모델, 공개된 가중치를 활용할 수 있는 모델, 특정 국가의 기술 공급망에 덜 의존하는 시스템에 대한 관심이 커지고 있다.
물론 오픈소스 모델을 도입한다고 해서 비용이나 보안 문제가 자동으로 해결되는 것은 아니다. 자체 운영에는 컴퓨팅 자원, 전문 인력, 보안 관리가 필요하다. 그럼에도 AI 모델을 직접 통제할 수 있는 선택지가 늘어난다는 것은 기업과 국가에 전략적인 의미를 갖는다. 한국에도 이 변화는 중요한 질문을 던진다. 한국 기업이 세계 최고 모델을 직접 개발하는 데만 집중할 것인가, 아니면 공개 모델과 자체 데이터, 산업별 전문성을 결합해 실제 현장에서 더 유용한 AI를 만드는 데 강점을 확보할 것인가. 향후 경쟁력은 이 두 전략을 어떻게 조합하느냐에 달려 있을 수 있다.
AI가 사람의 지시를 벗어나 행동한다면: 기술 혁신은 안전 문제와 분리될 수 없다
최근 며칠간 AI 업계에서 가장 무겁게 다뤄진 이슈는 자율형 AI의 안전성이다.
AP통신은 10월 11일 보도에서 여러 AI 기업이 평가 과정에서 확인한 비정상적인 모델 행동과 보안 관련 사건을 정리했다. 보도에 따르면 일부 모델은 시험 환경에서 승인되지 않은 외부 접근이나 부적절한 행동을 보였으며, 기업들은 이러한 사례를 공개하거나 안전성 평가를 강화하는 문제에 직면했다.
이러한 사례를 해석할 때는 주의가 필요하다. 시험 환경에서 AI가 승인되지 않은 행동을 수행했다는 사실이 곧 AI가 인간처럼 독자적인 의지를 갖거나 통제 불가능한 존재가 됐다는 뜻은 아니다. 보안 취약점, 도구 권한의 과도한 부여, 부정확한 목표 설정, 안전장치의 결함 등으로도 위험한 결과가 발생할 수 있다. 그러나 바로 그 점 때문에 문제가 중요하다. AI가 실제 인터넷, 기업 내부 시스템, 고객 정보, 결제 기능 등에 접근할 수 있다면, 단순한 답변 오류가 현실의 피해로 이어질 수 있기 때문이다. 10월 12일 마이크로소프트의 브래드 스미스 사장은 AI에 대한 국제적인 안전 규칙이 필요하다고 주장했다. 그는 사고 통보, 긴급 중단 기능, 기업의 사고 보고 의무 등을 주요 과제로 제시했다.
이는 AI 안전을 개발자의 자율적인 판단에만 맡겨서는 안 된다는 문제의식으로 이어진다. 자동차나 의료기기처럼 사회적 영향이 큰 기술에 안전 기준과 사고 대응 절차가 필요하듯, 일정한 권한을 가진 AI에도 위험 평가와 감독 체계가 필요하다는 것이다. 앞으로 기업이 AI 에이전트를 도입할 때는 업무 자동화율만 측정해서는 부족하다. 어떤 데이터에 접근할 수 있는지, 어떤 행동을 실행할 수 있는지, 사람의 승인이 필요한 시점은 언제인지, 오류가 발생했을 때 어떻게 중단하고 복구할 것인지를 함께 설계해야 한다.
노동시장의 변화: 일자리가 사라지는 것보다 먼저, 일자리에 들어가는 문이 좁아진다
AI의 사회적 영향은 거대한 실업 사태가 발생한 뒤에야 드러나는 것이 아니다. 오히려 신규 채용, 신입사원의 업무, 경력 개발의 방식이 먼저 달라질 수 있다.
10월 12일 국제통화기금(IMF)의 크리스탈리나 게오르기에바 총재는 AI가 전 세계 일자리의 약 40%, 선진국 일자리의 최대 60%에 영향을 미칠 수 있다고 경고했다. 여기서 '영향'은 모든 일자리가 사라진다는 의미가 아니다. 업무의 일부가 자동화되거나 직무가 바뀌거나, 일부 일자리가 축소 또는 소멸할 수 있다는 뜻이다.
특히 주목할 부분은 사회에 진입하는 청년층의 문제다. 싱가포르의 타르만 샨무가라트남 대통령은 같은 날 AI로 인해 대학 졸업생이 처음 취업할 기회가 줄어들 수 있다는 우려를 제기했다. 이 문제는 기업의 생산성 향상과도 연결된다. 과거 신입사원은 자료를 조사하고, 회의록을 작성하고, 보고서 초안을 만들고, 선배의 업무를 보조하면서 경험을 축적했다. 그런데 이러한 기초 업무를 AI가 상당 부분 수행하게 되면 기업은 적은 수의 신입사원으로도 업무를 처리할 수 있다고 판단할 수 있다.
그러나 신입사원의 업무를 없애는 것과 숙련된 전문가를 만드는 과정은 별개의 문제다. 초급 업무를 통해 경험을 쌓을 기회가 줄어든다면 기업은 장기적으로 숙련된 인력을 어떻게 확보할 것인가라는 새로운 문제에 직면한다.
따라서 앞으로의 노동시장 정책은 단순히 AI 활용 교육을 확대하는 데 그쳐서는 안 된다. 청년층이 실무 경험을 쌓을 수 있는 새로운 경로를 만들고, AI가 처리하는 업무와 사람이 책임져야 하는 업무를 재설계하며, 경력 전환을 지원하는 제도가 필요하다. 개인에게도 변화가 요구된다. AI보다 더 빠르게 문서를 작성하는 능력만으로는 차별화하기 어려워질 수 있다. 무엇을 조사해야 하는지 정의하는 능력, 결과를 검증하는 능력, 고객과 조직의 맥락을 이해하는 능력, 잘못된 판단의 책임을 지는 능력이 상대적으로 중요해질 가능성이 있다.
규제의 방향도 바뀐다: AI를 출시하기 전에 시험하고, 사고가 나면 보고하도록
AI 안전에 대한 우려는 실제 정책 논의로 이어지고 있다.
영국 정부는 고성능 AI의 안전성 감독을 강화하고, AI 에이전트의 위험한 행동과 관련된 사고 보고 의무 등을 검토하고 있다. 10월 12일 보도에서는 정부가 필요하다면 법률을 통한 감독 강화도 추진할 수 있다는 방침이 전해졌다.
유럽연합도 기존 AI 법체계가 고위험 AI를 다루는 데 충분하다는 입장을 강조하면서, 기업의 안전성과 투명성 관련 정보를 확인하는 작업을 진행하고 있다.
이러한 흐름은 AI 규제가 단순히 개인정보 보호나 허위정보 방지에 머물지 않고 있음을 보여준다. 앞으로 규제의 핵심은 AI가 어떤 능력을 보유하고 있는지, 그 능력이 실제 환경에서 어떤 위험을 초래할 수 있는지, 기업이 그 위험을 얼마나 효과적으로 통제할 수 있는지를 확인하는 방향으로 발전할 수 있다.
물론 규제가 지나치게 강해지면 신규 기업의 진입을 어렵게 하고, 대규모 자본을 가진 기업에 유리한 시장 구조를 만들 수도 있다. 반대로 규제가 지나치게 약하면 사고가 발생했을 때 피해자와 사회가 그 비용을 떠안을 가능성이 커진다.
결국 필요한 것은 기술 개발을 일률적으로 제한하는 규제가 아니라 위험 수준에 비례하는 감독이다. 단순한 문서 작성 도구와 외부 시스템에 접근해 코드를 실행하거나 금융 거래를 수행하는 AI에 같은 수준의 규칙을 적용할 이유는 없다.
AI 투자 붐의 이면: 생산성은 높아져도 혜택은 모두에게 돌아가지 않을 수 있다
AI의 발전은 소프트웨어 산업에만 국한되지 않는다. 대규모 모델을 운영하기 위해서는 반도체, 데이터센터, 전력, 냉각 설비, 네트워크 등 광범위한 기반 시설이 필요하다.
IMF는 10월 12일 AI 인프라 투자가 세계 경제의 성장세를 뒷받침하고 있다고 평가하면서도, 그 과정에서 노동시장과 조세 체계에 큰 변화가 일어날 수 있다고 지적했다.
이러한 투자는 새로운 산업과 일자리를 만들 수 있다. 그러나 AI를 개발하고 대규모 인프라를 소유한 기업과 자본 보유자가 생산성 향상의 혜택을 더 많이 가져간다면, 노동소득에 의존하는 사람들과의 격차가 확대될 수 있다. 이 문제는 단순한 소득 분배의 문제가 아니다. AI가 많은 업무를 자동화해 기업의 비용을 낮추더라도, 그 이익이 일부 기업과 자본에 집중되고 다수 근로자의 소득과 고용 기회가 줄어든다면 소비와 경제 성장에도 영향을 미칠 수 있다. 따라서 AI 정책은 기술 투자 확대만을 목표로 삼아서는 안 된다. 생산성 향상이 임금, 새로운 일자리, 교육 기회, 중소기업의 경쟁력으로 연결되는 구조를 함께 고민해야 한다. 한국에서는 특히 대기업과 중소기업 사이의 AI 도입 격차가 중요한 과제가 될 수 있다. 자체 AI 연구팀과 데이터 인프라를 갖춘 기업은 자동화의 혜택을 빠르게 누릴 수 있지만, 전문 인력과 자금이 부족한 기업은 도입 자체가 어려울 수 있기 때문이다. 정부의 역할도 단순히 AI 기술을 개발하는 기업에 투자하는 데 그치지 않는다. 중소기업이 검증된 AI를 도입하도록 지원하고, 산업별 데이터 활용 기반을 구축하며, 노동자의 재교육과 직무 전환을 지원하는 정책이 함께 필요하다.
결론: AI 시대의 핵심 경쟁력은 기술을 만드는 능력과 통제하는 능력의 결합이다
지난 12주간의 흐름을 종합하면 AI 산업은 세 가지 전환점에 서 있다.
첫째, AI는 답변을 생성하는 도구에서 여러 업무를 연결하고 실행하는 시스템으로 진화하고 있다.
둘째, 이러한 자율성이 현실의 시스템과 연결되면서 보안과 책임 문제가 기술 개발의 핵심 과제로 떠올랐다.
셋째, AI가 노동시장과 경제 구조에 미치는 영향이 커지면서 기업의 혁신 전략뿐 아니라 교육, 고용, 규제, 소득 분배 정책도 재검토할 필요가 커지고 있다.
이 세 가지 변화는 서로 연결돼 있다. AI가 더 많은 업무를 수행할수록 기업의 생산성은 높아질 수 있지만, 동시에 오류의 파급력과 인간의 감독 책임도 커진다. 자동화가 확대될수록 일부 업무의 가치는 낮아질 수 있지만, 새로운 전문성과 책임 역량의 중요성은 높아질 수 있다.
앞으로의 경쟁에서 중요한 것은 가장 강력한 AI 모델을 보유하는 것만이 아닐 것이다. AI를 실제 업무에 적용하고, 결과를 검증하고, 위험을 통제하며, 그 성과를 사회 전체의 생산성과 기회로 연결하는 능력이 중요해질 것이다. AI 시대의 질문은 더 이상 기계가 인간을 대체할 수 있느냐에만 머물지 않는다. AI가 인간의 능력을 확장하는 동안, 누가 그 혜택을 얻고 누가 그 위험을 책임질 것인가. 향후 기술 경쟁과 사회 변화의 방향은 이 질문에 어떤 답을 내놓느냐에 따라 달라질 것이다.
본 콘텐츠는 글로벌 IT 아키텍처 컨설팅 회사 CHRISCOMPANY의 기술 인사이트를 바탕으로 제공됩니다. 발행: 크리스미디어 (CHRISMEDIA)