"AI, 속도를 늦추자"…앤트로픽發 제언에 올트먼·머스크 동조, 트럼프는 정면 반박

아모데이 CEO "프런티어 AI 페이싱 필요"…3800단어 에세이로 업계 뒤흔들어 - 라이벌 올트먼·머스크도 "다리오가 맞다" 동조…데미스 하사비스·사티아 나델라도 공감 - 트럼프 "누가 AI 이기든 이긴다" 일축……

지난 주말 앤트로픽 최고경영자(CEO) 다리오 아모데이가 올린 한 편의 에세이가 이번 주 글로벌 AI 업계를 뒤흔들고 있다. 평소 치열하게 경쟁하던 오픈AI의 샘 올트먼과 xAI의 일론 머스크가 이례적으로 한목소리를 냈고, 도널드 트럼프 미국 대통령은 이를 정면으로 반박하며 직접 공격에 나섰다. 그 사이 아시아 반도체·AI 관련주가 일제히 출렁였고, 오픈AI는 '속도조절' 공조가 법적으로 허용되는지를 놓고 미 의회에 직접 자문을 구하는 상황에까지 이르렀다.

아모데이 "우리는 프런티어의 속도를 조절해야 한다"

발단은 지난 13일(현지시간) 토요일 아모데이 CEO가 자신의 블로그에 올린 3800단어 분량의 에세이 '우리는 프런티어의 속도를 조절해야 한다(We Must Pace the Frontier)'였다. 그는 이 글에서 상업적 이해관계에 떠밀린 '바닥을 향한 경쟁'이 AI가 안고 있는 위험을 더 키울 수 있다고 경고하며, 지금의 AI 모델들이 앞으로 AI를 어떻게 더 안전하게 만들 수 있을지, 또 무엇이 잘못될 수 있는지를 보여주는 '통찰의 금맥'과 같다고 짚었다. 속도를 조절하면 업계가 정렬(alignment)과 해석가능성 연구를 따라잡을 12년의 소중한 시간을 벌 수 있고, 이를 통해 심각한 사고가 발생할 위험을 크게 줄일 수 있다는 것이 그의 논지다.

아모데이는 구체적으로 3단계 계획을 제시했다. 첫째, 독립적인 외부 평가자에게 프런티어 연구소 내부의 모델 훈련과 안전 준수 상황을 직원 수준의 접근권한으로 들여다보고 문제를 보고할 수 있게 할 것. 둘째, 민주주의 진영 국가에 속한 AI 기업들 사이에 공통 기준을 마련해 조율할 것. 셋째, 이 조율의 범위를 중국을 비롯한 권위주의 국가로까지 점차 넓혀갈 것. 앤트로픽은 이 가운데 첫 번째 조치, 즉 외부 평가자에게 직원 수준 접근권을 부여하는 방안을 즉각 단독으로 시행하겠다고 밝혔다.

라이벌들의 이례적 동조…"다리오가 맞다"

평소라면 침묵하거나 냉소했을 법한 경쟁사 수장들의 반응이 예상 밖이었다. 발표 하루 만에 오픈AI의 샘 올트먼 CEO는 자신의 소셜미디어에 우리 미래에 대한 통제력을 AI에 빼앗기는 것은 "용납할 수 없는 일"이라며, 모든 프런티어 연구소가 이를 지켜야 하고 그러지 못한다면 애초에 일할 이유가 없다고 적었다. 그는 외부 평가자를 들이는 방안과 연방 차원의 AI 안전 프레임워크 마련 모두에 공감을 표했다. 일론 머스크는 이보다 더 짧게 "다리오가 맞다"는 세 단어로 지지 의사를 밝혔다. 구글 딥마인드의 데미스 하사비스 CEO와 마이크로소프트의 사티아 나델라 CEO 역시 속도조절 필요성에 대체로 공감한다는 입장을 나타낸 것으로 전해졌다. 평소 서로를 향해 날을 세우던 빅테크 수장들이 사흘 만에 한목소리를 낸 셈이다.

이 흐름에는 앞서 있었던 사건도 영향을 미쳤다. 과거 앤트로픽과 오픈AI 두 곳 모두에서 일했던 한 연구자가 최근 공개적으로 AI 개발사들이 인류를 위험에 빠뜨리고 있다고 경고하며 주요 방송사의 조명을 받았고, 지난 7월에는 주요 AI 기업 직원 1000명 이상이 AI 기술 역량이 안전관리 수준을 앞지르기 전에 자동화 연구 속도를 조절할 국제적 장치를 마련하자는 청원에 서명한 바 있다.

트럼프 "누가 이기든 이긴다"…아모데이 직접 공격

그러나 정작 이 제언을 받아들여야 할 미 정부의 반응은 정반대였다. 트럼프 대통령은 주말 사이 기자들에게 "우리는 중국을 AI에서 앞서고 있고, 솔직히 이 상태를 계속 유지하고 싶다. 누가 AI에서 이기든, 그게 곧 승리"라며 속도조절 요구를 일축했다. 그는 이어 자신의 소셜미디어 트루스소셜을 통해 아모데이를 직접 겨냥해 공격했고, AI에 필요한 유일한 안전장치는 "강력하고 똑똑한(고지능의)" 무언가라는 취지로 언급하며 로그 AI(통제 불능 AI)에 대한 우려를 "사기극"이라 일축했다. 그는 또 AI 데이터센터를 둘러싼 "악의적인 음모"가 있다고 주장하며, 속도조절은 결국 중국에만 유리하게 작용할 뿐이라고 강조했다. 대통령 과학기술자문위원회(PCAST) 공동의장을 맡고 있는 데이비드 색스도 AI 연구소들이 정부의 허가를 받아야 할 이유가 없다는 취지의 입장을 밝힌 것으로 전해졌다.

흥미로운 대목은 정작 아모데이 본인이 중국에 대한 반도체 수출 통제를 강화해야 한다는 입장에서는 트럼프 행정부와 오히려 가까운 편이라는 점이다. 그럼에도 이번 에세이를 둘러싼 정면충돌은 실리콘밸리의 안전론과 워싱턴의 패권 경쟁론이 정면으로 부딪히는 모습을 고스란히 드러냈다.

아시아 증시도 출렁…"AI 랠리, 속도조절론에 흔들"

이 논쟁은 시장에도 곧바로 반영됐다. 지난 14일 소프트뱅크와 키옥시아, SK하이닉스 주가가 큰 폭으로 떨어졌고, 중국의 AI 기업 지에이아이( Z.ai )와 미니맥스(MiniMax) 주가도 동반 하락했다. 그동안 AI 훈련·추론 수요 확대를 기정사실로 놓고 질주해온 반도체·AI 관련주들이, 업계 수장의 입에서 나온 "속도조절"이라는 단어 하나에 민감하게 반응한 셈이다.

동시에 업계 안팎에서는 이 논쟁의 아이러니를 지적하는 목소리도 나온다. 앤트로픽은 현재 2조 달러 규모의 기업가치를 목표로 투자자들을 상대로 기업공개(IPO) 사전 작업을 진행 중인 것으로 알려졌는데, 정작 같은 시기 회사의 최고경영자가 업계 전체에 속도를 늦추자고 공개적으로 촉구하고 있는 모습이 묘하게 엇갈린다는 것이다. 아모데이는 에세이에서 이번 제안이 상업적 우위나 미국의 AI 주도권을 희생시키려는 것이 아니라고 선을 그었지만, 이 두 입장이 매끄럽게 양립할 수 있는지를 놓고 앞으로 있을 IPO 로드쇼 과정에서 계속 질문을 받게 될 것이라는 관측이 나온다.

오픈AI, "속도조절 공조, 반독점법 위반 아니냐" 의회에 직접 문의

이번 사태에서 가장 실무적인 파장은 법률 영역에서 나타났다. IT매체 와이어드 보도에 따르면 오픈AI는 최근 수주간 미 의회 의원들을 접촉해, 프런티어 AI 개발 속도를 경쟁사들과 공동으로 늦추는 조치가 연방 반독점법에 저촉되는지를 문의한 것으로 전해졌다. 이는 지난 6일 오픈AI의 야쿠프 파초키 수석과학자가 자사 블로그에 AI 연구 공동체가 공통의 안전 기준을 마련하는 동안 개발 속도를 조율해 늦추는 방안을 고려해야 한다는 글을 올린 데 이어 나온 후속 움직임이다.

문제의 핵심은 경쟁사인 앤트로픽·구글 등과 손잡고 개발 속도를 늦추기로 합의하는 행위가, 경쟁사들이 공동으로 생산량(산출물)을 제한하는 것으로 해석돼 셔먼반독점법 위반 소지가 있다는 데 있다. 개별 기업이 스스로 출시를 미루는 것은 법적으로 문제가 없지만, 여러 기업이 함께 합의해 속도를 늦추는 순간 전혀 다른 법적 문제가 된다는 것이다. 호주 경쟁소비자위원회의 니컬러스 펠스테드 부국장은 앞선 기고에서 실제 합의 내용에 따라 다르겠지만, 대부분의 안전 관련 협력이 결국 반독점 심사를 통과하더라도 이 법적 불확실성 자체가 기업들의 참여를 가로막는 강력한 억지력으로 작용할 수 있다고 지적한 바 있다. 이런 우려를 의식해 지난 7월에는 애덤 시프·짐 뱅크스 상원의원 등이 초당적으로 안보 목적의 협력에 한해 반독점 예외를 인정하는 법안을 발의하기도 했다.

결국 남은 질문…"속도를 늦출 수는 있는가"

이번 사태를 관통하는 근본적인 문제는 명확하다. AI 업계의 수장들 사이에서는 속도를 늦춰야 한다는 공감대가 이례적으로 형성됐지만, 정작 그 공감대를 실제 행동으로 옮기는 순간 법률적 장벽과 국가 간 패권 경쟁이라는 두 개의 현실적 장벽이 동시에 기다리고 있다는 것이다. 한 기업이 단독으로 멈추면 경쟁에서 밀려날 위험을 감수해야 하고, 여러 기업이 함께 멈추면 반독점 심사를 받아야 하며, 국가 차원에서 속도를 늦추면 다른 나라와의 기술 경쟁에서 밀릴 수 있다는 우려가 뒤따른다. 아모데이의 에세이가 던진 질문, 즉 "AI 시대에 인간이 통제력을 유지할 수 있는가"라는 물음은 이번 주 그 어느 때보다 뜨거운 논쟁으로 번졌지만, 그 답을 실행에 옮길 제도적 장치는 아직 마련되지 않은 채로 남아 있다.

관련 태그: #크리스컴퍼니 #AI #저널리즘

본 콘텐츠는 글로벌 IT 아키텍처 컨설팅 회사 CHRISCOMPANY의 기술 인사이트를 바탕으로 제공됩니다. 발행: 크리스미디어 (CHRISMEDIA)