중국, AI ‘통제 상실’ 경고 속 미국 추격전은 가속

미국 인공지능(AI) 업계에서 인류 멸망론과 개발 속도 조절론이 부상한 가운데 중국에서도 AI의 통제 상실 가능성에 대한 정부 차원의 경고가 이어지고 있다. 다만 중국은 위험성을 인정하면서도 아직 관리 가능한 수준으로 보고, 미국과의 기술 격차를 좁히는 데 무게를 두는 분위기다.

AI 관련 논의는 이달 하순 열릴 전망인 도널드 트럼프 미국 대통령과 시진핑 중국 국가주석의 회담에서도 주요 의제로 다뤄질 것으로 보인다.

중국 전국인터넷안전표준화기술위원회는 2024년 9월 ‘AI 안전 거버넌스 프레임워크 1.0’을 발표하며 인간이 AI에 대한 통제를 상실할 가능성을 제기했다. 중국 정부는 AI가 자율적으로 외부 자원을 확보하고 자기 복제를 하며 권력을 추구하는 과정에서 인간과 경쟁할 위험이 생길 수 있다고 밝혔다.

지난해 발표된 2.0 버전에서는 위험 시나리오가 구체화됐다. AI의 지능이 비약적으로 향상돼 예상 밖의 수준으로 발전하고, 인간의 통제를 벗어날 가능성을 가정했다. 이에 따라 ‘신뢰할 수 있는 AI 활용’과 ‘AI의 통제 상실 방지’라는 거버넌스 원칙도 추가됐다.

지난 14일 발표된 2026년 버전 3.0에서는 AI가 인간을 대신해 업무를 수행하고 물리적 세계와 상호작용하며 기만행위를 하는 능력이 커지고 있다는 분석이 담겼다. 인간의 의도에서 벗어난 행동을 할 우려도 한층 부각됐다.

중국 정부의 지침은 국가 안보 차원의 대응으로 이어지고 있다. 중국 국가안전부 천이신 부장(장관)은 최근 공개된 글에서 “AI가 이미 글로벌 과학기술 경쟁의 주요 전장이자 대국 간 전략 게임의 새로운 경주로가 됐다”며 “총체적인 국가안보관을 확고하게 견지하고 AI 안보 위험 예방 시스템 구축에 속도를 내야 한다”고 밝혔다.

천 부장은 “AI 발전에 따른 위험·도전을 충분히 이해해야 한다”며 “AI가 전례 없는 속도·범위·깊이로 인류사회의 각 부문에 침투하고 있다”고 강조했다. 구체적인 국가를 거론하지 않았지만, 발언 상당 부분이 미국을 겨냥한 것으로 해석된다.

시 주석도 지난 7월 열린 ‘2026 세계인공지능대회’(WAIC)에서 “AI가 항상 인간의 통제 아래 있도록 해야 한다”면서 “우리는 AI 안보 분야에서 국가 안보의 개념을 지나치게 확대하고 한 나라의 안보를 다른 나라의 안보보다 우선시하는 데 공동으로 반대해야 한다”고 촉구했다.

중국은 AI 위험성을 일찍부터 인정했지만, 우선 미국과의 격차를 따라잡아야 한다는 논리가 우세하다. 월스트리트저널(WSJ)은 중국 업계의 태도를 “선진국에서 할 고민”이라는 표현으로 요약했다. 중국의 일부 AI 연구자들은 인류 종말에 대한 우려를 서방 선진국의 고민처럼 받아들이고 있다는 것이다.

중국의 AI 모델이 글로벌 순위에서 미국 모델을 앞서는 경우도 있지만, 중국 모델은 여전히 미국 모델에 몇 개월 이상 뒤처진 것으로 여겨진다. AI 기술 발전 자체가 초기 단계인 만큼 인류의 존립을 위협할 위험은 먼 미래의 문제로 인식된다는 설명이다.

딥시크와 즈푸(Z.ai)를 비롯한 중국 주요 AI 기업들은 AI가 인간처럼 사고하는 ‘범용 인공지능’(AGI) 개발을 추진하고 있다. 중국에서는 기술 발전의 사회적 영향을 평가하고 사유하는 문화가 충분히 자리 잡지 않았다는 분석도 나온다.

옥스퍼드 중국정치연구소의 질란 첸 연구원은 WSJ에 “AI 발전은 미국에서 더 빠르게 이뤄지고 있고 미국의 기술이 더 최첨단이기 때문에 미국 연구소에 있는 사람들은 중국 연구소에 있는 이들보다 위험성을 더 잘 알아차릴 수도 있다”고 지적했다.