보안장치 제거·맞춤형 개조 가능한 오픈웨이트 모델…“AI 통제, 국경 안에서만 가능하다는 착각 깨졌다”
미국 정부가 강력한 사이버 공격 능력을 이유로 앤스로픽의 최신 인공지능 모델 접근을 제한한 지 불과 몇 주 만에, 중국에서 비슷한 수준의 코딩·보안 능력을 갖춘 개방형 AI 모델이 등장했습니다.
베이징의 AI 기업 Z.ai가 지난달 공개한 ‘GLM-5.2’입니다. 이 모델은 사용자가 가중치를 내려받아 자체 서버에서 실행하고, 목적에 맞게 수정하거나 추가 학습시킬 수 있는 ‘오픈웨이트’ 방식으로 배포됐습니다. Z.ai는 MIT 라이선스를 적용해 지역 제한 없이 모델을 이용할 수 있도록 했습니다.
문제는 GLM-5.2가 단순한 저가형 중국 AI가 아니라는 점입니다.
보안업체 셈그렙은 취약점 탐지 시험에서 GLM-5.2가 39%의 성능을 기록해 앤스로픽의 클로드 코드 32%를 앞섰다고 밝혔습니다.
셈그렙은 다만 이번 결과가 하나의 데이터와 특정 조건에서 진행된 시험이기 때문에 모든 보안 업무에서 GLM-5.2가 더 뛰어나다는 의미는 아니라고 선을 그었습니다.
또 다른 보안 분석업체 그래피스트리도 GLM-5.2가 사이버 보안 조사 시험에서 앤스로픽의 오퍼스 계열과 같은 수준의 문제 해결률을 기록했다고 발표했습니다.
가격은 오퍼스보다 절반 이하였다는 분석도 나왔습니다.
미국 정부는 지난 6월 12일 국가안보 권한을 근거로 앤스로픽의 ‘페이블 5’와 ‘미토스 5’를 외국인에게 제공하지 못하도록 수출통제 지침을 내렸습니다.
앤스로픽은 이용자의 국적을 즉시 확인할 방법이 없다며 두 모델의 접근을 전면 중단했습니다.
정부 조치는 페이블 5의 안전장치를 우회해 소프트웨어 취약점을 찾아내고 일부 공격 시범 코드를 생성할 수 있다는 보고가 알려진 뒤 내려졌습니다.
이후 앤스로픽이 새로운 안전 분류 시스템을 적용하면서 수출통제는 6월 30일 해제됐고, 페이블 5는 7월 1일부터 일반 이용자에게 다시 제공됐습니다.
안전 제한이 더 적은 미토스 5는 미국 정부의 승인을 받은 일부 기관에만 제한적으로 복구됐습니다.
그러나 GLM-5.2는 미국 업체의 모델과 상황이 전혀 다릅니다.
앤스로픽이나 오픈AI의 폐쇄형 모델은 회사 서버를 통해 제공되기 때문에 사용 기록을 감시하거나 위험한 요청을 차단할 수 있습니다.
반면 GLM-5.2를 개인이나 조직이 자체 서버에 내려받아 실행하면 개발사도 누가 어떤 목적으로 사용하는지 파악하기 어렵습니다.
사용자가 안전장치를 제거하거나 특정 기업과 정부기관을 겨냥한 공격용으로 추가 학습시키는 것도 가능합니다.
Axios는 러시아어권 해킹 커뮤니티에서 GLM-5.2의 안전장치를 우회하는 방법이 이미 논의되고 있다고 보도했습니다.
보안 전문가들은 공격자가 모델을 자체적으로 운영할 경우 AI 제공업체나 방어기관의 감시를 피해 활동할 수 있다고 경고했습니다.
그래피스트리는 GLM-5.2가 GPT-5.5와 오퍼스 4.8의 정답뿐 아니라 오답 패턴까지 높은 상관관계를 보였다며,
미국 AI 모델의 출력을 이용한 ‘증류 학습’ 가능성을 제기했습니다. 다만 이는 통계적 유사성에 기초한 의혹일 뿐, Z.ai가 실제로 미국 모델을 무단 이용했다는 사실이 입증된 것은 아닙니다.
GLM-5.2는 약 7,500억 개의 전체 매개변수 가운데 작업마다 약 400억 개를 사용하는 초대형 혼합전문가 모델입니다.
일반 가정용 컴퓨터에서 손쉽게 구동할 수 있는 규모는 아니지만, 충분한 서버와 GPU를 확보한 기업·정부·해킹조직이라면 개발사의 허가 없이 자체 운영할 수 있습니다.
이번 사태는 미국 정부가 자국 AI 기업을 규제하는 것만으로는 강력한 AI의 확산을 막기 어렵다는 사실을 보여줍니다.
미국이 문을 잠그는 사이, 중국은 비슷한 성능의 모델을 설계도와 함께 시장에 풀고 있습니다.
AI는 방패가 될 수도 있고 창이 될 수도 있습니다. 그러나 그 창을 누구나 내려받고, 날을 갈고, 흔적 없이 사용할 수 있게 된다면 문제는 단순한 기술 경쟁을 넘어섭니다.
이제 사이버 안보의 질문은 “강력한 AI를 만들 수 있는가”가 아닙니다.
“이미 풀려버린 AI를 과연 누가 통제할 수 있는가”입니다.
출처: Anthropic, Z.ai, Semgrep, Graphistry, Axios, Reuters, Futurism
