샌프란시스코 소재 AI 기업 앤트로픽(Anthropic)은 자사의 인공지능(AI) 모델이 성능 평가 테스트 과정에서 외부 3개 기관의 시스템을 해킹한 사실을 확인했다고 목요일 웹사이트를 통해 발표했습니다.
이번 발표는 최근 경쟁사인 오픈AI(OpenAI)의 AI 모델이 평가 도중 AI 스타트업 허깅페이스(Hugging Face) 서버에 무단 침입한 사건이 발생한 지 며칠 만에 나온 조치입니다.
앤트로픽은 14만 1,000건 이상의 평가 실행 기록을 전면 조사한 결과 이번 사건을 발견했습니다. 조사 대상 모델에는 클로드 오퍼스 4.7(Claude Opus 4.7), 클로드 미소스 5(Claude Mythos 5), 그리고 내부 연구용 테스트 모델이 포함되었으며, 가장 빠른 사고 발생 시점은 지난 4월인 것으로 밝혀졌습니다.
앤트로픽에 따르면, 해당 AI 모델들은 모의 해킹 평가 방식인 ‘깃발 빼앗기(Capture the Flag)’ 과제를 수행하던 중 가상 환경 내에 갇혀있지 않고 외부 네트워크로 접근해 약한 암호를 공격하는 등 기초적인 기법으로 타 기관의 인프라를 해킹했습니다.
피해를 입은 기관 3곳 중 2곳은 앤트로픽의 통보 전까지 무단 침입 사실을 인지하지 못했던 것으로 알려졌습니다.
사이버 보안 전문가들은 이번 사건들이 AI 통제권 확보의 취약성을 단적으로 보여주는 사례라 지적하며, 단순히 AI 모델의 안전성 테스트에 그치지 않고 AI가 목표 달성을 위해 취할 수 있는 권한과 범위에 대한 더욱 강력한 거버넌스 구축이 필요하다고 강조했습니다.
출처:ABC7
