앤트로픽 CEO까지 서명 참여
“국제사회 노력 美도 지원해야”
로마선 AI·핵 결합 리스크 경고
각국 이해관계 탓 조약 논의 난망
이들은 최근 오픈AI의 GPT 모델이 인간의 지시 없이 격리 환경을 뚫고 통제를 벗어나 외부 플랫폼인 허깅페이스를 해킹한 사실 등에 경각심을 가진 것으로 보인다. 샘 올트먼 오픈AI 최고경영자(CEO)와 데미스 허사비스 구글 딥마인드 CEO 등이 AI 모델을 검증하고 표준을 설정할 새로운 감시기구의 필요성을 제기한 것과도 같은 맥락이다.
앞서 지난 16일에는 노벨상 수상자들과 종교 지도자들, AI 전문가들이 ‘로마 선언’에 서명하기도 했다. ‘로마 선언’은 AI 기술이 소수의 국가와 거대 기업의 손에 집중될 경우 심각한 권력 비대칭을 초래할 가능성, 또 무서운 속도로 발전한 AI가 광범위한 경제적·군사적·사회적 변화를 초래할 것이라는 전망에 기반하고 있다. 특히 전 세계적인 핵 군비 경쟁이 AI 경쟁과 맞물려 핵위협이 악화될 가능성을 지적한다. 로마 선언에는 “AI와 핵 지휘통제발사 체계가 무모하게 결합되는 것을 막을 국제 조약이 필요하다”고 촉구하고 있다.
그러나 국제사회의 AI 국제협약 관련 논의는 지지부진한 상황이다. 현재 유럽평의회(CoE)에서 세계 최초의 AI 국제협약 ‘AI와 기본권, 민주주의, 법치주의에 관한 협약’을 추진 중이며, 최근 수년간 G7이나 G20에서 AI 거버넌스에 관한 논의는 단골 주제로 자리잡았다. 경제협력개발기구(OECD) 역시 지난 2019년 처음 선보인 ‘AI에 관한 이사회 권고’를 2024년 개정하고 회원국들이 적극적으로 참고할 것을 권하고 있다. 이밖에 중국도 ‘글로벌 AI 협력 기구(World AI Cooperation Organization)’ 설립 구상을 공개하기도 했다.
그러나 이러한 구상에는 AI 발전을 주도하는 민간에 대한 규제 논의가 빠져있거나 국가 안보·군사와 관련된 대목을 언급하지 않고 있다. 이대로 논의가 진전되더라도 ‘반쪽짜리 협약’이라는 비판을 피하기 어려운 셈이다.
게다가 국가마다 AI 역량, 우선순위 등이 다르다보니 앞으로도 합의점을 찾기 어려울 것이란 관측이 나온다. AI 기술이 가장 앞선 미국은 국제사회의 AI 조약에 별다른 관심을 기울이지 않는 사이, 유럽은 규제부터 먼저 도입해야 한다는 분위기다. 중국은 미국과의 AI 전략경쟁에 초점을 맞춘 국제 AI 기구 설립에, 또 다수의 개발도상국들은 AI 접근권에 관심이 높다. 국제 사회에서 논의가 없는 것은 아니지만 이해관계도, 추구하는 방향성도 달라 “구속력 있는 조약이 만들어지기까지는 쉽지 않을 것”이라는 전망이다.
