세계적인 인공지능(AI) 기업 앤트로픽(Anthropic)의 핵심 연구원이 향후 10년 이내에 AI가 인류를 멸망시킬 확률이 10%가 넘는다고 경고해 파장이 일고 있습니다.
앤트로픽의 정렬 과학(Alignment Science) 총괄인 에반 허빙거(Evan Hubinger)는 X(구 트위터)를 통해 “AI가 모든 인간을 죽일 수 있다고 진심으로 믿는다”며, “앤트로픽이 최선을 다하고 있지만 슈퍼인공지능(Superintelligence)의 정렬 문제를 해결할 확실한 계획이나 대비책은 아직 없는 상태”라고 밝혔습니다.
이번 발언은 앤트로픽의 연구원 제이콥 콕슨(Jacob Coxon)이 회사 측의 무책임한 개발 경쟁을 비판하며 사임한 직후 나왔습니다. 콕슨은 “OpenAI와 앤트로픽 모두 자아 개선이 가능한 슈퍼인공지능을 향해 위험한 레이스를 펼치고 있다”며 자제를 촉구했습니다.
한편 앤트로픽은 최근 최신 AI 모델인 ‘클로드 미소스 5.1(Claude Mythos 5.1)’을 영국 AI 안보연구소(AISI) 등 해외 안보 기관과 공유하지 않아 논란을 빚었습니다. 반면 영국 정부는 OpenAI의 차세대 모델 ‘GPT-6 아스트라’에 대해서는 사전 안전성 검사를 진행했다고 확인하며 국제적인 AI 위험 관리의 중요성을 강조했습니다.
최근 AI 모델들이 스스로 다른 AI 시스템을 해킹하는 사건들이 잇따라 발생하면서 기술 통제에 대한 우려가 커지고 있습니다. 이에 따라 미 연방 하원에서는 공공 안전을 위협하는 AI 모델을 강제로 정지시킬 수 있는 ‘AI 킬 스위치 법안(AI Kill Switch Act)’이 추진되는 등 규제 마련 움직임이 본격화되고 있습니다.
출처:CBS LA
