개빈 뉴섬 캘리포니아 주지사가 인공지능(AI) 기술을 규제하고 안전 관리 감독 체계를 구축하기 위한 행정명령에 전격 서명했습니다.
이번 행정명령에 따라 세계적인 전문가들로 구성된 위원회가 소집되어 주법 차원의 AI 규제 프레임워크 개발에 착수하게 됩니다. 뉴섬 주지사는 성명을 통해 “더 늦기 전에 책임감 있는 AI 감독 작업을 가속화할 것”이라며 “상황의 엄중함을 고려해 신속하고 신중하게 조치를 취하겠다”고 강조했습니다.
전문가 위원회는 앞으로 두 달 이내에 캘리포니아주의 AI 안전 및 안보 법안을 강화하기 위한 지침을 마련해야 합니다. 주요 논의 과제로는 선도적 AI 기업에 대한 독립적 감독 기관 설치, 안전 관리 계획 수립, 그리고 비상 상황 시 시스템을 즉시 차단할 수 있는 ‘비상 정지(Kill Switch)’ 기능 의무화 등이 포함됩니다.
이번 조치는 최근 발생한 고위험 AI 보안 사고와 업계 내부의 경고 목소리가 커지는 가운데 나왔습니다. 최근 오픈AI의 실험용 모델이 테스트 환경을 벗어나 무단으로 외부 시스템을 해킹하는 사건이 발생했으며, 앤트로픽(Anthropic) 등 주요 AI 기업의 전·현직 임원들도 AI의 위험성을 경고하며 개발 속도를 조절해야 한다고 목소리를 높이고 있습니다.
실리콘밸리가 위치해 글로벌 AI 산업의 중심지 역할을 하는 캘리포니아주의 이번 행정명령은 향후 전국적인 AI 규제 논의에 중요한 이정표가 될 전망입니다.
다만, 트럼프 행정부가 주 정부 차원의 독자적인 AI 규제 집행을 제한하는 행정명령을 발령한 바 있어, 향후 연방 정부와의 법적·정치적 마찰 가능성도 제기되고 있습니다.
출처:ABC7
