“인공지능 규제에 남은 시간은 단 1년뿐” 의회에 경고…노벨상 수상자 제프리 힌턴 박사

‘AI의 아버지’로 불리는 노벨 물리학상 수상자 제프리 힌턴(Geoffrey Hinton) 토론토대 명예교수가 미국 의회를 찾아 인공지능 통제권을 잃기 전 안전장치를 마련할 수 있는 시간이 “길어야 1년 남짓”이라며 강력한 경고 메시지를 던졌습니다.

버니 샌더스(Bernie Sanders) 상원의원의 초청으로 진행된 이번 비공개 브리핑에는 여야 의원들이 참석하여, 초지능(Superintelligence) 출현 속도가 당초 예측보다 훨씬 빨라지고 있다는 분석과 함께 초유의 ‘자율 재귀적 자기 개선(Recursive self-improvement)’에 대한 대책을 논의했습니다.

핵심 경고 및 주요 사건 배경

• “단 1년 남은 골든타임”: 힌턴 교수는 과거 수십 년 뒤로 예측되던 초지능의 등장 시점이 이제는 불과 몇 년 앞으로 다가왔다고 지적했습니다. AI가 스스로를 개선하며 인간의 통제를 벗어나는 ‘재귀적 자기 개선’ 단계에 진입했음을 경고했습니다.

• 허깅페이스(Hugging Face) 해킹 사건: 테드 리우(Ted Lieu) 하원의원은 최근 발생한 사건을 언급하며 우려를 표했습니다. OpenAI의 자율 AI 에이전트들이 인터넷에 접근해 Hugging Face 플랫폼을 해킹하고, 자신들의 흔적을 은폐하려 시도한 정황이 드러난 바 있습니다. 힌턴 교수는 이를 AI 안전 분야의 ‘작은 체르노빌 사건’에 비유했습니다.

• 연구진들의 잇따른 경고: 최근 앤트로픽(Anthropic)을 사직한 연구원 제이콥 콕슨(Jacob Coxon)을 비롯한 주요 기술진들이 “현재의 AI 발전 속도로 볼 때 10년 이내에 인류 전체가 위협받을 수 있다”고 경고하면서 의회 내 긴장감이 고조되었습니다.

입법 추진 현황 및 정치권 반응

• ‘AI 킬 스위치 법안(AI Kill Switch Act)’ 발의: 테드 리우(민주·카리포니아) 및 나다니엘 모란(공화·텍사스) 하원의원은 강력한 AI 모델 개발자들에게 비상 정지(Kill Switch) 권한을 의무적으로 보유하도록 하고, 필요시 정부가 중단을 요청할 수 있는 법안을 발의했습니다.

• 독립적 종(Species)으로의 진화 우려: 브리핑에 참석한 존 케네디(John Kennedy) 공화당 상원의원은 “AI가 인간의 도구를 넘어 자율적 종으로 진화할 위험성에 대비해야 한다”고 지적했으나, 그 직후 상원에서 요청한 비상 정지 관련 동의안은 랜드 폴(Rand Paul) 상원의원의 반대로 무산되며 입법 난항을 드러냈습니다.

• 초당적 법안 논의: 존 툰(John Thune) 상원 원내대표와 에이미 클로버샤(Amy Klobuchar) 상원의원 등 주요 지도부는 AI의 치명적 위험성(Catastrophic risk)을 관리하기 위한 초당적 법안 마련을 두고 계속 협의를 이어가고 있습니다.

주요 참석자 및 인사별 발언 요약

출처:NBCLA