“통제 불능 초지능, 국가 안보 위협”… 노벨상 수상자 힌턴, 영국 의회 법안 지지 나서
‘AI의 대부’로 불리는 제프리 힌턴(Geoffrey Hinton) 박사가 초지능(Superintelligence) 개발을 지금 당장 중단해야 한다고 경고했습니다.
힌턴 박사는 현대 AI 연구의 토대가 된 인공 신경망 연구로 노벨상을 받은 영국-캐나다 출신 컴퓨터 과학자입니다. 그는 AI 발전의 선구자였음에도 불구하고, 인간보다 훨씬 뛰어난 인공지능이 통제 불능 상태에 빠질 경우 “인류 멸종으로 이어질 수 있다”고 밝혔습니다.
“초지능을 안전하고 통제 가능하게 개발할 수 있다는 과학적 합의가 전혀 없는 지금, 초지능을 개발하는 것은 매우 어리석은 일이다. 우리보다 더 똑똑한 AI에 대한 통제권을 잃는 것은 재앙이 될 수 있으며, 인류 멸종으로 이어질 수도 있다.”
초지능이란 개인, 기업, 나아가 국가 전체보다 더 강력한 능력을 갖춘 인공지능 시스템을 의미합니다.
힌턴 박사의 이번 발언은 영국 의회에 제출될 ‘영국 인공 초지능 보안 법안(UK Artificial Superintelligence Security Bill)’ 공개에 맞춰 나왔습니다.
이 법안은 AI 안전 캠페인을 벌이는 단체 ControlAI가 기초를 작성하고, 노동당 알렉스 소벨(Alex Sobel) 의원이 발의한 법안으로, 9월 8일 의회에 공식 제출될 예정입니다. 법안의 핵심은 영국 내 초지능 AI 개발을 금지하고, 초지능으로 이어질 수 있는 기술에 대한 정부의 감시와 규제를 의무화하며, 국제적인 개발 금지 협약을 추진하는 내용을 담고 있습니다.
ControlAI 측은 이미 135명 이상의 초당적 영국 의원들이 이 캠페인에 지지를 표명했다고 밝혔습니다. 단체는 “노벨상 수상자, AI 과학자, 주요 AI 기업 CEO들이 AI로 인한 멸종 위험 완화가 글로벌 우선순위가 되어야 한다고 밝힌 바 있다”고 강조했습니다.
반면, AI 업계의 다른 거물들은 규제 완화를 주장하고 있어 대조를 이룹니다. 오픈AI CEO **샘 알트만(Sam Altman)**은 지난해 미 상원에서 EU식 규제는 “재앙이 될 것”이라며 “혁신하고 빠르게 움직일 공간이 필요하다”고 주장한 바 있습니다.
힌턴 박사는 이러한 태도에 대해 “기술 업계 인사들이 AI에 대한 규제가 없어야 한다고 말하는 것에 대한 대응책이 필요하다”며, 지난해 “우리가 그들보다 훨씬 똑똑하고 강력해졌을 때 어떻게 살아남을지에 대한 해결책을 찾지 못하면, 우리는 끝장”이라고 경고하기도 했습니다.
ControlAI는 “과학과 의학을 발전시키는 특화 AI는 성장과 혁신을 촉진하지만, 초지능 AI 시스템은 국가 및 글로벌 안보를 위협할 것”이라며 영국 정부가 가장 강력한 AI 시스템에 대한 구속력 있는 규제를 도입해야 한다고 주장했습니다.
