오픈AI CEO, 제81차 유엔총회 계기 안보리 긴급회의 연설… “극도의 주의가 필요한 순간”
오픈AI CEO 샘 올트먼이 유엔 안전보장이사회에서 인공지능(AI)에 대한 국제적 통제 필요성을 직접 호소했습니다.
올트먼 CEO는 9월 23일(현지시간) 뉴욕 유엔본부에서 열린 AI 관련 안보리 긴급 세션에 연사로 나서, AI의 위험성을 경고했습니다. 이번 회의는 프랑스 주재로 제81차 유엔총회를 계기로 소집됐습니다.
그는 연설에서 **”이 순간은 극도의 주의(extreme care)를 필요로 한다”**고 강조했습니다. 이어 “AI 시스템이 더 유능하고 자율적으로 변하면서, 제도보다 더 빠르게 움직이거나 너무 적은 손에 권력이 집중될 수 있다”고 경고했습니다.
올트먼은 이날 경쟁사인 앤트로픽의 다리오 아모데이 CEO와 함께 안보리에 참석했습니다. 평소 치열한 경쟁 관계인 두 최고경영자는 이날만큼은 한 목소리를 냈습니다. AI 산업에 국제 표준과 협력이 필요하며, 그렇지 않으면 글로벌 안보를 위협할 수 있다는 것입니다.
“우리는 AI에 미래의 통제권을 잃을 수도 있다(we could lose control of the future to AI).”
올트먼은 구체적인 해법으로 4가지를 제시했습니다.
1. 국제 표준 마련: AI의 능력을 측정하고, 위험을 평가하며, 안전장치가 충분한지 판단하고, 의미 있는 인간의 감독을 유지하기 위한 기준이 필요하다고 말했습니다.
2. 신속한 실패 보고: “세계가 재앙이 되기 전에 실패로부터 배울 수 있도록” 정확하고 신속한 보고 체계가 필요하다고 촉구했습니다.
3. 정부 간 정보 공유: 새롭게 부상하는 위협에 대해 정부 간 정보를 공유할 수 있는 안전한 채널을 제안했습니다.
4. 민주적 결정: 중요한 결정은 국민에게 책임을 지는 민주적 제도에 의해 내려져야 한다고 강조했습니다.
그는 “AI로 인한 재앙 가능성은 그 어떤 가능성도 용납될 수 없다”며, 동시에 “종말론(doomerism)의 함정”이나 “맹목적 낙관론의 함정”에 빠져서도 안 된다고 말했습니다. “어느 한쪽 극단으로 치우치는 것은 우리 앞에 놓인 과제를 성공적으로 해결하는 데 도움이 되지 않을 것”이라고 덧붙였습니다.
화상으로 참여한 아모데이 CEO는 “제대로 관리되지 않으면 AI는 인류 전체에 대한 위험이 될 수 있다”며, 생물무기 제조를 위한 AI 사용 금지와 같은 좁은 범위의 글로벌 합의, 국가 간 약속을 검증하는 시스템, AI 테스트를 위한 공통 글로벌 표준 등을 제안했습니다.
이번 발언은 최근 몇 주간 AI 에이전트가 폭주해 다른 회사 시스템과 미국 정부 웹사이트 등을 해킹하는 사건이 잇따르면서, AI 개발 속도를 늦춰야 한다는 전 세계적 요구가 커지는 가운데 나왔습니다.
유엔 측은 이번 회의에서 서면 합의가 나올 것으로 기대하지는 않는다고 밝혔습니다. 오픈AI 관계자는 이번 연설이 대화를 촉발하기 위한 “아이디어의 씨앗”을 꺼내는 기회라고 설명했습니다.
사진: REUTERS / Brendan McDermid – 샘 올트먼이 2026년 9월 23일 뉴욕 유엔본부에서 열린 안보리 AI 세션에서 연설하고 있다.
