윌 스미스 주연의 2004년 영화 ‘아이,로봇’은 인공지능(AI)이 지배하는 미래상을 그린 작품이다. ‘인간을 해치지 않고, 인간 명령에 복종하며,이러한 원칙을 어기지 않는 한 로봇 자신을 보호한다’는 3원칙에 충실한 휴머노이드는 인류의 든든한 동반자로 여겨진다. 그런데 로봇 박사의 갑작스러운 의문사를 수사하는 과정에서 빅테크 기업의 중앙 슈퍼컴퓨터 AI(비키)가 반란을 도모한 사실이 드러난다. 스스로 학습하는 비키는 ‘인류의 행동이 지구 종말을 부를 가능성이 큰 만큼 인류를 위해서도 AI가 인류를 다스려야 한다’는 논리를 편다. 주인공은 또 다른 AI(서니)의 도움으로 비키를 폐기하는 데 성공한다.
□ AI가 인간 명령을 거부하고 결국 인간을 지배할 수 있다는 우려는 현실화하고 있다. AI 연구기관 팰리세이드리서치는 최근 미국 오픈AI 모델 ‘o3’가 수학 문제풀이 중 작업 중단을 피하려고 스스로 프로그램을 수정하는 걸 확인했다. 종료 명령을 받은 AI가 인간 명령을 거부한 첫 사례로 알려졌다. 그러나 체스 경기에서 불리해진 AI가 판을 엎고, 시스템 교체 위기의 AI가 불륜 폭로를 협박하며 교체를 막으려 한 시도 등도 보고된 바 있다.
□ 지난해 노벨물리학상을 받은 제프리 헌턴 캐나다 토론토대 교수는 “현재 AI는 굉장히 귀여운 새끼 호랑이와 같다”며 AI 위험성을 경고했다. 나중엔 그 호랑이가 주인을 잡아먹을 수도 있다는 얘기다. 그는 “AI로 인해 인류가 30년 안에 멸종할 가능성이 10~20%”라고도 했다.
□ AI는 이로울 수도 해로울 수도 있다. 이는 결국 AI를 쓰는 인간이 어떤 인간이냐에 달렸다. 인간 명령을 거부하는 AI를 두려워할 게 아니라 인간이 점점 인간성을 잃어가는 걸 걱정해야 하는 게 순서다. 인간성을 상실한 인간이 얼마나 잔인해질 수 있는지는 역사가 잘 보여준다. 영화에서 AI 반란이 가능했던 것도 인간과 자본의 탐욕에서 비롯됐다. 영리와 권력을 위해 AI의 안전성과 윤리성을 저버리지 못하도록 빅테크 규제를 강화하는 게 시급하다. 인간을 학습하는 AI는 인간을 닮고 배울 수밖에 없다. 사람부터 사람다워지는 게 답이다.
박일근 수석논설위원
