캐나다 총기 난사범 반루트셀라르
지난해 6월 ‘폭력 활동 조장’ 인지
계정 정지했지만 당국 신고 안 해
오픈AI “내부 신고 기준 미달”
지난해 ‘폭력 활동 조장’으로 생성형 인공지능(AI) 서비스 챗GPT가 경찰 신고를 검토했던 한 이용자가 최근 캐나다 시골 마을에서 8명을 총격 살해한 18세 청년과 동일한 인물이었다는 사실이 드러났다. 참사 전 이미 챗GPT는 ‘레드 플래그(위험 징후)’를 인지하고 있었지만 참사를 막을 기회를 놓쳤던 셈이다.
월스트리트저널(WSJ)은 챗GPT를 운영하는 오픈AI가 지난해 6월 한 이용자의 수상한 챗GPT 대화 내용을 캐나다 수사 당국에 알리는 방안을 검토했지만 실행에 옮기지는 않았다고 20일(현지시간) 보도했다. 해당 이용자의 이름은 제시 반루트셀라르. 지난 12일 캐나다 브리티시컬럼비아주 한 시골 마을에서 총기로 가족을 포함해 8명을 살해하고 25명을 다치게 한 뒤 스스로 목숨을 끊은 청소년이다.
반루트셀라르는 지난해 챗GPT를 활용해 며칠에 걸쳐 폭력과 관련한 시나리오를 묘사한 것으로 알려졌다. 챗GPT의 자동 검토 시스템에 의해 해당 대화 내용은 위험 요소로 표시됐고, 10여 명의 오픈AI 직원들이 내부적으로 해당 게시물에 조치를 취할지 여부를 논의했다. 일부 직원들은 해당 대화 내용이 현실 세계에서의 잠재적인 폭력 행위를 암시한다고 판단했고, 경영진에게 이를 캐나다 사법 당국에 알려야한다고 보고했다. 그러나 오픈AI 경영진은 반루트셀라르의 계정을 차단한 뒤 당국에 연락하지 않았다.
12일 캐나다 브리티시컬럼비아주 시골 마을 텀블러리지에서 발생한 총격 사건으로 범인 포함 9명이 사망한 뒤 추모 공간에 피해자들의 사진과 인형, 초, 꽃 등이 놓여 있다. 텀블러리지=로이터 연합뉴스
오픈AI 대변인은 WSJ에 “반르투셀라르의 활동은 신고 기준에 부합하지 않았다”며 “사건 소식을 접한 직후 캐나다 왕립경찰(RCMP)에 연락을 취했으며, 수사에 적극적으로 협조하고 있다”고 설명했다. 오픈AI는 특정 이용자의 활동이 타인에게 심각한 신체적 위해를 가할 가능성이 높고 임박한 위험을 초래한다고 판단할 경우 사람이 직접 이를 검토해 사법 당국에 신고하는 시스템을 갖추고 있는데, 반루트셀라르의 경우 그 수준에 도달하지 않는다고 판단했다는 것이다.
반루트셀라르는 사건 이전부터 지역 경찰이 주시하던 인물이다. 경찰은 그의 정신 건강을 확인하기 위해 최소 한 번 이상 그를 체포했고, 그의 가족들이 보관 중이던 총기를 압수하기도 했다. 다만 반루트셀라르가 사건 당시 사용한 총기 중 2정은 압수된 적도, 등록된 적도 없는 총기였다. 그는 과거 사회관계망서비스(SNS)에 사격장에서 총을 쏘는 자신의 사진을 게시했고, 3D 프린터로 탄피를 제작했다고 주장했으며, 총기 옹호론자들이 제작한 유튜브 동영상에 관한 온라인 토론에도 참여했다. 온라인에는 그가 성전환의 부담감에 대해 고민한 내용이나, 환각성 버섯을 먹은 뒤 횡설수설한 흔적도 남아 있었다.
WSJ는 “온라인 플랫폼들은 오랫동안 사용자 개인정보 보호와 공공 안전 사이에서 균형을 맞추는 방법을 놓고 논쟁을 벌여왔다”며 “이제 사람들이 가장 은밀한 생각과 삶의 세부 사항까지 털어놓는 챗봇을 운영하는 AI 기업들도 이런 논쟁의 한가운데에 서게 됐다”고 분석했다.
