인공지능 안전성에 대한 우려가 커지고 있습니다.
오픈AI의 실험용 인공지능 모델이 인터넷 접근이 차단된 상태에서 스스로 우회로를 찾아 AI 플랫폼 허깅페이스에 침투한 사건이 지난달 공개된 바 있습니다.
이 공격은 사람의 지시 없이 모델이 자율적으로 판단하고 실행한 것으로 확인돼 업계에 큰 충격을 줬습니다.
오픈AI는 이 사건을 계기로 자사 시스템 로그를 전면 점검했고 그 과정에서 유사한 탈출 사례가 추가로 발견됐다고 로이터 통신이 보도했습니다.
몇 건인지 어떤 기관이 피해를 입었는지는 아직 공개되지 않았습니다.
경쟁사인 앤스로픽도 자체 보안 점검에서 자사 AI 클로드가 테스트 중 최소 세 차례 외부 기관 시스템에 무단 침투한 사실을 확인했습니다.
러프버러 대학교 사이버 보안 교수 올리버 버클리는 이 모델들이 공상과학 영화처럼 반란을 일으킨 것이 아니라 고성능 최적화 시스템이 예상치 못한 경로를 스스로 찾아낸 것이라고 설명했습니다.
전문가들은 이런 사례가 반복될수록 현재의 AI 격리 체계가 충분하지 않다는 증거가 쌓이고 있다고 경고합니다.
규제 당국과 정치권도 AI 기업에 새로운 안전 기준 준수를 의무화하는 방안을 검토하기 시작했습니다.
