공개 인스타 사진을 AI 생성에 자동 활용…초상권 논란에 “판단이 잘못됐다” 백기
메타가 야심 차게 내놓은 인공지능 이미지 생성 서비스 ‘뮤즈 이미지(Muse Image)’의 핵심 기능을 출시 불과 사흘 만에 철회했습니다. 공개된 인스타그램 계정의 사진을 당사자의 명시적인 동의 없이 AI 이미지 제작에 활용하도록 설계한 사실이 알려지면서 프라이버시와 초상권 침해 논란이 거세졌기 때문입니다.
메타는 지난 7월 7일 자사의 초지능연구소가 개발한 첫 이미지 생성 모델인 뮤즈 이미지를 공개했습니다. 이용자가 메타 AI에 원하는 장면을 설명하면 이미지를 제작하고, 스케치 등을 이용해 결과물을 수정할 수 있도록 만든 서비스입니다.
문제는 이용자가 프롬프트에 성인 공개 인스타그램 계정을 ‘@멘션’하면, 해당 계정에 올라온 사진과 인물의 모습을 참고해 새로운 AI 이미지를 만들 수 있도록 한 기능이었습니다.
공개 계정 이용자들은 별도의 동의 절차 없이 이 기능에 자동으로 포함됐습니다. 사진이 AI 이미지 제작에 사용되더라도 당사자에게 별도의 알림이 전달되지 않았으며, 이를 원하지 않는 이용자가 직접 설정 메뉴를 찾아 기능을 해제해야 했습니다.
인스타그램에 사진을 공개했다는 사실과 자신의 얼굴을 AI 복제에 사용하도록 허락했다는 것은 전혀 다른 문제지만, 메타는 이 둘을 사실상 같은 동의로 취급한 셈입니다.
논란이 커지자 미국 배우·방송인 노동조합인 SAG-AFTRA는 회원들에게 인스타그램 설정을 변경해 자신의 얼굴과 사진이 사용되지 않도록 조치하라고 권고했습니다. 노조는 동의 없는 디지털 복제의 위험성이 이미 널리 알려진 상황에서 이 같은 기능을 출시한 것은 현명하지 못한 결정이라고 비판했습니다.
할리우드 대형 연예기획사 CAA도 이용자가 거부해야만 보호되는 ‘옵트아웃’ 방식이 아니라, 당사자가 먼저 동의해야만 사용할 수 있는 ‘옵트인’ 방식이 기본이 돼야 한다고 메타를 압박했습니다.
비판이 확산되자 메타는 7월 10일 문제의 기능을 중단했습니다.
메타는 성명을 통해 “유용한 창작 도구를 제공하고, 이용자들이 공개 콘텐츠의 참조 여부를 통제할 수 있도록 하려는 의도였다”면서도 “이 기능이 적절한 지점을 찾지 못했다는 피드백을 들었으며, 이제 더 이상 제공하지 않는다”고 밝혔습니다.
다만 메타가 뮤즈 이미지 모델 전체를 폐기한 것은 아닙니다. 공개 인스타그램 계정을 멘션해 그 계정의 사진과 인물을 AI 생성에 이용하던 기능을 제거한 것입니다.
이번 사태는 메타의 AI 기술력보다 제품을 출시하는 의사결정 과정에 더 큰 의문을 던지고 있습니다.
유명 배우와 정치인은 물론 일반인과 가족사진까지 가짜 광고, 음란 이미지, 사기와 명예훼손에 악용될 수 있다는 위험은 출시 이전에도 충분히 예상할 수 있었기 때문입니다.
더욱이 메타는 페이스북과 인스타그램을 통해 전 세계 수십억 명의 사진과 개인정보를 보유한 기업입니다. 작은 스타트업의 실험과 달리 메타의 잘못된 기본 설정 하나는 순식간에 막대한 피해를 발생시킬 수 있습니다.
AI 경쟁에서 뒤처지지 않으려는 조급함이 이용자의 동의와 권리를 뒤로 밀어낸 것 아니냐는 비판도 피하기 어렵습니다. 먼저 기능을 내놓고 문제가 터지면 철회하는 이른바 ‘일단 출시하고 보자’는 방식은 더 이상 혁신으로 포장하기 어렵습니다.
기술은 빠르게 발전할 수 있지만, 사람의 얼굴과 정체성은 기업의 무료 실험 재료가 아닙니다. 남의 초상권을 먼저 사용한 뒤 문제가 생기면 설정에서 끄라고 하는 방식은 이용자 보호가 아니라 책임 전가에 가깝습니다.
메타가 이번에 멈춰 세운 것은 단순한 이미지 기능 하나입니다. 그러나 잃어버린 것은 다시 한번 이용자들의 신뢰입니다.
출처: Meta Newsroom, Reuters, AP, Axios
