CUDA란? CUDA(Compute Unified Device Architecture)는 NVIDIA에서 개발한 병렬 컴퓨팅 플랫폼 및 API로, GPU의 연산 능력을 활용하여 일반적인 범용 연산(GPGPU, General-Purpose computing on Graphics Processing Units)을 가능하게 하는 기술이다.
쉽게 말하면 쿠다는 GPU를 슈퍼컴퓨터처럼 사용하는 도구라고 할수 있다. 기존의 컴퓨터(일반 CPU)는 한 번에 하나씩일을 처리한다면 쿠다를 활용한 GPU는 동시에 여러가지 일을 처리할수 있어서 훨씬 빠르게 작업을 끝낼 수 있다.
엔비디아가 인공지능(AI) 개발용 반도체로 전 세계를 호령하는 것은 뒤에 버티고 있는 ‘쿠다’ 덕분이다. 쿠다는 엔비디아 반도체를 이용해 AI를 개발할 수 있도록 도와주는 소프트웨어 개발도구, 즉 프로그래밍 언어다. 엔비디아는 자체 AI 반도체에 가장 적합도록 쿠다를 만들어 무료로 뿌린다. 전 세계 개발자들은 엔비디아의 AI 반도체를 사용하는 한 쿠다를 벗어나기 힘들다. 따라서 엔비디아는 AI 반도체와 쿠다를 묶어 엔비디아 생태계를 형성하며 전 세계 AI 시장을 쥐락펴락하고 있다.
그런데 중국의 AI 개발업체 딥시크가 이를 깨트렸다. 딥시크는 지난달 20일 공개한 추론형 AI ‘R1’ 개발에 쿠다가 아닌 ‘PTX’라는 다른 프로그래밍 언어를 사용했다. PTX는 쿠다보다 좀 더 기계어에 가까워 다루기 힘든 만큼 고도의 개발력이 필요하다.
사용하기 편한 쿠다를 놔두고 딥시크가 굳이 어려운 PTX를 택해 R1을 개발한 이유는 미국이 엔비디아의 고사양 AI 반도체 ‘H100’을 중국에 수출하지 못하도록 규제했기 때문이다. 따라서 딥시크는 이보다 사양이 떨어지는 AI 반도체에서 ‘H100’ 못지않은 성능을 짜내기 위해 쿠다가 아닌 PTX를 사용했다. 원래 딥시크는 방대한 금융 데이터를 분석해 자동으로 주식이나 채권, 파생상품에 투자하는 퀀트 헤지펀드인 하이플라이어에서 만든 회사다. 업계는 딥시크가 퀀트 투자 프로그램을 개발하는 과정에서 높은 기술력을 확보했을 것으로 본다.딥시크는 AI 훈련 과정에 쿠다를, 정작 이용자들이 사용하는 추론형 AI는 PTX를 사용했다. 이 얘기는 뒤집으면 세간에 알려진 것과 달리 딥시크가 저사양 AI 반도체만 사용한 것이 아니라 AI 훈련에 H100 등 고사양 반도체를 사용했을 가능성이 높다는 뜻이다. 반면 추론 능력을 가진 AI를 PTX로 개발하면서 중국산 화웨이 반도체 ‘어센드 910C’를 사용했다.
딥시크의 진정한 충격은 여기에 있다. 쿠다에서 벗어난 덕분에 엔비디아의 독점을 깨트린 것이다. PTX를 다룰 능력이 된다면 고가의 엔비디아 반도체 대신 다른 AI 반도체를 사용해 유사한 성능의 AI를 개발할 수 있다는 것을 보여줬다.
궁즉통(窮則通), 막힌 부분을 뚫기 위해 해결법을 찾으면서 딥시크는 엔비디아의 쿠다 생태계를 깨트렸다. 그렇다고 AI 개발업체들이 모두 딥시크를 따라할지는 미지수다. 비싼 초고속 스포츠카를 마음껏 살 수 있는 여유가 있다면 굳이 다른 자동차로 빨리 가는 방법을 연구할 필요가 없기 때문이다. 쿠다 생태계를 따르든, 딥시크 방법을 취하든 AI 개발업체들의 선택에 달렸다. 그렇더라도 선택지가 하나 늘었다는 것은 엔비디아에는 위기이고 다른 업체들에는 또 다른 기회다.
