고객도 경쟁상대로서 줄곧 외계에서 엔비디아라는 이 회사를 주목할 때 흔히 제기하는 질의였다.
마이크로소프트, 구글, 아마존 등 클라우드 컴퓨팅 거두들은 지난 한 해 동안 대량의 엔비디아 GPU를 구매했으며, 동시에 이러한 큰 고객들도 모두 자사의 칩 자체 연구 계획을 배치하고 있다.황인훈은 앞서 이런 상황에 대해 엔비디아가 직면해야 할 경쟁은"지구상 누구보다도 많다"고 말했다.
지금 엔비디아가 한창인 순간에도 이런 상황이 벌어지고 있다.7월 29일 로이터통신에 따르면 애플은 발표한 연구론문에서 회사가 한창 개발하고있는 AI 대형모형의 밑바닥에는 업계에서 흔히 사용하는 엔비디아GPU (그래픽처리장치) 가 아니라 구글 TPU (장량처리장치) 가 사용되고있다고 언급했다.
전세에 마지막으로 입장한 과학기술대공장으로서 애플은 공개보도에서 엔비디아의 GPU를 대규모로 구매한 기록이 없으며 애플 AI의"꽃이 누구의 집에 떨어졌는가"도 줄곧 시장의 관심사였다.애플은 아이폰과 다른 장치에서 작동하는 AI 모델을 구축하기 위해 AI 모델의 훈련과 추론을 지원하기 위해 2048개의 TPUv5p 및 8192개의 TPUv4를 사용했다고 이 신문은 전했다.
현재 엔비디아는 이 소식에 대해 평가와 대답을 하지 않았다.
TPU는 원래 Google이 TensorFlow 기계 학습 프레임워크를 위해 사용자 정의 한 전용 칩이었습니다.2015년 출시 이후 6세대로 성장한 TPU는 기본적으로 매년 반복되는 업데이트 리듬을 유지하고 있다.그동안 TPU는 구글 내부에서 주로 자용돼 왔으며, 후기에도 구글 클라우드 서비스와 연동해 대외적으로 사용했지만 크게 확장되지 않았다.
작년에 AI 대형 모델의 폭발로 AI 칩이 시장의 광적인 강탈을 당했고, 고급 GPU 카드를 구하기 어려웠으며, 엔비디아는 이 분야에서 일거에 8할 이상의 시장 점유율을 획득하여 패자로 손색이 없었다.그러나 동시에 구글도 TPU에서 암암리에 힘을 쏟고 있다.Techinsights의 통계에 따르면 구글은 작년에 자체 사용한 TPU 칩의 양이 200 만 개를 넘을 것으로 추정되며 시장 점유율은 엔비디아와 인텔에 이어 세계에서 세 번째로 큰 데이터 센터 칩 설계 업체가되었습니다.
자체 TPU 칩에도 불구하고 구글은 여전히 세계 최대의 엔비디아 GPU 구매자 중 한 명이다.시장조사기관 옴디아가 작성한 보고서에서 지난해 사재기한 엔비디아 H100 GPU의 주요 구매자 명단을 집계한 결과 메타와 마이크로소프트가 H100 GPU 15만 개로 공동 1위를 차지했고 구글, 아마존, 오라클, 텐센트는 각각 H100 GPU 5만 개를 구매해 공동 2위를 차지했다.
곡가운은 지난해 엔비디아와도 긴밀히 협력했다.구글은 내부적으로 엔비디아의 GPU를 사용할 뿐만 아니라 클라우드 서비스 플랫폼에서 엔비디아의 GPU 기반 서비스를 제공하여 고성능 컴퓨팅과 AI 응용에 대한 고객의 요구를 만족시키고 있다.
구글을 제외하고 아마존 AWS, 마이크로소프트 등 클라우드 거두들은 모두 Arm 아키텍처를 기반으로 자체 연구 칩을 개발하고 있으며, 클라우드 컴퓨팅 대공장의 코어 제조는 줄곧 외부에서 엔비디아의 위협으로 간주되어 왔다.그러나 엔비디아는 경쟁에 맞서 독점적 우위를 점하고 있다고 주장해 왔다.
황인훈은 2017년 구글이 2세대 TPU를 출시했을 때 CNBC와의 인터뷰에서"구글 TPU 경쟁을 걱정하지 않는다"고 밝힌 바 있다.그의 견해에 의하면 일부 클라우드컴퓨팅대고객들이 자신의 AI서버칩을 개발하여 엔비디아칩에 대한 의존도를 줄일수도 있지만 엔비디아는 여전히 GPU의 탁월한 성능으로 AI분야에서의 선두적지위를 유지할수 있다.
원가도 엔비디아가 줄곧 자사 제품의 승부수라고 주장해 왔다.황인훈이 주장하는"많이 살수록 더 많이 절약한다"는 말에 따르면 규모의 경제 효과로 평균 비용이 낮아지기 때문에 기업이 엔비디아의 GPU를 대량으로 구매할 때 초기 투자가 클 수 있지만 장기적으로는 고성능 GPU의 사용 수명이 길고 유지 비용이 낮으며 고객 전체의 총 운영 비용 (TCO) 이 더 낮다.그리고 경쟁자가 그와 정면으로 경쟁하려면,"상대는 무료라도 나중에 계산하면 여전히 싸지 않다."