英伟达业绩会:公司正在努力扩大明年Blackwell的产能,但需求仍超过供给
我爱霍启刚掖
发表于 어제 11:43
114
0
0
路线图方面,公司正在努力执行年度路线图,并在提供平台性能的同时,致力于减少训练、推理成本,降低AI的使用门槛,以及在电力资源有限的情况下最大化单位能耗的性能,一切按计划进行。
Hopper的需求持续到明年前几个季度。Blackwell下季度交付的数量也会比这个季度更高,下下季度继续增长。毛利率方面,公司预计随着Blackwell陆续出货,毛利率会开始增长,预计毛利率在75%左右。
Q&A
Q:Blackwell需求的驱动力?
A:基础模型预训练的扩展仍然在延续。除此外,还有两种扩展:(1)训练后扩展,第一代是强化学习人工反馈,现在有基于合成数据的扩展;(2)推理时间的扩展,比如strawberry、chatgpt o1等模型,思考的时间越长,答案的质量就越高,模型也会考虑思路链、多路径规划、反思等方案,模拟人类回答问题时脑海中的思考模式。
因此,现在有三种扩展,产生对公司基础设施强大的需求,上一代模型用10万个hopper,下一代用10万个Blackwell。
此外,推理的增长也会推动需求,公司现在是全球最大的推理平台,未来Blackwell会用于训练,也会用于推理。
最后,企业对AI Agent的需求成为最新的潮流,这也推动了需求
Q:考虑到最近发热问题相关的传闻,市场关心公司能否按GTC提出的规划顺利发布各项产品?Blackwell的产能瓶颈现在是什么环节?
A:(1)Blackwell正在全力生产,本季度交付的Blackwell超出预期,公司正在努力扩大明年的产能,但需求仍超过供给,CSP对Blckawell的需求很强劲。
(2)公司已经有几代的集成经验,但目前仍然有很多工作需要完成,Blackwell的需求很好,本季度供应量和发货量都超出预期;
(3)供应链方面,Blackwell有很多平台,包括风冷/液冷、NVL72/NVL36、X86/Grace等不同组合,得到了全球供应链的支持,包括台积电、安费诺、Vertiv、SK-海力士、美光、安靠、京元电、富士康、广达、纬颖、戴尔、惠普、联想等公司,供应链合作伙伴数量惊人;
(4)路线图方面,公司正在努力执行年度路线图,并在提供平台性能的同时,致力于减少训练、推理成本,降低AI的使用门槛,以及在电力资源有限的情况下最大化单位能耗的性能,一切按计划进行。
Q:考虑到Q4 blackwell收入可能会超过原先数十亿美元的预期,公司预计什么时候Blackwell收入超过hopper?毛利率展望?
A:(1)Hopper的需求持续到明年前几个季度;Blackwell下季度交付的数量也会比这个季度更高,下下季度继续增长;
(2)毛利率方面,公司预计随着Blackwell陆续出货,毛利率会开始增长,预计毛利率在75%左右;
(3)市场正在两个计算转型的窗口,一个是cpu转型gpu,第二个是机器学习的发展,现在的数据中心是AI智能工厂,能生成新的资料,如果客户很多,这些工厂会全天候运行,这与过去的数据中心有所不同,这两个转型将持续数年。
Q:明年下半年恢复75%毛利率是否是合理假设?公司预计什么时候会看到市场进入硬件的消化周期?公司预计需要几个季度来满足第一轮需求?
A:(1)公司认为明年下半年有可能恢复到mid70%的毛利率。
(2)现在绝大多数数据中心都是CPU时代的产物,并不符合数据中心现代化的需求,未来开出来的数据中心项目都会是AI的,这种转型是一部分需求;
(3)同时,生成式AI也在带动新的增量,比如openAI、harvey、runway,这些并不是取代过去的功能,而是新的事物。
综上,数据中心的现代化以及AI新应用的带动,会推动硬件的需求。
Q:毛利率下限预计是多少?下个季度hopper是否可能环比下滑?
A:首先,毛利率低位可能是71%-72.5%这个范围,公司目标改善到75%。
Hopper Q4还会继续销售,同时,Blackwell的需求也很强劲,两者都会发生,至于Hopper Q4的环比表现,有可能可以实现环比增长,但仍需继续观察。
Q:公司在推理市场的看法?
A:公司的愿景是未来世界出现大量推理场景,那才是AI的真正成功,公司希望看到每家公司都在进行全天候的推理,用户打开Outlook、Powerpoint、excel、PDF时的体验都在生成token;此外,公司对物理AI也有所期待,这对于工业AI、机器人很有价值,也是很多AI初创团队的机会,这是公司构建omniverse的原因。
公司的目标是推理,并且看到这一增长趋势正在发生。推理的难点包括准确度、高吞吐量、低成本、低延迟、多模态等,这些创新和要求下,英伟达的架构、生态系统表现很棒,任何创新都可以进入英伟达的计算平台,无论是数据中心还是机器人等边缘场景。
Q:网络业务的现况?
A:网络同比保持高增,本季度只是略有下滑,但增长势头预计很快恢复,团队正在为blackwell和越来越多的系统做准备。
Q:主权AI的展望?
A:公司提到了很多公司在主权AI方面的项目,因此,主权AI的表现和pipeline仍然很好,各国正在致力于用自己的语言、文化构建模型,这会是一个增长机会,包括欧洲的机会、亚太的机会。
Q:公司现在游戏业务进展如何?是否存在产能被挤占的问题?
A:公司努力确保不同产品的供应能力,游戏方面的供给没有问题,挑战在于能以多快的速度投向市场,随着更多供应商回归正轨预计有所改善,本季度只是暂时性地供给紧张。
Q:随着供给爬坡,环比增速是否还会再度提速?
A:公司只提供一个季度的指引,随着下季度blackwell逐步放量,公司会给出更多信息。
Q:中国数据中心业务的展望?大选后是否出现变化
A:无论新政府有什么要求,公司会完全遵守法规规定,并尽最大努力支持客户、参与市场竞争。
Q:现在训练、推理大概的比重?公司提到三个扩展的比重?
A:目前主要在基础模型的预训练,训练后的新技术才刚刚出现,此外,还需要尽可能降低推理的成本,三个扩展都在发展,市场需要越来越多的计算,因此公司必须尽最大努力将性能一次性提高好几倍,才能保持计算成本的下降。
CandyLake.com is an information publishing platform and only provides information storage space services.
Disclaimer: The views expressed in this article are those of the author only, this article does not represent the position of CandyLake.com, and does not constitute advice, please treat with caution.
Disclaimer: The views expressed in this article are those of the author only, this article does not represent the position of CandyLake.com, and does not constitute advice, please treat with caution.
-
상해증권보 중국증권넷소식 (기자 손소정): 11월 20일, 문원지행 WeRide는 산하의 자동운전환경위생차 S6 (이하"문원환경위생차 S6"라 략칭함.) 와 무인도로청소기 S1이 이미 각각 싱가포르 빈해만해안대로 (Marina ...
- 蜜桃成熟时
- 그저께 20:18
- Up
- Down
- Reply
- Favorite
-
11월 19일, 애플 중국공식사이트는 보기 드물게 App상점과 국내 App개발자의 수익상황을 발표했는데 한 국내 대학교수의 연구보고를 인용하여 풍랑에 떠오른"애플세"논란에 측면적으로 대답했다. 얼마 전 # 애플 위 ...
- 世雨8
- 그저께 19:05
- Up
- Down
- Reply
- Favorite
-
AI 서버 제조사 초미세 컴퓨터,'숨통'기회 얻다! 미국 주식의 야간 거래에서 초마이크로컴퓨터의 주가는 한때 50% 가까이 급등했다.증권사 중국 기자가 원고를 발송할 때까지 이 회사의 주가 상승폭은 여전히 40% ...
- 蜜桃成熟时
- 3 일전
- Up
- Down
- Reply
- Favorite
-
AI 소프트웨어 회사 스노플레이크 (Snowflake) 는 실적 발표 후 32.71% 상승해 상장 이후 가장 상승폭이 높아 시장 예상을 훨씬 웃돌았고 같은 실적을 발표한 엔비디아의 기세까지 압도했다. 스노플레이크의 주가 ...
- Cherry95
- 4 시간전
- Up
- Down
- Reply
- Favorite