3分钟速览黄仁勋GTC演讲:最强AI芯片、NIM微服务等
海田1
发表于 2024-3-19 22:40:29
196
0
0
与过往一样,截至发稿,从黄仁勋开始讲话起,英伟达已经洋洋洒洒发布了40篇新闻稿,本文将着重概述一些今天早晨的重点进展,供投资者参考。
更大的GPU——Blackwell架构如期登场
虽然事前全市场都知道今天会有一款新旗舰算力GPU登场,但黄仁勋在演讲中并没有把名字讲清楚——仅表示推出了一款更大、更强的Blackwell架构GPU,一度引发媒体的混乱。但从官网的数据来看,今天老黄手里拿的应该是B200芯片,官网上也列出Blackwell架构存在B100芯片。英伟达并没有披露售价,仅表示将在年内向合作伙伴发货。
英伟达披露,新的B200芯片拥有2080亿个晶体管,采用台积电定制的4NP工艺制造。值得一提的是,这次的芯片将两个die连接成一个统一的GPU,die之间的通信速度可以达到10TB/秒。不出意外,这款芯片使用是192GB的HBM3E内存。
而GB200 Grace Blackwell超级芯片,是由2个B200芯片(4个die)和Grace CPU组合而来。相较于H100,大语言模型性能提升30倍,同时能耗只有25分之一。
老黄在演讲中举例称,如果要训练一个1.8万亿参数量的GPT模型,需要8000张Hopper GPU,消耗15兆瓦的电力,连续跑上90天。但如果使用GB200 Blackwell GPU,只需要2000张,同样跑90天只消耗四分之一的电力。不只是训练,生成Token的成本也会随之显著降低。
配合这一套新芯片,英伟达还推出了第五代新NVLink芯片,以及GB200 NVL72服务器、X800系列网络交换机、下一代人工智能超级计算机NVIDIA DGX SuperPOD等一系列产品。
开发软件新方式:NIM微服务
讲完硬件更新后,黄仁勋也将剩下的时间投入软件生态。除了地球气候数字孪生、医药开发AI外,英伟达也在AI Enterprise 5.0中推出了一系列“微服务”,包括简化企业将AI模型部署到生产环境中的NIM。
黄仁勋说到:“以后公司将不再需要编写软件,而是组装AI模型,给它们提出任务,还有工作产品的示例,审查计划和中间结果。”
英伟达介绍称,NIM微服务通过打包算法、系统和运行优化,并添加行业标准的API,简化了AI模型部署过程。这使得开发人员可以将NIM集成到现有的应用程序和基础设施中,而无需进行大量定制或专业知识。
数字孪生支持Vision Pro
英伟达也在周一宣布,Omniverse云现在允许开发者将他们的工业场景,从内容创作应用程序发送到英伟达的Graphics Delivery Network(GDN),借此可以将先进的3D体验流式传输到Apple Vision Pro。
这种新工作流将苹果Vision Pro的高分辨率显示与英伟达的云渲染相结合,只需设备和互联网连接即可提供空间计算体验。
还有许许多多零碎的官宣
半导体领域,英伟达宣布,台积电和Synopsys将英伟达计算光刻平台CuLitho投入先进芯片的生产。
在电信领域,黄仁勋宣布名为NVIDIA 6G的研究云,这是一个由生成式人工智能和Omniverse技术驱动的平台,旨在推动下一代通信时代的发展。
交通运输领域,全球最大电动车公司比亚迪将采用英伟达集中式车载计算平台DRIVE Thor开发下一代电动车。此外,比亚迪同时将使用英伟达基础设施进行自动驾驶模型训练,以及英伟达Isaac来设计/模拟智能工厂机器人。
机器人也是整个演讲的最后一个环节。黄仁勋宣布了多项助力机器人技术开发的软件。其中包括Isaac Perceptor软件开发工具包,涉及多摄像头视觉里程测量、三维重建以及深度感知等。还有Isaac Manipulator——机器人手臂感知、路径规划和运动学控制库。最后他还宣布了一个名为GR00T的项目,这是一个面向人型机器人的通用基础模型,旨在推动公司在机器人技术和具身智能方面的突破。
在一对使用英伟达Jetson芯片的迪士尼机器人orange和green陪伴下,整场发布会至此落下帷幕。
CandyLake.com is an information publishing platform and only provides information storage space services.
Disclaimer: The views expressed in this article are those of the author only, this article does not represent the position of CandyLake.com, and does not constitute advice, please treat with caution.
Disclaimer: The views expressed in this article are those of the author only, this article does not represent the position of CandyLake.com, and does not constitute advice, please treat with caution.
-
세계 최대 호텔 그룹인 메리어트 인터내셔널 그룹이 기업 본사가 있는 메릴랜드주 정부 홈페이지에 제출한 정보에 따르면 2025년 초 833명을 감원할 계획이라는 보도가 나왔다.메리어트가 지난해 대외적으로 언급한 ...
- snail_007
- 그저께 22:38
- Up
- Down
- Reply
- Favorite
-
"장충모는 일찍 황인훈을 대적전 CEO로 초청한지 10분만에 거절당했다."11월 29일, 올해 93세의 대적전 창시자 장충모의 자서전 신권이 정식으로 출판되였다. 자서전에서 장충모는 엔비디아 창시자 CEO 황인훈과의 ...
- 茉莉707
- 그저께 20:49
- Up
- Down
- Reply
- Favorite
-
"금리 인상이 다가오고 있다!일본 중앙은행은 방금 메가톤급 신호를 보냈다!"닛케이신문에 따르면 일본 중앙은행 총재 시다와 남자는 인플레이션과 경제 추세의 발전이 중앙은행의 예측에 부합함에 따라 금리 인상 ...
- 奶王钟浩斌
- 어제 14:40
- Up
- Down
- Reply
- Favorite
-
["내년에 적어도 100개 조정"] 영휘슈퍼마켓 부총재, 전국조정프로젝트 책임자 왕수성은 상해증권보와의 인터뷰에서 영휘슈퍼마켓은 전면적으로 품질소매로 전환하고 제품과 서비스 두 방면으로부터 착수하여 품질 ...
- 流失的心倒
- 어제 23:54
- Up
- Down
- Reply
- Favorite