DOITAPP
DOIT数据智能产业媒体与服务平台
立即打开
DOITAPP
DOIT数据智能产业媒体与服务平台
立即打开

今年GTC,黄仁勋有哪些“见人所不见”?

“名人用过的东西是文物,凡人用过的是废物;名人做错事叫名人轶事,凡人叫犯傻;名人强词夺理叫雄辩,凡人则是狡辩;名人握握手叫做平易近人,凡人就是巴结;……,”在我看来,这并不是名人和凡人的差别,而是社会的风气和态度。

名人之所以为名人,还在于其“见人所不见”的本领,并且被实践不断检验、证明正确的结果。也因为如此,名人的一言一行备受关注。

NVIDIA创始人兼首席执行官黄仁勋

今年GTC( GPU Technology Conoference,)会议期间,最值得关注的无疑是NVIDIA创始人兼首席执行官黄仁勋对未来的洞见,考虑到以Chat GPT为代表的生成式AI的非凡表现,因此,黄仁勋的见解、观察更值得关注。

曲速引擎”背后的源动力

“我们正处于AI的 iPhone时刻 ”,他说。

他把AI比喻为“曲速引擎”源动力。所谓的曲速引擎,就是一种利用空间扭曲进行移动引擎,是一种超光速(faster-than-light,FTL)的推进系统。在科幻小说《三体》中,程心就是借助曲速引擎驱动飞船,逃脱末日崩塌的。

对于AI的这些溢美之词是预料中的事情。但是黄先生着重强调了其背后的支撑技术

黄仁勋表示,类似ChatGPT大型语言模型(LLM)的部署是一个重要的全新推理工作负载。为了支持像ChatGPT这样的大型语言模型推理,黄仁勋发布了一款新的GPU——带有双GPU NVLink的H100 NVL。

基于NVIDIA Hopper架构的H100配有一个Transformer引擎,旨在处理驱动ChatGPT的类似GPT模型。与用于GPT-3处理的HGX A100相比,配备四对H100与双GPU NVLink的标准服务器的速度最高可达10倍。

黄仁勋表示:“H100可以将大型语言模型的处理成本降低一个数量级。”

此外,黄仁勋还提到了Grace CPU,通过900GB/s高速芯片对芯片的接口,NVIDIA Grace Hopper超级芯片可连接Grace CPU和Hopper GPU。黄仁勋解释说,“ Grace Hopper是处理超大型数据集的理想选择,比如用于推荐系统的AI数据库和大型语言模型。”“客户希望构建规模大几个数量级的AI数据库,那么Grace Hopper是最理想的引擎。”

最新版本的DGX搭载8个NVIDIA H100 GPU,它们连接成为一个巨大的GPU。黄仁勋表示:“NVIDIA DGX H100是全球客户构建AI基础设施的蓝图”,现已全面投入生产。

在云的时代,用户当然可以透过多云来获得所需要的计算资源。为此,NVDIA与Oracle、亚马逊、Azure等多云服务商达成了一系列的合作。

不仅如此,黄仁勋发布了NVIDIA AI Foundations云服务系列,其中NeMo自定义语言文本-文本转换生成模型、Picasso视觉语言模型,以及BioNeMo药物研发模型等,深化行业AI的应用和落地。

生成式AI在明,Omniverse在暗

当生成式AI的光芒太过耀眼的时候,Omniverse的价值就会被淡忘并忽略。为此,NVDIA用一系列行动来传递Omniverse的价值

黄仁勋宣布,NVIDIA 正在与微软合作,将 NVIDIA Omniverse Cloud 这一完全托管的云服务引入全球各行各业,并推出又一项云服务以加速企业实现前所未有的模拟和协作能力。为了展示Omniverse在3D设计协作、数字孪生模拟的突出价值,黄仁勋分享了一段视频,展示了NVIDIA Isaac Sim如何通过完全保真的数字孪生,帮助亚马逊仓库机器人Proteus改进动作编排。

黄仁勋深入介绍了Omniverse在3万亿美元汽车产业数字化中的作用,如Lotus正在使用Omniverse以虚拟方式组装焊接站;梅赛德斯-奔驰使用Omniverse为新车型建立、优化和规划装配线;Rimac和Lucid Motors在Omniverse上使用真实设计数据创建数字商店;宝马与Idealworks合作,使用Omniverse中的Isaac Sim生成训练工厂机器人的合成数据和场景;比亚迪也在使用NVIDIA DRIVE Orin 集中式计算平台扩展其更广泛的车型。

电信巨头AT&T采用NVIDIA AI,以实现更高效地数据处理。同时,他们正在测试Omniverse ACE和Tokkio AI虚拟化身工作流为客服部门及其员工帮助台建立、定制和部署虚拟助手。

美国运通、美国邮政署、Microsoft Office和Teams以及亚马逊等4万家客户都在使用高性能的NVIDIA TensorRT推理优化器和运行时,以及多框架数据中心推理服务软件NVIDIA Triton。Uber 使用 Triton 实现每秒为数十万车辆预测到达时间,拥有超过6000万日活用户的Roblox使用Triton提供游戏推荐模型、构建头像、审核内容和市场广告。

微软、腾讯和百度都在使用NVIDIA CV-CUDA实现AI计算机视觉,这项目前处于公测阶段的技术可优化前处理和后处理,节省4倍成本和能耗。

黄仁勋宣布, NVIDIA cuLitho将助力ASML、TSMC和Synopsis等半导体领导者加速新一代芯片的设计和制造。

小结

生成式AI在明,Omniverse在暗,一明一暗勾勒出AI改变世界的格局。AI正在助力全球完成不可能的任务。

千万不要只见树木,不见森林!

未经允许不得转载:DOIT » 今年GTC,黄仁勋有哪些“见人所不见”?