专栏名称: 科创板日报
《科创板日报》是新型主流媒体平台,专注新兴产业与资本,是科创板、新兴产业及资本的重要舆论前沿,深度覆盖新一代信息技术、半导体、生物医药、新能源、新材料、基金等,提供媒体、数据、资源、投行等产品体系。
目录
相关文章推荐
湖南日报  ·  突发!张兰直播间被禁! ·  11 小时前  
新闻株洲  ·  株洲开年大片,满满的科技感! ·  昨天  
湖南日报  ·  热搜爆了!沈腾否认 ·  昨天  
新闻株洲  ·  陈恢清调度政府系统值班值守工作 ·  3 天前  
51好读  ›  专栏  ›  科创板日报

英伟达最强AI芯片炸场!一文速览黄仁勋GTC演讲

科创板日报  · 公众号  ·  · 2024-03-19 19:15

正文

搭载B200芯片的GB200 Grace Blackwell超级芯片系统登场,算力倍增、能耗倍减;对于NIM微服务,黄仁勋表示,以后公司将不再需要编写软件,而是组装AI模型;在具身智能方向,英伟达也公布了一系列新的进展。


作者 | 史正丞

北京时间周二清晨,英伟达GTC 2024会议中最重要的一项日程——创始人兼CEO黄仁勋的主题演讲不久前刚刚结束。如同市场预期的那样,全球资本市场刚刚见到了新的算力芯片/服务器,以及一堆AI软件层面的应用。

与过往一样,截至发稿,从黄仁勋开始讲话起,英伟达已经洋洋洒洒发布了40篇新闻稿,本文将着重概述一些今天早晨的重点进展,供投资者参考。

更大的GPU——Blackwell架构如期登场

虽然事前全市场都知道今天会有一款新旗舰算力GPU登场,但黄仁勋在演讲中并没有把名字讲清楚——仅表示推出了一款 更大、更强的Blackwell架构GPU ,一度引发媒体的混乱。但从官网的数据来看, 今天老黄手里拿的应该是B200芯片 (下图左边),官网上也列出Blackwell架构存在B100芯片。英伟达并没有披露售价,仅表示将在 年内向合作伙伴发货

英伟达披露, 新的B200芯片拥有2080亿个晶体管,采用台积电定制的4NP工艺制造 。值得一提的是,这次的芯片将两个die连接成一个统一的GPU,die之间的通信速度可以达到10TB/秒。不出意外,这款芯片使用是192GB的HBM3E内存。

而GB200 Grace Blackwell超级芯片,是由2个B200芯片(4个die)和Grace CPU组合而来。相较于H100, 大语言模型性能提升30倍,同时能耗只有25分之一。

老黄在演讲中举例称,如果要训练一个1.8万亿参数量的GPT模型, 需要8000张Hopper GPU,消耗15兆瓦的电力 ,连续跑上90天。但如果使用GB200 Blackwell GPU, 只需要2000张,同样跑90天只消耗四分之一的电力 。不只是训练,生成Token的成本也会随之显著降低。

配合这一套新芯片,英伟达还推出了第五代新NVLink芯片、使用液冷的GB200 NVL72服务器,以及X800系列网络交换机、下一代人工智能超级计算机NVIDIA DGX SuperPOD等一系列产品。

开发软件新方式:NIM微服务

讲完硬件更新后,黄仁勋也将剩下的时间投入软件生态。除了地球气候数字孪生、医药开发AI外,英伟达也在AI Enterprise 5.0中推出了一系列“微服务”,包括简化企业将AI模型部署到生产环境中的NIM。

黄仁勋说到:“ 以后公司将不再需要编写软件,而是组装AI模型,给它们提出任务,还有工作产品的示例,审查计划和中间结果。

英伟达介绍称,NIM微服务通过打包算法、系统和运行优化,并添加行业标准的API,简化了AI模型部署过程。这使得 开发人员可以将NIM集成到现有的应用程序和基础设施中,而无需进行大量定制或专业知识

数字孪生支持Vision Pro

英伟达也在周一宣布,Omniverse云现在允许开发者将他们的工业场景,从内容创作应用程序发送到英伟达的Graphics Delivery Network(GDN),借此可以将先进的 3D体验流式传输到Apple Vision Pro

这种新工作流将苹果Vision Pro的高分辨率显示与英伟达的云渲染相结合,只需设备和互联网连接即可提供空间计算体验。

还有许许多多零碎的官宣

半导体领域,英伟达宣布, 台积电和Synopsys将英伟达计算光刻平台CuLitho投入先进芯片的生产

在电信领域,黄仁勋宣布名为 NVIDIA 6G 的研究云,这是一个由生成式人工智能和Omniverse技术驱动的平台,旨在推动下一代通信时代的发展。

交通运输领域,全球最大电动车公司比亚迪将采用英伟达集中式车载计算平台DRIVE Thor开发下一代电动车。此外,比亚迪同时将使用英伟达基础设施进行 自动驾驶模型训练 ,以及英伟达Isaac来设计/模拟 智能工厂机器人

机器人也是整个演讲的最后一个环节。黄仁勋宣布了多项助力机器人技术开发的软件。其中包括Isaac Perceptor软件开发工具包,涉及多摄像头视觉里程测量、三维重建以及深度感知等。还有Isaac Manipulator——机器人手臂感知、路径规划和运动学控制库。 最后他还宣布了一个名为GR00T的项目,这是一个面向人型机器人的通用基础模型,旨在推动公司在机器人技术和具身智能方面的突破。







请到「今天看啥」查看全文