3月19日，在科技界备受瞩目的英伟达GTC大会如期而至，本次大会不仅展示了英伟达在GPU技术、人工智能和机器人领域的最新进展，更是揭示了未来计算和智能技术的发展方向。虽然GTC大会还没有完全结束，但是它所带来的巨大信息量早已令人震惊。以下就是截至目前，GTC大会上最主要的六大关键词：
关键词一：Blackwell架构
新GPU架构Blackwell得名于美国数学家David Harold Blackwell。Blackwell用于数据中心，针对当前火爆的AI大模型优化，训练、推理性能和能效均大幅提升，与Grace CPU、新一代网络芯片等产品一起，面向生成式AI共同组成完整解决方案。黄仁勋还特意称，Blackwell不只是芯片，而是一个全新的平台。
Blackwell拥有六项革命性技术，其GPU搭载2080亿晶体管，采用定制TSMC工艺，并通过10TB/秒连接实现双芯片统一运作；第二代Transformer引擎结合NVIDIA技术，支持更大的计算模型和4位浮点AI推理；第五代NVLink提供1.8TB/s的吞吐量，优化了大规模GPU间的通信；RAS引擎利用AI进行预防性维护，提升系统稳定性和运行时间；安全AI技术保护敏感数据；而解压缩引擎则加速数据分析，提升整体数据处理效率。这些技术共同推动了AI和高性能计算的发展。
关键词二：超级芯片GB200
基于Blackwell的处理器，B200为人工智能公司提供了巨大的性能升级，其AI性能为每秒20千万亿次浮点运算，而此前基于Hopper架构的最强的H100为每秒4千万亿次浮点运算，约是其5倍。
如果要用Hopper训练一个拥有1.8万亿参数的GPT模型，可能需要8000个GPU，并消耗15兆瓦的电力。如果使用Blackwell来训练，只需要2000个GPU，同样的90天，但功耗降低至约四分之一，仅需4兆瓦的电力。
新一代超级芯片GB200在拥有1750亿参数的GPT-3大模型基准测试中，性能是H100的7倍，训练速度是H100的4倍。此外，GB200是NVIDIA GB200 NVL72的关键组件。GB200 NVL72作为单个GPU运行，具有1.4 exaflops的AI性能和30TB的快速内存，用于LLM推理工作负载，并将成本和能源消耗降低多达25倍。
关键词三：高速铜互连
所谓的高速铜互连，就是在原有的高速背板连接的基础上，直接用铜缆连接取代光缆连接，用铜缆的优势是不需要电到光再光到电的转化，从而实现实现GPU与NVSwitch之间的高速互联。一定程度上采用铜连接的方式可以在降低成本的同时达到更高的效能。
具体来说，GB200超级芯片包含2个Blackwell GPU和1个Grace CPU，单GB200 NVL72机架可以包含72颗GPU，提供720PFLOPs的训练性能和1440PFLOPs的推理性能。在这种配置中，GPU与NVSwitch之间的连接采用的是铜互联形式，即高速背板连接器，而对外则使用光互联形式，即光模块-I/O连接器。
关键词四：生成式AI微服务（NIM）
NIM是一套优化的云原生微服务，旨在缩短上市时间并简化在任何地方部署生成式AI模型的过程，包括云、数据中心和GPU加速的工作站。它通过使用行业标准API，抽象了AI模型开发和为生产打包的复杂性，扩大了开发者群体，将部署时间从几周缩短到几分钟。
作为NVIDIA AI企业版的一部分，NIM以每年每GPU 4500美元、或云端每小时每GPU 1美元的价格，为开发AI驱动的企业应用和在生产中部署AI模型提供了一条简化的路径。
GTC大会上，英伟达新发布了数十种NIM，企业可以使用这些微服务在自己的平台上创建和部署定制应用程序，同时完全拥有并控制其知识产权。黄仁勋发言称，现有的企业平台拥有可以转化为生成式AI辅助的数据宝藏；这些与英伟达的合作伙伴生态系统共同创建的容器化AI微服务是每个行业的企业成为AI公司的基石。
关键词五：GR00T基础模型和Isaac机器人平台
在GTC大会上，英伟达宣布Project GR00T启动。这是一个通用的人形机器人基础模型，旨在推动其在机器人技术和具体化人工智能方面的突破。由GR00T驱动的机器人将被设计为理解自然语言并通过观察人类行动来模仿动作，包括快速学习协调、灵巧等技能，以便在现实世界中导航、适应和互动等。在GTC主题演讲中，黄仁勋展示了几种这样的机器人完成各种任务。
