英伟达市值全球第一，基于TensorRT的大模型推理加速功不可没

6月19日凌晨1点01分，人工智能芯片巨头英伟达市值周二盘中达到3.33万亿美元，超越微软成为全球市值最高的公司。随着人工智能术的快速发展，市场对高性能人工智能芯片的需求激增，加之英伟达的GPU在人工智能训练和推理任务中表现出色，迅速占据了市场主导地位。

以Transformer为基础架构的ChatGPT等大模型的出现，再一次推起人工智能的浪潮。 企业在招聘AI算法工程师时，开始要求应聘者需要掌握当下深度学习加速必备的 CUDA编程 ，并且需要熟练掌握当下主流的加速工具 TensorRT模型 的使用技巧。

然而学习 TensorRT推理 并不容易，尽管NVIDIA推出了 TensorRT 相关文档，但是这些文档对新入门的小伙伴并不友好，很多人反映自己想学习 TensorRT ，但是苦于学习起来效率太低，只好遗憾放弃。

基于此，深蓝学院与前腾讯高级研究员一起研发了 《 深度神经网络加速：cuDNN 与 TensorRT 》 课程，细致讲解cuDNN、TensorRT这两个当下最热门的深度神经网络加速的工具。

扫码添加
了解具体详情

以下附上部分课程 预览：

（编译TRT git源码sampleMNIST）