专栏名称: 芯东西
芯东西专注报道芯片、半导体产业创新,尤其是以芯片设计创新引领的计算新革命和国产替代浪潮;我们是一群追“芯”人,带你一起遨游“芯”辰大海。
目录
相关文章推荐
小米汽车  ·  成都天府赛道 ... ·  15 小时前  
不正常人类研究中心  ·  已经到了不爱吃零食的年纪了 ·  昨天  
不正常人类研究中心  ·  意大利人这是身经百战了 ·  昨天  
51好读  ›  专栏  ›  芯东西

国产 TPU 芯片“No CUDA”软件栈的构建实践|中昊芯英朱国梁演讲预告

芯东西  · 公众号  ·  · 2024-11-21 14:46

正文


12月5-6日,2024中国生成式AI大会(上海站)「GenAICon 2024」将在上海中星铂尔曼大酒店盛大举办。 中国生成式AI大会已成功举办两届,迅速成长为国内生成式AI领域最具影响力的产业峰会之一。


此次也是中国生成式AI大会首次登陆上海举办,由智一科技旗下智能产业第一媒体 智东西 、AI与硬科技知识分享社区 智猩猩 共同发起。本次大会的指导单位是 上海市人工智能行业协会。


大会上海站将设置 “主会场峰会+分会场研讨会+展览区” 。主会场将进行大模型峰会、AI Infra峰会,分会场将组织端侧生成式AI、AI视频生成和具身智能三场技术研讨会。主会场与分会场外则设有展览区。


上海站以“智能跃进 创造无限”为主题,将邀请50+位嘉宾带来致辞、演讲、报告和对话讨论,以前瞻性视角为大家解构和把脉生成式AI的技术产品创新、商业落地解法、未来趋势走向与前沿研究焦点。


在主会场次日进行的AI Infra峰会上, 中昊芯英芯片软件栈负责人朱国梁 将带来演讲,主题为 《国产 TPU 芯片“No CUDA”软件栈的构建实践》


嘉宾介绍

朱国梁,中昊芯英(杭州)科技有限公司芯片软件栈负责人,国防科技大学博士,主要研究方向为分布式系统、操作系统、编译器。曾参与国家重大项目天河系列超级计算机研制工作、神威太湖系列超级计算机研制工作、一款国产芯片操作系统以及编译器研制工作。加入中昊芯英后,组建芯片软件研发团队实现芯片底层软件全栈,实现主流大语言模型的推理和训练。

演讲概要

国产自研高性能芯片面临的诸多挑战中,性能和生态是两个不能避免的话题。英伟达的 CUDA 生态帮助了很多类 CUDA 架构公司解决了可用性和部分性能问题,但也带来了诸多自主可控上的担忧。


本次演讲将从实际的芯片软件栈构建思路出发,结合实际 AI 芯片软硬件架构,介绍在真实的大模型落地实践中,多层次软件栈实现所面临的问题、挑战、以及过程中的选型决策。

大会部分嘉宾及日程








请到「今天看啥」查看全文