珠海芯动力创始人李原：面向边缘端大语言模型的RPP架构芯片与落地实践 | 演讲预告

芯东西 · 公众号 · · 2024-08-16 18:13

正文

请到「今天看啥」查看全文

生成式AI时代，大模型及 AIGC 的快速发展推动着计算需求的高速增长。

从服务器到边缘，再到AI手机、AI PC、AIoT、智能汽车，各个领域的AI芯片玩家都面临着新的机遇和挑战。

AI大模型与各个赛道的结合，带来了新的体验革新，这些新体验的落地则离不开各类AI芯片的支撑。放眼全球，产业格局的激烈变动，也让更多中国AI芯片企业看到了新的发展机会。

与此同时，芯片设计的复杂度不断提升、产品快速量产上市的要求不断增加、新兴应用市场不断涌现，投资和成本的压力也水涨船高。

AI芯片作为AI产业发展的“基石”，是实现AI产业化落地的核心力量，对AI技术的进步和行业应用都起着决定性作用。

如今各路AI芯片创企可谓是百家争鸣，群雄逐鹿成为国内AI芯片产业的主基调。在这样的产业背景下，我们将全球顶级AI芯片产学研用及投融资领域专家们聚集起来，为他们提供思想交锋、观点碰撞的平台。

9月6-7日，由芯东西与智猩猩共同发起主办的 2024全球AI芯片峰会（GACS 2024） 将于北京举办。今年的峰会将以「智算纪元共筑芯路」为主题，日程为期两天，由一场开幕式、3个主会场专场会议，以及3个分会场论坛组成。3个主会场会议分别是数据中心AI芯片专场、AI芯片架构创新专场、边缘/端侧AI芯片专场；3个分会场分别是 Chiplet 关键技术论坛、智算集群技术论坛和中国RISC-V计算芯片创新论坛。

峰会同期还将布设展区，展示AI芯片产业链优秀企业的最新技术、产品与方案。同时，峰会期间，还将重磅揭晓两大AIIP AI生产力创新先锋企业榜单，分别是2024年度中国智算集群解决方案企业TOP 20、2024年度中国AI芯片新锐企业TOP 10。

目前， 珠海芯动力创始人兼CEO李原 已确定出席，将在AI芯片架构创新专场带来演讲，主题为 《面向边缘端大语言模型的RPP架构芯片与落地实践》 。

嘉宾介绍

珠海市芯动力科技有限公司创始人李原，清华大学物理学本科，日本京都大学通信硕博，加拿大麦克马斯特大学博士后。曾任职于英特尔，现任珠海市芯动力科技有限公司CEO。

李原于英特尔任职期间，曾开发至强CPU服务器系统、负责Mindspeed双模微基站芯片项目，有从产品定义到量产到商用的全链条的经验；管理过中国、英国、美国三国等多个团队，负责系统、软件、芯片、射频等各项任务。留美期间曾代表德州仪器参与制定3,4G通讯标准，并与合伙人创立IPG Communications公司，承接了设计了休斯顿卫星GlobalStar系统的通讯芯片；李原对于WCDMA及LTE双模芯片具有深层次研究，并带领团队设计了WCDMA/LTE双模微基站芯片；IPG公司独创的Turbo译码器被英特尔公司应用至其至强处理器；其公司于2022年成功被MindSpeed公司收购，后又被英特尔收购。

李原发明过多项专利，具有丰富的团队管理经验，现带领芯动力研发团队设计出人工智能RPP-R8芯片产品，此款芯片真正做到了高性能和通用性的高度融合，产品应用场景已覆盖边缘大模型、工业自动化、智能驾驶、泛安防、物流检测、信号处理等领域。

演讲概要

AI PC作为未来的发展趋势，正引领着技术创新的潮流，而大语言模型在边缘端的部署更是这一趋势中的重要一环。

为了实现大语言模型在边缘端的稳定、高效运行，我们需要精心规划技术路径和部署策略。芯动力将深入剖析这一过程中的关键要素，分享其在硬件加速技术方面的独到见解。通过针对大语言模型的计算特性进行数据流的优化，以可重构并行处理器的方式，来高效灵活的处理边缘端大模型的流畅运行。

然而，在这个领域也面临着一些挑战。模型规模不足和功耗过高都可能影响边缘端设备的性能和用户体验。因此，寻找一种能够最好地支持大语言模型、适合其落地的芯片或架构显得尤为重要。

为此，芯动力分析了大语言模型在RPP架构中如何支持高效计算，与传统GPGPU架构相比，它同时实现了灵活的通用计算，并在低功耗与高效率方面显著提升。同时，针对大语言模型的稀疏化特性进行了优化，进一步提升了内存利用率和访存效率，降低了功耗，从而延长了边缘端设备的续航时间。这一创新方案为解决当前面临的挑战提供了新的思路和方向。

峰会日程及嘉宾

报名方式

峰会设有四类电子门票，分别为免费票、免审票、通票和贵宾票。其中，免费票，申请后需经主办方审核通过方可参会，免审票、通票和贵宾票均需购买。大家可以扫描下方二维码，添加小助手“雪梨”即可进行免费票申请，或购买电子门票。已添加过“雪梨”的老朋友，给“雪梨”私信，发送“GACS24”即可。