阿里云高级技术专家李鹏：AI基础设施的演进与挑战 | GenAICon 2024

芯东西 · 公众号 · · 2024-03-30 12:00

正文

4月18日-19日，由智猩猩和智东西共同发起主办的2024中国生成式AI大会（GenAICon 2024）将在北京JW万豪酒店正式举行。

大会由主会场会议+分会场技术研讨会/论坛+展览+榜单组成。主会场将进行开幕式、大模型专场、AI Infra专场和AIGC应用专场；分会场将进行智猩猩具身智能技术研讨会、智猩猩AI智能体技术研讨会和中国智算中心创新论坛。其中，智猩猩具身智能技术研讨会、智猩猩AI智能体技术研讨会将主要面向大会购票用户以及定向邀请用户开放。

大会以“重构世界奔赴未来”为主题，将邀请50+位重量级嘉宾同台分享，以前瞻性视野全景式解构生成式AI的时与势、危与机、破与立。

目前，已有40+位嘉宾确认参会演讲或参与圆桌讨论。其中， 阿里云高级技术专家、阿里云异构计算AI推理团队负责人李鹏 将在主会场第二日上午的AI Infra专场带来演讲，主题为《 AI基础设施的演进与挑战 》。

嘉宾介绍

李鹏，阿里云异构计算高级技术专家，毕业于北京航空航天大学计算机系，目前是阿里云异构计算AI推理团队负责人，负责生成式AI推理的性能优化工作，构建了AIACC、DeepGPU等阿里云AI加速套件。在GPU领域深耕近10年，其中负责的自研加速框架AIACC帮助阿里云在2020年在斯坦福DAWNBench竞赛的图像识别（Image Classification on ImageNet）榜单中，包揽了训练时间、训练成本、推理延迟以及推理成本四项第一。

演讲概要

人工智能当前已经迈入了快速发展的阶段，尤其是大语言模型的突飞猛进正给各行各业带来了日新月异的变化。AIGC的场景对云计算AI基础设施与产品也提出了非常鲜明的发展要求。我将从产业一线的角度与大家一起探讨面向AI与大模型计算的场景下，如何构建稳定、安全、和弹性的云基础设施架构，以满足云上动辄千亿规模的参数量及极大的算力需求。