中国信通院专家李论：面向大模型的智算集群建设有三个要点

大模型落地过程中， AI+HPC融合的万卡集群是布局重点 ，其中蕴藏着众多机遇，也是难点与卡点。针对此，李论提出， 面向大模型的智算集群建设有三个要点：

一是软硬高效协同的新型基础设施。 整个人工智能产业链的形态正发生变化，早期产业呈现出明显的水平化特征，而今天，主导路线变成了大模型、大数据、大算力，以模型为核心的产业链上下游关联变革，底层的产业链体系架构在向基础设施的方向发展，芯片从单点变成了大规模的集群，平台的集约性等更为凸显，大模型训推需求上下传导至产业链各个环节，新型基础设施体系正在形成。

二是算力效能极致优化提升。 在构建底座的过程中，Scale up（纵向优化）和Scale out（水平拓展）相互结合，对软硬件支撑水平和全栈整合能力提出更大挑战。一方面，硬件与软件的协同适配问题仍是重点；另一方面，规模扩展到千卡、万卡时，追求线性集群扩展能力难度较大，依旧是需要工程界和学术界共同解决的问题。

三是支持超大规模扩展的网络架构。 这需要基于自身需求、结合大模型训练特点推出定制化组网方案，并为更大集群拓展做好准备。当前，面向大语言模型的定制化、国产化、规模化的架构体系也在不断出现。

对于底座支撑整体，李论认为 挑战包括三个方面 ：如何准确度量智算集群系统的实际算力？软硬件协同不深，如何增强智算生态韧性？智算建设浪潮后，如何可持续运营与服务？

面对这些问题， 李论给出了调整建议 ： 一是提升智算基础设施规划水平 ，对产品技术选型、应用场景需求、市场竞争格局、投资收益等进行充分调研、精准测算； 二是加快推动国产软硬件厂商兼容适配 ，推动面向大模型的人工智能训推集群建设的标准化和规范化； 三是引导鼓励智算集群差异化发展运营 ，重视智算生态运营，结合区域特点制定差异化智算生态发展策略。