近日,中国信通院开展大模型轻量一体机测评,百度百舸一体机凭借软硬件软硬件
技术的成熟度、功能性能的完备性以及落地应用的适配性
等方面的优势,单机强势通过该项测评,成为首批通过该项测评的大模型一体机。
《大模型轻量一体机技术能力要求》测评以一体机全栈能力为核心,落地企业私有化部署,
一是评估模型在硬件芯片、异构计算设备及智算集群等环境中的适配表现;二是评估适配过程中的训推能力、工具链效能及交付实践能力。
百舸一体机是专为私有化场景设计的具有极致性价比的大模型一体机,搭载国产高性能芯片昆仑芯
P800,在性能、功耗和部署灵活性上达到行业领先水平。
让每个企业都拥有自己的智能引擎
单机8卡超轻部署,极致性价比
百舸一体机搭载国产高性能芯片昆仑芯
P800,单机8卡配置即可实现支持DeepSeekR1/V3满血版,在性能、功耗和部署灵活性上达到行业领先水平。
昆仑芯
全面支持
MLA、多专家并行等特性,
支持
8bit推理,可提供精度无损的推理服务;
实现2437tokens/s吞吐,可支持500人团队并发使用,充分满足高性能推理需求。
面对企业技术落地的复杂性挑战,凭借百度百舸异构计算平台的优势,百舸一体机可提供单机到集群扩展方案。
百度百舸异构计算平台具有成功点亮国内首个国产化万卡集群的经验,百舸一体机天然支持异构资源扩展。
无论是
初创团队需要从单机实验快速起步,大型机构需应对千亿参数模型的训练需求,还是突发业务流量要求算力的弹性供给,百舸一体机都
可为企业每个成长阶段定制最优方案。
百舸一体机构建
"芯-端-云"全链路自主技术闭环,搭载昆仑芯P800国产AI芯片。
P800显存规格优于同类主流GPU20%-50%,对MoE架构更加友好
,实现
"安全可控不妥协性能"的突破性平衡。
凭借百度智能云丰富的经验,可支持
最快半天开箱上电到服务上线,帮
企业落地开箱即用的合规
AI工场。
百度智能云已成功点亮昆仑芯P800万卡集群,这也是国内首个正式点亮的自研万卡集群。百度智能云将进一步点亮3万卡集群。国产昆仑芯万卡集群以及未来三万卡集群的建设,从硬件到软件,技术挑战是全方位的。百度百舸AI异构计算平台4.0,围绕落地大模型全旅程的算力需求,在集群创建、开发实验、模型训练、模型推理四大方面,能为企业提供“多芯、快、稳、省”的AI基础设施,在万卡集群的建设中发挥了至关重要的作用,其在万卡集群上实现了99.5%以上的有效训练时长,能够将两种芯片混合训练大模型的效率折损控制在5%以内。作为最开放的GPU算力平台,百度百舸的整体性能相比业界平均水平提升高达30%。未来一年,将是各种AI原生应用爆发的黄金时期,“自研芯片、万卡集群、国产模型、算力平台”,以“中国创新”支持和服务“中国创新”,降低的不仅是大模型的训练成本,更降低了大模型的准入门槛,将为产业的全面繁荣乃至整个行业的长远发展提供了新思路和新方向。