近日，国际数据公司（IDC）发布《中国生成式AI应用开发平台市场：企业统一AI开发平台的雏形》，报告显示，百度智能云拿下8个维度的7项满分，综合评分在14家获评厂商中位列第一。
作为行业首个生成式AI应用开发平台报告，本次报告对中国市场14家主流厂商，从数据集成能力、模型调优能力、模型部署能力、加速计算能力、工程化能力、平台生态、用户体验、战略领先等8大维度，进行了全面评估。其中百度智能云在全部8个维度上均拿下最高分，其中7项满分，总分排名第一。
依托千帆大模型平台3.0与百舸AI异构计算平台4.0组成的新型AI基础设施，百度智能云为客户提供面向生产力场景开发生成式AI应用并实现规模化落地的全套企业级服务。目前，百度智能云拥有中国最大的大模型产业落地规模。超过六成的央企和大量的民营企业，正在联合百度智能云进行AI创新。在IDC此前发布的《中国模型即服务(MaaS)及AI大模型解决方案市场追踪，2024H1》报告中，百度智能云以32.4%的市场份额，位居中国MaaS市场第一。与此同时，2024年上半年中国AI大模型解决方案市场，百度智能云营收占比达17.0%，位居市场第一。
千帆3.0+百舸4.0
打通生成式AI应用落地“最后一公里”
IDC报告指出，具备覆盖大模型全生命周期的完整工具链是百度智能云千帆大模型平台的重要优势。针对如何选择模型、如何调优模型效果、如何开发应用这三道企业必答题，千帆3.0提出了业内领先的解决方案。
针对模型选择与效果调优，千帆ModelBuilder不仅向企业客户提供丰富的模型选择，如不同尺寸旗舰模型与主力模型、精专垂类模型、以及传统多模态能力模型等；而且拥有全流程的模型开发工具链能力，支持用户从数据管理、模型调优到模型部署的模型开发全链路。
为支持用户低门槛调优模型效果，千帆ModelBuilder推出Prompt模板与模型精调样板间。前者适用于提示词优化，用户稍作改写，就能增强模型输出效果；后者适用于模型精调，企业照着样板间设置参数，就能训练出符合需求的模型。千帆ModelBuilder还基于全流程工具链推出“模型蒸馏”与“数据飞轮”两大解决方案。模型蒸馏，可帮助数据积累不足的企业，利用文心旗舰级大模型完成数据准备，实现模型精调冷启动。而数据飞轮，则利用应用所产生的真实业务数据，反馈给模型，推动模型迭代，增强应用效果。
针对应用开发，千帆AppBuilder提供企业级Agent、企业级RAG等关键能力。企业级Agent包含自主规划Agent、工作流Agent等功能。在不久前的百度世界2024大会上，千帆平台全新发布“工作流Agent”功能，通过学习企业流程与规范，能适应不同岗位职责，快速成为拥有专业水平的“数字员工”。另外，千帆AppBuilder的企业级RAG功能可帮助落地的生成式AI应用快速“懂业务”。这背后也得益于百度智能云向量数据库VectorDB的全力支持。在IDC发布的《RAG与向量数据库市场前景预测》报告中，VectorDB在核心性能、功能全面性、大模型支持等五个关键领域保持领先，综合排名并列TOP 1。
生成式AI应用爆发式增长，不仅依托于强大的模型推理能力及领先的模型开发、应用开发平台，还要依靠稳定的算力平台支持。百舸4.0能够极致满足企业客户从集群创建、开发实验，到模型训练、推理的全旅程算力需求，实现AI应用“快稳省”落地。在模型训推开启前，百舸4.0能够实现工具层面的秒级部署，并将万卡集群运行准备时间从几周缩减至1小时，同时提供可观测大盘，能够对多芯适配等方面进行全方位监测，帮助用户更好地把控整体项目。而进入模型训练、推理阶段，百舸4.0可帮助企业极大地节约算力与时间成本。在稳定性方面，结合自研集合通信库BCCL等各类方案，百舸4.0可以保障万卡任务有效训练时长占比达到99.5%，达到业界领先水平；在效率方面，基于AIAK-LLM大模型训推加速套件，百舸4.0实现万卡任务训练加速30%，长文本推理加速100%。与此同时，千帆平台上的全流程工具链也能在模型训推阶段发挥重要作用。比如千帆ModelBuilder提供了非常多压缩功能和推理计算加速功能，在节约50%以上成本的同时，使得模型吞吐可以提升3-5倍，助力企业在模型训练推理过程中进一步降本增效。
IDC预计，未来中国生成式AI软件市场规模将达到35.4亿美元。当前，生成式AI应用在B端已率先进入爆发期，最新数据显示：百度智能云千帆大模型平台已经帮助客户优化了3.3万个模型、开发了77万个企业应用，文心大模型日均调用量超过15亿次。生成式AI应用正在能源、电力、制造、金融、交通等数十个行业的生产力场景中加速融合落地。
国家电网正在围绕文心大模型、千帆平台，结合电力行业高质量数据，联合百度共创电力行业大模型基础底座，打造1个统一大模型平台，服务国网总部、2个产业单位、27个省公司，并在调度、设备、营销等六大专业领域深入探索。目前，已经在电力设备运检、供电服务等电力行业核心场景成功完成应用落地。
中国最大的餐饮公司百胜中国，基于文心大模型打造了AI智能客服系统，为旗下包括肯德基在内的多个品牌提供服务。目前，AI客服每天能够为百胜中国处理超过15万次消费者沟通，问题解决率高达90%；在辅助人工方面，AI客服能够快速归纳、总结消费者诉求，辅助客服更快速、更精准地回复，整体效率提高10%。此外，大模型还能够实时评估客服服务质量，帮助百胜中国进一步提升服务水平。
杭州全诊医学基于千帆平台和文心大模型打造了AI医疗助理应用，能够在导诊、预诊、诊间、入院、手术、随访等全阶段服务医生患者。以辅助医生撰写病历为例，全诊医学通过使用20万份精标病历数据对大模型进行精调，使AI医疗助理的医学用语更准确、更规范，大幅提升病历内容质量。病历生成的准确度提升了45%，病历书写时间减少75%，医生的接诊量提高了20%，造福更多病患。
生成式AI应用日渐繁荣的背后，折射出“应用驱动”已经成为中国大模型行业发展的主旋律。生成式AI应用开发平台或将对企业AI开发需求“一统江山”。IDC中国研究总监卢言霞表示：“今天有众多IT厂商进入生成式AI应用开发平台市场，未来这一市场有可能会升级为统一的企业AI开发平台。”
可以想见，基础模型能力、全流程工具链、工程化能力、平台生态、战略定力将成为未来云厂商比拼的核心科目。而百度智能云作为综合实力全面的赛道领跑者，将进一步激发产业活力，推动企业级AI应用生态持续繁荣。
