专栏名称: 脑极体
你的困惑,来自于无路贴近未知。我们在技术、思想、传播的异界,贩来极限脑量下的TMT。
目录
相关文章推荐
宛央女子  ·  狗血八卦! ·  昨天  
杭州网  ·  她们,官宣喜讯! ·  2 天前  
杭州网  ·  她们,官宣喜讯! ·  2 天前  
宛央女子  ·  不想工作!不想工作!不想工作! ·  4 天前  
51好读  ›  专栏  ›  脑极体

以全栈智算拥抱生态,为AIGC种一棵向上生长的巨榕

脑极体  · 公众号  ·  · 2024-04-29 18:52

正文


榕树,被称为百木之王。它既有极深的根,又有繁茂的叶。只要一棵榕树长成,就能够独木成林,遮天蔽日。更可贵的是,榕树可以为树荫下繁茂的生态提供支撑,形成“一榕生,万物长”的格局。


开年以来,OpenAI推出了炸裂的Sora文生视频模型,再一次将AIGC技术竞赛的天花板拉高,科技巨头苹果也宣布大力投资生成式AI。


种种迹象都表明,狂飙了一年的AIGC,仍在吸引大量行业和企业的涌入,我们已经很少见到科技与互联网公司说他们不关心大模型、不想做AI。


然而,在大模型及AIGC的落地实践中,大型政企会面临一个困难局面:既希望确保AI技术与基础设施全栈可靠,具有高自主、高安全的特征,同时又希望接入开放多元的生态,满足行业专属场景定制化、个性化需求,实现生态化发展。



如何帮助政企平衡二者的发展?今天的AIGC和大模型,需要一棵榕树般根深叶茂的支撑。其中,根,就是AI技术;叶,则是AI生态。


产业用好AIGC、激活新质生产力的现实需求,也驱动着基础设施服务商们不断升级。


以新华三为例,就选择将AI技术的“根”扎得很深很牢,又要让AI产业生态枝繁叶茂,催生应用落地繁荣生长。



如何更快地利用AI技术长出新质生产力,是这个春天很多企业都在思考的问题。那么不妨一起来看看新华三是如何以端到端的全栈智算解决方案助万物生长。



根要深,叶要茂

政企AI之路的挑战


在讨论新华三这棵AI巨榕之于产业的价值之前,我们有必要先了解一下,从2023年春季的爆火,AIGC狂飙一年之后,如今的政企所面对的技术与产业背景。


整体来看,中国大模型和AIGC产业已经达到了惊人的成就,相关应用也开始尝试向具体的业务场景探索,展现出强劲的增长态势。大模型、AIGC作为新质生产力,目前已经成为各行各业的共识。


然而这一年来的落地实践,也让我们看到了存在于国内AI产业的深层隐忧:大型政企、科研院校做AI大模型,有着三大难以兼顾的发展挑战。


1. 技术不易贯通。 AI及大模型训练,是一项复杂且技术密集的任务,要求异构算力的深度整合以及高效的分布式并行计算,其中的技术挑战层出不穷。比如异构算力意味着要将不同类型的计算硬件,如GPU、FPGA甚至ASIC,进行有效协同。然而,不同硬件之间的接口、通信协议以及优化方法各不相同。此外,分布式并行训练要求在多个计算节点之间,实现数据的快速传输和同步。网络延迟、数据不对称以及节点故障等问题,都可能影响到训练的性能和稳定性。可以说,想要利用多种计算资源来提供算力,必须实现对分布式并行计算的“一体化”贯通/协作,以满足模型训练的复杂需求,这是做AI的首要难关。



2. 信息安全无法保障。 AI作为新质生产力,与各行各业的结合才刚刚开始,其中包括大量国计民生关键行业。训练AI模型时,往往需要使用大量的用户数据,这些数据可能包含商业机密或隐私信息,在公域环境下,如何确保这些数据不被泄露或滥用,成了一个巨大的挑战。此外,AI的训练推理都十分依赖高性能计算硬件及相关软件,人工智能基础设施的供应链韧性与安全性难以保障,也是很多企业的顾虑所在。


3.生态难以发展。 我们知道,大型政企或实体行业在落地AI时,需要的软硬件很多,往往会考虑一揽子工程。这时,一个繁荣且富有活力的AI生态,可以为政企提供多样化的AI产品和服务。但生态建设需要各方以开放的态度,愿意共享资源,携手合作创新,而目前部分科技巨头更希望将生态伙伴锁定在自身的软硬件体系内,这让很多不想“把鸡蛋放在一个篮子”的政企,无法加速拥抱AI的脚步。



不难看出,生态的融合是部署AIGC能力落地、推进智能化升级的关键。


有没有一种可行的解决办法,能同时实现三者的兼顾与平衡,帮助政企加速部署AI能力呢?今天的新华三,就提供了一种解题思路:


端到端的全栈的灵犀智算解决方案,如同一颗AI巨榕。新华三选择将AI之根扎进深处,打造安全坚实的AI软硬件底座;用一体化的技术枝干,让AI开发使用全栈贯通;将生态之叶伸向苍穹,携手优选生态模型,孕育出AI应用与服务的繁花万千。



技术之根深入大地

一棵坚韧不拔的AI之榕


政企做AI最担心的是什么?一开始引入AI应用或大模型很容易,但那只是“首付”。AI技术与业务场景的结合,需要长时间的适配、迭代、升级。如果在这个过程中,出现了“算力买不到”“模型用不了”的风险,会给相关业务和服务带来持续的危机。因此,一个高可靠、高安全的AI基础软硬件生态,对于政企市场来说必不可少。


坚韧不拔的AI巨榕,必须将技术牢牢扎根。目前,业界已形成共识,那就是我国的AIGC行业可以分为基础设施层、模型层和应用层三个层级结构。但能够将三层一体贯通的厂商仍属少数。 新华三发布的灵犀智算解决方案,就是新华三自身所打造的、面向AI时代的全栈技术体系,在这个体系里,三个层面将一体贯通,让技术之根向下扎入底层创新、向上抵达应用末梢。



首先是基础设施层。


如前所说,单一的计算资源,难以满足AIGC及大模型的训练需求,需要综合利用多种计算硬件,而将不同架构、不同类型的计算资源有效地整合并实现协同工作,是一个巨大而重要的问题。尤其是自2024开年 Sora文生视频大模型惊艳亮相以来,更强大的AIGC模型与万亿参数规模LLM的研发进程还将进一步加速,中国算力瓶颈的突围变得愈发紧迫。 对此,新华三利用自身的技术积累,充分发挥“算力×联接”的乘数效应,将新华三领先的算力和联接技术进行最佳的调优与配合,带来倍增的技术整合优势和智算效率,放大智算资源价值,发挥AIGC应用的最大潜能。


“算力多元化” ,聚合多种算力资源,提供CPU和GPU多元化选择,满足市场与客户的多样化需求,并加强供应链的供给保障。


“联接标准化” ,推动联接标准化,通过服务器内、外部GPU联接标准化,实现异构GPU的智算集群,降低算力部署和应用的成本,并通过软件生态的标准化,打通智算孤岛,促进资源共享与产业共同繁荣。


这一智算底座,将为“AI巨榕”下的政企用户们,提供源源不断的算力“养分”。


其次是模型层。


去年,新华三推出国内首个面向To B、To G领域的私域大模型百业灵犀(LinSeer),支持在私域环境下进行数据分析和模型训练,可以确保政企客户在安全、专属的环境下使用大模型,解决了很多国计民生行业的后顾之忧。今年,新华三在模型层上有了更显著的提升,首先是在知识蒸馏上,以推动模型基座小型化实现数据高精度、高质量和高表现,其次是在输出校准上,以精炼模型回答提升用户体验,同时针对特定场景设计专用算法,增强AI使用的精准度,最后是在模型使能上,通过模型、知识、应用及安全等多层次的融合,解决更加复杂的问题。


然后是应用层。


想要让更多行业用户能够轻松上手,降低使用成本至关重要。因此,新华三打造了一站式灵犀应用使能平台(LinSeer Hub),可实现多元模型组合管理、AI Agent开发、模型服务等功能,能够灵活兼容新华三百业灵犀私域大模型及其他国内外主流模型,不断降低AI使用门槛,助力政企客户快捷构建智能应用,实现“模型使用自由”。



总的来说,依托新华三这棵AI之榕,政企可以一站式获得覆盖各层级的软硬件支持,让自身的AI能力快速生根发芽。



生态之叶繁茂参天

百行百业的智能生长


但如前文所说,构建一个开放的AI生态实属不易。对于投入了大量资源的AI厂商来说,将AI开发者、ISV服务商、客群关系都绑定在自身的生态内,可以更早地建立竞争壁垒,实现商业回报。但这也给AI使用者和政企客户带来了不便,比如无法灵活选择更适合自己的大模型,难以得到充分及时的技术支持。







请到「今天看啥」查看全文