专栏名称: 赛迪智库
赛迪智库感谢您的关注。作为中国工业和信息化领域的咨询翘楚,我们密切关注工业和信息化领域热点问题,同步追踪国内外工业和信息化最新动向。
目录
相关文章推荐
河南新闻广播  ·  胖东来,新动作来了! ·  12 小时前  
河南新闻广播  ·  阳光正在赶来!河南即将开启升温模式 ·  昨天  
河南发布  ·  阳光正在赶来!河南即将开启升温模式 ·  昨天  
河南新闻广播  ·  蜜雪冰城今起招股,预计3月3日挂牌上市 ·  2 天前  
51好读  ›  专栏  ›  赛迪智库

观点 | 大模型,也在卷价格

赛迪智库  · 公众号  ·  · 2024-06-07 15:41

正文

本文受访 | 未来产业研究中心 钟新龙


“百模大战”已从算力战、规模战蔓延到了价格战。

5月15日,字节跳动宣布豆包主力模型(小于等于32K)在企业市场的定价只有0.0008元/千Tokens,0.8厘就能处理1500多个汉字,比行业便宜99.3%;5月21日,阿里云宣布通义千问主力模型Qwen-Long,API(编程接口)输入价格从20元/百万Tokens降至0.5元/百万tokens,直降97%;百度随后宣布文心大模型的两款主力模型 ENIRE Speed、ENIRE Lite全面免费;腾讯云5月22日发布公告称,将全面下调大模型价格,其混元-lite即日起免费……

尽管各个平台大模型的参数不一样,最终价格也不尽相同,但价格降幅均在50%以上。大模型降价意味着什么?将带来哪些影响?除了价格,大模型在商业化应用过程中还有哪些关键问题待解?


价格战背后


随着各家厂商相继降价,有业内人士形容称,大模型正从“以分计价”的定价模式向“以厘计价”的时代迈进。AI大模型是出了名的烧钱行业,在其商业化之路还在探索阶段的当下,为何先打起了价格战?


“阿里云能有如此幅度的降价得益于公共云的技术红利和规模效应带来的巨大成本和性能优势。”阿里云相关负责人告诉《中国报道》记者,阿里云从模型和AI基础设施两个层面不断优化,追求推理成本和性能。


据了解,阿里云基于自研的异构芯片互联、高性能网络HPN7.0、高性能存储CPFS、人工智能平台PAI等核心技术和产品,构建了极致弹性的AI算力调度系统,结合百炼分布式推理加速引擎,大幅压缩了模型推理成本,并加快模型推理速度。


“OpenAI也在降价,试想未来大模型在人们日常生活每天都用,低价是真正广泛应用的前提。”火山引擎相关负责人说。


谈及豆包大模型定价,他指出,首先是在技术上有非常多的优化手段,把成本做低且让效果更好,比如模型结构优化调整;其次是在工程上,以前都是单机推理,现在是分布式推理,自然能把各种底层算力用得更好,进而大大降低成本,尤其是调度量非常大后能将不同负载作为混合调度,从而使成本大幅下降。


“大模型降价主要是市场、技术、政策三方面不断优化综合促成的结果。” 赛迪研究院未来产业研究中心人工智能研究室主任钟新龙 告诉《中国报道》记者。


钟新龙指出, 从技术成本来看,随着技术的进步和优化,企业能够以更低的成本提供同样质量的服务;从规模效应来看,大模型企业在积累了足够的用户基础和数据资源后,可以通过规模效应降低单用户的服务成本;从企业内部的成本控制和优化能力来看,通过优化运营和管理流程,企业能够有效降低运营成本;从市场需求的增长和政策支持层面来看,市场需求增长和相关政策的支持落地也为价格调整提供了可能性。


影响几何?

低价和免费模式进入大模型竞技场,会对相关企业和产业发展带来哪些影响?

火山引擎上述负责人表示,国内大模型现在还不是谈竞争的时候,池塘有多大鱼才多大,大模型市场才刚刚开始,当前一起把大模型做好、把应用落地做好、把成本做低,让更多用户和企业受益才是关键,现在远未到激烈的竞争。

钟新龙表示, 对大模型企业而言,降价可以迅速扩大用户基础,增加市场份额。然而,降价也意味着企业收入和利润的减少,特别是对中小型企业来说,可能面临更大的生存压力和财务困境。

谈及对于行业发展的影响,钟新龙指出,降价有助于促进技术的普及和应用。首先,更低的价格让更多企业和开发者可以负担得起大模型服务,推动大模型技术在各行业的广泛应用。其次,降价带来的市场竞争也促使企业不断优化技术,提高服 务质量。

钟新龙同时指出, 也要关注到降价可能带来的一系列问题,如服务质量的下降、技术研发投入的减少,以及市场的无序竞争。如果在降价后,企业通过限制调用速度和任务处理量等方式来控制成本,甚至为了节约推理算力成本,故意“劣化”模型,这就是负面效果了。

“行业需要在降价的同时,保持技术创新和服务质量优化,只有这样才能实现健康持续的发展。”钟新龙说。

华龙证券研报表示,随着国内外大模型厂商技术角逐进一步激烈,大模型行业开启价格战信号明显。通过降低价格门槛,大模型厂商有望吸引更广泛的企业用户群体,从而进一步平衡收入和成本。同时,更多消费端用户有望免费使用基础AI应用,庞大的访问量有助于企业进一步提升模型服务能力,完成良性循环。

商业化应用 之困待解

腾讯研究院日前发布的一份报告认为,在“人工智能+”等重要政策指引下,行业大模型有望加速在传统行业落地应用,并在云智一体的基础设施支持下朝多模态、人工智能体、端侧及小型化等方向发展,更深入地嵌入各行业的工作流程中,从而促进生产力的提升。

目前,在价格之外,大模型在商业化应用过程中还有哪些关键问题需要破解?

钟新龙指出,技术适应性、数据安全、成本控制和实际业务价值等问题是大模型应用落地要逐步探索逐步解决的,毕竟企业主要聚焦的是确保大模型能真正为业务带来价值。

“在实际应用中,大模型需要针对特定领域进行优化。 例如,在医疗领域,大模型需要具备深厚的医学知识才能进行准确地诊断。 大模型误判如何处理,诊断精准性如何保证等,这需要通过实践来进行调试和优化。 钟新龙说。

大模型的训练和应用需要大量的数据,这些数据往往涉及企业的核心业务和用户隐私。 因此,如何确保数据的安全性成为大模型商业化应用的关键问题。 钟新龙建议, 人工智能企业在与行业头部客户签订合同时,必须注重数据安全问题,通过严格的数据管理和加密措施,确保客户数据的安全性。 此外,企业在使用大模型时,还需要遵守相关的数据保护法规,防止数据泄露和滥用。

部署和运行大模型往往需要高昂的计算资源和能耗。 某些企业为了控制成本,选择部署轻量化的大模型版本,或者通过优化模型调用路径来降低计算资源的消耗。 企业在降低成本的同时,如何确保大模型的性能和服务质量不受影响,在业内人士看来,这是需要在具体实践中摸索的。

大模型能否为企业带来实际的业务价值是其商业化成功的关键。 钟新龙 在做调研的时发现,一些制造业企业已经开始探索引入大模型进行生产优化,主要路径是通过实时数据分析和预测维护,大幅提高了生产效率和设备利用率。 “但目前的问题是前期的技术整合和流程优化非常复杂,耗费了大量的时间和资源,最后效果能否达到预期很难保证。 因此,实际业务价值到底如何权衡,对企业而言也是一道新命题。

火山引擎相关负责人指出,大模型的应用场景落地,除了价格因素,一方面模型效果要好; 另一方面,应用生态是群体智慧,更好的模型、更低的成本、更易落地才能繁荣生态。(完)

本文刊于6月7日《中国报道》

温馨提示

如果你喜欢本文,请分享到朋友圈,想要获得更多信息,请关注“赛迪智库”。

我们的推送时间是10:00或17:00,一定不要忘了给“赛迪智库”设星标哦!







请到「今天看啥」查看全文