专栏名称: 伯虎财经
超100万人关注的财经媒体。伯虎团队聚焦头部企业,以深度原创为特色,为你发掘精彩的商业价值。
目录
相关文章推荐
禽报网  ·  冻品•2-11\\多点多单品下调200元/T ... ·  昨天  
禽报网  ·  冻品•2-9\\局部单品继续跌100-300 ... ·  3 天前  
51好读  ›  专栏  ›  伯虎财经

大模型回归实业,少谈梦,多赚钱

伯虎财经  · 公众号  ·  · 2024-06-24 23:46

正文

大家都知道美国现在AI很火,但是现在火到已经有点看不懂的地步了。

苹果前脚在WWDC24上公布了自己在AI上的新进展,隔天市值就上涨了2142亿美元。而以微软为首的美股“Big 7”的市值更是达到史无前例的14万亿,占据标普500的32%。

冷静下来想想,疯涨的背后有多少泡沫?

也难怪Gartner在最新发布的AI技术成熟度曲线,把「生成式 AI」和「基础模型」放在期望膨胀期的巅峰,同时也提示大家,任何繁荣之下都可能掩盖巨大的潜在风险。著名投资人朱啸虎就说,他信仰AGI,但他信仰能马上商业化的。

就是少谈梦,多赚钱呗!

没错!因此在国内, 以政府、金融和央国企为代表的大型政企客户已经成为了AI落地的重要战场。

要知道,这类客户资金实力雄厚,自身积累也丰富,在利好政策的推动下,企业的智改数转已经形成了明显的趋势。他们明白,只要找准合适场景,大模型降本增效的作用可是十分明显。

有资金、有实力、有场景,怪不得政企市场成为大家追捧的对象。

但秋香深入了解发现,政企的大模型落地之路看起来并不容易,主要的难点有三个:

首先是大模型建设路线的选择。 大模型要怎么建?从0开发不仅时间周期长、投入资金大、人员要求高,还不一定能达到预期效果。所以,在成熟的、工程化能力强的商用基础大模型的基础上,开发和微调出适合自身特性的行业专属大模型对政企来说才是优选。

其次是数据安全的考虑。 行业专属大模型想要好用,企业自身的私有数据就需要参与训练。

投喂的数据越专业,模型自然就越懂行。但是大型政企因为自身的特殊性,不光对模型的安全性要求很高,而且更倾向于将数据留在本地,确保“数据不出域”。

最后就是算力挑战。 除了提高单点的性能,更重要的是,如何把有限的算力用好。尤其是把CPU、GPU、NPU等各种算力资源都能协同调度起来,并且自上而下考虑算子、存储、网络等多方面软硬协同创新,是突破算力瓶颈的必然之路。

由此看出,政企这门生意,不仅要求高、挑战大、还十分看重自主创新!虽然谁都想做,但真正做起来确实是困难重重,能做好的实属凤毛麟角。于是, 在一众解题思路里,大模型混合云不乏是一个绝佳选择。

为啥这么说?比如,基于混合云构建的大模型,可以直接部署在本地,解决数据不出域的安全问题;其次混合云还能让行业大模型在公有云上训练,充分利用云上充沛的算力资源,在混合云上结合企业本地数据微调,最后推送到边缘云进行推理。总的来说,就是既能满足业务创新的诉求,也能缓解企业对数据安全的担忧。

察觉到这点,华为云在去年就推出业界首个大模型混合云华为云Stack,在今年的华为开发者大会上,华为云还发布了大模型混合云十大创新技术,包括多样性算力调度、云边协同、大模型训练断点续训等等,瞄准大模型在政企落地的难点和堵点,从系统性创新的角度,解决这些业界难题甚至世界级难题。







请到「今天看啥」查看全文