大家都知道美国现在AI很火,但是现在火到已经有点看不懂的地步了。
苹果前脚在WWDC24上公布了自己在AI上的新进展,隔天市值就上涨了2142亿美元。而以微软为首的美股“Big 7”的市值更是达到史无前例的14万亿,占据标普500的32%。
冷静下来想想,疯涨的背后有多少泡沫?
也难怪Gartner在最新发布的AI技术成熟度曲线,把「生成式 AI」和「基础模型」放在期望膨胀期的巅峰,同时也提示大家,任何繁荣之下都可能掩盖巨大的潜在风险。著名投资人朱啸虎就说,他信仰AGI,但他信仰能马上商业化的。
就是少谈梦,多赚钱呗!
没错!因此在国内,
以政府、金融和央国企为代表的大型政企客户已经成为了AI落地的重要战场。
要知道,这类客户资金实力雄厚,自身积累也丰富,在利好政策的推动下,企业的智改数转已经形成了明显的趋势。他们明白,只要找准合适场景,大模型降本增效的作用可是十分明显。
有资金、有实力、有场景,怪不得政企市场成为大家追捧的对象。
但秋香深入了解发现,政企的大模型落地之路看起来并不容易,主要的难点有三个:
首先是大模型建设路线的选择。
大模型要怎么建?从0开发不仅时间周期长、投入资金大、人员要求高,还不一定能达到预期效果。所以,在成熟的、工程化能力强的商用基础大模型的基础上,开发和微调出适合自身特性的行业专属大模型对政企来说才是优选。
其次是数据安全的考虑。
行业专属大模型想要好用,企业自身的私有数据就需要参与训练。
投喂的数据越专业,模型自然就越懂行。但是大型政企因为自身的特殊性,不光对模型的安全性要求很高,而且更倾向于将数据留在本地,确保“数据不出域”。
最后就是算力挑战。
除了提高单点的性能,更重要的是,如何把有限的算力用好。尤其是把CPU、GPU、NPU等各种算力资源都能协同调度起来,并且自上而下考虑算子、存储、网络等多方面软硬协同创新,是突破算力瓶颈的必然之路。
由此看出,政企这门生意,不仅要求高、挑战大、还十分看重自主创新!虽然谁都想做,但真正做起来确实是困难重重,能做好的实属凤毛麟角。于是,
在一众解题思路里,大模型混合云不乏是一个绝佳选择。
为啥这么说?比如,基于混合云构建的大模型,可以直接部署在本地,解决数据不出域的安全问题;其次混合云还能让行业大模型在公有云上训练,充分利用云上充沛的算力资源,在混合云上结合企业本地数据微调,最后推送到边缘云进行推理。总的来说,就是既能满足业务创新的诉求,也能缓解企业对数据安全的担忧。
察觉到这点,华为云在去年就推出业界首个大模型混合云华为云Stack,在今年的华为开发者大会上,华为云还发布了大模型混合云十大创新技术,包括多样性算力调度、云边协同、大模型训练断点续训等等,瞄准大模型在政企落地的难点和堵点,从系统性创新的角度,解决这些业界难题甚至世界级难题。