专栏名称: Dance with GenAI
关于生成式人工智能AIGC的一切
目录
相关文章推荐
大数据文摘  ·  风投式思维:哪吒2和DeepSeek背后的共 ... ·  3 天前  
数据派THU  ·  AAAI 2025 | ... ·  10 小时前  
CDA数据分析师  ·  Deepseek爆火,CDA持证人如何确保不 ... ·  2 天前  
软件定义世界(SDX)  ·  马斯克20万块GPU炼出Grok-3,暴击D ... ·  3 天前  
百度智能云  ·  百度财报:智能云Q4同比增长26%,AI驱动 ... ·  4 天前  
51好读  ›  专栏  ›  Dance with GenAI

安克创新CEO阳萌:存算一体芯片将颠覆英伟达GPU

Dance with GenAI  · 公众号  ·  · 2024-11-04 18:23

正文

人工智能的发展历程

阳萌回顾了人工智能的发展历程,指出大约每5到10年,AI领域就会出现一个新的范式。从最早的专家系统、决策树,到支持向量机(SVM),再到深度学习的兴起,每一步都是由少数大牛推动的革命性进步。他特别提到,尽管当前的大模型和Transformer架构看似是AI的新矿脉,但这些可能只是阶段性的,未来20年后,我们可能不再使用这些技术。

分治法VS端到端模型

阳萌提出了分治法和端到端模型的对立观点。分治法,即通过逻辑和数学公式将问题拆解后再组装,是人类理性解决问题的基本方法;把一个大的问题分解成若干个子问题,分治法是人类的理性的解决问题的的必经之路。然而,这种方法在解决复杂问题时遇到了瓶颈。分治你分多分了几步之后,其实就已经是个牛角尖了。端到端模型,如深度学习,通过大量数据训练出一个黑盒模型,不依赖于中间过程的可解释性,这与分治法形成了鲜明对比。

存算一体是方向

在讨论AI的三大支柱——算法、硬件和数据时,阳萌强调了它们之间的相互依赖关系。特别是深度学习的出现,与GPU硬件的发展密切相关。没有GPU,Transformer这样的算法就无法在大规模数据上实现。他预测,未来存算一体的芯片将取代现有的冯·诺依曼架构(通过分治法解决问题,把数据和处理分开),因为这种架构更适合运行端到端的算法。阳萌指出,冯·诺依曼架构适合分治法产生的程序,但不适合端到端的算法。其实英伟达和transformer是开创了一个全新的时代,底层已经不是分治法了,是端到端的算法,中间表现出来的是是大模型。他用大脑的运作方式作为对比,说明大脑的存算一体特性远比现有的计算机架构高效。人脑的一个神经元,它其实是存着一些信息的。然后每一次计算的话,电信号又会通过它进行计算,也就是存储信息和进行计算在同一个神经元里面发生。他预测,未来几年,存算一体的芯片将带来新的算法范式,这些算法可能在运行时自我进化,超越现有的Transformer。存算一体芯片,即在存储单元上直接进行计算,这样可以避免大量的数据搬运,节省能耗。他认为,这种芯片结构非常适合运行大模型算法,并且可能会催生新一代的算法,不再是transformer,这些算法能够在运行时自我学习和进化。







请到「今天看啥」查看全文