专栏名称: 新智元
智能+中国主平台,致力于推动中国从互联网+迈向智能+新纪元。重点关注人工智能、机器人等前沿领域发展,关注人机融合、人工智能和机器人革命对人类社会与文明进化的影响,领航中国新智能时代。
目录
相关文章推荐
信息平权  ·  聊聊 CES 爆火的 AI 眼镜 ·  22 小时前  
信息平权  ·  聊聊 CES 爆火的 AI 眼镜 ·  22 小时前  
宝玉xp  ·  回复@googol4u5g:用来学习也是很好 ... ·  2 天前  
爱可可-爱生活  ·  [CL]《Do NOT Think ... ·  3 天前  
宝玉xp  ·  一用 AI ... ·  4 天前  
爱可可-爱生活  ·  【OS-Genesis:自动化GUI ... ·  5 天前  
51好读  ›  专栏  ›  新智元

【新智元专访】神经元本身也能编程,神经网络学习能力远超预期

新智元  · 公众号  · AI  · 2017-06-11 12:47

正文

   新智元报道  

来源:PNAS 等

作者:闻菲


【新智元导读】以往认为,人脑学习的能力是基于神经元之间连接的增强或减弱。日前,瑞典隆德大学研究人员发表在 PNAS 的一项研究发现,神经元本身也具有编程或者说学习的能力,单个神经元中存储信息的容量远超预期。论文作者在接受新智元采访时表示,这一发现或将为设计全新的人工神经网络带来启发。



当神经解剖学家 Santiago Ramóny Cajal 在 100 多年前首次描述神经元和突触时,他提出增加突触的数量或突触连接的强度,可能是学习的基础。这一假说随后由 Donald Hebb 等人更明确地制定,成为现在的主流观点——学习的基本机制是突触强度的变化。


这意味着学习的本质是神经元细胞对特定输入的去极化或超极化程度(脉冲概率)。换句话说,改变突触强度是形成记忆的主要机制。


延伸到如今人工智能的领域,就成了在人工神经网络中,神经元之间的“突触权重”的变化形成了学习的基础。


没有任何假说或理论提到了神经元本身在学习过程中所扮演的角色。


日前,瑞典隆德大学的一项研究发现,单个神经元不仅能够学会对某个单一的信号产生响应,还能学会对在精确的时间间隔发出的一系列信号产生响应。


研究通讯作者、瑞典隆德大学神经生理学教授 Germund Hesslow 表示,单个神经元的反应就像是用手指弹一下,便奏响了一连串预先编辑好的调子,而不是仅仅只发出一个音阶。


在接受新智元采访时,Hesslow 表示,这项基础的研究工作对神经科学、人工智能,以及整个研究“如何学习”的研究都具有重要意义。


神经元本身也能“编程”,或带来下一代深度学习


长久以来,“学习”一直被视为基于人脑神经元之间连接增强或变弱的过程。儿童自闭症、ADHD 以及语言障碍都与这样或那样的基础学习机制紊乱有关。


瑞典隆德大学的研究人员此前就在实验中发现,神经元细胞能够学会时间上的关联,也就是根据接收到的刺激,发出在时间上有规律延后的信号。


在他们本月初发表于 PNAS 的一项最新研究中,研究人员进一步发现,人脑神经元细胞不止能学会针对单一的一种信号产生响应,还能够学会一系列复杂的响应。


研究人员在论文中写道,实验中神经元细胞所展现出的学习序列的能力表明,小脑控制和协调运动的行为可能更多依赖于细胞内的机制,而不是先前以为的依赖于神经网络


研究还表明,单个神经元中信息存储的能力大大超过预期,性质也与当前主流观点(dominant paradigm)所认为的十分不同。


瑞典隆德大学的神经生理学研究者、Germund Hesslow 教授的同事 Dan-Anders Jirenhed 则表示,这项工作意味着“大脑的学习能力(learning capacity)远远比以前认为的要大”。


Jirenhed 认为,未来拥有“经过训练的神经元”的人工神经网络,将能以更高效的方式处理更复杂的任务。


神经元也能存储信息,大脑学习能力远超预期


隆德大学研究人员关注神经元关联学习(associative learning)和时间学习(temporal learning)的能力。


在实验中,神经元细胞在几小时的训练时间内,学会了两种不同的信号(也即对这两种不同的信号产生响应)。第一种信号之间的延迟是 0.25 秒,第二种信号之间的延迟为 0.5 秒。


研究人员表明,神经元细胞不仅可以学会单个的信号,还能学会对一系列信号产生响应。当输入(刺激)为“信号 - 短暂暂停 - 信号 - 长暂停 - 信号”时,神经元细胞给出的响应也具有完全相同的时间间隔:“响应 - 短暂停止 - 响应 - 长暂停响应”。


如果神经元细胞可以存储时间间隔,那么原则上神经元细胞也可以存储其他信息,例如距离、方向等。当然,这将意味着需要一种方式让神经元“读出”这样的信息,目前还不知道是否可能。但是,这是一个令人兴奋的想法。 


Hesslow 教授告诉新智元,罗格斯大学的神经科学家 Charles Gallistel 多年来一直认为,记忆不是以突触强度的形式存储,而是神经细胞中的某种定量表征(quantities are represented within nerve cells),尽管这一假说目前尚未得到足够多的证据支持。 


不过,隆德大学的研究证明了至少神经元细胞是可以存储时间间隔的,也为将来进一步研究做了铺垫。


研究人员研究的细胞称为“Purkinje Cell/Neuron”,位于小脑。小脑是人脑中控制身体位置、平衡和运动的部分。


隆德大学研究人员研究的 Purkinje 细胞。Purkinje 细胞位于小脑,在学习一系列需要精确把握时间节奏的复杂运动中起着重要的作用,例如弹奏钢琴时手和手指的运动。来源:Germund Hesslow



Purkinje 细胞是脊椎动物小脑皮层中体积很大的一种神经元,在调节和维持运动动态的正常功能方面起着重要作用。单个 Purkinje 细胞在下图中由红色标识,拥有大的瓶状细胞体,单个长轴突和许多线状分支延伸(或称树突,负责接收来自其他细胞的电化学脉冲信号)。通过释放抑制性神经递质 γ-氨基丁酸(GABA),Purkinje 细胞减少其他神经元的活动(发射率),将脉冲发送到中枢神经系统的其他地方。因此,Purkinje 细胞构成小脑皮质的唯一输出,调节运动功能的水平和程度。图片来源:Yinghua Ma and Timothy Vartanian, Cornell University, Ithaca, NY; courtesy of the National Institute of General Medical Sciences, National Institutes of Health, Bethesda, MD



论文及实验介绍



  • 论文:小脑 Purkinje 细胞对序列的习得反应


对小脑中关联学习的研究以前专注于单次的运动。


例如,在眨眼时,受试者能够学会根据条件刺激(Conditional Stimulus,CS)在适当的时间眨眼,比如无条件角膜刺激(Unconditional corneal Stimulus,US)后重复的一个音调。


这些条件刺激(CS 和 US)会传递到小脑的 Purkinje 细胞,后者会获得精确的时间间隔响应,驱动明显的眨眼反应。Purkinje 细胞的这种条件反应的时间由 CS-US 间隔决定,与输入信号中的时间模式无关。


除了单次运动外,小脑在学习诸如弹钢琴等需要多次精确定时的肌肉收缩的复杂运动程序中具有重要作用。


在目前的工作中,隆德大学的研究人员发现,Purkinje 细胞可以学会双重间隙反应(double pause response),也即对拥有 2 个间隙的序列输入信号产生响应。


虽然这项研究针对的是小脑的 Purkinje 细胞,与我们常说的大脑神经元有所不同。但这一研究发现确实改变了以前对神经元细胞“学习能力”(learning capacity)的认知。


正如研究人员所说,以前认为学习更多是发生在神经元之间连接增强或减弱的过程中。现在,神经元细胞本身也具有一定的学习能力,或者说“可编程”。


这一发现如果能切实转换到人工神经网络的设计上,无疑将带来更上一级的人工神经网络,从而实现下一代的深度学习。



编译来源

  1. 隆德大学新闻稿:http://www.lunduniversity.lu.se/article/neurons-can-learn-temporal-patterns

  2. PNAS 论文:http://www.pnas.org/content/early/2017/05/17/1621132114.full