正文
作者：李澄宇（中国科学院神经科学研究所）
1
12岁的流浪汉 Walter Pitts [1,2,3] 被一群黑帮匪徒追打，躲进了一个图书馆。打手们骂骂咧咧地找了一圈以后走了。
Walter 却没离开，他的注意力完全被一套三卷本的书吸引了：Alfred
North Whitehead 与 Bertrand Russell 合著的《Principia
Mathematica》。这是作者为纯数学提供逻辑基础的雄心勃勃的大部头著作，努力构建严谨的逻辑构架，把数学命题在自己的构架里一步步推导出来。
独立学习了三年之后，15岁的 Walter Pitts 写信给 Russell，向 Russel 指出在第一卷里的几个错误。Russel 马上回信，邀请 Pitts 去英国学习。
Pitts 没有去湿冷的英格兰，而去了芝加哥大学，没有固定生活来源的他流浪在芝加哥大学的讲堂和校园里（很多时间睡在露天的躺椅上）。
在进芝加哥大学第一年的时候，芝大的数学教授 Carnap 出了一本关于逻辑学的新书，那是1938年。Carnap 不是泛泛之辈，他关于逻辑悖论的论述是三十年代时最完备的。
一天，15岁的 Walter
Pitts 走进 Carnap 的办公室，手里拿着写着自己注释的Carnap 的新书，向 Carnap 对书中的几个地方提出尖锐的评论。
在开始的震惊之后，Carnap 开始反驳，两人交流了一个小时左右。Pitts 把书留在Carnap 那里，离开了办公室。由于 Pitts 没有介绍自己，于是后来的两个月里 Carnap 在芝大里满世界找“懂逻辑的报童”。
Walter Pitts 的故事和其他天才的故事一样，让人难以想象，就像莫扎特、王维、冯纽曼，这些年纪轻轻就在自己的领域独步天下，又似乎全不费力、信手拈来。那么这些天才是否可以人造呢？
Walter Pitts
这个问题在以前也许是很幼稚的，不过现在出现了 AlphaGo 这类人工智能算法，在棋盘上打败了几乎所有的顶级围棋职业高手，包括柯洁这样的天才，也许这个问题是可以被容许讨论的了。
2
1942年，18岁的 Walter 认识了 University
of Illinois（伊利诺伊大学）教授Warren McCulloch。Warren 热情好客，当时 Walter
Pitts 无家可归，于是Warren 邀请他住在自己家里。
在 Walter 住进 Warren 家的当夜，他们就开始合作神经系统如何进行逻辑计算的问题。大概300年前，莱不尼兹证明，任何问题，只要可以用有限数目的词、完整而没有歧义的表达出来，就可以用‘逻辑机’(logical
machine)计算出来。六年之前， Alan Turning 发表了著名的关于universal computing engine的文章。
Walter
Pitts 和 Warren 的问题是，如何把神经系统看成这样一个逻辑机器呢？考虑到当时对脑神经的粗浅而不确定的认识，Warren 和 Pitts 对神经系统的简化是划时代的。
他们把神经元的状态简化为0或1的二进制表示，用一个连接强度的矩阵来标准化神经元之间的相互影响关系，于是在给予一定输入的情况下，McCulloch-Pitts网络将根据这个连接矩阵的状态以及输入，而决定输出是什么。
他们在1943年出版的"A
Logical Calculus of the Ideas Immanent in Nervous Activity"是 McCulloch
和 Pitts 最著名的工作。
从控制论角度来讲，McCulloch-Pitts 网络本身就是最早的有限自动机（finite
automata）之一。这个工作还提供了神经生理问题的逻辑基础，可以说是最早的计算神经科学成果之一。而这篇文章对于人工智能领域来讲，则是开创性的，神经系统的复杂性被高度抽象，并用数学家和工程师容易理解的语言来描述。
从此，人工智能开始以独立的领域而开始其蓬勃发展之势。
3
要描绘神经科学与人工智能领域相互借鉴、相互促进的完整画面，本文的篇幅是不够的。
但是两个领域都意识到“学习”对于生物和电脑行为的重要性，神经科学发现神经元之间的联结“突触”，可以被神经元的活动所改变，这一点很可能是学习的物质基础；在人工智能领域，人工神经元之间的联结强度的改变，也是人工神经网络可以学习的基础。
这一特性，被目前的“深度学习”推到了极致，可以说引起了一个深度学习革命，在网络搜索、网站过滤、广告推送、图像识别、语言翻译等大量应用都可以找到深度学习的实际应用。其中 Geoffrey Hinton 做出了突出的贡献。
Geoffrey Hinton[4] 在英国出生，接受的是基督教学校的教育，虽然他早早的就认为基督教神学是完全的废话[5]。1982年左右，Hinton 和 Terry
Sejnowski一起找到了漂亮的训练人工神经网络的方法，从而发明了玻尔兹曼机（Boltzmann
machine），在人工智能和计算神经科学领域都有很重要的应用。
他还和同行一起推动了BP算法，即反向传播算法（Back-propagation）的广泛应用；之后他一直致力于优化人工神经网络的学习。
但是在二十世纪九十年代到2006之间，人工神经网络慢慢地淡出了人工智能领域的前沿，也许是由于在实际应用中，人工神经网络计算结果容易进入局部极小值（Local minimum），找不到全局最小值（Global minimum），从而无法实现对实际问题的求解。
但是有时候坚守会得到回报的，Hinton 和 Yann
LeCun，另一位深度学习的奠基人，就是这句话的最好诠释。
他们两个人都从神经系统的原理得到灵感：LeCun 把脑的视觉系统的组织结构扩展到人工神经网络中，发明了卷积神经网络，实现了高效的手写字的识别；而 Hinton 则把脑皮层中分层的组织原则移植到人工神经网络中，在2006年发明了深度学习的训练方法。
恰逢计算机能力在2006前后获得了急速提升，网络的大量普及使用提供了大规模的数据，使得深度学习得以发挥其多层网络的优势，在大数据的训练和冲击下，那些局部极小值消失了，取而代之的是全局最小值。
目前，深度学习在很多特定任务，例如人脸识别、图像中的物体识别、语音识别等应用中的正确率已经超过了人类。
Hinton兼职进入Google，而谷歌也收购了“深脑”（DeepMind），这一由系统神经科学家创造的公司，结合深度学习与神经科学中的强化学习（Reinforcement
learning）概念，领导的团队创造了 AlphaGo，并在围棋上战胜李世石和其他顶级职业高手，也许这是深度学习革命的最好注解[6]。
4
开篇的天才故事让我们讲到结束吧。
Pitts 虽然做出了巨大的贡献，但他极度排斥社会的正式承认。在芝加哥大学旁听、而不注册学生，只是个开始。也许是在 Norbert 的安排下，MIT要给他一个学位，所有Pitts需要做的事就是签署一个文件、翻译一篇德文文章（他懂德文，所以那是小菜一碟），而他断然拒绝。
后来MIT想要给他一个正式的教职，这回只要Pitts签署一个文件，同样被Pitts回绝。Pitts刻意销毁自己工作的记录，逃避任何拍照的可能，没有日记以及信件流传。总之，对于不亲身识得他的人，Pitts 是躲在雾里的一个谜，无法看清。
但是有趣的是，与 Pitts 认识的人都会觉着Pitts乐于交流，极好相处，谈吐不凡，知识渊博。往往你问他一个科学或者艺术的问题，他可以把这个问题的来龙去脉、前因后果、娓娓道来，讲上两三个小时，闻者不倦。
Pitts让人联想起电影《海上钢琴师》中的音乐家，天才飘洒大海，却又仅局限于一叶扁舟。Pitts人如美玉，却选择只是泽被身边有限的好友。
Pitts 在1969年逝世于 MIT 的寓所里。死的时候身旁没有一个人。如今，神经元的数学模型被称为 McCulloch–Pitts 神经元。
5
Pitts 的天才和遭遇也许正是目前人工智能还无法企及的能力。深度学习需要“监督学习”，也就是需要提前知道最终答案，从而训练人工神经网络。
Pitts 的创造性思维，在1942年的时候并没有最终答案，人工智能是否在未来可以创造出这一能力？Pitts的社会能力远远不如大多数社会人，那么人工智能在社会行为这一人类特别出色的能力上，能给我们什么样的惊喜？
也许，还是要从神经科学中找到一些关键性的原理性灵感，从而拓展人工智能的能力，也让我们不断思考人类与计算机在智能上的边界。
参考文献：
1. Jim Anderson与Lettvin的访谈录： Talking nets， James Anderson and Edward Rosenfeld, 1998, MIT Press.
2. MIT CogNet百科全书：http://cognet.mit.edu/library/erefs/mitecs/lettvin1.html
3.Wikipedia：http://en.wikipedia.org/wiki/Walter_Pitts
4. Hinton访谈录：Talking nets， James Anderson and Edward Rosenfeld, 1998, MIT Press.
5.
“I was convinced throughout my childhood that the whole Christian
ideology at school was just complete rubbish. I’m still convinced of
that.” Hinton访谈录：Talking nets， James Anderson and Edward Rosenfeld,
1998, MIT Press.
6.深度学习的介绍有很多，可以从Yann LeCun,Yoshua Bengio和Geoffrey Hinton2015年在Nature上的“Deep learning”这一综述开始。
（文章首发于科学大院，转载请联系[email protected]）
大院热门文章top榜
点击文章标题，可直接阅读哦~
1、我为“科”狂| 科学大院征文启事
2、暗物质粒子探测卫星首席科学家常进：“悟空”究竟“看”到了什么？
3、巴氏牛奶的前世今生
4、高铁为什么长这样？力学，力学，还是力学！
5、为了适应荒漠环境，胡杨叶子也是拼了！
6、动物体内可以长出人类器官，干细胞技术实现再生梦想！
7、苍蝇还有不吃粑粑的？嗯，有，还特萌！
8、网红飞艇“飞天屁股”到底经历了什么？
9、我是谁？我是黄连，我居然能改善脂肪肝以及肥胖症状！
10、你的大脑、肝脏和肠胃，都是“傻帽”？
科学大院
ID：kexuedayuan
从此，爱上科学~
长按二维码，即刻关注
转载授权、合作、投稿事宜请联系[email protected]
