玻璃笼子：波音空难背后，我们能对AI简单说YES吗？

精密的仪器、透明的机舱、无需人工干预的飞行状态……人类对于自动化、人工智能所带来的便捷与舒适的期望，似乎早就在这个可称之为“玻璃笼子”的飞机驾驶舱里近乎完美地实现了。

但近期波音公司的两起空难事故，却在提醒人们： 我们究竟能在多大程度上信任机器？能对AI简单地说YES吗？

2018年10月29日，印尼狮航的波音737 MAX 8客机在起飞13分钟后坠海，178名乘客全部不幸遇难。

2019年3月10日，埃塞俄比亚航空公司一架波音737 MAX 8客机在起飞6分钟后坠毁，149名乘客和8名机组成员无一幸免。

目前，包括中国在内的全球多个国家已暂时停飞了该型号波音飞机。那么， 这两起空难有没有关联？有哪些相似之处？

相似的两起空中事故

—————

据了解，因两架坠毁的飞机均是波音公司仅交付2-4个月的新机，除此之外，这两起事故飞机都是处于起飞爬升阶段、飞行员都曾报告飞机操纵困难，随后发生飞机坠毁。这些信息都指向了波音737 MAX系列飞机， 可能是“自动驾驶”设计出问题了。

具体来看，根据印尼狮航空难的初步调查报告显示，在11分钟的飞行过程中，飞机的机头被危险地向下推了20多次。飞行员试图拉起机头，但最后飞机仍失去控制坠入大海。

而根据追踪全球航班飞行情况的专业网站“24小时飞行雷达”记录的数据显示，在埃塞空难中，飞机在3分钟内曾10次改变垂直速度。《华盛顿邮报》指出，这与狮航空难中一样，飞行员都多次试图控制住飞机高度，但在人机斗争中失败而酿成惨剧。

波音737 MAX

短时间内发生两起相似的事故，致使人们对波音737 MAX系列飞机安全性产生怀疑，也让人们的目光聚焦在波音公司737 MAX飞机机动特性增强系统 （MCAS） 的 技术设计上。

波音737 MAX是波音737系列最新的型号，由于要给其换装大涵道LEAP-1B发动机及加长起落架，导致飞机重心改变，气动布局受到影响，在飞行中，会使737 MAX遭遇一个向上的俯仰力矩，容易导致失速，丧失升力。

因此，波音给737 MAX设计了一个自动“低头”的配平系统——机动特性增强系统 (MCAS) ，这个系统只要收到错误的信号，会认为飞机正处于失速的状态而自动让飞机“低头”，来达到“失速保护”的目的。

但需要注意的是，当MCAS控制系统操作以后，是禁止人工干 涉的！

也正是因此，无论是狮航的JT610还是埃航ET302，虽然飞行员在飞机改变正常飞行姿态后，都试图控制飞机，但最终都以失败告终。

相信人还是相信机器？

—————

此次空难事故发生后，部分人看到了技术的弊端，如美国总统特朗普在3月12日就空难发表看法，他在推特上说，客机“变得太复杂，不好飞”。

《中国航空报》的航空专家张宝鑫在接受《新闻晨报》采访时也指出，安全一直是航空业追求的最重要目标。无论是从技术的积累、数据采集，还是从传感器的可靠性上，还是要以人的判断为基础，我们不能对机器充分放心。

西班牙飞行员工会组织Sepla的技术部主管哈维尔·马丁-奇科说：“每一天，我们作为系统管理员的属性都要增多一点，而飞机驾驶员的属性要减少一点。”

当然，也有人认为这次事故不能“甩锅”给人工智能，毕竟不论多么成熟的产品，在新技术面前总有水土不服的时候。况且，人类凭借过往经验与直觉的操作也并不一定能尽善尽美。

关于这点我们可以看看另一起空难事故。

2009年，法航447号航班在35000英尺的高空进入风暴区时，飞机遭遇了冰冻，冻结了空速管传感器，空速管的作用是把飞机的速度信息传给电脑和飞行员，飞行速度是最重要的飞行指标之一，如果没有速度信息，无论是自动驾驶仪还是人类飞行员都不能正确操控飞机。

在无法获取飞行速度的情况下，机上的计算机自动驾驶功能关闭，控制权交回给了两位飞行员，然而他们也同样无法知道飞机当时的速度。因此，其中一位飞行员试图在不确定速度的情况下保持飞机高空飞行的状态，随后，他拉了操纵杆让飞机机首上扬，希望实现爬升。但这个操作造成了飞机失速，最终导致飞机在拉力和重力相互作用下从高空坠落。

而在这场事故中最值得注意的是，在自动飞行功能切断两分钟后，空速管恢复了正常， 如果在接下来的4分钟内，飞行员重新调回自动驾驶状态，他们就能躲过这一劫难。

打破 or 蜷缩在玻璃笼子里？

—————

事实上，纵观这三起航空空难，人们的论点若仍是在谁该控制飞机上未免有些极端。需要吸取的教训是， 人类自己的本能并不够用，应该与计算机建立一种新的共生关系。 比如人类如何与技术互动，如何认识和信任技术，以及人工智能如何与人类展开协作。

一些互联网研究者已经对过于迷恋以AI为代表的前沿技术表达了反思和怀疑。软件可以帮助人们摆脱生活的“摩擦”，但永不迷路是一种错位的生活状态。如果永远不必担心身在何处，那么你也永远不需要知道你现在的位置。我们将生活在一种依赖技术的状态下，生活在手机和应用程序的牢笼里。

正如卡尔在《玻璃笼子》一书中的 精彩分析：

计算机自动化的核心部分存在一个难题。因为设计人员总是认为人类“不可靠且效率低”，所以他们努力弱化人类在系统运行中的作用。

早晚有一天，操作员会无法胜任自己的工作。一旦发生这种情况，系统设计者又将进一步缩减操作员的任务，让他们远离具体的行动，这样一来，操作员未来犯错误的概率又会增加。有人猜测，人类是系统中最弱的一环，现在我们自己就将这一假设变成了现实。人类被一步步推出工程师所说的“圈子”——行为、反馈和决策循环，而正是这三者掌控着系统的每一步运行。

由是， 问题出现了： 在一个完全依赖机器的精密运行的“完美世界”里，人的角色、人的价值和人的存在感又是什么呢？