【AGI】Reddit大型求助现场：用机器学习去实现通用人工智能，简直就是白日梦！

---

新智元报道

来源：reddit

编辑：张佳、向学

【新智元导读】 通用人工智能（AGI）一直是人工智能学科的核心目标，但现在我们离真正的AGI还很远。今天的Reddit最热帖是一个关于AGI的讨论，发帖人的梦想是创建AGI，但却被派去处理NLP领域的ML问题。他发现自己非常厌倦机器学习，于是热心的网友纷纷为他支招。 戳右边链接上 新智元小程序 了解更多！

人工智能学科的核心目标是，有朝一日我们能够建造像人类一样聪明的机器。这样的系统通常被称为通用人工智能系统（AGI）。

到目前为止，我们已经建立了无数AI系统，在特定任务中的表现可以超过人类，但是当涉及到一般的脑力活动时，目前还没有一个AI系统能够比得上老鼠，更别说超过人类了。

今天的Reddit最热帖就是一个关于AGI的讨论。一位名叫“u/bguerra91”的发起者在大学里研究，在过去的几周里，被派去处理一些属于NLP领域的ML问题。通过阅读所有关于NLP的文章，他意识到自己已经非常厌倦机器学习这一学科，完全忘记了最初促使他走上这条路的是努力解决创建AGI的工程挑战。

现在，他开始重新考虑这个问题，他很好奇到底有多少人在解决这个问题？有很多数据科学家或业余爱好者使用ML构建预测模型，但是谁将ML用作专门用于AGI工程设计的工具呢？

对于这些人，发起者还问了3个问题：

1. 你以什么身份处理过这个问题？你是怎么开始的？
2. 你在这方面工作多久了？到目前为止，你从经验中得到的主要收获是什么？这些可能是哲学上的见解、挑战或一般性的想法。
3. 当一个AGI被创建时，你认为机器学习将是它创建的一个关键组成部分还是一个小部分？或者你认为我们创建它所需要的技术将与我们现在所认为的机器学习有根本的不同吗？

6年+深度学习算法工程师解答：用现代的ML方法实现AGI是一个白日梦

这个帖子引发了机器学习社区的大讨论，其中，最高赞的回答来自一位做了6年以上尖端深度学习算法的工程师。在他看来：

“我们比过去更接近AGI。尽管媒体的报道和展示手法很花哨，但所有现代的深度学习工具都容易受到观察偏差的影响（甚至是无监督的算法！）因为在现实中，你无法获取无限的数据，而且你的模型中可能有一些罕见的数据实例，你无法在训练阶段获取这些实例，所以在许多实际应用中，不可能100%完整地描述你的数据空间。

人类有办法绕开这一点，这就引出了我的下一点，即现代学习算法仍然完全无法解释他们从未遇到过的罕见观测，完全不同于人类或AGI系统。此外，人类大脑完全理解一个事物并用极少的例子对其属性进行推断的能力令人难以置信。

最后，我要指出强化算法的成功与失败。 有一段时间，算法在许多游戏环境中击败了最好的人类专家。但不久之后，人类专家学会了算法所使用的策略，并操纵这个因素，使其能够始终如一地击败算法。 这是现代ML的另一个短期趋势，即它无法根据长期反馈动态地改变自己的行为 （因为专家知道如何打败它，所以它将永远输给专家，但如果不重新训练新的人类反馈，它将永远无法改变自己的行为，使其再次具有竞争力——人类可以学着打败下一个模型）

我并不是说这很糟糕，也不是破坏ML，因为我绝对喜欢ML和DL，而且我喜欢我所做的事情。但我认为，认识到这一点非常重要， 深度学习模型是重现大脑某些方面（例如人类视觉系统输入（CNN））的一种好方法，但它们绝不能描述人类大脑内部信息的整个处理过程 （在视觉刺激之前，大脑会对其进行许多高级处理）。

在我看来， 需要将有关外部世界的完整感官输入以及可能的情感回路与当前的深度学习方法结合起来 ，以再现GI，而我们离解决这个问题还差得很远。它还需要能够以一种通用的方式动态地调节其自身的内存和网络，以与人类GI竞争。

综上所述，如果你因为必须研究NLP而感到厌烦，那么，我认为这是一个公平的回应。我认为NLP令人印象深刻，但仍远没有人类对现实世界中事物的推理方式。语言是我们所有感官，感觉和思想之间的基础整合，几乎你在大脑中所能想到的每一件事都可以用语言来表达。它是存在的最复杂的代码之一，它捕获了我们整个世界中的每个实体。

当前状态下的NLP算法与我在上面概述的方法一样，对环境感知是不可知的，尽管它们可能实现高性能，但它们永远不会对未遇到的事情进行推理，生成不依赖于训练输入的逻辑思维过程，或以无可辩驳的方式通过图灵测试。你有权感到厌倦，因为 如果计划使用现代的ML方法来实现目标，AGI是一个白日梦 。

在我看来，有很多与AGI无关的DL应用是非常有趣的，DL实际上在某些方面可以比人类做得更好。实际上，AGI模型可能甚至不如深度学习模型那样好。一个很好的例子是我正在从事的另一个项目：预测患病的患者病情恶化的可能性。这是医生可能会想到的事情，但是世界上大多数医生将无法给出准确的风险确切数字。但是，深度学习模型可以对患者的未来结果做出令人印象深刻的预测。这表明DL和AGI都有各自的优点，并且我认为如果找到目标明确的DL应用，你会更高兴。

在我看来，如今所有人都想研究NLP，但我认为在其他许多领域中也存在着巨大的机遇，只是还没有被人注意到。NLP已经非常成熟，我认为你应该坚持下去，努力找到一个目标让你觉得 intellectually rewarded。”

AGI尽管离成功还很远，但我们或许正朝着成功的方向前进

还有不少网友分享了自己的见解。

MichaelMMeskhi认为：

AGI是一个不错的想法，但不幸的是，我们离甚至是基本的AGI系统还很远。许多在ML/AI/DS中取得突破的工具正在进行优化和自动化（AutoML等）。

1. 我开始攻读元学习博士学位。尽管我是一个初学者，但我一直在考虑创建自适应系统。
2. 为了完全巩固甚至不是我们最近的工作（深度学习、强化学习等），我们仍有很多工作要做。
3. 机器学习是人工智能的一个分支。我认为这将是AGI系统的一部分，但真正的大脑将主要是纯人工智能理论。

我建议读读 Sebastian Thrun 的书《Learning to Learn》，它讨论了人类和机器是如何学习的，以及什么是学习。

下面是NikeTheSword对于3个问题的回答：

1. 大学的 计算机科学 /哲学课程让我走上了这条路。就我个人而言，我渴望更好地理解人性。我想知道是什么让我们这么做。AGI是合乎逻辑的下一步。
2. 4年了，我相当有信心的是，我们当前对特定任务的行为建模的方法将不会产生AGI。 当前系统中缺少两个核心组件：创造力和将新数据与现有数据关联起来的能力。创造力被进一步划分为意志问题，这引发了诸如“如何使一个系统想要/害怕”这样的问题。在我们当前的方法中，这些都不是有用的特征，因为它们使系统更难以预测。进化和成长是激烈的，与生存是矛盾/竞争的。因此，这4年到目前为止的关键结论相当令人沮丧： 如果没有不可优化的适应性指标，AGI就不会存在。
3. 是的。“智能”是根据以前的数据做出决策的行为。如果我们同意“机器学习从根本上讲是一种数据驱动的决策方法”，那么这两者是一致的。然而我们目前的SotA ML系统仍然主要是蛮力的方法而缺乏灵活性。

Simulation_Brain的回答：

你听到的回答几乎都来自于你寻求答案的其他人。这里的评论者说关于AGI的工作并不存在，或者离完成还差得很远，但是他们没有资格去猜测，因为他们没有认真地考虑过。

Deepmind、openAI和大约20家规模较小的公司正在积极开发AGI。这只是机器学习行业的一小部分，但它是非常真实的。至于他们离成功是近还是远，这是一个悬而未决的问题，很多人对此进行了深入的思考并存在许多争论。

以此类推，有很多人争辩说，比空气重的飞机是遥远的，直到莱特兄弟实现了这一目标。 当然，确实距今 一百年前有人说过同样的话。 在真正实现之前，很难猜测什么是可能的， 更不用说需要花多长时间才能实现。

所以你需要相当深入的专业知识才能得出自己的最佳猜测。

papajan18也分享了自己的观点 ：

1. 我在本科学习了4年的计算机科学和机器学习，并用机器学习对神经科学数据进行了数据分析。 现在我开始攻读博士学位，研究人类/啮齿动物的元学习、强化学习以及深度学习模型。

2. 我真的很关心AGI，希望有一天人类能够实现。 我认为从计算的角度来看待人类/动物是如何形成智力的及其基本原理，这非常重要。并不是说我们必须复制自然，但是动物/人类是我们唯一真正的智力实例，因此关注他们是如何完成我们希望人工智能来完成的这些任务的，这很重要。

我真的建议你研究心理学/认知科学/神经科学。这样做的好处是，你能够思考类似AGI的问题，因为你正在做机器学习还不能做到的事情。缺点是涉及的工程学较少，因为它更多的是一门科学，所以人们试图让事情更简单，这样就更容易解决问题。

使用机器学习的好处是，你可以真正深入研究复杂的工程 模型。 一些人的工作与这二者都有关系（比如Deepmind，他们在研究机器学习的同时也做一些心理学/神经科学方面的工作），这真的很酷，因为你在建立和理解智能方面都能做到最好。我希望自己在研究生期间能够同时涉足这二者。

3.AGI离我们还很远，但我确实觉得我们在朝着这个目标迈进。我认为深度学习真的很重要，但它不是全部。我认为这对表征学习非常有用（从我们的世界中获取输入，学习它的良好表征，促进智能行为）。 因此，AGI可能会在其他方面使用深度学习。深度强化学习是一个很好的例子（不是说它是AGI。这是一个步骤，但它有其自身的问题），因为你基本上只是在添加一个神经网络，去学习良好的状态表征形式，并将其输入到强化学习框架中。我在注意的另一件事是概率编程和贝叶斯模型。

23位顶尖AI专家预测：通用人工智能可能在2099年实现

尽管关于AGI的话题在人工智能领域一直被广泛讨论，但研究人员对于这一宏伟目标何时实现的问题上，几乎从未达成一致意见。

2018年出版的《智能架构》一书中，该书的作者、未来学家马丁·福特采访了AI领域的23位最杰出的人物，其中