让机器拥有好奇心将提高它们完成复杂任务的能力。
一台配有人工好奇心的计算机将学会如何解决复杂的问题,不论解决问题的步骤在当时是否看起来有效。
这就是美国加州大学伯克利分校研究人员的最新成果。他们开发出了一种可以让机器学习算法在缺少强烈反馈信号的情况下还可以工作的“好奇心模型”。该模型会让控制游戏人物的人工智能系统试图最大化它对环境的理解,尤其是环境中可以影响它的那一部分。
在此之前,已经有许多研究团队试图为人工智能增加好奇心,但之前的尝试都比较简单。
而此模型有望为机器学习补上一块短板,并且指出一条可以让机器更加善于解决真实世界问题的出路。
“奖励在真实世界里十分稀少”,研究团队的一员,加州大学伯克利分校博士生Pulkit Agrawal说道。“婴儿会作出各种奇怪的试验,你可以把它看作为一种好奇心。他们是在学习一些技能”。
近几年里,各种机器学习技术成功的让计算机变得更加“聪明”了。其中,增强学习成功的让机器学会如何进行那些曾经难以用代码定义的任务。其工作原理很简单:使用奖励来引导算法,让它的行为越来越接近一个指定的目标。
而增强学习也是AlphaGo的基础。目前,研究人员正在试图使用增强学习让机器自我学会难以人工编写的技能,比如,让机器臂在训练中自己学会如何完成指定的动作。
但是增强学习并不是没有缺点。Agrawal表示,使用增强学习来学会一个任务需要巨量的训练(数据),而且一旦所需要的反馈不能立刻出现,其整个训练过程都会受到极大的影响。就拿一些电脑游戏来说,如果某些行为的利益不是立即又明显的,增强学习就无法起效。对此,好奇心可以有着巨大的帮助。
研究人员在把该技术融入增强学习后,使用了两款简单的游戏对其进行了测试:冒险游戏—超级玛丽,以及3D射击游戏—毁灭战士。
在两款游戏中,人工好奇心都成功的提高了学习过程的效率。在没有其他奖励的情况下,两款游戏中的人工智游戏人物都表现出了极高的行动能力。毁灭战士中的人工智能人物不再会花费大量的时间撞墙了,它通过在环境中的运动,更快的学会了如何寻找方向。超级玛丽中的人工智能人物则学会了如何避免死亡,因为这种情况会影响其探索并学习周围环境的能力。
关于此技术更加详细的描述将以论文形式发表于今年即将举办的一场大型人工智能峰会中。
人工好奇心并不是一个崭新的研究领域。法国国家信息与自动化研究所的研究组长Pierre-Yves Oudeyer在多年前就开拓了这个领域,并在过去的几年里曾多次开发具有简易好奇心的电脑程序和机器人。
“现在最令人激动的一件事就是,这些曾经被主流人工智能和神经科学研究人员看做是“怪异”的想法,正在成为人工智能和神经科学领域中的一大课题”,Oudeyer说道。
而这个课题还有着真实的利益。伯克利的研究团队将在使用增强学习的机器人上测试其人工好奇心技术。Agrawal表示,机器人可能在奇怪的动作上浪费大量时间,但是当它们拥有好奇心之后,它们将可以更快的探索四周的环境以及对附近的物体进行试验。
纽约大学搭建人类认知能力的计算模型科学家Brenden Lake表示,伯克利团队的成果看起来潜力十足。“开发出拥有与人类相似特征的机器,是机器学习道路上的重要一步”,他表示,“他们的成果十分厉害,在只用好奇心驱动的情况下,游戏人物可以在超级玛丽中学会如何打穿一关。它甚至不需要看分数”。
在此同时,Lake还表示伯克利团队的人工好奇心其实与人类儿童的好奇心相差还比较远。人类对周围世界的兴趣要深得多。
“那是一种十分自我的好奇心”,Lake说道,“游戏人物只会对环境中与自己相关的事物感兴趣。而人类的好奇心则更为广阔。人们会想学习世界中与自己没有多大关系的事情”。
-End-
编辑:陈翔宇
点击图片查看报名方式