深度学习近几年发展突飞猛进,想要快速入门、掌握这门技术?百度资深算法工程师童老师的深度学习基础班现正开放预约,点击文末「阅读原文」即刻预约课程。
我们都已经感受到,计算机在人类生活里已经占据越发重要的位置,但一般人还不太熟悉的是,它已经是能与人类协同创作复杂艺术作品的好战友、好伙伴。那么,它如何作曲,和人类又如何协作呢?本文为你详细讲述。
当下
行文之际,正值音乐剧《Beyond the Fence》在大洋彼岸的伦敦艺术歌剧院首演。这是第一部由计算机与人协同创作的歌剧,其中,编舞、演出、剧务由人承担,而剧本、歌词以及音乐的大部分材料,均由电脑程序构思和生成,随后再由人挑选和整理。事实上,
整个项目是一个学术计划,由音乐、计算机、创造力研究领域的顶尖专家通力协作而成
,这将为我们了解算法技术参与艺术创作的全过程提供难得的机会。
事实上,算法作曲(Algorithmic Composition),或称自动作曲(Automated Composition)并不新奇,其历史甚至可以追溯到 1957 年(有文献指出是在 1956 年),化学家/音乐家 Lejaren Hiller 使用算法生成了弦乐四重奏伊利亚组曲(Illiac Suite),其后,又有 David Cope 教授的 Emily Howell 系统名声大噪。不过,写一出音乐剧比写一首曲子的确复杂太多了,科学家们将整个项目的初创部分拆分为几个步骤。
1. 成功诀窍模型
一开始,剑桥大学的机器学习小组基于大数据分析(项目由詹姆斯·罗伯特·劳埃德博士(Dr. James Robert Lloyd), 亚历克斯·戴维斯博士(Dr. Alex Davies)与大卫·斯皮格豪特教授(Prof. Sir David Spiegelhalter)领军),
建立出音乐剧的成功诀窍模型和预测系统
(数据源包括百老汇数据库、维基百科以及其他的一些免费在线资源,他们自己也收集了一些数据,包括让人们填写对特定音乐剧观感的调查表)。他们先是
对一系列因素进行探讨和权重分析
,比如戏剧中的角色规模、背景信息、情感结构和经典主题(例如爱情、死亡)、剧目企划、工序、故事、音乐、歌词等,然后
归纳出音乐剧的成功模式、法则,最后从理论上优化
。
2. 剧情主旨
接着,主创团队与伦敦大学金匠学院的「What-If Machine」项目团队合作(由西蒙·科尔顿教授(Prof. Simon Colton), 玛利亚·特里萨·利亚诺博士(Dr. Maria Teresa Llano)和罗斯·赫普沃斯博士(Dr. Rose Hepworth)领军),
将上述研究模型推导出的「关键成功因素」输入「What-If Machine」,产生算法创意联想,
从而获得多个电脑生成的构思,涉及音乐剧的主题、关键性角色的设定信息等。最终由人类团队筛选并确定整部音乐剧的主旨:
What if a wounded soldier had to learn how to understand a child in order to find true love?
如果一名受伤的士兵需要学习体会一个孩子的内心,才能找到真爱,会是什么情况?
「what if machine」是欧盟第七框架计划资金资助项目。这个项目由伦敦大学金匠学院、剑桥大学、都柏林大学、马德里康普鲁坦斯大学及卢布尔雅那的约瑟夫·斯蒂芬研究所共五所机构联合研发。这个系统可以
根据一定的素材类别和给定的关键词生成一个虚构的想法,并采用人工智能评估结合人类评估打分的手段,判断所生成想法的现实文化价值,进而不断优化系统的生成效果。
这个系统的大致工作流程是这样的:
首先
,针对某个领域收集并分析信息,进而形成
初步世界观;
其次
,通过对语义的分析,
理解和框定语言张力的构成模式,
由此,系统得以使用带来紧张、不协调的奇怪概念和一些既定的关联性句法来生成虚构的想法,比如:
再次
,在整个创意过程中,通过机器学习、数据挖掘和自动监察,给予生成的创意越来越接近于人类真实想法的反馈,进而
评估、分级以及预测性地选择创意;
最后
,加载语义学、核心观念、基于效果的加工方式、模糊算法和想法扩充等功能,使得无论是人还是机器产生的创意,都能发挥出最好的效果。
整个系统使用基于开放心态常识(OMCS)数据库(Open Mind Common Sense Data)的语义信息网络(ConceptNet),并且整个常识数据库通过网络至今已积累了超过一百万的信息和反馈,它们来自 15000 个贡献者。
从本质上来说,
这个系统是一个拓宽人的认识维度,获得意想不到的观察角度的工具。
简单来说,很多时候你玩艺术都是先有想法,再借助外部手段(比如画画、小说、广告语等等)表达出来,那么
一个能够帮你或激发你产生核心想法并且能进一步衍生、探究、评估以及提供利用建议的程序
就有明显的实用价值了。
值得一提的是,作为「What-If Machine」主要研发人员之一的西蒙·科尔顿教授(Simon Colton),涉猎领域众多而且成果斐然。他于英国杜伦大学获得数学授课型硕士学位(MSC:Master of Science, 所谓授课型硕士学位,就是以授课为主的更高层面的学位,某些课程还包括研究内容,攻读授课型硕士学位的学生,一般是因为可以扩展某知识和技术,可以加强其事业选择),尔后在利物浦大学学习纯数学,最后在爱丁堡大学师从著名数学家、计算机科学家艾伦·邦迪教授(Alan Bundy),获得人工智能的博士学位。在此之后,他曾以准教授的身份领导帝国理工学院计算机系的计算创造力组(Computational Creativity Group),而今在法尔茅斯大学执掌获得 ERA chair 资金支持的数字游戏技术研发项目(ERA chair 是欧盟研究和创新基金项目的子基金项目,获得这项资金资助的顶尖科学家都曾受到全面评估,包括卓越的科学生涯、足以领导团队和管理经费的能力和经验等),同时领军的伦敦大学金匠学院计算机系的计算创造力组,开发「What-If Machine」。
他的兴趣在于研究开发新型人工智能技术并将其应用于诸如纯数学,平面设计,视频游戏设计,创造性的语言和视觉艺术。不过计算科学创造力研究领域引发的问题却也抽象得多,它关乎这些东西的本质:音乐、艺术、情感和人性,所以,西蒙·科尔顿一直严谨看待这些计算创新软件。他自主研发 AI 画家「The Painting Fool」(电脑程序),从 13 年就开始它的「艺术家生涯」并获得广泛关注。而在此之前,西蒙曾开发纯数学自动推理程序「HR」,这个程序成功地发现了一些数学定理和猜想,其中的一些发现达到发表级别(他的博士导师是自动推理领域顶尖人物)。这里是两幅「The Painting Fool」的画作。
3. 故事结构
另一方面,马德里康普顿斯大学的帕布罗·格瓦斯教授(Prof.Pablo Gervás) 开发了一套名为「PropperWryter」的故事生成系统,得益于此,这部
音乐剧的情节结构也由算法生成
。这套系统采用机器学习技术,分析以往音乐剧的叙事线索与技巧,随后根据分析反馈反复调试系统,并最终确立了这部作品的核心叙事弧(即我们平时所说的叙事形式。在任何一篇完整的故事中,叙事弧都可以划分为开端、发展、冲突、高潮、结局等阶段,在实际作品中这些阶段出现的次序、比重等均可能因作者的构思而有所不同)。