专栏名称: 科Way
“科way”是专注于科技创新的官方媒体平台。链接最新的双创政策与最深的科创思潮,推送最值得关注的科技科普信息。
目录
相关文章推荐
新浪科技  ·  【#生成式AI耗水量巨大# ... ·  昨天  
虎嗅APP  ·  让韩国破防的中国机器人 ·  6 天前  
51好读  ›  专栏  ›  科Way

光场技术,让虚拟现实再“刮风”

科Way  · 公众号  · 科技媒体  · 2017-07-24 11:45

正文

文字 | 刘禹     美编 | 毛毛    

有人说,2016年是虚拟现实“元年”,但事实上,从这个风口吹出来的风,并没有掀起多大的风浪。


前不久,在嘉兴召开的2017国际VR/AR技术与产业大会上,上海科技大学虞晶怡教授利用虚拟现实领域的一项全新技术——光场技术,将同会的外籍嘉宾栩栩如生地展现在手机上,引起了全场热议。


2015年,虞晶怡从待了10年的美国回到国内,任职上海科技大学,同时也将光场技术带了回来。去年,凭借这一技术优势,虞晶怡创办了叠境数字科技(上海)有限公司。


虞晶怡说,光场技术模拟人眼,是介于建模和计算机渲染之间的技术。在光场技术构建的场景里,用户可以走动,从不同的角度和距离观察事物。最重要的是,光场技术还能再现物体的光泽和材质。因其真实性远超国内主流技术,虞晶怡认为这是目前还原物体真实性唯一的方法。


虞晶怡笃定地说:“光场技术将成为VR/AR行业的投资焦点。” 


1

“吃老本”的国内VR行业 



“严格来说,国内VR领域的企业缺乏核心技术。”谈及技术,虞晶怡毫不留情地说。


目前,VR 内容制作主要有两种主流方法:一是利用全景相机拍摄360度视频,即360度环拍技术;二是利用更加高端的软件建模技术,利用计算机工具打造更具沉浸感的VR游戏或视频。但在虞晶怡看来,这些都不是VR内容制作最理想的方法。


大约20年前,出现了一种影响深远的虚拟现实技术,叫做QuickTimeVR。这项技术很简单:拿手机拍一圈,把照片拼成一个360度的图片,现在手机上就能实现这个功能。“现在市面上很多做虚拟现实的公司就是用的这样的技术!1996年的技术!”


“360度环拍技术最大的问题就是无法实现动态视觉。”虞晶怡解释说,人眼重叠的区域特别大,在重叠区域里,由于左眼和右眼看到的东西一样,就会形成动态的视野,这就是人眼的3D识别。然而,360度环拍技术无法实现这一功能。


早在 1995 年,苹果就发布了一款主要拍摄360度图片的QuickTime VR相机。虞晶怡也于1999年创业试图将QuickTime VR相机的技术运用到旅游上,并用360度环拍技术拍摄了拉斯维加斯赌场等地的全景照片,但最后却发现做出来的全景照片并不怎么吸引人。虞晶怡认为这个问题到今天依然存在。


同样,软件建模技术虽然更加高端,但不够真实的缺点依然存在。现在很多虚拟现实应用场景,如VR看房,都是采用三维建模实现的——需要先建模、贴“皮肤”以及大量的人工,而且不可能做到非常精细,导致最后的效果相当粗糙。电影《爵迹》里饱受诟病的“面瘫脸”就是一个活生生的例子。特别是像唐三彩这样的物品,其表面有一层特殊的釉质,使得其表面光泽很难用传统计算机图像渲染技术做出来。

   


2

模拟人眼,所见即所得



什么是光场技术?虞晶怡举了个例子:“人眼就是两个天然的光场捕捉器。”人眼观看3D世界觉得真实,是因为双目视觉看到的是立体而非平面图像,在三维空间围绕观看可实现360度的视觉构建,而且人眼具有对焦功能。


人眼之所以能够实现这些复杂的功能,是因为人眼采集光线空间。而光场技术就是把人眼看到的光线空间采集下来,再将光线进行重组,可以让虚拟现实模拟出人眼基于距离对物体聚焦、移动的效果,捕捉光线信息,重现三维世界。


叠境科技用广角摄像头模拟人眼,只不过不是两个摄像头,而是由至少上百个摄像头组成的相机矩阵。典型的中型场景光场拍摄方案,是由140个相机(包括80个静态相机和60个动态相机)组成的对内环拍摄影系统,可以从任意角度对物体进行拍摄。



拿一堆相机拍摄的时候,一个最大的问题就是遮挡。因为遮挡,哪怕140个相机对一个人物进行环拍,也不足以呈现人物的全部。“同样,人的眼睛不光有几何,还能看到材质。这些材质信息是超越几何的。”人之所以能够判断材质,原理还是光场。当转动脑袋和双眼的时候,物体上面的光发生了变化,光的信息蕴含了材质的信息。


如何解决这些问题?叠境科技的方案是为“眼睛”配备一个“大脑”。借助计算机视觉和深度学习,把每一帧的时空信息集合在一起,就可以产生非常好的3D重现效果。同样借助深度学习,模仿人类判断材质的学习方式,大量采样,经算法处理呈现出材质特征。


另一方面,叠境科技多摄像头的数据采集方式也带来了海量的数据。如何才能以最快的速度处理完这些海量数据,便成了相机矩阵光场技术最大的技术门槛。据虞晶怡透露,叠境科技研发的光场数据压缩技术,已经可以将1.5G的数据压缩到30M左右。


仅一年时间,叠境科技就建立了一整套以光场采集、捕捉、显示为核心的VR/AR解决方案,可制作物体和动态人物的360度3D光场采集、建模和渲染以及光场VR/AR内容生成,向内环视和向外环视360度3D视频直播。将全球最顶尖的光场技术引入到虚拟现实领域,很大程度上解决了虚拟现实体验差的问题,给虚拟现实行业带来了巨大的变革。


“底层硬件是一样的,但算法上的差异才是真正决定最终呈现效果的关键。”虞晶怡强调,实时渲染算法是其最核心的技术之一。叠境科技利用特殊的光场渲染算法,重现不同视角观看物体的真实效果,真正实现“所见即所得”。



3

国内仅此一家



应用方面,叠境科技的光场技术首先可以用于三维建模。相比传统的建模方案,叠境科技采集了真实物体的光线信息,所建立的三维模型更加真实。目前,该技术已经在上海博物馆、淘宝“buy+”计划等案例中得以应用。


据虞晶怡介绍,针对不同的应用场景,光场技术将有不同的应用方式。一种是小型光场:针对具体物件,可以更加完整全面地展现实物,给用户更直观的体验,在电商领域将有巨大应用与突破。在去年淘宝“双十一”发布会上,叠境科技展示了用光场重建的唐三彩。面对材质复杂的模型,光场技术不但实现了捕捉不同视角观看物件产生的光影效果,真实再现了唐三彩的质感,还用压缩与渲染的方法完美植入到淘宝卖家平台。亚马逊看到这一应用后,也开始积极发展这项技术。虞晶怡透露,几个月后,用户将可在手机端看到自己的光场渲染器。



在人物拍摄为主的中型光场中,光场技术可以快速复现动态人物,一台电脑几分钟就可以完成全过程,实现近乎实时的人物复现,未来将会在娱乐、电影特效、体育训练等方面大展手脚。


大型光场拍摄针对环境,可直接应用于房地产行业虚拟看房等场景。利用光场技术进行拍摄,可以更加真实地复现场景,并且允许用户走动,从不同的视角和距离进行观察,不久这项功能也会在手机上出现。


虞晶怡称,目前国内真正具备光场核心技术的企业仅叠境科技一家,国外也仅有3-5家,除亚马逊、谷歌外都是初创企业。作为国内光场技术产业化的先行者,叠境科技能否引领虚拟现实行业走向又一个春天?值得期待。