Tel:153 2100 2012

Email:ceo@lianyun.wang

Beijing Four Sentences of Heng Qu science and technology Co., Ltd.
北京横渠四句科技有限公司
拟转化成果 | 视网膜投影:全景聚焦的增强现实近眼显示技术
来源:中国光学《液晶与显示》(ESCI、Scopus收录,中文核心期刊)2022 年第 5 期 | 作者:4SHQ | 发布时间: 961天前 | 6925 次浏览 | 分享到:

近眼显示器(Near eye display, NED)或头戴显示器(Head mounted display, HMD)作为实现虚拟现实(Virtual reality,VR)和增强现实(Augmented Reality,AR)并提供沉浸式和交互式体验的基本设备,可将数字世界与物理世界无缝融合,有望成为下一代增强现实显示终端。目前,NED 面临的一个关键问题是辐辏-聚焦冲突,用户长时间观看会导致眼睛疲劳和不适。视网膜投影显示(Retinal Projection Displays,RPD)技术具有全景聚焦(always in focus)的图像特征,自然化解了辐辏-聚焦冲突,成为近眼显示领域的研究热点之一。


与传统直视式显示相比,RPD 将图像源直接成像到人眼瞳孔中的独特原理造就了诸多优势。第一,RPD 将近乎所有的光都汇聚到人眼中,因此系统光效很高,特别适合于户外使用。第二,通过增加目镜的数值孔径可以直接获得大视场的近眼显示。第三,RPD 的全景聚焦特征自然化解了近眼显示存在的辐辏-聚焦冲突,可以实现无视疲劳的 AR 近眼显示。在某些 AR 应用如车辆辅助驾驶上,驾驶员双眼对焦在车外不同距离处时均可看清虚拟图像,避免了在车外路况与虚拟图像之间来回对焦引发的风险,增加了驾驶安全性。


近日,合肥工业大学 王梓 副研究员和 吕国强 教授团队在《液晶与显示》(ESCI、Scopus 收录,中文核心期刊)2022 年第 5 期发表了题为“视网膜投影显示技术研究进展”综述文章。


本文回顾了 RPD 技术的发展,阐述了 RPD 的基本工作原理,综述了 RPD 及其出瞳拓展方面的最新进展,并对其未来的前景进行了展望。


  1. 视网膜投影显示(RPD)技术及其原理  

RPD 这一概念最早出现在 1860 年物理学家麦克斯韦所做的一个实验中。他将光源通过透镜直接成像在瞳孔中,由此观察到透镜被光线均匀地照明。这种将光源成像在瞳孔中的方法被称为麦克斯韦观察法(Maxwellian viewing)。在该技术基础上,Kollin 等人加入图像源,开发了第一款 RPD 显示器原型。随后,RPD 技术受到研究者的广泛关注。

图1:(a)基于 SLM 的视网膜投影显示;(b)基于 LBS 的视网膜投影显示。

图源:液晶与显示, 2022, 37(5): 640. Fig.1


图1为传统 RPD 的基本原理图。在图1(a)中,点光源经透镜准直后,平行照射空间光调制器(Spatial light modulator,SLM)加载数字图像信息,经目镜在人眼瞳孔处汇聚成光点,直接投射到人眼视网膜上成像,而不受人眼调焦的影响。平行光源在瞳孔处的成像产生了小于瞳孔直径的出瞳孔径,大幅增加了近眼显示系统的景深。


图1(b)是另一种采用 LBS(Laser beam scanning, LBS)方式的 RPD 显示原理。微机电系统(Micro-Electro-Mec hanical System, MEMS)扫描镜对激光束做二维方向的扫描偏转,同时对激光束的强度进行同步调制,加载图像信息,实现激光束扫描投影。再通过目镜在人眼瞳孔处汇聚成光点,实现视网膜投影显示。LBS 方式利用激光的高准直性实现小出瞳孔径,与图1(a)中的被动式光机相比,是一种主动式的显示方法。


由于光线被汇聚至一点,过小的出瞳(eyebox)尺寸使得人眼瞳孔必须正好位于光点上时才能接收到图像,而微小的偏移将导致图像消失。因此出瞳拓展是 RPD 所要解决的关键问题。围绕该问题,国内外学者给出了形式多样的解决方案,主要分为几何光学与衍射光学两大类。


  2. 基于几何光学的 RPD  

基于几何光学的 RPD 通过透镜等几何光学元件,将光束汇聚到人眼瞳孔中,基于几何光学的 RPD 的出瞳拓展方法可分为视点复制视点转向两类。

图2:视网膜投影出瞳拓展;(a)分光镜阵列;(b)机械转向镜;(c)LED 阵列

图源:液晶与显示, 2022, 37(5): 641. Fig.2


视点复制通过产生多个视点,以覆盖较大的眼动范围。图2(a)所示是分光镜阵列方法,使光路多次透反射后形成 3×3 个视点阵列来拓展出瞳。这种视点复制方法简单有效,但需要格外注意视点间距与瞳孔直径之间的匹配。如图3所示,视点间距小于瞳孔直径时会导致视点间串扰,视点间距大于瞳孔直径时会导致图像丢失。由于人眼瞳孔直径随环境光强的变化而改变,视点间距的设计也面临挑战。此外,视点复制得越多,每一视点图像亮度也随之降低。

图3:(a)视点间距过小导致串扰;(b)视点间距过大导致图像丢失

图源:液晶与显示, 2022, 37(5): 641. Fig.3


相比之下,如图2(b)所示,视点转向方法会根据瞳孔的位置动态地改变视点的位置。图2(c)所示是一种利用发光二极管(Light-emitting diode ,LED)光源阵列方案来实现视点转向的方法,根据瞳孔追踪的信息动态控制不同位置 LED 发光,以生成瞳孔面不同位置的视点,从而拓展出瞳。另一方面,LED 光源阵列方案亦可实现视点复制。通过高速切换 LED 光源,并同步刷新 SLM 上加载的图像,可以实现视点复制。


  3. 基于全息光学元件的 RPD  

采用几何透镜不利于光学系统的减薄,而透镜全息光学元件(Holographic optical element,HOE)作为离轴的光学组合器,可以较好地解决轻薄化问题。如图4所示,经过光学干涉制备的透镜 HOE,作为平面光学元件,同时具备了聚焦与反射的光学效果。同时由于布拉格光栅的波长选择性,透镜 HOE 对环境光的透过率接近 100%。利用透镜 HOE 对 LBS、LCOS 等图像源光束进行汇聚,可以实现结构紧凑、高光效的 RPD 系统。

图4:(a)透镜 HOE 对 LBS 图像源光束汇聚;(b)透镜 HOE 对 SLM 图像源光束汇聚

图源:液晶与显示, 2022, 37(5): 642. Fig.4


与前述几何透镜 RPD 的出瞳拓展类似,在基于 HOE 的 RPD 中,如图5(a)所示,采用透镜阵列 HOE 产生点光源阵列复制视点,或采用机械偏转镜偏转视点是常见的出瞳拓展方法。此外,如图5(b)所示,HOE 的角度复用特性提供了另一种可能的解决方案,将多个汇聚光束记录到同一个 HOE 中,从而将信号光汇聚到 3 个不同视点。

图5:(a)透镜阵列 HOE 产生的点光源阵列;(b)多个汇聚光束记录到同一个 HOE

图源:液晶与显示, 2022, 37(5): 642. Fig.5


近年来,具备偏振特性的体光栅器件(PVG)或液晶 HOE(LCHOE)也被用于实现 RPD 的出瞳拓展。与传统 HOE 记录干涉光束的强度不同,由于液晶固有的各向异性特性,PVG 对信号光的偏振态非常敏感。该特性结合液晶器件的偏振调制能力,为 RPD 系统出瞳拓展提供新的可能。如图6(a),反射式液晶全息光学元件(LCHOEs)的偏振选择特性,通过控制偏振转换器(PC)动态切换入射光偏振态可以使得左手性 LCHOE 与右手性 LCHOE 分别发挥作用,从而实现 RPD 视点位置的动态切换。如图6(b),同样基于偏振选择性,利用透射式偏振光栅(PG)器件与偏振转换器动态切换光束方向,配合 HOE 产生两组可切换的视点,以缓解传统 HOE 复制视点可能出现的视点串扰及图像丢失。

图6:(a)反射式 PVG;(b)透射式 PVG

图源:液晶与显示, 2022, 37(5): 643. Fig.6


  4. 基于波前调制的全息 RPD  

除了传统二维图像源,如图7(a)和(b)所示,利用全息波前调制能力生成三维图像源并由透镜或 HOE 汇聚到人眼中,可以实现具有深度感的全息 RPD 近眼显示。如图7(c)所示,结合复用编码技术,可以仅采用 60hz 空间光调制器实现彩色的动态全息 RPD。

图7:(a)(b)全息图像源的 RPD; (c)复用编码技术实现彩色 RPD

图源:(a)ACM Transactions on Graphics (Tog), 2017,36(4): 1-16. Fig14; (b) SID Symposium Digest of Technical Papers. Oxford, UK: Blackwell Publishing Ltd, 2011,42(1): 591-594. Fig1; (c)Opt. Express, 2021,29, 8098-8107. Fig.1


如图8所示,全息 RPD 通过在相位全息图添加不同平面载波,并采用透镜将重建图像汇聚到不同视点位置,可以轻易的实现出瞳拓展。

图8:相位全息图拓展出瞳原理:(a)透视图;(b)俯视

图源:Opt. Lett. 2022, 47: 445-448. Fig.1


图9则展示了利用振幅全息图的共轭光来拓展全息 RPD 的出瞳,将传统无用的共轭光干扰转化成视点阵列,实现了双倍的视点复制。

图9:共轭光项编码实现全息视网膜投影出瞳拓展

图源:Optics Letters, 2021,46(22): 5623-5626. Fig.5

图10:(a)全息 RPD 原理 (b)采用多球面波编码的全息 RPD 出瞳拓展

图源:液晶与显示, 2022, 37(5): 643. Fig.7


图10(a)所示是一种新型的无透镜波前调控全息 RPD 方法,将目标图像作为振幅,乘以汇聚球面波相位,再通过菲涅尔衍射并引入参考光干涉,得到最终的振幅全息图,这种方法摒弃了透镜的使用,直接通过 SLM 波前调制实现视网膜投影。


结合人眼追踪,视点三维坐标可以通过编码球面波相位进行自由精准的操控,具有无透镜像差、高系统自由度等优点。全息 RPD 的全息图计算过程十分简单,对计算资源的需求较低。此外,由于使用球面波相位替代了传统随机相位,散斑噪声得到了较好的抑制。这种无透镜全息 RPD 的灵活波前调控特性也可以简单地实现视点复制。如图10(b)所示,通过乘上不同方向闪耀光栅的多个球面波相位可以将光线汇聚到多个视点。


可以看出,与传统复制视点方法不同,无透镜的全息 RPD 利用波前编码实现光束汇聚、偏转及复制,可以对视点三维坐标、数量及间距灵活调控,以匹配瞳孔位置及大小的变化,有效解决视点串扰及图像丢失问题。


通过在单张全息图中编码三色 RPD 波前信息,可以实现低散斑噪声的彩色动态无透镜全息 RPD 显示及横向出瞳拓展,图11(a)显示了具有 AR 效果的彩色重建图像,不同深度处均清晰可见。如图11(b)所示,将多个虚拟图像源编码到一幅全息图可以实现全彩动态多通道全息近眼显示器,允许用户通过简单的眼睛旋转自由地在不同的视频通道之间快速切换。


另外,结合超多视点(super multi view,SMV)显示特性的无透镜全息 RPD,将多个视差图像乘以对应球面波会聚到瞳孔中,可以提供单目深度线索,图11(c)展示了不同深度的重建结果。

图11(a)基于球面波的全息 RPD 产生的具有 AR 效果的彩色重建图像; (b) 全彩动态多通道全息近眼 RPD; (c)全息超多视点 RPD 重建结果

图源:(a)Optics Letters, 2021, 46(17): 4112-4115;(b)Optics Letters, in review;(c)Optics Letters, 2022, 47(10): 2530-2533.


  5. 总结与展望  

RPD 近眼显示具有高光效,大视场等特点,其全景聚焦特征自然化解了辐辏-聚焦冲突,可以实现无视疲劳的 AR 近眼显示。针对出瞳拓展问题,几何光学方法常采用点光源阵列与机械偏转镜等手段实现视点的复制或偏转,但具备一定的复杂性。


HOE 独特的角度和偏振复用特性有助于实现大视场、大出瞳的轻薄化 RPD 系统。全息 RPD 直接通过 SLM 波前调制实现视网膜投影,可以实现对视点的自由、精准的操控。但全息 RPD 系统的出瞳与视场角仍受到 SLM 器件的限制。未来,通过结合全息波前调控与 HOE 的优点,有望实现大视场、大出瞳、高系统自由度的轻薄化 RPD 近眼显示。


  论文信息  

张旭, 王梓, 屠科锋, 陈涛, 庞煜剑, 吕国强, 冯奇斌. 视网膜投影显示技术研究进展[J]. 液晶与显示, 2022, 37(5):639-646.

https://cjlcd.lightpublishing.cn/thesisDetails#10.37188/CJLCD.2022-0040


  通讯作者简介  

王梓,合肥工业大学副研究员,硕士生导师。2012年、2017年于中国科学技术大学分别获得物理学学士和博士学位,主要从事计算全息、3D显示、近眼显示等方面的研究。先后承担国家自然科学基金、国家工程技术研究中心课题、安徽省重大专项等多项科研项目。已在 Optics Letters、Optics Express、Applied Physics Letters 等著名期刊发表 SCI 学术论文 30 余篇。

E-mail:wangzi@hfut.edu.cn




监制 | 张莹,赵阳

编辑 | 赵唯