首页> 中国专利> 光场设备、用于其的多深度像素渲染方法、以及使用其的多深度视力感知系统和方法

光场设备、用于其的多深度像素渲染方法、以及使用其的多深度视力感知系统和方法

摘要

描述了光场显示器、用于其的经调整的像素渲染方法和计算机可读介质、以及使用其的视力矫正系统和方法的多个实施方案。在一个实施方案中,提供了一种计算机实施的方法,以自动地调整对将经由数字显示器的一组像素在所述数字显示器上渲染的输入图像的用户感知,其中所述数字显示器具有光场整形元件的阵列。

著录项

  • 公开/公告号CN114930443A

    专利类型发明专利

  • 公开/公告日2022-08-19

    原文格式PDF

  • 申请/专利权人 艾沃鲁什奥普提克斯有限公司;

    申请/专利号CN202080091756.5

  • 申请日2020-10-30

  • 分类号G09G3/34(2006.01);

  • 代理机构北京汇知杰知识产权代理有限公司 11587;北京汇知杰知识产权代理有限公司 11587;

  • 代理人李洁;魏文浩

  • 地址 巴巴多斯戴雷尔斯路

  • 入库时间 2023-06-19 16:25:24

法律信息

  • 法律状态公告日

    法律状态信息

    法律状态

  • 2022-11-11

    实质审查的生效 IPC(主分类):G09G 3/34 专利申请号:2020800917565 申请日:20201030

    实质审查的生效

说明书

相关申请的交叉引用

本申请要求享有2019年11月1日提交的第62/929,639号美国临时申请、2020年3月5日提交的序列号为16/810,143的美国专利申请、以及2020年8月22日提交的序列号为PCT/IB2020/057887的国际申请的优先权,其中的每个的全部公开内容据此通过引用并入本文。

技术领域

本公开内容涉及数字显示器,并且具体地涉及一种光场显示器、以及用于其的经调整的像素渲染方法和计算机可读介质、以及使用其的经调整的视力感知系统和方法。

背景技术

已知光场显示器通过调整由显示器发出的光场来调整用户对输入图像的感知,以便控制光场图像最终如何被投射以供观看。例如,在一些示例中,原本需要矫正眼镜装置(eyewear)(诸如眼镜或接触透镜,或再次双光眼镜)的用户可以在不使用这样的眼镜装置的情况下以清楚的或改进的聚焦来观看由这样的设备产生的图像。其他光场显示器应用——诸如3D显示器——也是已知的。

提供此背景信息以揭示申请人认为可能相关的信息。必然不意在承认,也不应被理解为,任何前述信息构成现有技术。

发明内容

下面呈现了本文所描述的总体发明构思的简化总结,以提供对本公开内容的一些方面的基本理解。此总结不是本公开内容的广泛概述。它不意在限制本公开内容的实施方案的主要或关键元件,或不意在划定它们的范围超出由下面的描述和权利要求明确地或暗含地描述的范围。

存在对克服已知技术的一些缺点或至少提供对其的有用替代方案的光场显示器、用于其的经调整的像素渲染方法、以及使用其的经调整的视力感知系统和方法的需要。本公开内容的一些方面提供了这样的系统、方法和显示器的实施方案。

根据一方面,提供了一种计算机实施的方法,其由一个或多个数字处理器自动地实施,以自动地调整对将经由数字显示器的一组像素在所述数字显示器上渲染的不同的图像部分的用户感知,其中所述数字显示器具有光场整形元件(LFSE)的阵列,所述方法包括:对于至少一些所述像素中的每个给定的像素,通过数字地进行以下来数字地处理将在对应的感知图像深度处在感知上被渲染的每个给定的图像部分:计算所述给定的像素和用户瞳孔位置之间的矢量;基于与所述矢量交叉的给定的LFSE,近似估计由所述给定的像素发出的光场的方向;考虑所述方向,在所述给定的像素和所述给定的LFSE之间投射经调整的图像光线轨迹,以对于第一感知图像深度识别对应的经调整的图像位置;在所述经调整的图像光线轨迹与和所述第一感知图像深度关联的所述给定的图像部分交叉后,基于所述交叉将被指定用于所述对应的经调整的图像位置的经调整的图像部分值与所述给定的像素关联;另外对于随后的感知图像深度重复所述投射和关联;以及为每个所述给定的像素渲染与其关联的所述经调整的图像部分值,从而渲染不同地在感知上经调整的图像部分。

在一个实施方案中,将所述图像部分中的每个数字地映射到相对于数字显示器虚拟地定位在所述对应的感知图像深度处的对应的虚拟图像平面,并且其中将所述交叉限定在所述对应的虚拟图像平面上。

在一个实施方案中,基于用户眼睛聚焦参数、根据所述对应的感知图像深度将所述图像部分中的每个映射到用户视网膜平面,并且其中通过根据所述用户眼睛聚焦参数使所述经调整的图像光线轨迹重新定向在所述瞳孔位置处来将所述交叉限定在所述视网膜平面上。

在一个实施方案中,对于所述像素的至少一个子集中的每个所述给定的像素并行地实施所述投射和关联。

根据另一方面,在此提供了一种非暂时性计算机可读介质,其包括数字指令,所述数字指令将由一个或多个数字处理器实施,以通过以下方式自动地调整对将经由数字显示器的一组像素在所述数字显示器上渲染的不同的图像部分的用户感知,其中所述数字显示器具有光场整形元件(LFSE)的阵列:对于至少一些所述像素中的每个给定的像素,通过数字地进行以下来数字地处理将在对应的感知图像深度处在感知上被渲染的每个给定的图像部分:计算所述给定的像素和用户瞳孔位置之间的矢量;基于与所述矢量交叉的给定的LFSE,近似估计由所述给定的像素发出的光场的方向;考虑所述方向,在所述给定的像素和所述给定的LFSE之间投射经调整的图像光线轨迹,以对于第一感知图像深度识别对应的经调整的图像位置;在所述经调整的图像光线轨迹与和所述第一感知图像深度关联的所述给定的图像部分交叉后,基于所述交叉将被指定用于所述对应的经调整的图像位置的经调整的图像部分值与所述给定的像素关联;另外对于随后的感知图像深度重复所述投射和关联;以及为每个所述给定的像素渲染与其关联的所述经调整的图像部分值,从而渲染不同地在感知上经调整的图像部分。

根据另一方面,提供了一种数字显示设备,其能够操作以自动地调整对待被渲染在所述数字显示设备上的不同的图像部分的用户感知,所述设备包括:数字显示介质,其包括像素的阵列并且能够操作以相应地渲染像素化图像;光场整形元件(LFSE)的阵列,其用以对从所述像素发出的光场进行整形,并且从而至少部分地控制光场从所述显示介质朝向用户的投射;以及硬件处理器,其对用于输入图像部分的像素数据能够操作以输出将经由所述LFSE渲染的经调整的图像像素数据,以通过以下方式调整对通过其渲染的所述输入图像部分的用户感知:对于至少一些所述像素中的每个给定的像素,通过数字地进行以下来数字地处理将在对应的感知图像深度处在感知上被渲染的每个给定的图像部分:计算所述给定的像素和用户瞳孔位置之间的矢量;基于与所述矢量交叉的给定的LFSE,近似估计由所述给定的像素发出的光场的方向;考虑所述方向,在所述给定的像素和所述给定的LFSE之间投射经调整的图像光线轨迹,以对于第一感知图像深度识别对应的经调整的图像位置;在所述经调整的图像光线轨迹与和所述第一感知图像深度关联的所述给定的图像部分交叉后,基于所述交叉将被指定用于所述对应的经调整的图像位置的经调整的图像部分值与所述给定的像素关联;另外对于随后的感知图像深度重复所述投射和关联;以及为每个所述给定的像素渲染与其关联的所述经调整的图像部分值,从而渲染不同地在感知上经调整的图像部分。

在一个实施方案中,所述数字显示设备还包括能够操作以动态地跟踪(track)并且自动地适应所述输入用户瞳孔位置的改变的瞳孔跟踪器或瞳孔跟踪接口。

在一个实施方案中,所述LFSE的阵列包括小透镜阵列。

根据另一方面,提供了一种使用根据权利要求6至8中任一项所述的数字显示器的折射器(refractor),其中所述图像部分中的每个对应于在不同的感知图像深度处并排地渲染的验光字体。

根据另一方面,提供了一种用于对具有降低的视觉敏锐度的用户进行主观视力测试的设备,所述设备包括:如上文所描述的数字显示器,其中图像部分中的每个对应于验光字体;并且其中所述显示器能够操作以同时在所述部分中的每个中在不同的感知图像深度处并排地渲染所述验光字体。

在一个实施方案中,所述不同的感知图像深度经由所述显示器是动态地可变的,以主观地评估用户的降低的视觉敏锐度。

在一个实施方案中,所述设备还包括可变的光学系统,所述可变的光学系统被布置在所述显示器的视线中以进一步对于所述经渲染的图像部分调整所述感知深度。

根据另一方面,提供了一种计算机实施的方法,其由一个或多个数字处理器自动地实施,以调整对将经由一组像素和对应的光场整形元件(LFSE)的阵列渲染的不同的图像部分的用户感知,所述方法包括,对于所述一组像素中的至少一些中的每个给定的像素,数字地:考虑到由所述给定的像素发出的光场的方向、基于与其交叉的给定的LFSE,在所述给定的像素和用户瞳孔位置之间数字地投射经调整的图像光线轨迹,以与对于给定的感知图像深度的经调整的图像位置交叉;在所述经调整的图像光线轨迹与和所述给定的感知图像深度关联的给定的图像部分交叉后,基于所述交叉将被指定用于所述经调整的图像位置的经调整的图像部分值与所述给定的像素关联;另外对于随后的感知图像深度和与其关联的经调整的图像部分重复所述投射和关联;以及为每个所述给定的像素渲染与其关联的所述经调整的图像部分值,从而渲染不同地在感知上经调整的图像部分,所述经调整的图像部分在感知上被渲染在各自对应的感知图像深度处。

根据另一方面,提供了一种非暂时性计算机可读介质,其包括数字指令,所述数字指令将由一个或多个数字处理器实施,以对于一组像素中的至少一些中的每个给定的像素通过数字地进行以下来自动地调整对将经由数字显示器的所述一组像素以及相对于所述数字显示器布置的光场整形元件(LFSE)的阵列在所述数字显示器上渲染的不同的图像部分的用户感知:考虑到由所述给定的像素发出的光场的方向、基于与其交叉的给定的LFESE,在所述给定的像素和用户瞳孔位置之间数字地投射经调整的图像光线轨迹,以与对于给定的感知图像深度的经调整的图像位置交叉;在所述经调整的图像光线轨迹与和所述给定的感知图像深度关联的给定的图像部分交叉后,基于相应地待被渲染的所述交叉将被指定用于所述经调整的图像位置的经调整的图像部分值与所述给定的像素关联;另外对于随后的感知图像深度和与其关联的经调整的图像部分重复所述投射和关联;从而渲染不同地在感知上经调整的图像部分,所述经调整的图像部分在感知上被渲染在各自对应的感知图像深度处。

在一个实施方案中,所述计算机可读介质还包括用于以下的指令,或所述方法还包括,在所述投射之前:计算所述给定的像素和所述用户瞳孔位置之间的矢量;以及基于与所述矢量交叉的所述给定的LFSE,近似估计由所述给定的像素发出的所述光场的所述方向。

在一个实施方案中,将所述图像部分中的每个数字地映射到相对于所述像素虚拟地定位在所述各自对应的感知图像深度处的对应的虚拟图像平面,并且其中将所述交叉限定在所述对应的虚拟图像平面上。

在一个实施方案中,基于用户眼睛聚焦参数、根据所述给定的感知图像深度将所述图像部分中的每个映射到用户视网膜平面,并且其中通过根据所述用户眼睛聚焦参数使所述经调整的图像光线轨迹重新定向在所述瞳孔位置处来将所述交叉限定在所述视网膜平面上。

在一个实施方案中,对于所述像素的至少一个子集中的每个所述给定的像素并行地实施所述投射和关联。

在一个实施方案中,将在所述各自对应的感知图像深度处并排地在感知上渲染所述不同的图像部分。

在一个实施方案中,将在二维网格中或在各自的图像象限中在所述各自对应的感知图像深度处并排地在感知上渲染所述不同的图像部分。

在一个实施方案中,所述图像部分中的每个对应于在所述部分中的每个中在不同的感知图像深度处并排地同时渲染的验光字体,以主观地评估用户的降低的视觉敏锐度。

在一个实施方案中,所述图像部分之间的重叠通过渲染最近的感知深度来自动地寻址。

根据另一方面,提供了一种数字显示设备,包括:像素的阵列;光场整形元件(LFSE)的阵列,用以对从所述像素发出的光场进行整形,并且从而至少部分地控制光场从所述像素朝向给定的用户瞳孔位置的投射;以及硬件处理器,其对用于输入图像部分的像素数据能够操作以输出将经由所述LFSE渲染的经调整的图像像素数据,以调整来自通过其渲染的所述输入图像部分的所述给定的用户瞳孔位置的用户感知,并且从而在各自对应的感知图像深度处渲染不同地在感知上经调整的图像部分。

在一个实施方案中,对于与所述用户瞳孔位置交叉的所述像素的阵列中的至少一些中的每个给定的像素,所述硬件处理器根据数字地计算的经调整的图像光线轨迹输出所述经调整的像素数据。

在一个实施方案中,对于所述像素的阵列中的至少一些中的每个给定的像素,所述硬件处理器能够操作以:考虑到由所述给定的像素发出的光场的方向、基于与其交叉的给定的LFESE,在所述给定的像素和所述给定的用户瞳孔位置之间数字地投射经调整的图像光线轨迹,以与对于给定的感知图像深度的经调整的图像位置交叉;在所述经调整的图像光线轨迹与和所述给定的感知图像深度关联的给定的图像部分交叉后,基于所述交叉将被指定用于所述经调整的图像位置的经调整的图像部分值与所述给定的像素关联;另外对于随后的感知图像深度和与其关联的经调整的图像部分重复所述投射和关联;以及为每个所述给定的像素渲染与其关联的所述经调整的图像部分值,从而渲染不同地在感知上经调整的图像部分,所述经调整的图像部分在感知上被渲染在各自对应的感知图像深度处。

在一个实施方案中,所述硬件处理器还能够操作以,在所述投射之前:计算所述给定的像素和所述用户瞳孔位置之间的矢量;以及基于与所述矢量交叉的所述给定的LFSE,近似估计由所述给定的像素发出的所述光场的所述方向。

在一个实施方案中,将所述图像部分中的每个数字地映射到相对于所述数字显示器虚拟地定位在所述各自对应的感知图像深度处的对应的虚拟图像平面,并且其中将所述交叉限定在所述对应的虚拟图像平面上。

在一个实施方案中,基于用户眼睛聚焦参数、根据所述给定的感知图像深度将所述图像部分中的每个映射到用户视网膜平面,并且其中通过根据所述用户眼睛聚焦参数使所述经调整的图像光线轨迹重新定向在所述瞳孔位置处来将所述交叉限定在所述视网膜平面上。

在一个实施方案中,对于所述像素的至少一个子集中的每个所述给定的像素并行地实施所述投射和关联。

在一个实施方案中,将在所述各自对应的感知图像深度处并排地在感知上渲染所述不同的图像部分。

在一个实施方案中,将在二维网格中或在各自的图像象限中在所述各自对应的感知图像深度处并排地在感知上渲染所述不同的图像部分。

在一个实施方案中,所述图像部分中的每个对应于在所述部分中的每个中在不同的感知图像深度处并排地同时渲染的验光字体,以主观地评估用户的降低的视觉敏锐度。

在一个实施方案中,所述图像部分之间的重叠通过渲染最近的感知深度来自动地寻址。

在一个实施方案中,所述设备还包括能够操作以动态地跟踪并且自动地适应所述给定的用户瞳孔位置的改变的瞳孔跟踪器或瞳孔跟踪接口。

在一个实施方案中,所述LFSE的阵列包括小透镜阵列。

在一个实施方案中,所述不同的感知图像深度中的每个是动态地可变的,以主观地评估用户的降低的视觉敏锐度。

其他方面、特征和/或优点将在阅读参考附图仅通过示例的方式给出的其具体实施方案的以下非限制性描述时变得更明显。

附图说明

将参考附图仅通过示例的方式提供本公开内容的一些实施方案,其中:

图1是根据一个实施方案的具有数字显示器的电子设备的图解视图;

图2A和图2B分别是根据一个实施方案的用于电子设备的光场显示器的组件的分解视图和侧视图;

图3A、图3B和图3C分别示意性地例示了根据一个实施方案的正常视力、模糊视力和矫正视力;

图4是根据一个实施方案的由凸面小透镜或微透镜限定的单个光场像素的示意图,该凸面小透镜或微透镜覆在下面的像素阵列上面并且布置在其焦点处或附近以产生大体上准直束;

图5是根据一个实施方案的光场显示器的组件的另一个示意性分解视图,在该组件中各自的像素子集被对准以通过对应的微透镜或小透镜发射光;

图6是根据一个实施方案的光场模式(pattern)的示例性图,该光场模式当被光场显示器恰当地投射时产生对于具有降低的视觉敏锐度的观看者表现出降低的模糊的校正图像;

图7A和图7B是根据一个实施方案的在没有图像校正的情况下(图7A中的模糊图像)和在有经由光场显示器进行的图像校正的情况下(图7B中的校正图像)如由具有降低的敏锐度的观看者例示性地观看的斯内伦图表的照片;

图8是根据一个实施方案的相对于下面的像素阵列以一角度布置的六边形小透镜阵列的一部分的示意图;

图9A和图9B是根据一个实施方案的在没有图像校正的情况下(图9A中的模糊图像)和在有经由具有角度地不匹配的小透镜阵列的光场显示器进行的图像校正的情况下(图9B中的校正图像)如由具有降低的视觉敏锐度的观看者例示性地观看的照片;

图10A和图10B是根据一个实施方案的在没有图像校正的情况下(图10A中的模糊图像)和在有经由具有角度地不匹配的小透镜阵列的光场显示器进行的图像校正的情况下(图10B中的校正图像)如由具有降低的视觉敏锐度的观看者例示性地观看的照片;

图11是根据一个实施方案的例示性光线追踪(ray-tracing)渲染过程的过程流程图;

图12和图13分别是根据一个实施方案的用于图11的光线追踪渲染过程的示例性输入常数参数和变量的过程流程图;

图14A至图14C是例示了图11的某些过程步骤的示意图;

图15是根据一个实施方案的用于在图11的光线追踪渲染过程中计算关联的光场整形单元的中心位置的示例性过程的过程流程图;

图16A和图16B是根据一个实施方案的例示了具有对应的六边形拼贴(tile,贴片)阵列的示例性六边形光场整形层的示意图;

图17A和图17B是根据一个实施方案的例示了将交错矩形拼贴阵列覆在图16A和图16B的六边形拼贴阵列上面的示意图;

图18A至图18C是根据一个实施方案的例示了在单个矩形拼贴内相邻的六边形拼贴的关联的区域的示意图;

图19是根据另一个实施方案的例示性光线追踪渲染过程的过程流程图;

图20A至图20D是例示了图19的某些过程步骤的示意图;

图21A和图21B是根据一些实施方案的分别例示了像素和子像素渲染的示意图;

图22A和图22B是根据一个实施方案的由各自的红色(R)、绿色(G)和蓝色(B)子像素限定的LCD像素阵列并且分别使用像素和子像素渲染来渲染角图像边缘的示意图;

图23是根据一个实施方案的图22A的像素之一的示意图,示出了用于独立地解释(account for)其子像素以通过光场显示器将子像素渲染应用于校正图像的显示的措施;

图24是根据一个实施方案的用于渲染源自多个不同的虚拟图像平面的光场的例示性光线追踪渲染过程的过程流程图;

图25是根据一个实施方案的用于遍历(iterate over)图24的光线追踪渲染过程中的多个虚拟图像平面的示例性过程的过程流程图;

图26A至图26D是例示了图25的某些过程步骤的示意图;

图27是根据一个实施方案的用于渲染源自多个不同的虚拟图像平面的光场的例示性光线追踪渲染过程的过程流程图;

图28是根据一个实施方案的用于遍历图27的光线追踪渲染过程中的多个虚拟图像平面的示例性过程的过程流程图;以及

图29A和图29B是根据一个实施方案的例示了使用图25或图27的光线追踪渲染过程的主观视觉敏锐度测试的一个实施例的示意图。

为简单和清楚起见,例示了一些图中的元件,并且所述元件不一定按比例绘制。例如,图中的元件中的一些的尺寸可能相对于其他元件被强调,以便于对多个目前公开的实施方案的理解。另外,常常未描绘在商业上可行的实施方案中有用的或必需的常见但易于理解的元件,以便于较少障碍地查看本公开内容的这些多个实施方案。

具体实施方式

将参考下文所讨论的细节描述本说明书的多个实施方式和方面。以下描述和附图例示本说明书,而不被理解为限制本说明书。描述了许多具体细节以提供对本说明书的多个实施方式的透彻理解。然而,在某些实例中,未描述众所周知的或常规的细节,以提供对本说明书的实施方式的简明讨论。

下文将描述多个装置和过程,以提供本文所公开的系统的实施方式的示例。下文所描述的实施方式不限制任何所要求保护的实施方式,并且任何所要求保护的实施方式可以涵盖与下文所描述的过程或装置不同的过程或装置。所要求保护的实施方式不限于具有下文所描述的任何一个装置或过程的所有特征的装置或过程,或限于下文所描述的多个或所有装置或过程的共有特征。下文所描述的装置或过程可以不是任何所要求保护的主题的一个实施方式。

此外,阐述了许多具体细节以提供对本文所描述的实施方式的透彻理解。然而,相关领域的技术人员应理解,可以在没有这些具体细节的情况下实践本文所描述的实施方式。在其他实例中,未详细描述众所周知的方法、程序和部件,以便不使本文所描述的实施方式模糊不清。

在本说明书中,元件可以被描述为“被配置为”执行一个或多个功能或“被配置用于”这样的功能。通常,被配置为执行一个功能或被配置用于执行一个功能的元件被启用以执行该功能,或适合于执行该功能,或适于执行该功能,或能够操作以执行该功能,或以其他方式能够执行该功能。

应理解,出于本说明书的目的,“X、Y和Z中的至少一个”和“X、Y和Z中的一个或多个”的语言可以被理解为仅有X、仅有Y、仅有Z或两个或更多个项X、Y和Z的任何组合(例如,XYZ、XY、YZ、ZZ等)。类似的逻辑可以在“至少一个……”和“一个或多个……”语言的任何出现时应用于两个或更多个项。

本文所描述的系统和方法根据不同的实施方案提供了光场显示器、用于其的经调整的像素渲染方法、以及使用其的经调整的视力感知系统和方法的不同示例。例如,本文所描述的实施方案中的一些提供了对当前的光场显示技术的改进或替代,例如,提供多个并存的(concurrent,同时存在的)经调整的图像感知平面、深度和/或焦点,它们在一些实施例中可以导致可感知的2.5D/3D或可调整的基于位置的图像透视效果、明显优化的视力矫正工具或经视力矫正的2.5D/3D渲染工具,或再次提供用于实施主观视力测试的工具、装备、特征或解决方案。例如,主观视力(例如模糊)测试工具可以依赖于本文所描述的解决方案以在提供用于光学测试比较的主观基础时同时描绘对应于相应的光学分辨能力或矫正能力的不同的验光字体。下文将进一步详细描述这些和其他这样的应用。

如上文所述,本文所描述的设备、显示器和方法可以允许用户对一个或多个输入图像(或输入图像部分)的感知,其中每个图像或图像部分虚拟地定位在不同的图像平面/深度位置,以使用光场显示器而被调整或更改。如下文所描述的,这些可以被用来为观看数字显示器的用户提供视力矫正,但是如下所详述的并且根据不同的实施方案,相同的光场显示器和渲染技术可以同样在折射器或类似综合屈光检查仪的设备中被使用或实施,以测试、筛选、诊断和/或推断患者的降低的视觉敏锐度。根据一些实施方案,可以构想如本文所描述的不同的视力测试设备和系统,以便替代或补充诸如折射器和/或综合屈光检查仪的传统的视力测试设备,在所述传统的设备中经由改变和/或组合光学元件(透镜、棱镜等)按顺序向用户示出不同的验光字体,以便识别最好地改善用户对这些显示的验光字体的感知的光学组合。如下文将更详细地描述的,如本文所描述的实施方案单独地或与互补光学元件——诸如折射透镜、棱镜等——组合地引入光场显示技术和图像渲染技术,以除了别的益处之外提供更大的视力测试多功能性、紧凑性、便携性、范围、精度和/或如熟练技术人员将容易理解的其他益处。因此,虽然术语光场折射器或综合屈光检查仪在本文中将被可互换地使用以提及更一般限定的光场视力测试设备和系统的不同的实施方案的实施方式,但是本领域普通技术人员将理解本文所描述的光场渲染技术的实施方式和本文关于一些实施方案所详述的光线追踪方法在提供一般有效的光场视力测试设备和系统时的多功能性。

如上文所述,本文所描述的实施方案中的一些提供了数字显示设备、或包含这样的显示器的设备,以供具有降低的视觉敏锐度的用户使用,由此由这样的设备最终渲染的图像可以被动态地处理以适应用户的降低的视觉敏锐度,以使得他们可以在不使用原本将需要的矫正眼镜装置的情况下查看渲染的图像。因此,可以动态地控制这样的实施方案以渐进地调整用户对经渲染的图像或图像部分(例如在例如模糊测试的背景中的验光字体)的感知,直到应用了优化用户的感知的优化校正。然后,可以将用来实现此优化的感知的感知调整参数转化成将被应用于矫正眼镜装置的建议的视力矫正处方。相反地,用户的视力矫正眼镜装置处方可以被用作用以指示对所应用的视力矫正参数和相关的图像感知调整的选择的输入,以例如验证或可能地以进一步精细调节用户的处方,并且渐进地调整这样的矫正参数以对进一步改善的可能性进行测试。如上文所述,实施方案不被限制成这样,因为本文所描述的概念和解决方案也可以应用于用户对待被显示的输入图像的感知可以经由光场显示器被更改或调整的其他技术。然而,出于例示的目的,许多本文所描述的实施方案将被描述为允许数字地自适应视力测试的实施方式,使得具有这样降低的视觉敏锐度的个人可以被暴露于输入图像(例如验光字体)的不同的在感知上经调整的形式,以主观地查明潜在地需要的或优选的视力矫正。

通常,本文所考虑的数字显示器将包括一组图像渲染像素和对应的一组光场整形元件,所述一组光场整形元件至少部分地控制由其发出的光场,以产生输入图像的在感知上经调整的形式,尤其是输入图像或输入场景的不同的在感知上经调整的部分,所述在感知上经调整的部分可以包括相同的图像的不同的部分、相同的2.5D/3D场景的不同的部分,或与不同的图像深度、效果和/或位置关联的并且被组装成组合的视觉输入的不同的图像(部分)。为了简单起见,下面将通常将被不同地寻址的部分或片段认为输入图像的不同的部分,无论该输入图像包括具有不同地表征的部分的单个图像、不同地表征的图像的数字组件、覆盖物、背景、前景等、或任何其他这样的数字图像组合。

在一些示例中,光场整形元件可以采取光场整形层或类似的光学元件阵列的形式,以在至少部分地控制发出的光场时相对于显示像素布置。如下文进一步详细描述的,这样的光场整形层元件可以采取微透镜和/或针孔阵列、或其他类似的光学元件阵列的形式,再或采取下面的光整形层——诸如下面的光学栅格阵列或能够操作以产生方向性(directional,定向)像素化输出的类似的光学元件阵列——的形式。

在光场整形层的背景中,如下文根据一些实施方案进一步详细描述的,光场整形层可以被布置在距像素化显示器一预设定距离处,以便可控制地整形或影响从其发出的光场。例如,每个光场整形层可以由光学元件阵列限定,所述光学元件阵列被定中心在显示器的像素阵列的对应的子集上方,以光学地影响从其发出的光场,并且从而控制其从显示介质朝向用户的投射,例如,对每个像素或像素组将如何被观看者的眼睛观看提供一些控制。如下文将进一步详述的,阵列化光学元件可以包括但不限于小透镜、微透镜或共同形成例如小透镜阵列的其他这样的衍射光学元件;针孔或共同形成例如视差或类似的屏障的类似的孔径或窗口;同中心地图案化的屏障,例如切口(cut out)和/或窗口,诸如例如以限定菲涅耳波带片(Fresnel zone plate)或光学筛,并且它们共同形成衍射光学屏障(例如,如在申请人的、序列号为15/910,908的共同未决的美国申请中所描述的,所述美国申请的全部内容据此通过引用并入本文);和/或其组合,诸如例如,小透镜阵列,其各自的透镜或小透镜在其周边周围被部分地遮蔽或阻挡,以便将小透镜的折射属性与由针孔屏障提供的一些优点结合。

在操作中,显示设备通常还将调用硬件处理器,所述硬件处理器可对待被显示的图像的图像像素(或子像素)数据进行操作,以根据存储的光场整形元件和/或层的特性(例如层距显示屏幕的距离、光学元件之间的距离(间距)、每个像素或子像素相对于对应的光学元件的绝对相对位置、光学元件的属性(尺寸、衍射属性和/或折射属性等)或其他这样的属性以及所选择的与用户的降低的视觉敏锐度或预期的观看体验相关的视力矫正或调整参数)输出待被渲染的校正的或经调整的图像像素数据。虽然对于一个给定的实施方式,光场显示器特性通常将保持静态(即不管用户是谁,对于每个设备将使用和设置一个给定的整形元件和/或层),但是在一些实施方案中,图像处理可以根据用户的视觉敏锐度或预期应用而被动态地调整,以便考虑到量化的用户眼睛焦点或类似的光学像差——例如在经由静态光学层和/或元件渲染校正的/经调整的图像像素数据时引起的——而主动地调整虚拟图像平面的距离、或用户的视网膜平面上的感知图像,或在例如实施观看者自适应前置过滤算法或类似的方法(例如压缩光场优化)时主动地调整可以被考虑的图像处理参数,以便考虑到像素或子像素——特定的光通过该层可见——而至少部分地控制由用户的眼睛感知的图像。

因此,给定的设备可以适于补偿不同的视觉敏锐度水平,并且因此适应不同的用户和/或用途。例如,一个特定的设备可以被配置为实施和/或渲染交互式图形用户界面(GUI),该交互式图形用户界面包含动态视力矫正缩放函数,该动态视力矫正缩放函数响应于经由GUI与其进行的指定的用户交互而实时地动态地调整一个或多个指定的视力矫正参数。例如,动态视力矫正缩放函数可以包括由(连续的或离散的)用户滑动运动或类似的操作控制的图形渲染缩放函数,由此GUI可以被配置为捕捉用户的给定的滑动运动操作并且将该滑动运动操作转化为对随着用户的给定的滑动运动操作的程度可缩放的指定的视力矫正参数的对应的调整。在申请人的序列号为15/246,255的共同未决的美国专利申请中描述了这些和其他示例,所述美国专利申请的全部内容通过引用并入本文。

参考图1,并且根据一个实施方案,现在将描述数字显示设备,其使用数字100总体上表示。在此示例中,设备100总体上被描绘为智能电话等,尽管同样可以考虑包含图形显示器的其他设备,诸如平板计算机、电子阅读器、手表、电视、GPS设备、膝上型计算机、台式计算机监视器、电视、智能电视、手持视频游戏控制台和控制器、车辆仪表板和/或娱乐显示器等。

在所例示的实施方案中,设备100包括处理单元110、数字显示器120和内部存储器130。显示器120可以是LCD屏幕、监视器、等离子显示面板、LED或OLED屏幕,或由用于渲染像素化图像或其他类似媒体或信息的一组像素限定的任何其他类型的数字显示器。内部存储器130可以是任何形式的电子存储装置,包括磁盘驱动器、光盘驱动器、只读存储器、随机存取存储器或闪存,举几个例子。出于例示性目的,存储器130已经在其内存储视力矫正应用程序140,尽管可以实施各种方法和技术以提供用于由处理单元执行以在产生适合于产生适应用户的降低的视觉敏锐度的校正图像的校正像素数据时处理待被渲染的图像的像素数据的计算机可读代码和指令(例如存储的并且可执行的图像校正应用程序、工具、实用程序或引擎等)。电子设备100的其他部件可以可选地包括但不限于一个或多个后置和/或前置摄像机150、加速度计160和/或能够确定电子设备100的倾斜和/或定向的其他设备定位/定向设备等。

例如,电子设备100或相关环境(例如在台式机工作站(desktop workstation)、车辆控制台/仪表板、游戏或电子学习站、多媒体显示室等的背景中)可以包括另外的硬件、固件和/或软件部件和/或模块,以递送互补的和/或协作的特征、功能和/或服务。例如,在某个实施方案中,并且如下文将更详细描述的,瞳孔/眼睛跟踪系统可以被整体地或协作地实施,以通过跟踪用户的眼睛/瞳孔(例如两个或一个,例如优势,眼睛)的位置并且相应地调整光场校正来改善或增强校正图像渲染。例如,设备100可以包括集成在其内或与其接合的一个或多个眼睛/瞳孔跟踪光源,诸如一个或多个红外(IR)或近红外(NIR)光源,以适应在有限环境光条件下的操作、利用视网膜回复反射、调用角膜反射、和/或其他这样的考虑。例如,不同的IR/NIR瞳孔跟踪技术可以采用一个或多个(例如阵列化)定方向的或宽照明光源来在识别跟踪瞳孔位置时刺激视网膜回复反射和/或角膜反射。其他技术可以采用基于环境或IR/NIR光的机器视觉和面部识别技术来以其他方式定位和跟踪用户的眼睛/瞳孔。为此,可以部署一个或多个对应的(例如,可见的、IR/NIR)摄像机以捕捉眼睛/瞳孔跟踪信号,所述眼睛/瞳孔跟踪信号可以使用各种图像/传感器数据处理技术来处理,以映射用户的眼睛/瞳孔的3D位置。在诸如移动电话的移动设备的背景中,这样的眼睛/瞳孔跟踪硬件/软件可以与设备成整体,例如,与集成部件诸如一个或多个前置摄像机、机载IR/NIR光源等协同操作。在其他用户环境中,诸如在车辆环境中,眼睛/瞳孔跟踪硬件可以进一步分布在环境(诸如仪表板、控制台、顶棚、挡风玻璃、反射镜或类似地安装的摄像机、光源等)中。

参考图2A和图2B,电子设备100,诸如图1中所例示的电子设备,被进一步示出为包括光场整形层(LFSL)200,该光场整形层覆在该电子设备的显示器120的顶上面,并且经由透明垫片310或熟练技术人员可以容易明了的其他这样的装置与其隔开。可选的透明屏幕保护器320也被包括在层200的顶上。

为了例示,将在至少部分地通过小透镜阵列限定的光场整形层的背景中描述下面的实施方案,所述小透镜阵列包括微透镜(在本文中也可交换地称为小透镜)阵列,所述微透镜各自被布置在距下面的数字显示器中的图像渲染像素的对应的子集一距离处。将理解,虽然光场整形层可以被制造和布置作为数字屏幕覆盖物,但是其他集成概念也可以被考虑,例如,在光场整形元件被整体地形成或制造在数字屏幕的整体部件诸如有纹理的或有掩模的玻璃板、束整形光源(例如方向性光源和/或背光照亮的集成光学栅格阵列)或类似部件内的情况下。

因此,每个小透镜将预测性地对从这些像素子集发出的光进行整形,以至少部分地控制由显示设备投射朝向用户的光线。如上文所述,在不脱离本公开内容的一般范围和性质的情况下,在本文中还可以考虑其他光场整形层,由此光场整形将被本领域普通技术人员理解为参考度量,通过所述参考度量,原本将从每个像素组无差别地(即各向同性地)发出的光被有意地控制以限定可以通过整形层在用户和设备的像素之间追踪的可预测光线。

为了更清楚,光场通常被定义为矢量函数,该矢量函数描述在每一个方向上流动通过空间中的每一个点的光的量。换句话说,产生或反射光的任何事物都具有关联的光场。本文所描述的实施方案从一个对象产生光场,所述光场不是人们将期望从该对象观察到的“自然”矢量函数。这使它有能力模仿物理上不存在的对象的“自然”光场,诸如位于光场显示器后面很远的虚拟显示器,其现在将被称为“虚拟图像”。如在下文的示例中所述,在一些实施方案中,光场渲染可以被调整以在设置在距输入用户瞳孔位置一指定距离处的虚拟图像平面上有效地生成虚拟图像,例如,以便在适应用户的降低的视觉敏锐度(例如最小或最大观看距离)时有效地相对于显示设备向后推动或向前移动感知图像。在又一些其他实施方案中,考虑到视觉像差,光场渲染可以代替地或替代地设法将输入图像映射在用户的视网膜平面上,以便自适应地调整输入图像在显示设备上的渲染以产生映射的效果。即,在未经调整的输入图像原本将通常在视网膜平面前面或后面聚焦(和/或遭受其他光学像差)的情况下,此方法允许将预期图像映射在视网膜平面上,并且从此工作以相应地解决指定的光学像差。使用此方法,该设备可以进一步在计算上解释和计算趋向于无穷的虚拟图像距离,例如,对于远视眼的极端情况。如将通过下文的描述所理解的,此方法还可以更容易地允许对使用虚拟图像和图像平面实施方式可能不容易建模的其他视觉像差的适应性。在这两个示例和类似的实施方案中,输入图像被数字地映射到经调整的图像平面(例如虚拟图像平面或视网膜平面),所述经调整的图像平面被指定以为用户提供至少部分地解决指定的视觉像差的指定的图像感知调整。自然地,虽然使用这些方法可以解决视觉像差,但是使用类似的技术也可以实施其他视觉效果。

在一个示例中,为了将此技术应用于视力矫正,首先考虑眼睛中晶状体的正常能力,如图3A中所示意性地例示的,其中,对于正常视力,图像在眼睛的右侧(C),并且通过晶状体(B)投射到在眼睛后面的视网膜(A)。如图3B中所比较地示出的,远视眼中的不良晶状体形状(F)导致图像越过视网膜聚焦(D)、在视网膜(E)上形成模糊的图像。虚线勾勒出光束(G)的路径。自然地,视觉像差能够并且将对视网膜上的图像形成具有不同的影响。为了解决这些像差,根据一些实施方案,对于具有原本不能够足够地调整以产生清晰图像的晶状体的眼睛,光场显示器(K)将正确的清晰图像(H)投射在视网膜上。另外两个光场像素(I)和(J)被以浅色绘制,但是原本将填满图像的其余部分。

如熟练技术人员将理解的,如在图3C中看见的光场不能够用‘平常的’二维显示器产生,因为像素的光场各向同性地发射光。相反,有必要对发射的光的角度和原点实施严格控制,例如,使用微透镜阵列或诸如视差屏障的其他光场整形层、或其组合。

下面是微透镜阵列的示例,图4示意性地例示了由凸面微透镜(B)限定的单个光场像素,所述凸面微透镜被布置在与LCD显示器(C)中的对应的像素子集相距其焦距处,以产生由这些像素发射的大体上准直光束,由此该束的方向由像素相对于微透镜的位置控制。单个光场像素产生与图3C中所示出的束类似的束,在图3中外部光线较浅,并且大多数内部光线较深。LCD显示器(C)发射光,该光到达微透镜(B),并且它产生大体上准直光束(A)。

因此,在可预测地将特定的微透镜阵列与像素阵列对准时,指定的像素“圆”将与每个微透镜对应,并且负责透过该透镜将光递送到瞳孔。图5示意性地例示了光场显示器组件的一示例,其中微透镜阵列(A)位于蜂窝电话上的LCD显示器(C)上方,以使像素(B)通过微透镜阵列发射光。光线追踪算法因此可以被用来产生待被显示在微透镜下方的像素阵列上的图案,以创建将有效地矫正观看者的降低的视觉敏锐度的期望的虚拟图像。图6提供了用于字母“Z”的这样的图案的一示例。下文讨论这样的光线追踪算法的示例。

如下文将进一步详述的,微透镜阵列和像素阵列之间的间隔以及透镜的间距可以根据各种操作特性来选择,所述特性是诸如显示器的正常或平均操作距离、和/或正常或平均操作环境光级(light level)。

此外,由于产生角分辨率足以在显示器的全观看‘区’上进行调节校正的光场将通常需要极高的像素密度,相反,在一些实施方案中,只能够在用户的瞳孔的位置处或周围产生正确的光场。为此,光场显示器可以与瞳孔跟踪技术配对,以跟踪用户的眼睛/瞳孔相对于显示器的位置。然后,显示器可以补偿用户的眼睛位置,并且产生正确的虚拟图像,例如,实时地。

在一些实施方案中,光场显示器可以在智能电话中的硬件上以超过30帧每秒渲染动态图像。

在一些实施方案中,光场显示器可以在光学无穷处显示虚拟图像,意味着可以对任何水平的基于调节的远视眼(例如一阶)进行矫正。

在一些另外的实施方案中,光场显示器可以向后或向前推动图像,从而允许对远视眼(远视)和近视眼(近视)进行选择性图像校正。这将在下文在使用光场显示器的光场视力测试设备(例如折射器/综合屈光检查仪)的背景中进一步讨论。

为了演示工作光场解决方案,并且根据一个实施方案,设置了下面的测试。摄像机配备有简单的镜头,以模拟人类眼睛中的晶状体,并且孔径被设置以模拟正常的瞳孔直径。镜头被聚焦到50cm远,并且电话被安装在25cm远。这将近似于最小看见距离为50cm并且正试图在25cm处使用电话的用户。

对于阅读眼镜,+2.0屈光度将是视力矫正所必需的。缩放的斯内伦图表被显示在蜂窝电话上,并且拍摄一张照片,如图7A中所示出的。使用相同的蜂窝电话,但是前面具有使用该蜂窝电话的像素阵列的光场组件,显示补偿镜头焦点的虚拟图像。再次拍摄一张照片,如图7B中所示出的,示出了明显的改善。

图9A和图9B提供了使用一示例性实施方案取得的结果的另一示例,其中在没有图像校正的情况下(图9A)和在有通过相对于屏幕的正方形像素阵列以2度角度设置并且由具有7.0mm焦距和200μm间距的微透镜限定的正方形熔融石英微透镜阵列进行的图像校正的情况下,在Sony

图10A和图10B提供了使用一示例性实施方案取得的结果或又另一示例,其中在没有图像校正的情况下(图10A)和在有通过相对于屏幕的正方形像素阵列以2度角度设置并且由具有10.0mm焦距和150μm间距的微透镜限定的正方形熔融石英微透镜阵列进行的图像校正的情况下,在Sony

因此,如上文所描述并且下文进一步例示的显示设备可以被配置为经由适应于用户的视觉敏锐度的光场整形层来渲染校正图像。通过根据用户的实际预定义的、设置的或选择的视觉敏锐度水平来调整图像校正,可以使用相同的设备配置来适应不同的用户和视觉敏锐度。换言之,在一个示例中,通过调整矫正图像像素数据以动态地调整如经由光场整形层所渲染的显示器下方/上方的虚拟图像距离,可以适应不同的视觉敏锐度水平。

如熟练技术人员将理解的,可以考虑不同的图像处理技术,诸如上文介绍的并且由Pamplona和/或Huang教导的图像处理技术,例如,其还可以影响其他光场参数以实现适当的图像校正、虚拟图像分辨率、亮度等。

参考图8,并且根据一个实施方案,现在将根据另一实施方案描述微透镜阵列配置,以在一个矫正光场实施方式中提供光场整形元件。在此实施方案中,微透镜阵列800由微透镜802的六边形阵列限定,微透镜802被布置成覆在对应的正方形像素阵列804上面。这样做时,虽然每个微透镜802可以与一个指定的像素子集对准以产生如上文所描述的光场像素,但是六边形-到-正方形阵列的不匹配可以减轻某些周期光学伪像,否则考虑到光学元件的周期性质和产生期望的光学图像校正所依赖的原理,所述光学伪像可能被显现。相反地,当操作包括六边形像素阵列的数字显示器时,正方形微透镜阵列可以是有利的。

在一些实施方案中,如图8中所例示的,微透镜阵列800可以另外地或替代地相对于下面的像素阵列以角度806覆在上面,这可以另外地或替代地减轻周期光学伪像。

在又一些另外的或替代的实施方案中,微透镜阵列和像素阵列之间的间距比率可以被有意地选择,以另外地或替代地减轻周期光学伪像。例如,完全匹配的间距比率(即每个微透镜的显示像素的精确整数)最有可能引起周期光学伪像,而间距比率不匹配可以帮助减少这样的情况发生。因此,在一些实施方案中,间距比率将被选择以限定无理数或至少不规则比率,以便使周期光学伪像最小化。例如,结构周期性可以被限定,以便减少目前的显示器屏幕的尺寸内的周期发生的数目,例如,理想地被选择以便定义大于使用的显示器屏幕的尺寸的结构周期。

虽然在微透镜阵列的背景中提供了此示例,但是可以在视差屏障、衍射屏障或其组合的背景中应用类似的结构设计考虑。

参考图11至图13,并且根据一个实施方案,现在将描述一种用于经由适应用户的降低的视觉敏锐度的光场整形元件阵列渲染经调整的图像的示例性在计算上实施的光线追踪方法,所述光场整形元件在此示例中由相对于一组下面的显示像素布置的光场整形层(LFSL)提供。在此示例中,出于例示性目的,在不考虑不同的图像部分的情况下实施单个图像(即整个图像)的调整。下文的另一些示例将具体地解决下面的用于自适应地调整不同的图像部分的示例的修改。

在此示例性实施方案中,可以预先确定一组常数参数1102。它们可以包括例如在用户的观看会话期间预期不显著改变的任何数据,例如,所述数据通常基于待要实施该方法的显示器的物理特性和功能特性,如下文将解释的。类似地,渲染算法的每一次迭代可以使用一组输入变量1104,预期所述一组输入变量在每个渲染迭代时改变或至少在每个用户的观看会话之间改变。

如图12中所例示的,常数参数1102的列表可以包括但不限于显示器和LFSL之间的距离1204、显示器和LFSL参考系之间的平面内旋转角度1206、显示器分辨率1208、每个个体像素的尺寸1210、光学LFSL几何结构1212、LFSL内的每个光学元件的尺寸1214以及可选地显示器的子像素布局1216。此外,显示器分辨率1208和每个个体像素的尺寸1210二者可以被用来预先确定以实际单位为单位(即以mm为单位)的显示器的绝对尺寸和显示器内每个像素的三维位置二者。在子像素布局1216可用的一些实施方案中,显示器内每个子像素的位置也可以被预先确定。这些三维定位/位置通常是使用位于显示器的平面内某个地方的一个给定的参考系计算的,所述某个地方是例如显示器的角落或中间,尽管可以选择其他参考点。关于光学层几何结构1212,可以考虑不同的几何结构,例如六边形几何结构,诸如图8中所示出的六边形几何结构。最后,通过将距离1204、旋转角度1206和几何结构1212与光学元件尺寸1214组合,可以类似地预先确定每个光学元件中心相对于显示器的相同参考系的三维定位/位置。

图13同时例示性地列出了用于方法1100的示例性的一组输入变量1104,所述一组输入变量可以包括可以在用户的单个观看会话期间适度地改变的馈送到方法1100内的任何输入数据,并且因此可以包括但不限于:待被显示的图像1306(例如像素数据,诸如开/关、颜色、亮度等)、三维瞳孔位置1308(例如在实施主动眼睛/瞳孔跟踪方法的实施方案中)和/或瞳孔尺寸1312和最小阅读距离1310(例如代表用户的降低的视觉敏锐度或状况的一个或多个参数)。在一些实施方案中,也可以使用眼睛深度1314。图像数据1306例如可以代表待用数字像素显示器显示的一个或多个数字图像。此图像通常可以被编码为本领域已知的用来存储数字图像的任何数据格式。在一些实施方案中,待被显示的图像1306可以以给定的帧速率改变。

在一个实施方案中,瞳孔位置1308是至少一个用户的瞳孔的中心相对于一个给定的参考系的三维坐标,例如设备或显示器上的点。此瞳孔位置1308可以从本领域已知的任何眼睛/瞳孔跟踪方法得到。在一些实施方案中,可以在渲染算法的任何新的迭代之前,或在其他情况下,以较低的帧速率确定瞳孔位置1308。在一些实施方案中,仅单个用户的眼睛的瞳孔位置可以被确定,例如用户的优势眼睛(即用户主要依赖的眼睛)。在一些实施方案中,可以基于其他背景参数或环境参数,诸如到屏幕的平均或预设用户距离(例如对于一个给定的用户或给定的一组用户而言典型的阅读距离;在车辆环境中存储的、设置的或可调整的驾驶员距离;等),另外地或附加地相当地近似或调整此位置,并且特别是到屏幕的瞳孔距离。

在所例示的实施方案中,最小阅读距离1310被定义为用户的眼睛可以能够适应(即能够在没有不适的情况下观看)的用于阅读的最小焦点距离。在一些实施方案中,可以输入与不同的用户关联的最小阅读距离1310的不同的值,例如,也可以根据目前的应用和正被解决的视力矫正考虑其他自适应视力矫正参数。在一些实施方案中,最小阅读距离1310可以从眼睛处方(prescription)(例如眼镜处方或接触处方)或类似物得到。例如,它可以对应于与未矫正的用户的眼睛对应的近点距离,该近点距离可以是根据规定的矫正镜片(corrective lens,矫正透镜)能力计算的,假设目标近点位于25cm处。

附加地参考图14A至图14C,一旦参数1102和变量1104已经被设置,图11的方法然后继续进行步骤1106,其中最小阅读距离1310(和/或相关参数)被用来计算虚拟(经调整的)图像平面1405相对于设备的显示器的位置,接着是步骤1108,其中图像1306的尺寸在图像平面1405内被缩放以确保当远距离用户观看时其正确地填充像素显示器1401。这被例示在图14A中,图14A示出了用户的瞳孔1415、光场整形层1403、像素显示器1401和虚拟图像平面1405的相对定位的图。在此示例中,在图像平面1405中图像1306的尺寸被增大以避免使用户感知的图像看起来小于显示器的尺寸。

在图11的步骤1110到1128中描述了一种示例性光线追踪方法,在其结束时,像素显示器1401的每个像素的输出颜色是已知的,以便虚拟地再现从定位在虚拟图像平面1405处的图像1306发出的光场。在图11中,在像素显示器1401中的每个像素上在一个循环中例示了这些步骤,以使得步骤1110到1126中的每个描述针对每个个体像素所做的计算。然而,在一些实施方案中,不需要顺序地执行这些计算,而是可以同时针对每个像素或一个像素子集并行地执行步骤1110到1128。实际上,如下文将讨论的,此示例性方法很好地适合在诸如GPU的高度并行处理架构上的矢量化和实施。

如图14A中所例示的,在步骤1110中,对于像素显示器1401中的给定的像素1409,首先从像素的位置到瞳孔1415的中心位置1417生成试验矢量1413。这随后是在步骤1112中计算矢量1413与LFSL1403的交叉点1411。

然后,该方法在步骤1114中找到最接近交叉点1411的LFSL光学元件的中心1416的坐标。此步骤可以是计算密集的,并且下文将对其进行更深入地讨论。一旦光学元件的中心1416的位置是已知的,在步骤1116中,通过绘制从中心位置1416到像素1409绘制的矢量1423并且对该矢量进行归一化来生成归一化的单位光线矢量。此单位光线矢量大致近似于从像素1409通过此特定的光场元件发出的光场的方向,例如,当考虑视差屏障孔径或小透镜阵列时(即在行进通过给定的小透镜的中心的光路未被此小透镜偏离的情况下)。当解决更复杂的光整形元件时,可能需要进一步的计算,如熟练技术人员将理解的。此光线矢量的方向将被用来寻找图像1306的部分,并且因此寻找由像素1409表示的关联的颜色。但是首先,在步骤1118中,将此光线矢量向后投射到瞳孔1415的平面,并且然后在步骤1120中,该方法验证投射的光线矢量1425仍然在瞳孔1415内(即用户仍然可以“看见”它)。一旦投射的光线矢量1425与瞳孔平面的交叉位置(例如图14B中的位置1431)是已知的,就可以计算瞳孔中心1417与交叉点1431之间的距离以确定偏离是否是可接受的,例如通过使用预先确定的瞳孔尺寸并且验证投射的光线矢量距离瞳孔中心有多远。

如果此偏离被认为太大(即从像素1409发出的、通过光学元件1416引导的光不被瞳孔1415感知),则在步骤1122中,该方法将像素1409标记为不必要的,并且以被简单地关闭或渲染为黑色。否则,如图14C中所示出的,在步骤1124中,光线矢量被再一次投射朝向虚拟图像平面1405,以在图像1306上找到交叉点1423的位置。然后,在步骤1126中,像素1409被标记为具有与图像1306在交叉点1423处的部分关联的颜色值。

在一些实施方案中,方法1100被修改为使得在步骤1120处,代替在光线矢量到达瞳孔或不到达瞳孔之间具有二元选择,使用一个或多个平滑插值函数(即线性插值、赫米特(Hermite)插值或类似物)来通过输出在1或0之间的对应的连续值来量化交叉点1431到瞳孔中心1417有多远或有多近。例如,分配的值等于1大体上接近瞳孔中心1417,并且随着交叉点1431大体上接近瞳孔边缘或超过而逐渐改变为0。在此情况下,忽略包含步骤1122的分支,并且步骤1220继续到步骤1124。在步骤1126处,分配给像素1409的像素颜色值被选择为在交叉点1423处的图像1306的部分的全色值或黑色之间的某处,这取决于在步骤1120处使用的插值函数的值(1或0)。

在又一些其他实施方案中,找到的照亮瞳孔周围的指定区域的像素仍然可以被渲染,例如,以产生缓冲区以适应瞳孔位置中的小移动,例如,或再次,以解决潜在的不准确、不对准或以产生更好的用户体验。

在一些实施方案中,可以完全避免步骤1118、1120和1122,该方法代替地直接从步骤1116转到步骤1124。在这样的示例性实施方案中,不检查光线矢量是否到达瞳孔,而是代替地该方法假设它总是到达瞳孔。

一旦已经确定所有像素的输出颜色,它们最终在步骤1130中由像素显示器1401渲染以供用户观看,因此呈现光场校正图像。在单个静态图像的情况下,该方法可以停止于此。然而,可以输入新的输入变量并且可以以任何期望的频率刷新图像,例如因为用户的瞳孔根据时间移动和/或因为以给定的帧速率显示一系列图像而不是单个图像。

参考图19和图20A到图20D,并且根据一个实施方案,现在将描述另一种用于例如经由适应用户的降低的视觉敏锐度的光场整形层(LFSL)渲染经调整的图像的示例性在计算上实施的光线追踪方法。再次,出于例示性目的,在此示例中,在不考虑不同的图像部分的情况下实施单个图像(即整个图像)的调整。下文的另一些示例将具体地解决下面的用于自适应地调整不同的图像部分的示例的修改。

在此实施方案中,与给定的像素/子像素关联的经调整的图像部分被计算(映射)在视网膜平面上而不是在上文的示例中考虑的虚拟图像平面上,再次以为用户提供指定的图像感知调整。因此,当前讨论的示例性实施方案与图11的方法共享一些步骤。实际上,也可以预先确定一组常数参数1102。它们可以包括例如在用户的观看会话期间预期不显著改变的任何数据,例如,所述数据通常基于待要实施该方法的显示器的物理特性和功能特性的数据,如下文将解释的。类似地,渲染算法的每一次迭代可以使用一组输入变量1104,预期所述一组输入变量在每个渲染迭代时改变或至少在每个用户观看会话之间改变。可能的变量和常数的列表与图12和图13中公开的列表大体上相同,并且因此将不在此对其重复。

一旦已经设置了参数1102和变量1104,此第二示例性光线追踪方法从步骤1910进行到1936,在其结束时,像素显示器的每个像素的输出颜色是已知的,以便虚拟地再现从被感知为定位在正确的或经调整的图像距离处的图像发出的光场,在一个示例中,因此以便允许用户恰当地聚焦在此经调整的图像上(即使聚焦图像投射在用户的视网膜上),尽管有量化的视觉像差。在图19中,在像素显示器1401中的每个像素上在一个循环中例示了这些步骤,以使得步骤1910到1934中的每个描述对每个个体像素所做的计算。然而,在一些实施方案中,不需要顺序地执行这些计算,而是可以同时针对每个像素或像素子集并行地执行步骤1910到1934。实际上,如下文将讨论的,此第二示例性方法也很好地适合在诸如GPU的高度并行处理架构上的矢量化和实施。

再一次参考图14A,在步骤1910中(如在步骤1110中),对于像素显示器1401中的给定的像素,首先从像素的位置到用户的瞳孔1415的瞳孔中心1417生成试验矢量1413。这随后是在步骤1912中计算矢量1413与光学层1403的交叉点。

从此处,在步骤1914中,确定最接近交叉点1411的光学元件中心1416的坐标。此步骤可以是计算密集的,并且下文将对其进行更深入地讨论。如图14B中所示出的,一旦光学元件中心1416的位置是已知的,在步骤1916中,通过绘制从光学元件中心1416到像素1409绘制的矢量1423并且对该矢量进行归一化来生成归一化的单位光线矢量。此单位光线矢量大致近似于从像素1409通过此特定的光场元件发出的光场的方向,例如,当考虑视差屏障孔径或小透镜阵列时(即在行进通过给定的小透镜的中心的光路未被此小透镜偏离的情况下)。当解决更复杂的光整形元件时,可能需要进一步的计算,如熟练技术人员将理解的。在步骤1918中,此光线矢量被向后投射到瞳孔1415,并且然后在步骤1920中,该方法确保投射的光线矢量1425仍然在瞳孔1415内(即用户仍然可以“看见”它)。一旦投射的光线矢量1425与瞳孔平面的交叉位置(例如图14B中的位置1431)是已知的,则可以计算瞳孔中心1417与交叉点1431之间的距离以确定偏离是否是可接受的,例如通过使用预先确定的瞳孔尺寸并且验证投射的光线矢量距离瞳孔中心有多远。

现在参考图20A到图20D,将描述方法1900的步骤1921到1929。一旦已经确定了相关光学单元的光学元件中心1416,在步骤1921处,从光学元件中心1416到瞳孔中心1417绘制矢量2004。然后,在步骤1923中,将矢量2004在瞳孔平面后面进一步投射到焦平面2006(源于光学层1403的任何光线将被眼睛聚焦的位置)上以定位焦点2008。对于具有完美视力的用户,焦平面2006将位于与视网膜平面2010相同的位置,但是在此示例中,焦平面2006位于视网膜平面2010后面,这对于具有某种形式的远视的用户将是预期的。焦平面2006的位置可以从用户的最小阅读距离1310得到,例如,通过从其得到用户的眼睛的焦距。其他手动输入或在计算上或动态地可调整的手段可以另外地或替代地被考虑以量化此参数。

熟练技术人员将注意到,源于光学元件中心1416的任何光线,无论其定向如何,也将被聚焦到焦点2008上、到第一近似。因此,可以通过在光线矢量1425到达瞳孔1415的交叉点1431和焦平面2006上的焦点2008之间绘制直线来近似估计视网膜平面2010上的在交叉点1431处进入瞳孔的光将会聚到的位置。因此,此线与视网膜平面2010的交叉(视网膜图像点2012)是与将由用户感知的对应的像素1409再现的图像部分对应的用户的视网膜上的位置。因此,通过比较视网膜点2012的相对位置与投射图像在视网膜平面2010上的整体位置,可以计算与像素1409关联的相关经调整的图像部分。

为此,在步骤1927处,计算视网膜平面2010上的对应的投射图像中心位置。生成源于显示器1401的中心位置(显示器中心位置2018)并且传递通过瞳孔中心1417的矢量2016。矢量2016超过瞳孔平面被投射到视网膜平面2010上,其中关联的交叉点给出对应的视网膜图像中心2020在视网膜平面2010上的位置。熟练技术人员将理解,一旦在输入变量步骤1904中已知相对瞳孔中心位置1417,就可以在步骤1929之前的任何时刻执行步骤1927。一旦图像中心2020是已知的,就可以在步骤1929处通过计算视网膜图像点2012相对于视网膜上的视网膜图像中心2020的x/y坐标——被缩放到x/y视网膜图像尺寸2031——来找到所选择的像素/子像素的对应图像部分。

此视网膜图像尺寸2031可以通过计算在视网膜平面2010上个体像素的放大率来计算,例如,该放大率可以近似等于个体像素的x或y尺寸乘以眼睛深度1314并且除以到眼睛的距离的绝对值(即来自眼睛晶状体的像素图像尺寸的放大率)。类似地,出于比较目的,输入图像也通过图像x/y尺寸缩放以产生对应的经缩放的输入图像2064。经缩放的输入图像和经缩放的视网膜图像二者都应具有在-0.5到0.5个单位之间的宽度和高度,实现在经缩放的视网膜图像2010上的点和对应的经缩放的输入图像2064之间的直接比较,如图20D中所示出的。

从此处,在缩放坐标(经缩放的输入图像2064)中相对于视网膜图像中心位置2043的图像部分位置2041对应于视网膜图像点2012相对于视网膜图像中心2020的反转(因为视网膜上的图像被反转)缩放坐标。与图像部分位置2041关联的颜色是从其提取的并且与像素1409关联。

在一些实施方案中,方法1900可以被修改为使得在步骤1920处,代替在光线矢量到达瞳孔或不到达瞳孔之间具有二元选择,使用一个或多个平滑插值函数(即线性插值、赫米特插值或类似物)来通过输出在1或0之间的对应的连续值来量化交叉点1431到瞳孔中心1417有多远或有多近。例如,分配的值等于1大体上接近瞳孔中心1417,并且随着交叉点1431大体上接近瞳孔边缘或超过瞳孔边缘而逐渐改变为0。在此情况下,忽略包含步骤1122的分支,并且步骤1920继续到步骤1124。在步骤1931处,分配给像素1409的像素颜色值被选择为在交叉点1423处的图像1306的部分的全色值或黑色之间的某处,这取决于在步骤1920处使用的插值函数的值(1或0)。

在又一些其他实施方案中,找到的照亮瞳孔周围的指定区域的像素仍然可以被渲染,例如,以产生缓冲区以适应瞳孔位置中的小移动,例如,或再次,以解决潜在的不准确或不对准。

一旦已经确定了显示器中的所有像素的输出颜色(在步骤1934处的检查为真),它们最终在步骤1936中由像素显示器1401渲染以供用户观看,因此呈现出光场校正图像。在单个静态图像的情况下,该方法可以停止于此。然而,可以输入新的输入变量并且可以以任何期望的频率刷新图像,例如因为用户的瞳孔根据时间移动和/或因为以给定的帧速率显示一系列图像而不是单个图像。

如熟练技术人员将理解的,对要在其上映射输入图像以调整此输入图像的用户感知的经调整的图像平面的选择允许解决类似的挑战的不同光线追踪方法,换言之使用可以提供经调整的用户感知的光场显示器创建经调整的图像的不同光线追踪方法,诸如解决用户的降低的视觉敏锐度。虽然将输入图像映射到设置在指定的最小(或最大)舒适观看距离处的虚拟图像平面可以提供一种解决方案,但是替代解决方案可以允许适应不同的或可能更极端的视觉像差。例如,在虚拟图像被理想地推动到无穷(或实际上如此)的情况下,对无穷距离的计算变成问题。然而,通过将经调整的图像平面指定为视网膜平面,图19的例示性过程可以适应实际上设置在无穷处的虚拟图像的形成,而不引起这样的计算挑战。同样,虽然参考图19例示性地描述了一阶焦距像差,但是在本上下文中可以考虑高阶或其他光学异常,由此在解释用户的光学像差的同时标出(map out)和追踪期望的视网膜图像,以便计算在产生该图像时将被渲染的经调整的像素数据。这些和其他这样的考虑对于熟练技术人员来说应是容易明了的。

虽然上文所描述的光线追踪算法(图11的步骤1110到1128或图19的步骤1920到1934)中涉及的计算可以在一般CPU上完成,但是使用高度并行编程方案来加速这样的计算可以是有利的。虽然在一些实施方案中,诸如消息传递接口(Message Passing Interface,MPI)或OPENMP的标准并行编程库可以被用来经由通用CPU加速光场渲染,但是上文所描述的光场计算特别地被定制以利用为大规模并行计算专门定制的图形处理单元(GPU)。实际上,现代GPU芯片以非常大量的处理核以及通常针对图形进行优化的指令集为特征。在典型用途中,每个核专用于一个图像内的像素值的一个小邻域(neighborhood),例如,以执行应用视觉效果(诸如着色(shading)、模糊(fog)、仿射变换等。GPU通常也被优化以加速这样的处理核和关联的存储器(诸如RGB帧缓冲器)之间的图像数据交换。此外,智能电话正越来越多地配备有强大的GPU,以加速例如用于游戏、视频和其他图像密集应用程序的复杂屏幕显示器的渲染。为了在GPU上编程而定制的几种编程框架和语言包括但不限于CUDA、OpenCL、OpenGL着色器语言(GLSL)、高级着色器语言(HLSL)或类似物。然而,高效地使用GPU可能是有挑战性的,并且因此需要创造性步骤来利用它们的能力,如下文将讨论的。

参考图15至图18C并且根据一个示例性实施方案,现在将描述用于在图11(或图19)的光线追踪过程中计算关联的光场整形元件的中心位置的示例性过程。一系列步骤被特别定制,以避免代码分叉,以便当在GPU上运行时越来越高效(即以避免所谓的“扭曲发散”)。实际上,对于GPU,因为所有处理器必须执行相同的指令,所以发散的分支可以导致性能降低。

参考图15,并且根据一个实施方案,图11的步骤1114被扩展为包括步骤1515到1525。关于图19的步骤1914可以容易地进行类似的讨论,并且因此在本文中不需要明确地详述该讨论。该方法从步骤1112接收试验矢量1413与光学层1403的交叉点1411(被例示在图14A中)的2D坐标。如关于图8的示例性实施方案所讨论的,在光学层(例如,图8中的微透镜802的六边形阵列)的参考系和对应的像素显示器(例如,图8中的正方形像素阵列804)的参考系之间可能存在定向上的差异。这就是为什么,在步骤1515中,这些输入交叉坐标——所述输入交叉坐标是最初从显示器的参考系计算的——可以首先被旋转以从光场整形层的参考系被表达并且可选地被归一化以使得每个个体光整形元件具有1个单位的宽度和高度。下面的描述将同样适用于具有像图8的示例性实施方案一样的六边形几何结构的任何光场整形层。然而,注意,本文所描述的方法步骤1515到1525可以同样应用于共享相同几何结构(即不仅共享微透镜阵列,而且还共享针孔阵列等)的任何种类的光场整形层。同样,虽然下面的示例特定于可由正六边形拼贴的六边形拼贴阵列限定的LFSL元件的示例性六边形阵列,但是其他几何结构也可以受益于本文所描述和例示的实施方案的一些或全部特征和/或优点。例如,可以考虑不同的六边形LFSL元件阵列,诸如拉伸的/拉长的、歪斜的和/或旋转的阵列,也可以考虑LFSL阵列的邻近的行和/或列至少部分地“重叠”或相互嵌套的其他嵌套阵列几何结构。例如,如下文将进一步描述的,六边形阵列和类似的嵌套阵列几何结构通常将提供覆在上面的矩形/正方形阵列或网格的相称地定尺寸的矩形/正方形拼贴,以自然地包围如由两个或更多个邻近的下面的嵌套阵列拼贴限定的不同区域,这可以被用来在下文提供的示例中获益。在又一些其他实施方案中,本文所讨论的过程可以应用于矩形和/或正方形LFSL元件阵列。在不脱离本公开内容的一般范围和性质的情况下,也可以考虑其他LFSL元件阵列几何结构,如熟练技术人员在阅读下面的示例时将理解的。

对于六边形几何结构,如图16A和图16B中所例示的,光场整形层1403的六角对称可以通过绘制六边形拼贴阵列1601来表示,每个拼贴被定中心在其各自的光场整形元件上,以使得六边形拼贴元件的中心与其关联的光场整形元件的中心位置差不多完全一样。因此,最初的问题被转化为稍微类似的问题,由此现在需要寻找最接近交叉点1411的关联的六边形拼贴1609的中心位置1615,如图16B中所示出的。

为了解决此问题,六边形拼贴阵列1601可以被叠加在第二交错矩形拼贴阵列1705上或由该第二交错矩形拼贴阵列叠加,以这样的方式来在每个矩形内形成“倒置房子”图,如图17A中清楚地例示的,即对于每个矩形拼贴限定三个线性隔离的拼贴区域,一个区域主要与主要的下面的六边形拼贴关联,并且另外两个相对的三角形区域与邻近的下面的六边形拼贴关联。在这样做时,嵌套的六边形拼贴几何结构被转化为矩形拼贴几何结构,该矩形拼贴几何结构具有在其内由下面的邻近布置的六边形拼贴的边缘限定的不同的线性隔离的拼贴区域。再次,虽然正六边形被用来表示一般嵌套的六边形LFSL元件阵列几何结构,但是其他嵌套拼贴几何结构可以被用来表示不同的嵌套元件几何结构。同样,虽然在此示例中示出了嵌套阵列,但是在一些示例中,在一些方面,也可以使用具有降低的复杂度的不同的交错或对准几何结构,如下文进一步描述的。

此外,虽然此具体示例包含线性限定的拼贴区域边界的定义,但是也可以考虑其他边界类型,只要它们适合于一个或多个条件语句的定义,如下文所例示的,所述一个或多个条件语句可以被用来输出对应的一组二进制或布尔值,这些二进制或布尔值明显地标识给定的点在这些区域中的一个区域或另一区域内的位置,例如,不调用或通过限制分支或循环决策逻辑/树/语句/等共有的处理需求。

下面以六边形为例,为了定位最接近交叉点1411的关联的六边形拼贴中心1615,在步骤1517中,该方法首先计算包含交叉点1411的关联的(归一化的)矩形拼贴元件1709的左下角1707的2D位置,如图17B中所示出的,其可以通过下面的两个等式计算,而不使用任何分支语句(在此在归一化坐标中,其中每个矩形具有一个单位的高度和宽度):

其中

一旦包含交叉点1411的关联的矩形元件1814的由矢量

继续所例示的示例,在步骤1519中,再次重新缩放关联的矩形拼贴1814内的坐标,如图18B的轴上所示出的,以使得将交叉点在关联的矩形拼贴内的位置现在在重新缩放的坐标中由矢量

因此,在关联的矩形拼贴1814内的交叉点1411的位置的可能x和y值现在被包含在-1

为了在这些重新缩放坐标中高效地找到包含给定的交叉点的区域,使用以下事实:在矩形元件1814内,每个区域由对角线分离。例如,这被例示在图18B中,其中左下区域1804通过向下的对角线1855与中间的“倒置房子”区域1806和右下区域1808分离,该对角线1855在图18B的重新缩放坐标中遵循简单的等式y=-x。因此,x<-y的所有点都位于左下区域中。类似地,右下区域1808通过由等式y

为了最终获得与标识区域关联的六边形中心的相对坐标,在步骤1523中,转换的布尔值的集合可以被用作单浮点矢量函数的输入,该单浮点矢量函数能够操作以将这些值的每个集合映射到关联的元件中心的xy坐标的集合。例如,在所描述的实施方案中并且如图18C中所示出的,使用矢量函数获得每个六边形中心

因此,(1.0,0.0)、(0.0,1.0)或(0.0,0.0)的输入分别映射到位置(0.0,-1/3)、(0.5,2/3)和(1.0,-1/3),所述位置在重新缩放的坐标中分别对应于图18C中所示出的示出的六边形中心1863、1865和1867。

现在回到图15,我们可以继续进行最后的步骤1525,以将上文获得的相对坐标转化为相对于显示器或类似物的绝对3D坐标(即以mm为单位)。首先,将六边形拼贴中心的坐标和左下角的坐标相加以得到六边形拼贴中心在光学层的参考系中的位置。根据需要,该过程然后可以将值缩小回绝对单位(即mm),并且将坐标旋转回相对于显示器的原始参考系,以获得光学层元件的中心相对于显示器的参考系的3D位置(以mm为单位),该显示器的参考系然后被馈送到步骤1116内。

熟练技术人员将注意到,也可以使用对上文所描述的方法的修改。例如,图17A中所示出的交错网格可以被平移更高1/3的值(以归一化单位为单位),以使得在每个矩形内,分离每个区域的对角线代替地被定位在左上角和右上角上。上文所描述的相同的一般原则仍然适用于此情况,并且熟练技术人员将理解以这样的方式继续进行将需要对上文给出的等式的最小改变。此外,如上文所述,不同的LFSL元件几何结构可以导致不同的(归一化的)矩形拼贴区域的划定,并且因此导致对应的条件边界语句以及所得到的二进制/布尔区域标识和中心定位坐标系/函数的形成。

在又一些其他实施方案中,其中使用矩形和/或正方形微透镜阵列代替嵌套(六边形)阵列,可以使用略微不同的方法来标识关联的LFSL元件(微透镜)中心(步骤1114)。在本文中,微透镜阵列由矩形和/或正方形拼贴阵列表示。如先前所描述的,该方法通过步骤1515,其中x和y坐标相对于微透镜x和y尺寸被重新缩放(归一化)(从此以后赋予每个矩形和/或正方形拼贴1个单位的宽度和高度)。然而,在步骤1517处,在

一旦此矢量是已知的,该方法直接转到步骤1525,其中坐标被缩回到绝对单位(即mm)并且被旋转回到相对于显示器的原始参考系,以获得光学层元件的中心相对于显示器的参考系的3D位置(以mm为单位),该显示器的参考系然后被馈送到步骤1116内。

在一些实施方案中,上文所描述的光场渲染方法(从图11到图20D)也可以在子像素级别应用,以实现改善的光场图像分辨率。实际上,彩色子像素化显示器上的单个像素通常由几个颜色基元(color primary)组成,通常是三个有色元件——(在各种显示器上)被定序为蓝色、绿色和红色(BGR)或红色、绿色和蓝色(RGB)。一些显示器具有不止三个基元,诸如红色、绿色、蓝色和黄色(RGBY)或红色、绿色、蓝色和白色(RGBW),或甚至红色、绿色、蓝色、黄色和青色(RGBYC)的组合。子像素渲染通过使用子像素作为被发光强度(luminance)通道感知的近似相等亮度像素来操作。这允许子像素用作采样图像重建点,与使用组合的子像素作为“真实”像素的一部分相反。对于如上文所描述的光场渲染方法,这意味着给定的像素(例如,图14中的像素1401)的中心位置被其子像素元件中的每个的中心位置取代。因此,待被提取的颜色样本的数目乘以数字显示器中每个像素的子像素的数目。然后,这些方法可以遵循与上文所描述的相同的步骤,并且单独地(顺序地或并行地)提取每个子像素的关联的图像部分。

在图21A中,示例性像素2115由三个RGB子像素组成(2130表示红色、2133表示绿色、2135表示蓝色)。其他实施方案可以偏离此颜色分割,而没有限制。当按像素渲染时,如图11或图19中所描述的,对与所述像素2115关联的图像部分2145进行采样以提取每个RGB颜色通道2157的发光强度值,然后所述发光强度值全都由该像素同时渲染。在子像素渲染的情况下,如图21B中所例示的,所述方法找到与蓝色子像素2135关联的图像部分2147。因此,在渲染时仅使用对应于目标子像素2135的RGB颜色通道2157的子像素通道强度值(在本文中蓝色子像素颜色值,其他两个值被丢弃)。在这样做时,例如通过在子像素的基础上调整经调整的图像像素颜色以及可选地丢弃或减少被认为不交叉或仅与用户的瞳孔边缘地交叉的子像素的影响,可以实现更高的经调整的图像分辨率。

为了进一步例示利用子像素渲染的实施方案,参考图22A和图22B,(LCD)像素阵列2200被示意性地例示为由显示像素阵列2202组成,每个显示像素包括红色(R)子像素2204、绿色(G)子像素2206和蓝色(B)子像素2208。与上文所提供的示例一样,为了产生光场显示器,光场整形层,诸如微透镜阵列,将被对准以覆在这些像素上面,使得这些像素的一个对应子集可以被用来可预测地产生在提供校正图像时将被计算和调整的各自的光场光线。为此,已知例如像素的位置(例如屏幕上的x,y坐标)、从像素发出的光到达用户的眼睛将行进通过的对应的光场元件的位置、以及该光场元件的光学特性,可以计算由每个像素最终产生的光场光线。基于这些计算,图像校正算法将计算哪些像素将变亮以及如何变亮,并且相应地输出子像素照明参数(例如R、G和B值)。如上文所述,为了减少计算载荷,仅那些产生将与用户的眼睛或瞳孔相互作用的光线的像素可以被考虑,例如,使用互补眼睛跟踪引擎和硬件,尽管其他实施方案仍然可以处理所有像素以提供更大的缓冲区和/或更好的用户体验。

在图22A中所示出的示例中,穿过受影响的像素2210、2212、2214和2216的表面的角边缘2209正在被渲染。使用标准像素渲染,每个受影响的像素被打开或关闭,这在某种程度上影响(dictate)角边缘2209的相对平滑度。

在图22B中所示出的示例中,代替地子像素渲染是有利的,由此像素2210中的红色子像素、像素2214中的红色子像素和绿色子像素以及像素2216中的红色子像素被有意地设置为零(0),以便以沿着该边缘的颜色真实性为代价来产生角边缘2209的更平滑的表示,考虑到应用这些修改的规模,人类眼睛将不可感知该颜色真实性。因此,图像校正可以受益于更大的子像素控制,同时递送更清晰的图像。

为了在光场图像校正的背景中实施子像素渲染,在一些实施方案中,基于每个子像素的位置(屏幕上的x,y坐标),必须针对每个子像素而不是针对作为一个整体的每个像素执行光线追踪计算。除了提供更大的渲染准确度和清晰度,子像素控制和光线追踪计算可以适应不同的子像素配置,例如,在调用子像素混合或重叠以增加高分辨率屏幕的感知分辨率的情况下和/或在不同的数字显示技术中提供或依赖非均匀子像素排列的情况下。

然而,在一些实施方案中,为了避免或减少由对每个子像素的不同考虑给予的计算载荷增加,可以通过考虑从像素到像素的规则子像素分布,或在子像素共享和/或重叠的背景中,对于某些像素组、行、列等影响一些计算效率。参考图23,给定的像素2300,与图22A和图22B中所例示的像素非常像,被示出为包括水平分布的红色(R)子像素2304、绿色(G)子像素2306和蓝色(B)子像素2308。使用标准像素渲染和光线追踪,从此像素发出的光可以差不多被认为从位于像素2300的几何中心2310处的点发射。为了实施子像素渲染,可以通过特别寻址每个子像素的几何位置来以不同方式一式三份地计算光线追踪。然而,已知每个像素内的子像素的分布,可以通过维持像素居中的计算以及考虑到已知的几何子像素偏移应用适当的偏移来简化计算(即红色子像素2304的负水平偏移2314、绿色2306的零偏移和蓝色子像素2308的正水平偏移2318)。这样做时,光场图像校正仍然可以受益于子像素处理而不显著增加计算载荷。

虽然此示例构想了线性(水平)子像素分布,但是在不脱离本公开内容的一般范围和性质的情况下,也可以考虑其他2D分布。例如,对于给定的数字显示器屏幕以及像素和子像素分布,可以确定不同的子像素映射以限定各自的像素子坐标系,当所述像素子坐标系被应用于标准的以像素为中心的光线追踪和图像校正算法时,所述像素子坐标系可以在没有过度处理载荷增加的情况下允许子像素处理和提高图像校正分辨率和清晰度。

在一些实施方案中,通过将图像数据例如图像1306存储在GPU的纹理存储器(texture memory)中,可以在GPU上利用附加的效率。纹理存储器被高速缓存在芯片上,并且在一些情况下能够操作以通过减少对片外DRAM的存储器请求来提供更高的有效带宽。特别地,纹理高速缓存是为表现出大量空间局部性的内存访问模式的图形应用程序设计的,这是方法1100的步骤1110-1126的情况。例如,在方法1100中,图像1306可以被存储在GPU的纹理存储器内,这然后大大提高在步骤1126期间的检索速度,在该步骤中确定在交叉点1423处与图像1306的部分关联的颜色通道。

参考图24至图26D,并且根据一个实施方案,现在将描述用于经由光场整形元件阵列或其光场整形层(LFSL)同时在多个经调整的不同的图像平面上渲染多个图像或图像部分的示例性在计算上实施的光线追踪方法。先前的上文所描述的实施方案通过直接地或间接地修改虚拟图像平面的位置来针对校正单个图像。相反,下文所描述的实施方案针对一种光场显示器,该光场显示器总体能够操作以同时在不同的位置/深度处显示多个图像平面。与已知的立体效果不同,本文所描述的方法可以被实施为在同一眼睛内生成变化的深度感知,换言之,允许对输入的单视场(monoscopic)观看,以表现出多个不同的图像感知调整(即,多个并置的和/或重叠的深度、增强或类似的光学调整、补偿等)。例如,在一些实施方案中,不同的图像平面可以并置,使得例如可以在不同的深度处感知到一个图像的不同的侧或象限。在这样的实施方案中,不同的有效的视力矫正参数(例如屈光度)或深度可以被应用于每个部分或象限。虽然此方法可能导致在区域或象限的边缘处的一些失真或伪像——取决于沿着这些边缘待被渲染的图像数据,但是这样的伪像如果完全可感知则可以是可忽略的。然而,在其他实施方案中,不同的图像部分可以被至少部分地叠加,使得当从特定视角观看时不同的深度处的部分可以确实看起来重叠。这使得用户能够单独地聚焦在每个平面上,从而创建2.5D效果。因此,一个图像的一部分可以掩蔽或遮蔽定位在其后面的另一个图像的一部分,这取决于用户的瞳孔的位置(例如在被感知为定位在与第一图像部分的距离相比距显示器增加的距离处的图像平面上)。其他效果可以包括当用户移动时每个图像平面之间的视差运动。下面提供了如下一个实施方案的更详细的描述:在该实施方案中,重叠部分可以经由通过逐层处理每个虚拟图像部分来解析的可应用的透明度参数(transparency parameter)来寻址。

图24的方法2400大体上反映了图11的方法1100,但是将其概括为包括多个不同的虚拟图像平面。因此,新的步骤2406、2408和2435已经被添加,而步骤1110到1122、以及1126到1130与上文已经描述的相同。同时,当考虑固定的折射器安装时,在这样的情况下,常数参数1102的输入可以是固定的并且在设备/系统的操作内被整体地设计。

例如,为解释多个不同的图像平面,输入变量1104的图像数据1306也可以包括深度信息。因此,任何图像或图像部分可以具有各自的深度指示器。因此,在步骤2406处,一组多个虚拟图像平面可以被限定。在这些平面上,图像或图像部分可以存在。这些图像周围的区域可以被限定为透明的或穿透的(see-through),意味着用户将能够通过该虚拟图像平面观看并且看见例如定位其后面的图像或图像部分。在步骤2408处,这些虚拟图像平面上的任何图像或图像部分可以被可选地缩放以适合显示器。

作为一个示例,在图14A-图14C的先前的示例中,示出了单个虚拟图像平面1405,其示出了两个圆。相反,图26A和图26B示出了其中每个圆被定位在其自己的图像平面(例如原始的虚拟平面1405与新的虚拟图像平面2605)上的一个示例。熟练技术人员将理解,两个平面被示出仅作为一个示例并且本文所描述的方法同样良好地应用于任何数目的虚拟平面。具有更多平面的唯一影响是更大的计算载荷。

返回到图24,步骤1110至1122与图11中所描述的步骤类似地发生。然而,在步骤2435中已经包括并且扩展了步骤1124,该步骤2435在图25中被描述。在步骤2435中,在一组虚拟图像平面上进行一个迭代以计算来自哪个虚拟图像平面的哪个图像部分被用户看见。因此,在步骤2505处,从最接近用户定位的平面开始,选择虚拟图像平面。然后步骤1124对于该所选择的虚拟平面如先前所描述的那样进行。在步骤2510处,在步骤1124处标识的交叉点的对应的颜色通道被采样。然后在步骤2515处,进行检查以查看该颜色通道是否是透明的。如果不是这种情况,则采样的颜色通道被发送到图24的步骤1126,该步骤1126已经被描述并且其中颜色通道由像素/子像素渲染。此一个示例被例示在图26A和图26B中,其中用户被定位使得传递通过光学元件2616和像素/子像素2609计算的光线矢量2625在位置2623处与虚拟图像平面1405交叉。由于此位置是不透明的,因此这是将被分配给像素/子像素的颜色通道。然而,如此示例所示出的,这掩蔽或隐藏了定位在虚拟图像平面2605上的图像的部分。因此,被用户感知的图像的一个示例被示出在图26B中。

返回到图25,在步骤2515处如果颜色通道是透明的,则在步骤2520处进行另一个检查以查看是否所有虚拟图像平面都已经被迭代。如果是这种情况,则这意味着没有图像或图像部分被用户看见,并且在步骤2525处,例如在继续进行到步骤1126之前,颜色通道被设置为黑色(或任何其他背景颜色)。然而,如果存在再多至少一个虚拟图像平面,则该方法返回到步骤2505并且选择该下一个虚拟图像平面并且重复步骤1124、2510和2515。此一个示例被例示在图26C中,其中用户被定位使得传递通过光学元件2666和像素/子像素2659计算的不同的光线矢量2675首先在虚拟图像平面1405的位置2673处交叉。此位置被限定为透明的,因此该方法检查附加的虚拟图像平面(在此是平面2605)并且计算交叉点2693,该交叉点2693是不透明的,并且因此选择对应的颜色通道。被用户感知的图像的一个示例被示出在图26D中。

返回到图24,一旦在步骤1126处像素/子像素已经被分配了正确的颜色通道,该方法就如先前在步骤1128和1130处所描述的那样继续进行。

类似地,图27的方法2700大体上反映了图19的方法1900但也将其概括为包括多个不同的眼睛焦平面,包括无穷,如上文所解释的。因此,在方法2700中,步骤1910至1921和1931至1936与针对方法1900所描述的相同。差异来自包括并且扩展步骤1921至1929的新的步骤2735,如在图28中所示出的。在那里,我们看见,该方法在所有指定的图像平面上迭代,从对应于最接近用户定位的图像的平面开始。因此,在步骤2805处选择新的眼睛焦平面,该新的眼睛焦平面被用于上文已经描述的步骤1923至1929。一旦在步骤1929处对应的图像部分被定位,在步骤2810处,对应的像素/子像素颜色通道被采样。然后在步骤2815处,如果该颜色通道是不透明的,则该方法返回到图27的步骤1931,其中像素/子像素被分配该颜色通道。然而,如果图像部分是透明的,则该方法迭代到下一个指定的图像平面。在进行这之前,该方法在步骤2820处检查是否所有眼睛焦平面都已经被迭代。如果是这种情况,则将没有图像部分被选择并且在步骤2825处,例如在退出到步骤1931之前,颜色通道被设置为黑色。如果其他眼睛焦平面仍然是可用的,则该方法返回到步骤2805以选择下一个平面并且该方法再一次迭代。

在一些实施方案中,方法2400或2700可以被用来实施综合屈光检查仪/折射器设备进行主观视觉敏锐度评估。例如,如在图29A和图29B中所例示的,不同的验光字体(例如字母、符号等)可以同时但以不同的感知深度被显示,以模拟添加折射光学部件的效果(例如聚焦/光学光焦度的改变)。在图29A中,显示了同一验光字体(例如,字母E)的两个图像,每个图像在其自己的指定的图像平面上(例如,在此仅作为一个示例被例示为虚拟图像平面)。在此示例中,图像2905被定位在指定的图像平面2907上,而图像2915被定位在指定的图像平面2917上,该指定的图像平面2917被定位得更远。在图29B中,我们看见如由具有降低的视觉敏锐度(例如,近视)的用户所感知的对两个图像的感知的一个示例,例如,其中最接近该用户的图像被看见为更清楚。因此,可以为用户呈现多个图像(例如正方形阵列中的2个并排、4个、6个或9个等),并且表明哪个图像是更清楚的和/或观看起来最舒适。眼睛处方然后可以从此信息得到。此外,通常,球形光焦度和圆柱形光焦度二者可以由光场显示器引起。

因此,可以观察到,上文所述的光线追踪方法2400和2700以及相关的光场显示器解决方案,可以同样被应用于用于视觉媒体消费的图像感知调整解决方案,就像它们可以应用于主观视力测试解决方案,或其他技术上相关的尝试的领域一样。如上文提到的,根据多个实施方案,上文所讨论的光场显示器和渲染/光线追踪方法全都可以被用来实施诸如综合屈光检查仪或折射器的主观视力测试设备或系统。实际上,光场显示器可以至少部分地替换通常存在于这样的设备中的各种折射光学部件。因此,上文所讨论的视力矫正光场光线追踪方法1100、1900、2400或2700可以同样被应用于通过生成用于远视(远视眼)和近视(近视眼)的视力矫正来以不同的屈光力或折射矫正渲染验光字体,如上文在视力矫正显示器的一般情况下所描述的。根据一些实施方案,本文所描述的光场系统和方法可以被应用于创建与传统仪器相同的能力并且开启新的特征的范围,同时还全部改善了设备的许多其他操作方面。例如,与由切换或改变透镜或类似物导致的离散改变相比,光场显示器的数字性质实现屈光力的连续改变;同时无缝地显示两个或更多个不同的屈光校正;并且,在一些实施方案中,出于不同的目的,诸如,决定自由形式的晶状体、白内障手术操作规程、IOL选择等,测量高阶像差和/或模拟它们的可能性。这样的示例性主观视力测试和适应系统先前被描述于申请人的2020年9月1日公告的第10,761,604号美国专利中,该美国专利的全部公开内容通过引用并入本文。

虽然本公开内容描述了多个示例性实施方案,但是本公开内容不被如此限制。相反,本公开内容意在涵盖被包括在本公开内容的一般范围内的各种改型和等同安排。

去获取专利,查看全文>

相似文献

  • 专利
  • 中文文献
  • 外文文献
获取专利

客服邮箱:kefu@zhangqiaokeyan.com

京公网安备:11010802029741号 ICP备案号:京ICP备15016152号-6 六维联合信息科技 (北京) 有限公司©版权所有
  • 客服微信

  • 服务号