背景技术
本发明总体上涉及直接原声到词(acoustics-to-word,A2W)的自动语音识别(ASR)。更具体地，原声词嵌入的递归神经网络(AWERNN)从用户输入的新的词汇表外的(OOV)词的特征序列开发AWE向量，作为ASR系统能够在无需额外训练或使用外部训练的语言模型的情况下识别新的OOV词的机制。
发明内容
直接原声到词(A2W)自动语音识别(ASR)系统使用神经网络来从输入语音话语中直接识别词，而无需使用任何外部解码器或语言模型。然而，A2WASR系统利用固定词汇表(称为词汇表内的(IV)词)来训练，并且不能容易地识别词汇表外的(OOV)词。本发明允许用户将新的OOV词作为特征序列输入到A2W ASR系统中，以允许OOV词被添加到A2W词嵌入列表中，使得ASR能够在测试时容易地从语音原声特征直接识别OOV词，而无需任何进一步的训练。
根据示例性实施例，本发明描述了一种用于在自动语音识别(ASR)系统中学习词汇表外的(OOV)词的方法，所述方法包括：使用嵌入原声词嵌入递归神经网络(AWERNN)来接收所述ASR系统的新OOV词的特征序列，所述RNN提供原声词嵌入(AWE)向量作为其输出；将从所述AWE RNN输出的所述AWE向量作为输入提供给被训练为从所述AWE向量提供OOV词权重值的原声词嵌入到原声到词的神经网络(AWE→A2W NN)；以及将所述OOV词权重插入到所述ASR系统用来从语音原声特征的输入输出识别出的词的原声到词(A2W)词嵌入的列表中，其中将所述OOV词权重相对于所述A2W词嵌入列表中的现有权重插入到所述A2W词嵌入列表中。
优选地，本发明提供了一种方法，其中，AWE RNN初始使用词汇表内的(IV)词的特征序列被训练为整个子网络，其中，所述初始训练进一步包括原声嵌入递归神经网络(AERNN)，所述原声嵌入递归神经网络接收与在训练期间使用的IV词的每个特征序列相对应的原声序列，其中，所述AWE RNN和AE RNN的输出被传递到对比的损失函数中，并且其中，使用反向传播算法训练所述AWE RNN和AWE→A2W NN以训练所述AWE RNN的权重，AE RNN的权重、AWE→A2W NN的权重使所述对比的损失函数最小化。
优选地，本发明提供一种方法，其中在整个子网络的初始训练之后，AE RNN不用于ASR系统的正常操作，而仅AWE RNN用于用于OOV词到所述ASR系统的后续引入。
优选地，本发明提供了一种方法，其中，该ASR系统进一步包括原声到词的递归神经网络(A2W RNN)，该原声到词的递归神经网络接收语音原声特征作为其中的输入，并且使用点积将该A2WRNN的输出与该A2W词嵌入列表的嵌入进行比较，并且其中，在所述ASR系统的正常操作模式期间，所识别的词语由所述ASR系统响应于来自到所述ASR系统中的原声输入的语音原声特征而输出，来自A2W单词嵌入列表的具有最高比较结果的单词被提供作为ASR系统的输出，作为用于输入语音原声特征的识别词。
优选地，本发明提供了一种方法，其中，使用词汇表内的(IV)词来训练包括A2WRNN的整个子网络，其中，将IV词的语音原声特征与所述IV词对应的词序列提供到损失函数中，并且其中，反向传播算法更新A2W RNN的权重，以使该损失函数最小化并且提供A2W词嵌入列表。
优选地，本发明提供了一种在云服务中实现的方法。
在另一示例性方面中，本文还描述了一种用于自动语音识别(ASR)的方法，包括：接收词汇表外的(OOV)词的特征序列，其插入到ASR系统的原声词嵌入递归神经网络(AWERNN)中，作为接收所述ASR系统的新OOV词的特征序列的机制，所述AWERNN提供原声词嵌入(AWE)向量作为其输出；将从所述AWE RNN输出的所述AWE向量作为输入提供给被训练为从所述AWE向量提供OOV词权重值的原声词嵌入到原声到词的神经网络(AWE→A2WNN)；以及将所述OOV词权重插入到所述ASR系统用来从语音原声特征的输入输出识别的词的原声到词的(A2W)词嵌入列表中，其中将所述OOV词权重相对于所述A2W词嵌入列表中的现有权重插入到所述A2W词嵌入列表中。
优选地，本发明提供了一种方法，其中，使用词汇表内的(IV)词的特征序初始地训练所述AWE RNN为整体子网络，其中，所述初始训练进一步包括原声嵌入递归神经网络(AERNN)，所述原声嵌入递归神经网络接收与在训练期间使用的IV词的每个特征序列相对应的原声序列，其中，所述AWE RNN和AE RNN的输出被传递到对比的损失函数中，并且其中，使用反向传播算法训练所述AWE RNN和AWE→A2W NN以训练所述AWE RNN的权重，AE RNN的权重、AWE→A2W NN的权重使对比的损失函数最小化。
优选地，本发明提供一种方法，其中在整个子网络的初始训练之后，AERNN不用于ASR系统的正常操作，并且仅所述AWE RNN用于OOV词到所述ASR系统中的后续引入。
优选地，本发明提供了一种方法，其中，该ASR系统进一步包括原声到词递归神经网络(A2W RNN)，该原声至词递归神经网络接收语音原声特征作为其中的输入，并且使用点积将该A2W RNN的输出与该A2W词嵌入列表的嵌入进行比较，并且其中，在所述ASR系统的正常操作模式期间，所识别的词语由所述ASR系统响应于来自到所述ASR系统中的原声输入的语音原声特征而输出，来自A2W单词嵌入列表的具有最高比较结果的单词被提供作为ASR系统的输出，作为用于输入语音原声特征的识别词。
优选地，本发明提供了一种方法，其中，使用词汇表内的(IV)词来训练包括A2WRNN的整个子网络，其中，将IV词的语音原声特征与所述IV词对应的词序列提供到损失函数中，并且其中，反向传播算法更新A2W RNN的权重，以使所述损失函数最小化并且以提供A2W词嵌入列表。
优选地，本发明提供了一种如在云服务中实现的方法。
在另一个示例性方面，本文还描述了一种用于自动语音识别(ASR)的方法，包括：初始训练包括原声到词递归神经网络(A2W RNN)的整个子网络，所述A2W RNN接收用于所述初始训练的词汇表内的(IV)词，所述初始训练使用IV词导致存储在执行所述ASR处理的ASR系统的存储器中的原声到词的(A2W)词嵌入列表；作为接收用于所述ASR系统的新OOV词的特征序列的机制，接收词汇表外的(OOV)词作为原声词嵌入递归神经网络(AWE RNN)中的特征序列，所述AWE RNN提供原声词嵌入(AWE)向量作为其输出；将从所述AWE RNN输出的所述AWE向量作为输入提供给被训练为从所述AWE向量提供OOV词权重值的原声词嵌入到原声到词神经网络(AWE→A2W NN)；以及将所述OOV词权重插入到所述ASR系统用来从语音原声特征的输入输出所识别的词的原声到词(A2W)词嵌入列表中，其中将所述OOV词权重相对于所述A2W词嵌入列表中的现有权重插入到所述A2W词嵌入列表中。
优选地，本发明提供了一种方法，其中，使用词汇表内的(IV)词的特征序列初始地训练所述AWE RNN为整体子网络，其中，所述初始训练进一步包括原声嵌入递归神经网络(AE RNN)，所述原声嵌入递归神经网络接收与在训练期间使用的IV词的每个特征序列相对应的原声序列，其中，所述AWE RNN和AE RNN的输出被传递到对比的损失函数中，并且其中，使用反向传播算法训练所述AWE RNN和AWE→A2W NN以训练所述AWE RNN的权重、所述AERNN的权重、以及所述AWE→A2W NN的权重以使所述对比的损失函数最小化。
优选地，本发明提供一种方法，其中在整个子网的初始训练之后，AERNN不用于ASR系统的正常操作，并且仅AWERNN用于OOV词到所述ASR系统的后续引入。
优选地，本发明提供一种方法，其中，所述ASR系统进一步包括原声到词语递归神经网络(A2W RNN)，所述原声到词语递归神经网络接收语音原声特征作为其中的输入，并且使用点积将所述A2WRNN的输出与所述A2W词语嵌入列表的嵌入进行比较，并且其中，在所述ASR系统的正常操作模式期间，所识别的词语由所述ASR系统响应于来自到所述ASR系统中的原声输入的语音原声特征而输出，来自A2W单词嵌入列表的具有最高比较结果的单词被提供作为ASR系统的输出，作为用于输入语音原声特征的识别词。
优选地，本发明提供了一种方法，其中，使用词汇表内的(IV)词来训练包括A2WRNN的整个子网络，其中，将IV词的语音原声特征与所述IV词对应的词序列提供到损失函数中，并且其中，反向传播算法更新A2W RNN的权重，以使所述损失函数最小化并且以提供A2W词嵌入列表。
在另一示例性方面中，本文还描述了一种用于训练自动语音识别(ASR)系统的方法，包括：接收用于初始训练ASR系统的每个词汇表内的(IV)词的原声序列；同时接收与每个IV词对应的词序列；以及准备所述IV词的原声到词(A2W)词嵌入的列表，其中，所述初始训练使用判别式损失函数，所述判别式损失函数针对A2W词嵌入的列表中的每个IV词强制使所述IV词的原声嵌入接近于其在所述列表中的文本嵌入。
在又一示例性方面中，本文还描述了一种自动语音识别(ASR)系统，包括：计算机系统中的处理器；以及所述处理器可访问的一个或多个存储器设备，其中所述一个或多个存储器设备中的所述至少一个存储器设备中的至少一个存储器存储一组机器可读指令以配置所述计算机系统充当所述ASR系统，所述ASR系统包括如由计算机系统上的处理器实现的原到词递归神经网络(A2W RNN)，A2W RNN被配置为接收待自动识别的词的语音原声特征，A2WRNN提供输入词的语音原声特征的原声嵌入；以及原声到词(A2W)的词嵌入列表存储识别词的列表，其中，所述ASR被配置为通过从所述A2W词嵌入列表中选择与用于输入语音原声特征的所述A2W RNN的输出原声嵌入最接近匹配的词来从所述A2W词嵌入列表中选择用于所述ASR的输出的词作为识别词，并且其中所述ASR通过以下被初始训练的：接收用于初始训练所述ASR系统的每个词汇表内的(IV)词的原声序列；同时接收与每个IV词对应的词序列；以及准备所述IV词的原声到词(A2W)的词嵌入列表，其中，所述初始训练使用判别式损失函数，对于所述A2W词嵌入列表中的每个IV词，所述判别式损失函数迫使所述IV词的原声嵌入接近其在所述列表中的文本嵌入。
附图说明
图1示出了本发明的示例性实施例，该实施例结合了附加AWE子网络，用于允许OOV词结合到初始用于训练ASR系统的IV词的词嵌入中；
图2示出了基线A2W ASR模型的初始训练；
图3示出了AWE RNN 204的初始训练；
图4描绘了根据本发明的实施例的云计算环境；以及
图5描绘了根据本发明的实施例的抽象模型层。
具体实施方式
词汇表内的(IV)词是用作输入数据以在自动语音识别(ASR)系统中训练神经网络(NN)的词，该训练使用反向传播机制来提供神经网络的一个或多个层的参数的设置。因此，词汇表外的词(OOV)是在NN的训练之后由ASR系统接收的词，使得OOV词不会由ASRNN的先前训练容易地识别。与在直接原声到词(A2W)ASR系统中处理OOV词有关的若干当前方法描述如下。
例如，若干常规系统训练原声到子词(A2S)模型而不是A2W模型。这些子词包括特征和词片段/块。预测这样的子词单元使得ASR系统开放词汇表，并且因此使其能够识别OOV词。然而，这样的子词ASR系统仍然使用解码器和外部训练的语言模型来执行良好，这比用A2W系统识别语音要复杂得多。
拼写与识别(SAR)模型(ASR的另一种方法)训练A2W系统以首先拼写单词并且然后识别它。例如，给定词序列“THE CATISBLACK”，SAR系统被训练成将“THE”预测为_THE_、“CAT”预测为_CAT_、“IS”预测为_IS_、并且将“BLACK”预测为_BLACK_，其中“_”表示空格特征。在测试时，无论何时系统预测到
另一种方法提出通过共享用于词和特征ASR模型的神经网络隐藏层来扩展SAR模型。无论何时发出
这些在A2W ASR系统中识别OOV词的常规方法因此具有缺点，包括依赖于外部语言模型和解码器才能执行良好的关键缺点。这是因为使用基于子词的模型的贪婪“无解码器”语音识别不能保证产生正确的词。
图1示出了本发明的示例性实施例，其中存在上部子网络100和下部子网络200。总而言之，并且与上述这些常规方法相反，本发明公开了结合新颖的、下部子网络200，该下部子网络200允许用户输入的OOV词作为新的OOV被输入到A2W词嵌入列表106中，而无需常规ASR中需要的额外的训练或语言模型。
该子网络200初始使用IV词训练，类似于使用IV词的顶部子网络100的初始训练。在初始训练之后，下部子网络200允许用户将OOV词特征序列202作为输入输入到AWERNN204中，AWERNN204提供AWE向量206作为输出。
AWE向量206然后由AWE→A2W神经网络(AWE→A2W NN)208转换成权重向量，该权重向量208本质上类似于在上部子网络100的初始训练以在上部子网络100的初始训练中开发A2W词嵌入列表106期间针对IV词导出的权重，使得新的OOV词权重随后可被用来将新输入的OOV词适当地放置到A2W词嵌入列表106中。AWE→A2W NN 208也初始使用IV词训练，并且允许将连接OOV词单元的权重向量适当地设置到A2W ASR模型的输出层到前一层(图1中的虚线300)，作为对应于OOV词CAT 118而不是
本发明相对于处理OOV词识别的现有方法的关键优点是其不依赖于子词单元，而是直接预测IV词和OOV词两者。使用子词单元的现有方法要求使用解码器和外部语言模型，并且这样的要求去除了A2W模型的简单性和解码速度。
一旦ASR系统已经使用如下所述的IV词以及随后由用户输入的任何OOV词训练，上部子网络100然后可以在正常ASR操作期间接收语音原声特征104，其中识别的词114经由解码器112作为输出提供，基于匹配输入语音原声特征104，其经由解码器112将识别的词114提供为输出，作为来自A2W RNN 102的输出108，在A2W词嵌入列表106中具有N个词，使用例如比较技术，如点积110。
图2示出了上部A2W子网络100作为基线原声到词(A2W)自动语音识别(ASR)模型，该模型初始通过呈现A2W RNN和具有语音原声特征104和相应的词序列120的最终A2W嵌入(即，整个网络)来训练。应注意，在解释本发明的上下文中，“词序列”与“特征序列”不同。例如，词序列是“THE CATISBLACK”并且对应的特征序列是“THECATISBLACK”。这些词序列不被输入到任何单独的RNN中，而是仅在图2所示的“连接注意方法时间分类(CTC)”损失函数122期间使用，用于将A2W网络的预测与正确的词序列进行比较/相关。反向传播用于更新整个网络的权重，以便最小化该损失函数，从而使用IV词在初始训练期间将权重提供给的实现的AWERNN102。在这个阶段，A2W词嵌入列表106中的训练词序列中的所有词汇表外的(OOV)词被
因此，此初始训练使用辨别性损失函数(如建设性损失函数122)来迫使原声104和文本120嵌入物在它们对应于相同词语时靠近A2W词嵌入列表106并且在它们对应于不同词语时远离A2W词语嵌入列表。在该训练收敛时，文本120嵌入与A2W词嵌入列表106中的相同IV词的原声104嵌入高度相关。由于这种原声和A2W词嵌入列表106中的文本之间对相同的词提供高相关性的机制，本发明将能够使用输入特征序列202和下部子网络200将OOV词插入到A2W词嵌入列表106中，该下部子网络200被初始训练以提供与由用户输入的OOV词的特征序列相关联的权重。
进一步注意的是，因为序列被用作进入上部子网络100和下部子网络200两者的输入格式，两个子网络100、200的初始神经网络是递归神经网络(RRN)，因为RNN是一种类型的深度神经网络，其在结构上递归地应用相同的权重集，以便在由给定结构以拓扑顺序的可变长度输入上提供结构化预测。
图3示出了图1的下部子网络200的训练如何进行。在这个训练期间，两个RNN-AWERNN 204(也在图1中示出)和另外的RNN，原声嵌入(AE)RNN 404正在被训练。AWERNN204接收IV词的特征序列202作为输入，而AERNN204接收IV词的对应的原声序列402。这两个RNN204、404各自计算一个嵌入向量，这些嵌入向量被传递到作为对比的损失(误差)函数502中。反向传播算法用于训练整个网络的权重以最小化该损失函数。一旦初始训练完成，则可以丢弃AE RNN 404，然后仅使用AWE RNN 204来引入新的OOV词，如图1所示。
因此，图1中的下部子网络200定义了本发明的关键方面，因为该子网络200允许用户键入特征序列202，诸如CAT，连同在上部子网络100中进入其语音原声特征202，作为当前不在A2W词嵌入列表106中作为文本嵌入的新的OOV词。下部子网络允许使用在下部网络中计算的权重因子将新的OOV词适当地放置到原声词嵌入列表106中。
本发明因此还训练深度神经网络(例如，AWE→A2W NN)208，该深度神经网络一旦被训练就在AWE空间200中获取向量206并且在A2W模型100的输出线性层106的权重向量空间中产生输出向量(见图1中的虚线300)。AWE→A2W NN 208被在A2W上训练，在训练期间IV词的和AWE嵌入列表是已知的。
因此，由用户给定作为特征序列202输入的OOV词和包含OOV词的原声话语，本发明使用训练的AWE网络204来从OOV词的特征序列202产生原声嵌入206。然后使用AWE→A2W NN208将这个OOV的AWE向量206映射到A2W空间(即，子网络100)。该神经网络208的输出向量被用作将OOV词的新输出单元连接到A2W模型中的先前层的权重向量，使得OOV词CAT现在将具有其自己的A2W词嵌入118。
为了识别输入语音话语104中新输入的OOV词(例如，CAT)，本发明首先在IV词列表106中挑选最高得分词以及
系统实现
本发明可以以多种不同计算机实现方式来实现，包括涉及云服务的实现方式。因此，尽管本公开包括关于云计算的详细描述，但如下所述，本领域技术人员将理解，本文所述教导内容的实现不限于云计算环境。相反，本发明的实施例能够结合现在已知或以后开发的任何其他类型的计算环境来实现。
云计算是一种服务交付模式，用于对共享的可配置计算资源池进行方便、按需的网络访问。可配置计算资源是能够以最小的管理成本或与服务提供者进行最少的交互就能快速部署和释放的资源，例如可以是网络、网络带宽、服务器、处理、内存、存储、应用、虚拟机和服务。这种云模式可以包括至少五个特征、至少三个服务模型和至少四个部署模型。
特征包括：
按需自助式服务：云的消费者在无需与服务提供者进行人为交互的情况下能够单方面自动地按需部署诸如服务器时间和网络存储等的计算能力。
广泛的网络接入：计算能力可以通过标准机制在网络上获取，这种标准机制促进了通过不同种类的瘦客户机平台或厚客户机平台(例如移动电话、膝上型电脑、个人数词助理PDA)对云的使用。
资源池：提供者的计算资源被归入资源池并通过多租户(multi-tenant)模式服务于多重消费者，其中按需将不同的实体资源和虚拟资源动态地分配和再分配。一般情况下，消费者不能控制或甚至并不知晓所提供的资源的确切位置，但可以在较高抽象程度上指定位置(例如国家、州或数据中心)，因此具有位置无关性。
迅速弹性：能够迅速、有弹性地(有时是自动地)部署计算能力，以实现快速扩展，并且能迅速释放来快速缩小。在消费者看来，用于部署的可用计算能力往往显得是无限的，并能在任意时候都能获取任意数量的计算能力。
可测量的服务：云系统通过利用适于服务类型(例如存储、处理、带宽和活跃用户帐号)的某种抽象程度的计量能力，自动地控制和优化资源效用。可以监测、控制和报告资源使用情况，为服务提供者和消费者双方提供透明度。
服务模型如下：
软件即服务(SaaS)：向消费者提供的能力是使用提供者在云基础架构上运行的应用。可以通过诸如网络浏览器的瘦客户机接口(例如基于网络的电子邮件)从各种客户机设备访问应用。除了有限的特定于用户的应用配置设置外，消费者既不管理也不控制包括网络、服务器、操作系统、存储、乃至单个应用能力等的底层云基础架构。
平台即服务(PaaS)：向消费者提供的能力是在云基础架构上部署消费者创建或获得的应用，这些应用利用提供者支持的程序设计语言和工具创建。消费者既不管理也不控制包括网络、服务器、操作系统或存储的底层云基础架构，但对其部署的应用具有控制权，对应用托管环境配置可能也具有控制权。
基础架构即服务(IaaS)：向消费者提供的能力是消费者能够在其中部署并运行包括操作系统和应用的任意软件的处理、存储、网络和其他基础计算资源。消费者既不管理也不控制底层的云基础架构，但是对操作系统、存储和其部署的应用具有控制权，对选择的网络组件(例如主机防火墙)可能具有有限的控制权。
部署模型如下：
私有云：云基础架构单独为某个组织运行。云基础架构可以由该组织或第三方管理并且可以存在于该组织内部或外部。
共同体云：云基础架构被若干组织共享并支持有共同利害关系(例如任务使命、安全要求、政策和合规考虑)的特定共同体。共同体云可以由共同体内的多个组织或第三方管理并且可以存在于该共同体内部或外部。
公共云：云基础架构向公众或大型产业群提供并由出售云服务的组织拥有。
混合云：云基础架构由两个或更多部署模型的云(私有云、共同体云或公共云)组成，这些云依然是独特的实体，但是通过使数据和应用能够移植的标准化技术或私有技术(例如用于云之间的负载平衡的云突发流量分担技术)绑定在一起。
云计算环境是面向服务的，特点集中在无状态性、低耦合性、模块性和语意的互操作性。云计算的核心是包含互连节点网络的基础架构。
现在参见图4，描绘了说明性云计算环境50。如图所示，云计算环境50包括一个或多个云计算节点10，云消费者使用的本地计算设备(诸如个人数词助理(PDA)或移动电话54A、台式计算机54B、膝上型计算机54C和/或汽车计算机系统54N)可与云计算节点10通信。多个节点10可以彼此通信。它们可以被物理地或虚拟地分组(未示出)在一个或多个网络中，诸如上文描述的私有云、共同体云、公共云或混合云或其组合。这允许云计算环境50提供基础结构、平台和/或软件作为服务，云消费者不需要为此维护本地计算设备上的资源的服务。应当理解，图4所示的各类计算设备54A-N仅仅是示意性的，云计算节点10以及云计算环境50可以与任意类型网络上和/或网络可寻址连接的任意类型的计算设备(例如使用网络浏览器)通信。
现在参见图5，其中示出了由云计算环境50(图4)提供的一组功能抽象层。应预先理解，图5中所示的组件、层和功能旨在仅是说明性的，并且本发明的实施例不限于此。如图所描绘的，提供了以下层和相应的功能：
硬件和软件层60包括硬件和软件组件。硬件组件的示例包括：主机61；基于RISC(精简指令集计算机)架构的服务器62；服务器63；刀片服务器64；存储设备65；以及网络和联网组件66。在一些实施例中，软件组件包括网络应用服务器软件67和数据库软件68。
虚拟化层70提供抽象层，从该抽象层可以提供虚拟实体的以下示例：虚拟服务器71；虚拟存储72；虚拟网络73(包括虚拟专用网络)；虚拟应用和操作系统74；以及虚拟客户端75。
在一个示例中，管理层80可提供下文所描述的功能：资源供应功能81提供用于执行云计算环境内的任务的计算资源和其他资源的动态获取。计量和定价狗功能82在云计算环境内利用资源时提供成本跟踪，并针对这些资源的消费进行计费或发票。在一个示例中，这些资源可以包括应用软件许可证。安全功能为云消费者和任务提供身份验证，以及对数据和其他资源的保护。用户门户功能83为消费者和系统管理员提供对云计算环境的访问。服务级别管理功能84提供云计算资源分配和管理，使得满足所需的服务级别。服务水平协议(SLA)计划和履行功能85提供云计算资源的预安排和采购，根据SLA预期该云计算资源的未来要求。
工作负载层90提供可以利用云计算环境的功能的示例。可以从该层提供的工作负载和功能的示例包括与本发明的实现方式有关的任务，其中FOPE被并入例如基于DBaaS的云服务中。
已经出于说明的目的呈现了本发明的不同实施例的描述，但并不旨在是详尽的或限于所公开的实施例。在不脱离所描述的实施例的范围的情况下，许多修改和变化对本领域的普通技术人员而言将是显而易见的。选择在此使用的术语以最佳地解释实施例的原理、实际应用或在市场上找到的技术上的技术改进，或使得本领域普通技术人员能够理解在此公开的实施例。
虽然已经就若干示例性实施例描述了本发明，但本领域技术人员将认识到，本发明可以通过修改来实施。
进一步地，应注意的是，申请人的意图是涵盖所有权利要求要素的等效物，即使稍后在审查期间进行修改。
机译： 基于声音词嵌入的直接声-词语音识别中的词外识别
机译： 语音词嵌入法在声到词语音识别中语音外词的识别
机译： 通过使用人工输入的纠正词的语音翻译通过识别文本中的语音序列来比较通过语音识别识别的文本
