数据感测装置及其数据感测方法

摘要

一种数据感测装置及其数据感测方法。数据感测装置包括电流调整器以及感测放大器。电流调整器对应存储器阵列的存储器串，依据存储器串的多个输入信号的数量以产生偏移电流，并依据偏移电流调整存储器串的读取电流以产生调整后读取电流。感测放大器接收调整后读取电流以及多个参考电流，使调整后读取电流与参考电流进行比较以产生读取数据。当存储器串的输入信号的数量发生变化时，本发明的数据感测装置可通过既定数量的参考电流来进行读取数据的感测动作，不需设置过多的参考电流，有效节省数据感测装置的电路面积以及功率消耗。

说明书

技术领域

本发明属于人工智能技术领域，涉及一种数据感测装置及其数据感测方法，且特别是有关于一种适用于类神经网络运算的数据感测装置及其数据感测方法。

背景技术

随着电子技术的演进，人工智能技术逐渐成为一种主流。而类神经网络更是执行人工智能演算的一个重要方式。

类神经网络需伴随大量的运算，在现有的技术领域中，常通过数位电路(多位电路)或高阶的处理器来执行类神经网络的运算。这样的做法需要相对高的硬件成本，且也需要耗去相对高的功率来执行运算动作。对应于此，现有技术通过非易失性存储器来执行类神经网络运算，可有效减小电路面积，并降低所需的功耗。

在现有的技术领域中，通过非易失性存储器中的存储单元的跨导值(transconductance)(跨导指输出输出端电流的变化值与输入端电压值之间的比值)，可提供作为类神经网络中的权重。再通过存储单元所接收的输入信号，与存储单元的跨导值的乘积，可实现类神经网络的运算动作。

值得注意的，类神经网络中的权重可以为正值、负值或0。然而，非易失性存储器的存储单元无法提供负值的跨导值，因此，现有技术通过使权重加上一预设的偏移值，以使所有的权重的数值均为正值来进行运算。在此请参照图1绘示的现有技术的存储器串的电流与输入信号总数的关系图。其中，存储器串的读取电流的分布范围，会随着输入信号总数SX的大小而有所不同。在图1中，当输入信号总数SX分别为5、6以及7时，对应作为基准范围的(权重为0的)读出电流的分布范围会有所不同。如此一来，为有效感测出读出电流对应的读取数据，现有技术需要针对可能发生的输入信号总数SX，而预先提供多数量的参考电流。如此一来，需要相对大面积的参考电流产生电路，并增加功率的消耗。

发明内容

本发明提供一种数据感测装置及其数据感测方法，降低所需的参考电流的数量。

本发明的数据感测装置包括电流调整器以及感测放大器。电流调整器对应存储器阵列的存储器串，依据存储器串的多个输入信号的数量以产生偏移电流，并依据偏移电流调整存储器串的读取电流以产生调整后读取电流。感测放大器耦接电流调整器，接收调整后读取电流以及多个参考电流，使调整后读取电流与参考电流进行比较以产生读取数据。

本发明的数据感测方法包括：提供对应存储器阵列的存储器串的电流调整器，使电流调整器依据存储器串的多个输入信号的数量以产生偏移电流；使电流调整器依据偏移电流调整存储器串的读取电流以产生调整后读取电流；以及，提供感测放大器以使调整读取电流与多个参考电流进行比较以产生读取数据。

基于上述，本发明通过电流调整器，以依据存储器串的输入信号的数量来调整存储器串所产生的读取电流。如此一来，当存储器串的输入信号的数量发生变化时，本发明的数据感测装置可通过既定数量的参考电流来进行读取数据的感测动作，不需设置过多的参考电流，有效节省数据感测装置的电路面积以及功率消耗。

为让本发明的上述特征和优点能更明显易懂，下文特举实施例，并配合所附图式作详细说明如下。

附图说明

图1绘示现有技术的存储器串的电流与输入信号总数的关系图。

图2绘示本发明一实施例的数据感测装置的示意图。

图3绘示本发明实施例的电流调整器的一实施方式。

图4绘示本发明图3实施方式的数据感测方法的流程图。

图5绘示本发明图4实施方式中，对应不同的输入信号的数量，调整后读取电流的分布范围的示意图。

图6绘示本发明实施例的电流调整器的一实施方式。

图7绘示本发明图6实施方式的数据感测方法的流程图。

图8A以及图8B绘示本发明图7的实施方式中，对应不同的输入信号的数量，调整后读取电流的分布范围的示意图。

图9绘示本发明实施例的数据感测方法的流程图。

【符号说明】

200：数据感测装置

210：存储器阵列

211、MS、MSA：存储器串

220、300、600：电流调整器

230、301：感测放大器

310：译码器

320、610、620：电流产生器

OP1、OP2：运算器

VSH1～VSHN：控制信号

X1～XM：输入信号

IADJ：调整后读取电流

IREF1～IREFN：参考电流

IS：偏移电流

RDOUT：读取数据

SX：输入信号数量

SW1、SW2：开关

IR：读取电流

I1、I2：电流

G

C：参考值

BP：基准范围

V

S410～S434、S710～S780、S910～S930：数据感测步骤

具体实施方式

为使本发明的目的、技术方案和优点更加清楚明白，以下结合具体实施例，并参照附图，对本发明进一步详细说明。

请参照图2，图2绘示本发明一实施例的数据感测装置的示意图。数据感测装置200包括存储器阵列210，存储器阵列210中包括一个或多个存储器串211。数据感测装置200包括电流调整器220以及感测放大器230。电流调整器220对应存储器阵列210中的存储器串211，并依据存储器串 211的多个输入信号X1～XM的数量SX以产生一偏移电流。此外，电流调整器220并接收存储器阵列210依据输入信号X1～XM所产生的读取电流IR，并依据偏移电流来对读取电流IR进行调整以产生调整后读取电流 IADJ。电流调整器220提供调整后读取电流IADJ至感测放大器230。

在本实施例中，感测放大器230接收调整后读取电流IADJ以及参考电流IREF1～IREFN。感测放大器230使调整后读取电流IADJ与参考电流 IREF1～IREFN进行比较，并借以产生读取数据RDOUT。值得一提的，在本实施例中，参考电流IREF1～IREFN的数量可以与输入信号X1～XM的数量SX不相关。

细节上来说明，电流调整器220可通过判断输入信号X1～XM的数量SX有无大于预设的参考值来决定是否产生偏移电流。电流调整器220在当输入信号X1～XM的数量SX大于预设的参考值时，可产生偏移电流以针对读取电流IR进行调整，相对的，电流调整器220在当输入信号X1～XM 的数量SX不大于预设的参考值时，则不需产生用以调整读取电流IR的偏移电流。在调整后读取电流IADJ的产生细节上，电流调整器220可使读取电流IR与偏移电流进行一算术运算来产生调整后读取电流IADJ，例如，调整后读取电流IADJ可等于读取电流IR减去偏移电流。

以下请参照图3，图3绘示本发明实施例的电流调整器的一实施方式。电流调整器300包括译码器310、电流产生器320以及运算器OP1。译码器310针对对应的存储器串的输入信号数量SX的数值进行译码，并借以产生多个控制信号VSH1～VSHN。电流产生器320耦接至译码器310，接收控制信号VSH1～VSHN，并依据控制信号VSH1～VSHN被使能的数量来产生偏移电流IS。运算器OP1接收存储器串所提供的读取电流IR以及偏移电流IS，并通过使读取电流IR减去偏移电流IS来产生调整后读取电流 IADJ。

细节上来说明，译码器310可依据输入信号数量SX来决定被使能的控制信号VSH1～VSHN的数量，电流产生器320则可产生对应输入信号数量SX来调整所产生的偏移电流IS的大小。值得一提的，在当输入信号数量SX不大于前述的预设值时，所有的控制信号VSH1～VSHN都不会被使能。

在此，被使能的控制信号VSH1～VSHN可以为逻辑电平1或逻辑电平 0，设计者可依据电路的实际状态进行设置，没有固定的限制。

在此请注意，电流产生器320可以利用多个非易失性存储单元来设置。这些非易失性存储单元排列成一存储器串，并分别提供多个跨导值G

在本实施方式中，电流调整器300耦接至感测放大器301。感测放大器301则通过使调整后读取电流IADJ与参考电流IREF1～IREFN进行比较，来产生读取数据RDOUT。此外，运算器OP1可以为本领域技术人员所熟知的任意减法器(或加法器)电路，没有特定的限制。

请参照图4，图4绘示本发明图3实施方式的数据感测方法的流程图。对应图3的电流调整器300，步骤S410可制定感测放大器301的量化机制 (quantization scheme)，由于感测放大器301的感测量级(sensing level) 在数量上是有限的，并非神经网络中的所有可能的输出值都能被感测，因此上述的量化机制即为在对应各种输入信号数量SX的条件下，设定的每个量级所对应的神经网络的输出值范围，在步骤S420中，设定参考值C 及参考电流，其中，由于在输入信号数量SX小于或等于参考值C的条件下，对应每一个输入信号数量SX的条件所需的参考电流并不相同。当输入信号数量SX大于参考值C时所需的参考电流与输入信号数量SX等于参考值C时则是相同的，因而在此必须针对输入信号数量SX小于或等于参考值C的条件下，设定所有条件所需的多个参考电流IREF1～IREFN。在此，参考电流IREF1～IREFN被提供至感测放大器301。参考值C则可被储存在电流调整器300中。

接着，步骤S430中，电流调整器300可使输入信号数量SX与参考值 C进行比较，在当输入信号数量SX大于或等于参考值C时执步骤S432，并在当输入信号数量SX小于参考值C时执行步骤S431。

当输入信号数量SX小于参考值C时，步骤S431执行一般感测方法，也就是使存储器串的读出电流IR直接被传送至感测放大器301，并使感测放大器301藉由使读出电流IR与参考电流IREF1～IREFN进行比较，以产生读取数据RDOUT。

相对的，当输入信号数量SX大于或等于参考值C时，在步骤S432 中，译码器310可针对输入信号数量SX进行译码，并通过译码结果使电流产生器320产生偏移电流IS。接着，步骤S433中，运算器OP1则使读取电流IR减去偏移电流IS，以使目标读取电流对齐相同的基准范围。在此，目标读取电流为当输入信号数量SX等于参考值C与存储器串为零权重条件下的读取电流IR，通过步骤S433的动作，可使不论输入信号数量 SX的数值为何(例如，大于或等于参考值C)，其对应存储器串于当输入信号数量SX等于参考值C与存储器串为零权重条件下的读取电流IR可对齐至相同的基准范围。

对此请参照图5，图5绘示本发明图4实施方式中，对应不同的输入信号的数量，调整后读取电流的分布范围的示意图。其中，在图5中，以参考值C＝5为范例，图5分别绘示输入信号数量SX等于5、6、7的读取电流IR的分布范围。基于输入信号的数量不相同，在零权重条件下的读取电流IR的分布范围不相对齐于基准范围。在经过偏移电流的调整动作后，数量SX等于5、6、7的调整后读取电流IADJ的分布范围中，在零权重条件下的调整后读取电流IADJ的分布范围可对齐至相同的基准范围 BP。如此一来，数量SX等于5、6、7的调整后读取电流IADJ，皆可通过与先前设定好的参考电流r

以下请参照图6，图6绘示本发明实施例的电流调整器的一实施方式。电流调整器600包括电流产生器610、620、开关SW1、SW2以及运算器 OP2。电流产生器610与存储器串MS串联耦接。存储器串MS接收输入信号X1～XM并依据存储器串MS上多个存储单元所分别提供的跨导值G

在另一方面，电流产生器620与开关SW2相互串接。电流产生器620 由另一存储器串MSA所构成，并具有多个存储单元。存储器串MSA的存储单元提供跨导值G

运算器OP2则耦接至开关SW1、SW2，并在开关SW1、SW2均被导通时，使开关SW1上的第一电流I1以及读取电流IR的和，与开关SW2 上的第二电流I2相减，并借以产生调整后读取电流IADJ。在本实施例中，第一电流I1与第二电流I2的差，可等同于前述图3实施例的偏移电流IS。

附带一提的，开关SW1在当数据感测动作被执行时，恒为导通的状态。开关SW1、SW2则皆可为晶体管开关。此外，运算器OP2可以为本领域技术人员所熟知的任意减法器(或加法器)电路，没有特定的限制。

请参照图7，图7绘示本发明图6实施方式的数据感测方法的流程图。对应图6的电流调整器600，步骤S710可制定感测放大器301的量化机制。上述的量化机制即为在对应各别输入信号数量SX的条件下设定每个量级所对应的神经网络的输出值范围，在步骤S720中，设定参考值C及参考电流，同样的，针对输入信号数量SX小于或等于参考值C的条件下设定所有条件所需的多个参考电流。在此，参考值C则可被储存在电流调整器 600中。

接着，步骤S730中，电流调整器600可使输入信号数量SX与参考值 C进行比较，在当输入信号数量SX大于或等于参考值C时执步骤S750，并在当输入信号数量SX小于参考值C时执行步骤S740。

当输入信号数量SX小于参考值C时，步骤S740执行一般感测方法，也就是使存储器串的读出电流IR直接被传送至感测放大器，并使感测放大器通过使读出电流IR与参考电流进行比较，以产生读取数据。

相对的，当输入信号数量SX大于或等于参考值C时，执行步骤S750，并进一步针对输入信号数量SX是否大于参考值C进行判断动作。在当输入信号数量SX大于参考值C时，执行步骤S760，相对的，在当输入信号数量SX等于参考值C时，直接执行步骤S780。

在步骤S760中，读取电流IR与电流产生器610所产生的第一电流I1 相加，并在步骤S770中，通过运算器OP2以及被导通的开关SW2，使读取电流IR与第一电流I1相加后，再减去第二电流I2，并借以产生调整后读取电流IADJ。最后，步骤S780依据参考电流来产测出读取数据。

通过步骤S760、S770的动作，使读取电流加上第一电流I1，并减去第二电流I2，可使不论输入信号数量SX的数值是多少(例如，大于参考值C)，其零权重条件下的调整后读取电流IADJ可对齐至相同的基准范围。

对此请参照图8A以及图8B，图8A以及图8B绘示本发明图7的实施方式中，对应不同的输入信号的数量，调整后读取电流的分布范围的示意图。其中，在图8A中，以参考值C＝5为范例，图8A分别绘示输入信号数量SX等于5、6、7的读取电流IR的分布范围。基于输入信号的数量不相同，零权重条件下的读取电流IR的分布范围不相对齐。在经过使第一电流I1与读取电流IR相加后，第一电流I1+读取电流IR的电流分布范围可先一步进行调整。接着，在图8B中，再使第一电流I1+读取电流IR 减去第二电流12以产生调整后读取电流IADJ。调整后读取电流IADJ的分布范围可以对齐，并通过预设的参考电流来感测出读取数据。

附带一提的，在前述多个实施例中，存储单元所提供的跨导值以及输入信号的电压值，可由设计者依据实际的需求来进行设置，没有一定的限制。

以下请参照图9，图9绘示本发明实施例的数据感测方法的流程图。步骤S910提供对应存储器阵列的存储器串的电流调整器，使电流调整器依据存储器串的多个输入信号的数量以产生偏移电流；步骤S920使电流调整器依据偏移电流调整存储器串的读取电流以产生调整后读取电流；以及，步骤S930提供感测放大器以使调整后读取电流与多个参考电流进行比较以产生读取数据。

关于上述步骤的实施细节，在前述的多个实施立即实施方式中已有详细的说明，在此恕不多赘述。

综上所述，本发明提供偏移电流，以对存储器串的读取电流进行调整。再依据调整后读取电流来与多个参考电流进行比较以产生读取数据。如此一来，数据感测装置不需要预先产生很多数量的参考电流，来因应不同数量的输入信号。有效降低电路成本，以及所需的功率消耗。

虽然本发明已以实施例揭露如上，然其并非用以限定本发明，任何所属技术领域中具有公知常识的技术人员，在不脱离本发明的精神和范围内，当可作些许的改动与润饰，故本发明的保护范围当视权利要求所界定的范围为准。

以上所述的具体实施例，对本发明的目的、技术方案和有益效果进行了进一步详细说明，所应理解的是，以上所述仅为本发明的具体实施例而已，并不用于限制本发明，凡在本发明的精神和原则之内，所做的任何修改、等同替换、改进等，均应包含在本发明的保护范围之内。