使用滤波器乘积的线性校正器的校准系统和方法

摘要

公开了一种用于使用滤波器乘积的和来校准线性校正器的校准系统，以及一种校准该线性校正器的方法。该校准系统包括用于将测试信号引入例如ADC的信号处理系统的第一和第二信号发生器。提供采集存储器和处理器用于采集和分析该信号处理系统的输出，并且然后编程该滤波器系数到该线性校正器中。该校准方法分析从该信号处理系统采集的互调和谐波分量，然后为该滤波器寻找幅度和相位响应。然后使用该幅度和相位响应来确定一组滤波系数。

说明书

本发明申请是本发明申请人于2005年11月4日提交的、申请号为200510137332.5、发明名称为“使用滤波器乘积的线性校正器的校准系统和方法”的发明申请的分案申请。

交叉引用

本申请要求2004年11月4日提交的申请号60/625372的美国临时申请的优先权。

版权声明

依照37C.ER.1.71(e)，申请人表示，本公开的一部分包含属于和要求版权保护的内容，例如但不限于源码列表、屏幕截图(screen shots)、用户界面、或者用户指令，或者提交的任何其他方面，对这些方面在任何权限中版权保护是或者可能是有用的。本版权所有人对于任何一个专利文件或专利公开文本的传真复制没有异议，例如出现在专利商标局专利文件或记录中。所有其他权利被保留，并且基于本申请或其任何部分的内容、公开显示和公开执行的派生作品的所有其它复制、分发和创建都被适用的版权法所禁止。

技术领域

本发明涉及线性误差校正，尤其涉及一种使用滤波器乘积(filter products)减少或消除由信号处理系统例如模数转换器(ADC)产生的失真的线性校正器。

背景技术

减少ADC所产生的失真增加无寄生动态范围(spurious-free dynamic range)(SFDR)，其对于使用ADC来获得数据的系统是有用的，所述系统是例如谱分析器和其他电子测量仪器。

现代高速ADC设计使用深时钟流水线(deep clock pipeline)来帮助将模拟输入通过一系列改进的步骤精确地转换为采样的数字表示。ADC设计者付出了很大努力来去除模拟处理电路中的明显的非线性源。然而，一般很难去除所有的误差源。设计者试图去除该电路中的最明显的问题直到计算机化建模例如SPICE建模显示该转换器符合技术要求。可以通过使用例如减少非线性装置的动态范围的技术或者使用其周围的反馈来改善线性。然而，一些电路布局具有不能被完全去除的内在失真机制。

流水线处理还为内部数字和模拟电路活动提供对内部模拟信号处理进行调制的机会。在许多这种情况中，具有自身或其自身衍生物的线性函数的输入信号的自调整产生了残留的非线性失真。这导致了一些难以消除的低水平失真。这种调制可以通过内部电源分配发生。在这种情况下，能够在该电源轨上产生电压调制的电路通道数量可以是相当高。模拟这种效应使得装置建模复杂化并且减缓了计算机模拟。对第一阶来说，对于电源调制的这些影响将会几乎线性增加，所以它们可以作为线性有限脉冲响应(FIR)滤波器建模。

在模拟信号处理中的一个或多个点发生调制，其对应于乘法。在流水线ADC中，调制一般发生在转换级之间的高增益模拟放大器中。在这种情况中，典型地该谐波和互调失真的特征在于，存在第2阶和第3阶失真项，其中发生非常少的高阶失真。

以前提出的解决方案是基于Volterra滤波器的。ADC的脉冲响应可以是许多个时钟周期，例如可以使用64个时钟周期。使用Volterra滤波器的校正系统将需要相似的响应长度。在第3阶失真Volterra系统中，这导致大约(N³)/6抽头的滤波器，其对于具有64响应长度的校正系统将导致大约50000抽头阶。具有这样巨大数量抽头的滤波器系统太复杂和太昂贵以致于当时无法在实际系统中实现。

在其他与扬声器中的校正失真相关的应用中提出了另一种解决方案，其使用了与Volterra滤波器的某些方面近似的滤波器结构。图1示出了具有第1阶校正和第3阶校正的这种方案的一种型式。第一阶补偿是由滤波器12(h₁)来提供的。第三阶补偿是这样提供的，即通过使用乘法器18将滤波器14的输出与滤波器16的输出相乘，使用滤波器20对乘法器18的输出进行过滤，使用乘法器24将滤波器20的输出与滤波器22的输出相乘，最后使用滤波器26对乘法器24的输出进行过滤。通过使用加法器28将来自第一阶补偿的输出和第三阶补偿相加，可以提供线性三次补偿(cubic compensation)。图1中所示系统的第3阶补偿执行下述方程式，

$>y\left(n\right)=\underset{i=0}{\overset{N_P-1}{\Sigma }}{h}_p\left(i\right)\underset{j=0}{\overset{N_a+N_m-2}{\Sigma }}{h}_3\left(j\right)x(n-i-j)\underset{k=0}{\overset{N_m-1}{\Sigma }}{h}_m\left(k\right)·$>

$>\underset{l=0}{\overset{N_a-1}{\Sigma }}{h}_1\left(l\right)x(n-l-k-i)\underset{m=0}{\overset{N_a-1}{\Sigma }}{h}_2\left(m\right)x(n-m-k-i)$>

其被描述为一般的第3阶非线性滤波器结构。这种实现方案在乘法器18之后使用了滤波器20，以及在乘法器24之后的滤波器26。一旦获得该线性三次补偿，就从正被补偿的该未知系统的输出中减去。这需要该校正器能够访问输入到该未知系统的原始信号，而当该原始信号不是数字的时候是不可用的。虽然它可以是Volterra滤波器的有用的子方案，但是它也有不适用于具有良好线性频率响应的系统的缺点。紧接在该乘法器之后的滤波器不能区分原始分量和由在先乘法的非线性效应所引起的混叠分量。虽然该乘法器之后的其他滤波可以提供对于信号通道中的频率相关的幅度和相位响应的一些校正，但是当用于使用大部分Nyquist频带的应用中时，混叠不允许该滤波器对该原始分量和混叠分量之间的相位和幅度响应差进行校正。

线性补偿系统中的遗留问题涉及校准。这些系统会需要求解相对于该输出成非线性的滤波器系数的系统。对于任何可以应用到该系统的校准方案，求解更多的系数将需要更多的计算量。

在现有解决方案上的细节和改进将在以下更加详细地讨论。

发明内容

如果可以通过恢复ADC中的等效失真滤波器的系数来对该失真机制建模，该ADC输出就可以通过以基本上相同的方式使该信号失真的数字处理网络，然后，减去该失真以减少或消除该ADC失真。虽然将所有ADC失真完全消除是不可能的，但是本方法改善了ADC的无寄生动态范围(SFDR)。例如，依赖于该ADC的特性，具有SFDR为80dB的ADC可以改进15dB的因子。本改进还从先前提出的布局中去掉了一些滤波器，从而简化了具有相对平滑线性频率响应的系统使用的设计。这种简化可以对校正系统中的更长滤波器交替使用，从而获得具有相同处理量的改进的性能。该改进对于精确测量应用是有意义的，例如那些与频谱分析器、示波器或者其他使用ADC的测量仪器有关的精确测量应用。

为了实现这些优点，提供一种合适的校准系统和方法。该校准系统包括：产生第一模拟信号的第一模拟信号产生器，产生第二模拟信号的第二模拟信号产生器，以及连接到该第一模拟信号产生器和第二模拟信号产生器的、用于将该第一模拟信号和第二模拟信号相加并提供模拟输出的模拟加法器。该模拟输出被输入到ADC以获得数字输出。将执行对滤波器乘积求和的线性校正器连接到该ADC的数字输出。在正常操作期间，该线性校正器将提供与该ADC的输出相比具有减小的失真的校正输出。将采集存储器连接到该数字输出；并且将用于控制该第一信号产生器和第二信号产生器的处理器连接以读取该采集存储器数据。还将该处理器连接到该线性校正器以便为该滤波器乘积编程滤波器系数。

还提供了一种校准线性校正器的方法。该校准方法通过将第一波形和第二波形输入到具有输出的信号处理系统来完成。当其中每一个从该信号处理系统中输出时，该采集存储器和处理器采集和分析该第一和第二波形的互调和谐波分量。通过基于失真模型以及该互调和谐波分量来确定目标函数的最小值，寻找连接到该装置输出的线性校正器中使用的滤波器的幅度和相位响应。然后，使用该幅度和相位响应来计算一组滤波器系数。

附图说明

图1(现有技术)是用于补偿扬声器的现有技术的线性校正器的布置的框图。

图2是包括第1阶、第2阶和第3阶失真的补偿的、基于滤波器乘积的线性校正器的框图。

图3是包括第1阶和第3阶失真的补偿的、基于滤波器乘积的线性校正器的框图。

图4是包括第1阶、第3阶和第4阶失真的补偿的、基于滤波器乘积的线性校正器的框图。

图5是补偿ADC的框图。

图6是包括补偿和校准系统的ADC系统的框图。

图7示出了基本校难过程。

图8示出了该校准过程的附加子步骤。

图9示出了该校准过程的附加子步骤。

图10示出了该校准过程的附加子步骤。

具体实施方式

本说明书包括第21-51页的用于说明本发明的具体实施例的具体实施方式的示例源代码及其注释文件，文件名称是Slavin.txt。

如上所述，在前提出的解决方案基于Volterra滤波器。然而，由于Volterra滤波器非常大并且很难与ADC一起实现，因此，需要一种解决方案，其利用更易管理的滤波器设计，同时还能够减少一些遗留的主要失真。以Volterra滤波器作为起始点，广义的非线性滤波器系统能够在数学上定义为：

$>y\left(t\right)=h_0+\underset{k=1}{\overset{n}{\Sigma }}(\underset{j_1=0}{\overset{N-1}{\Sigma }}\underset{j_2=0}{\overset{N-1}{\Sigma }}...\underset{j_k=0}{\overset{N-1}{\Sigma }}{h}_{j_1,j_2,...j_k}\underset{i=1}{\overset{k}{\Pi }}x(t-j_i))$>(方程1)

其中，N是该滤波器的脉冲响应长度，k是该滤波器阶指数(order index)。

例如，如果n＝3，则我们有DC值(h₀)、k＝1时的线性FIR滤波器项、k＝2时的2阶失真滤波器以及k＝3时的3阶滤波器的和。因而，对于n＝3，该Volterra滤波器可以表示为：

$>y\left(t\right)=h_0+\underset{j_1=1}{\overset{N-1}{\Sigma }}{h}_{j_1}x(t-j_1)+\underset{j_1=0}{\overset{N-1}{\Sigma }}\underset{j_2=0}{\overset{N-1}{\Sigma }}{h}_{j_1,j_2}x(t-j_1)x(t-j_2)+$>

$>\underset{j_1=0}{\overset{N-1}{\Sigma }}\underset{j_2=0}{\overset{N-1}{\Sigma }}\underset{j_3=0}{\overset{N-1}{\Sigma }}{h}_{j_1,j_2,j_3}x(t-j_1)x(t-j_2)x(t-j_3)$>(方程2)

Volterra滤波器系数与输出y是成线性的，所以理论上，可以利用训练数据来找到一组h。一些乘积项刚好是相同组输入采样的置换(permutations)，所以对于每个阶指数k在该组h中的区别值的数量由下式给出，该数量对应于滤波器抽头的数量：

$>\mathrm{Taps}\left(k\right)=\left(\begin{array}{c}N+k-1\\ N-1\end{array}\right)=\frac{\underset{j=1}{\overset{k}{\Pi }}(N+k-j)}{k!}\ge \frac{N^k}{k!}$>(方程3)

遗憾的是，流水线ADC系统的该脉冲响应会是相当大的，所以N可以很大，对于k＝3产生很大数量的抽头。例如，如果该流水线ADC系统的脉冲响应是64个时钟周期，从而N＝64，那么所需要的抽头数将是大约44000。附加的抽头被需要用于其他阶滤波器，如果存在的话。

现有的ADC线性校正器的实施例依赖于Volterra滤波器系统的子集。该Volterra滤波器系统的子集的特征在于：

$>y\left(t\right)=\underset{k=1}{\overset{n}{\Sigma }}\left(\underset{j=1}{\overset{k}{\Pi }}\left(\underset{i=0}{\overset{N-1}{\Sigma }}{h}_{x,j,i}x(t-i)\right)\right)$>(方程4)

对于1≤k≤n，系统阶n定义了一组乘积阶。

尽管抽头的数量和值是未知的，但假定失真模型是这种形式。校正模型具有相同的形式，除非基于具有特定ADC构造的实验，事先选择阶和滤波器的长度。校准则包含找出滤波器抽头。注意到，通常滤波器抽头对于每个滤波器是不同的。对于系统阶n＝3，忽略h₀(DC)项，我们得到：

$>y\left(t\right)=\underset{i=0}{\overset{N-1}{\Sigma }}{h}_{\mathrm{1,1},i}x(t-i)+\left(\underset{i=0}{\overset{N-1}{\Sigma }}{h}_{\mathrm{2,1},i}x(t-i)\right)\left(\underset{i=0}{\overset{N-1}{\Sigma }}{h}_{\mathrm{2,2},i}x(t-i)\right)+$>

$>\left(\underset{i=0}{\overset{N-1}{\Sigma }}{h}_{\mathrm{3,1},i}x(t-i)\right)\left(\underset{i=0}{\overset{N-1}{\Sigma }}{h}_{\mathrm{3,2},i}x(t-i)\right)\left(\underset{i=0}{\overset{N-1}{\Sigma }}{h}_{\mathrm{3,3},i}x(t-i)\right)$>(方程5)

这种结构的实施例其特征可以在于，具有使用滤波器实现的每个线性卷积的N抽头滤波器的乘积。

图2示出了用于实现方程式5的线性校正器100的实施例。信号处理系统例如ADC的输出作为输入被提供给该线性校正器100。该线性卷积中的每一个，如方程5中所提供的，使用滤波器102到112来实现。该滤波器可以作为FIR滤波器来实现。第一阶项对应于滤波器102。在可选实施例中，通过用近似等于其他滤波器长度的一半的固定延迟代替滤波器102来获得该第一阶项。在另一实施例中，通过用固定延迟和滤波器的组合代替滤波器102来获得该第一阶项，从而使该总延迟近似为其他阶滤波器长度的一半。通过使用乘法器120将滤波器104和滤波器106的输出相乘以产生二阶滤波器乘积来实现第二阶项。通过使用乘法器122将滤波器108、滤波器110和滤波器112的输出相乘以产生三阶滤波器乘积来实现第三阶。然后，使用加法器124将来自滤波器102的输出与乘法器120和乘法器122的输出相加以提供该滤波器乘积的简单和(simple sum)作为输出。这里使用的术语“简单和”表示将该乘法器的值相加而不需在该乘法器和加法器124之间进行额外滤波的操作。这种简单和通过将该乘法器直接连接到加法器来获得。这里使用的术语直接连接(或者直接被连接)的含义是，在该通道上没有滤波器或其它处理元件，在该通道中可以有不改变通道上信号数据的本质特性的寄存器或其他元件。该输出现在是具有由该信号处理系统例如ADC产生的减少了的非线性的补偿信号。应当注意的是，本发明的实施例消除了现有技术的解决方案中提供的、乘法器之后的滤波器。虽然与图1所示现有技术相比这将需要使用具有额外抽头的滤波器，但是它使得能够使用该滤波器补偿某些失真，而不需要来自该乘法器之后的滤波器的额外补偿。例如，如果图1的现有技术使用了一半时钟周期延迟的全通输出滤波器(所谓sin(x)/x或sinc(x)滤波器)，则该滤波器可以被结合到该乘法之前的滤波器中。通过仅在乘法器之前使用滤波器，可能的是该滤波器乘积系统就能够更好地区分原始分量和混叠分量。

虽然在一些实施例中可以通过使用不同长度的滤波器来减少计算量，但是更长长度滤波器的使用会增加在校准期间需要求解的变量的数量，这将会使该校准算法变慢。对于硬件实现，更长长度的滤波器也会需要额外的延迟以匹配该滤波信号延迟。因此，在该校正器100的实施例中，所有滤波器长度都相等。

图3示出了设计成用于补偿第1阶和第3阶失真而不补偿第2阶失真的线性校正器100的实施例。在一些应用中，第二阶失真显著不到足以证明包括第2阶补偿是有道理的。如图3所示，通过使用乘法器122将滤波器108、滤波器110和滤波器112的输出相乘以产生第三阶滤波器乘积来提供第三阶补偿。然后该第3阶滤波器乘积和第1阶滤波器乘积的简单和可以提供具有减少或者消除了的第1阶和第3阶失真的补偿信号。

如图4所示，能够提供包括第4阶补偿的校正器100的实施例。利用方程4的一般形式，对于系统阶n＝4，并且忽略该h₀(DC)项，我们就有：

$>y\left(t\right)=\underset{i=0}{\overset{N-1}{\Sigma }}{h}_{\mathrm{1,1},i}x(t-i)+\left(\underset{i=0}{\overset{N-1}{\Sigma }}{h}_{\mathrm{2,1},i}x(t-i)\right)\left(\underset{i=0}{\overset{N-1}{\Sigma }}{h}_{\mathrm{2,2},i}x(t-i)\right)+$>

$>\left(\underset{i=0}{\overset{N-1}{\Sigma }}{h}_{\mathrm{3,1},i}x(t-i)\right)\left(\underset{i=0}{\overset{N-1}{\Sigma }}{h}_{\mathrm{3,2},i}x(t-i)\right)\left(\underset{i=0}{\overset{N-1}{\Sigma }}{h}_{\mathrm{3,3},i}x(t-i)\right)+$>(方程6)

$>\left(\underset{i=0}{\overset{N-1}{\Sigma }}{h}_{\mathrm{4,1},i}x(t-i)\right)\left(\underset{i=0}{\overset{N-1}{\Sigma }}{h}_{\mathrm{4,2},i}x(t-i)\right)\left(\underset{i=0}{\overset{N-1}{\Sigma }}{h}_{\mathrm{4,3},i}x(t-i)\right)\left(\underset{i=0}{\overset{N-1}{\Sigma }}{h}_{\mathrm{4,4},i}x(t-i)\right)$>

如图4所示，该第4阶项可以通过使用乘法器148将滤波器140、滤波器142、滤波器144和滤波器146一起相乘来执行。此外，使用加法器124将该滤波器乘积与其他阶补偿直接求和，而在该乘法器148和加法器124之间没有任何中间滤波器。如从前面例子中可以清楚的，一个本领域普通技术人员将能够求解方程4，以便针对任何预期阶而将其以与方程5和方程6相似的形式放置，其然后可以如这里一般教导地使用滤波器乘积的简单和来实现。如图4所示，第2阶补偿被去除以考虑如下所详细讨论的校准。这种配置将在第4阶具有较大重要性的那些环境中提供补偿。类似地，能够提供对于第4阶和第5阶的补偿并且消除第2阶和第3阶以考虑如下所述的校准。

对于所提出的通常的Volterra形式的分解的有效性以及相应的滤波器乘积结构的证明在于理解对于每个乘积阶k存在单一的自调制机制，而不在于任何随机Volterra滤波器系统能够以这种方式被分解的可能性上。

线性校正器100的各种实施例可以利用专用的硬件执行，例如FPGA或者ASIC，或者利用运行软件的通用处理器执行。当前，尽管运行在通用处理器上的软件对于后采集校正是有用的，但是FPGA或者ASIC对于执行实时校正是有用的。在未来，也有可能为了实时校正利用在通用处理器上的软件。

虽然在一些实施例中，该线性校正器100用于补偿从ADC输出的信号，而在其他实施例中，线性校正器100的结构可以集成在与该ADC相同的封装(packing)中，或者可能集成在与该ADC相同的芯片上，以便形成补偿ADC。该补偿ADC190在图5中示出。它包括ADC模块192，该ADC模块192包含将模拟信号转换成数字信号的各种电路。该ADC模块192的数字输出被输入到可以上述教导实现的线性校正器100。该线性校正器的输出是具有减少了失真的补偿输出。这种组合结构提供了补偿ADC。

为了适当地优化上述线性校正器，有必要对该线性校正器进行校准以对每个滤波器确定合适的滤波器系数。与一般Volterra滤波器不同，图2-4所示的校正器的滤波器乘积输出不是关于其系数成线性的，所以在一般情况下，该滤波器系数的计算是一个非线性优化问题。

因此，提出了一种具有校准的线性校正器系统和一种校准方法。如图6所示，配备有线性校正器100和校准电路的ADC 200。提供模拟选择开关202以控制进入该ADC的输入。该模拟选择开关202由处理器204控制。在校准期间，处理器204控制该模拟选择开关202以允许校准频率信号进入该ADC 200的输入。处理器204还控制数字选择开关206，以控制在校准期间直接来自该ADC200的数字输出是否进入采集存储器208。处理器204还控制第一校准频率发生器210和第二校准频率发生器212。在校准期间，该第一校准频率发生器210和第二校准频率发生器212的输出在输入到ADC 200之前，在求和电路214中组合。在本校准方法的实施例中，进入ADC的该模拟校准信号和模拟求和与该被校准的ADC相比具有显著少的失真。

在校准期间，该采集存储器208采集未校正的ADC输出用于校准。处理在校准频率对的范围上多次采集的数据。该采集的数据由处理器204进行处理。

在正常操作期间，通过模拟选择开关202将该模拟输入输送到ADC 200，并使用该线性校正器100对该ADC的输出进行校正。该校正器的基本操作已经结合图2-4在上面进行了描述。具有该线性校正器的滤波器可以通过处理器204加载。然后可以使用第二处理器216提供其他处理，例如可以就像对该ADC的直接输出那样处理该校正的输出。图6所示的实施例示出了用于校准和其他处理的采集存储器208。在可选实施例中，可以使用单独的存储器用于其他处理。类似地，图6所示的实施例示出了第二处理器216，在其他实施例中，处理器204能够提供这种额外的处理和控制该校准过程。

如图7所示，校准线性校正器中的滤波器乘积内的一组滤波器，有四个基本步骤。对于第1阶以上的每个乘积阶，使用该乘积阶作为参数执行该步骤，例如第2阶或第3阶。步骤310采集和分析输入频率对的互调(IM)和谐波分量。步骤340使用步骤310的结果寻找该校正网络中的滤波器幅度和相位响应。步骤360使用在步骤340中找到的幅度和相位响应，根据所需的幅度和相位响应使用非线性相位滤波器设计算法来设计每个滤波器。步骤380通过设定该滤波器抽头来编程该线性校正器100内的滤波器以对ADC失真进行校正。

步骤310的基本信号采集和分析可以通过选择如图8中的步骤410所提供的基数据记录长度来完成。在步骤420中选择一组校准频率。步骤430生成两个基于额定校准频率的正弦输入，以及在步骤420中选择的校准指数。步骤440为每个校准中心频率指数计算一组谐波和互调频率。步骤450测试可能引起频率分量重叠的混叠。步骤460或者i)恰在所计算的谐波和互调频率执行一组离散傅里叶变换(DFT)，或者ii)执行为完整的一组可能频率生成结果的快速傅里叶变换(FFT)，然后，选择在该计算的谐波和互调频率上的输出结果。

在步骤410，选择用于DFT分析的基数据记录长度L。为了提高效率，在该校准方法的某些实施例中，将L选择为2的幂。对L的选择对应于基本分析频率F＝f_s/L，其中f_s是采样率。然后将所有频率f_m表示为基本分析频率F的谐波(整数倍)m，即f_m＝mF。角频率被表示为：

ω_m＝2πf_m＝2πmF＝2πmf_s/L    (方程7)

在步骤420，选择将用于随后步骤以设计滤波器响应的一组校准频率。这些频率被选择为F的谐波倍数，并且规则间隔在输入频率可以发生的整个尼奎斯特(Nyquist)频带中，但总是排除0(DC)的极限(extreme)和f_s/2。

在步骤430，对于具有额定校准频率ω_c的每个校准指数c，以角频率ω_c-1＝ω_c-ω₁和ω_c+1＝ω_c+ω₁生成两个正弦输入，其对应于：

x_c(t)＝P_c-1sin(ω_c-1(t+λ_c-1))+Q_c+1sin(ω_c+1(t+λ_c+1))      (方程8)

其中λ_c是在频率指数c的延迟。在该校准方法的实施例中，幅度{P_c-1，Q_c+1}是相似的以改善IM校准结果。任何微小差别可以在之后的校正阶段中去除。在该校准方法的实施例中，选择该校准频率以使得它们使用该ADC输入动态范围的大部分。然后，采集整数倍M组L个相邻的A/D输出样本。每个第M个样本被平均以获得低噪声y(t)，t＝0...L-1，其中L是上面步骤410中提供的该基数据记录长度。这种类型的简单平均是非常快的，允许对ML的大量值(可以是百万样本或更多)进行快速处理。L应当被选择成使得它不会太小或者使分析频率会分隔的太远。大的L的值可以生成比所需要的更多的校准频率数据，导致后面的算法运行更慢。L＝2¹⁰＝1024的值已被成功地使用。

在步骤440，对于每个校准中心频率指数c(其中0＜c＜L)，产生一组谐波和互调频率。DC项被忽略，因为DC误差会由于许多其他原因而发生。例如，第二阶系统在{ω_c-1-ω_c+1，2ω_c-1，ω_c-1+ω_c+1，2ω_c+1，}具有IM和谐波失真频率，对应的指数：m＝{2，2c-2，2c，2c+2}。事实上，能够只使用和频(sum-frequency)项m＝{2c-2，2c，2c+2}来校准。仅使用频率的和项而不使用差项的优点在于，前者不是由任何低阶失真滤波器乘积生成。这包括可以称为第1阶(线性)“失真”系统的原始输入信号。

应当注意，在采样的系统中，IM和谐波失真会包含混叠频率分量。因此，在步骤450，执行测试以处理混叠导致频率分量重叠的情况，因为该测量将与该失真模型不一致。对于给定c，生成一组可能的谐波和IM项(DC除外)。在一些实施例中，该组将包含除DC项之外的所有可能的谐波和IM项。对于来自步骤440的列表m中的指数m_i的每个频率，由于采样理论不能区分频率间隔为L的混叠分量，所以它们相互卷绕如下：

w(m_i)＝m_imodL                           (方程9)

而且，在该卷绕间隔L内，混叠不能在w(m_i)和L-w(m_i)之间区分。该混叠的指数重新映射(aliased indexremapping)是较低范围的解释(interpretation)，由下式给出：

alias(m_i)＝min(w(m_i)，L-w(m_i))           (方程10)

其中min()是其输入值的最小值。因此0≤alias(m)＜L/2。m_i到alias(m_i)的这种重新映射仅用于对于给定整数m_i和L检测任何失真频率冲突。冲突检测大多很容易通过生成所有谐波和IM频率指数来实现，然后如上面在方程9和方程10中所述重新映射每个频率指数，并且对得到的混叠频率指数值进行数字排序。然后，会发现具有相同重新映射频率指数值的相邻频率指数。如果发现有冲突，在该c值处不进行测量。如果L是2的幂，并且c是偶数，那么{c-1，c+1}总是互素的。从而，冲突仅发生在混叠频率。即使这样，通常冲突也是很少的。例如在第3阶系统中，冲突仅发生在c＝L/4时。在这种情况下，互调分量位于2(L/4-1)+(L/4+1)＝3L/4-1，所以其混叠频率是在L-(3L/4-1)＝L/4+1，该频率也是输入频率。类似地，(L/4-1)+(2L/4+1)＝3L/4+1，其混叠到L/4-1，也是输入频率。

在本校准方法的一个实施例中，在所选择的谐波和互调频率处执行一组L-样本的实数输入DFT，如步骤460所示。在每个频率m处的实数和虚数分量使用对于该平均实数样本序列的单个频率DFT来得到：

$>Z_m=\frac{2}{L}\underset{t=0}{\overset{L-1}{\Sigma }}{e}^{2\mathrm{\pi jmt}/L}y\left(t\right)$>

X_m＝Re(Z_m)                                (方程11)

Y_m＝Im(Z_m)

其中Re和Im是复输入的实部和虚部。方程11的形式是对于来自结合上述步骤410提供的方程7的正规化采样频率。在可选实施例中，可以使用快速傅里叶变换(FFT)代替多重DFT来获得在每个频率m处的实和虚分量。

在该失真系统中，每个滤波器在这个阶段(stage)具有未知的幅度和相位响应。为了找到这些响应，提供用于该系统的失真的数学模型。基于提供的该模型，可以执行非线性优化。用于第N阶乘积的自调制模型将n个未知滤波器响应表示为每个乘积项的修改输入：

$>y_c\left(t\right)=\underset{i=1}{\overset{n}{\Pi }}(A_{i,c-1}\cos \left({\omega }_{c-1}(t+{\lambda }_{i,c-1})\right)+A_{i,c+1}\cos \left({\omega }_{c+1}(t+{\lambda }_{i,c+1})\right))$>(方程12)

这种自调制模型可以以可选的一般形式重写为：

$>y_c\left(t\right)=K_c\underset{i=1}{\overset{n}{\Pi }}(\cos \left({\omega }_{c-1}(t+{\lambda }_{i,c-1})\right)+B_{i,c+1}\cos \left({\omega }_{c+1}(t+{\lambda }_{i,c+1})\right))$>(方程13)

其中：

$>K_c=\underset{i=1}{\overset{n}{\Pi }}{A}_{i,c-1}$>(方程14)

并且

B_i，c+1＝A_i，c+1/A_i，c-1                        (方程15)

假定有足够大的L，如果用于校准的两对频率C-1和C+1足够接近，则对于给定滤波器，在每个频率的延迟可以假定为近似相同，那么方程15可以简化为：

$>y_c\left(t\right)=K_c\underset{i=1}{\overset{n}{\Pi }}(\cos \left({\omega }_{c-1}(t+{\lambda }_{i,c})\right)+B_{i,c+1}\cos \left({\omega }_{c+1}(t+{\lambda }_{i,c})\right))$>(方程16)

对于该第n阶失真系统，变量数等于2n+1。对于使用的每一对校准频率，到ADC的正弦波输入幅度都严密匹配。否则，该系统不能区分在两个不同频率处的它们的幅度之间的差别和每个滤波器的幅度响应中的差别。

如果在该两个不同的校准频率处通过每个滤波器的幅度响应是近似相同的，那么更简化的自调制模型可以提供如下：

$>y_c\left(t\right)=K_c\underset{i=1}{\overset{n}{\Pi }}(\cos \left({\omega }_{c-1}(t+{\lambda }_{i,c})\right)+\cos \left({\omega }_{c+1}(t+{\lambda }_{i,c})\right))$>(方程17)

通过选择适合这些失真模型中的一个的ADC，如方程13、方程16或方程17所表示的，对于每个滤波通道在每个频率可以找到一组相位和幅度解。表示该失真模型的任何方程都可以被扩展以提供一组互调和谐波频率分量，其对应于上面在步骤440所找到的那些频率分量。该减少可以表示为在每个频率的余弦(实部)和正弦(虚部)项。一旦获得频率项的扩展和收集，连同在步骤460确定的那组DFT一起，那么就可以以符号表示的形式(symbolically)得到在这些表达式的实部和虚部与DFT结果之间的差的平方和，其可以从如上所述的DFT或FFT得到。这导致了对于第2阶失真的大的方程，以及对于每个更高阶的甚至更大的方程。

因为相位和延迟λ通过角频率ω是相关的，即通过：

(方程18)

代入来自方程7的ω_m，并且使用正规化频率(即f_s＝1)，使得模型方程式中的任何方程13、方程16或方程17以频率指数的形式重写。例如，方程16可以重写为：

$>y_c\left(t\right)=K_c\underset{i=1}{\overset{n}{\Pi }}(\cos \left(\frac{2\pi (c-1)(t+{\lambda }_{i,c})}{L}\right)+B_{i,c+1}\cos \left(\frac{2\pi (c+1)(t+{\lambda }_{i,c})}{L}\right))$>(方程19)

例如以阶数n＝2分解成实部和虚部，我们扩展方程19并且收集项以获得在四个非DC互调和谐波频率指数的项：{2，2c，2c-2，2c+2}：

$>y_{2,c}\left(t\right)=C_{2,c}\cos \left(\frac{2\pi \left(2\right)t}{L}\right)+S_{2,c}\sin \left(\frac{2\pi \left(2\right)t}{L}\right)$>(方程20)

$>y_{2c,c}\left(t\right)=C_{2c,c}\cos \left(\frac{2\pi \left(2c\right)t}{L}\right)+S_{2c,c}\sin \left(\frac{2\pi \left(2c\right)t}{L}\right)$>(方程21)

$>y_{2c-2,c}\left(t\right)=C_{2c-2,c}\cos \left(\frac{2\pi (2c-2)t}{L}\right)+S_{2c-2,c}\sin \left(\frac{2\pi (2c-2)t}{L}\right)$>(方程22)

$>y_{2c+2,c}\left(t\right)=C_{2c+2,c}\cos \left(\frac{2\pi (2c+2)t}{L}\right)+S_{2c+2,c}\sin \left(\frac{2\pi (2c+2)t}{L}\right)$>(方程23)

其中该组系数{C，S}被确定为：

对于方程20：

$>C_{2,c}=\frac{K_c}{2}(B_{1,c+1}\cos \left(\frac{2\pi (c({\lambda }_{1,c}-{\lambda }_{2,c})+{\lambda }_{1,c}+{\lambda }_{2,c})}{L}\right)+B_{2,c+1}\cos \left(\frac{2\pi (c({\lambda }_{1,c}-{\lambda }_{2,c})-{\lambda }_{1,c}-{\lambda }_{2,c})}{L}\right))$>

$>S_{2,c}=\frac{K_c}{2}(B_{1,c+1}\sin \left(\frac{2\pi (c({\lambda }_{1,c}-{\lambda }_{2,c})+{\lambda }_{1,c}+{\lambda }_{2,c})}{L}\right)-B_{2,c+1}\sin \left(\frac{2\pi (c({\lambda }_{1,c}-{\lambda }_{2,c})-{\lambda }_{1,c}-{\lambda }_{2,c})}{L}\right))$>

对于方程21：

$>C_{2c,c}=\frac{K_c}{2}(B_{1,c+1}\cos \left(\frac{2\pi (c({\lambda }_{1,c}+{\lambda }_{2,c})+{\lambda }_{1,c}-{\lambda }_{2,c})}{L}\right)+B_{2,c+1}\cos \left(\frac{2\pi (c({\lambda }_{1,c}+{\lambda }_{2,c})-{\lambda }_{1,c}+{\lambda }_{2,c})}{L}\right))$>

$>S_{2c,c}=\frac{K_c}{2}(B_{1,c+1}\sin \left(\frac{2\pi (c({\lambda }_{1,c}+{\lambda }_{2,c})+{\lambda }_{1,c}-{\lambda }_{2,c})}{L}\right)+B_{2,c+1}\sin \left(\frac{2\pi (c({\lambda }_{1,c}+{\lambda }_{2,c})-{\lambda }_{1,c}+{\lambda }_{2,c})}{L}\right))$>

对于方程22：

$>C_{2c-2,c}=\frac{K_c}{2}\cos \left(\frac{2\pi (c-1)({\lambda }_{1,c}+{\lambda }_{2,c})}{L}\right)$>

$>S_{2c-2,c}=\frac{K_c}{2}\sin \left(\frac{2\pi (c-1)({\lambda }_{1,c}+{\lambda }_{2,c})}{L}\right)$>

对于方程23：

$>C_{2c+2,c}=\frac{K_c}{2}{B}_{1,c+1}{B}_{2,c+1}\cos \left(\frac{2\pi (c+1)({\lambda }_{1,c}+{\lambda }_{2,c})}{L}\right)$>

$>S_{2c+2,c}=\frac{K_c}{2}{B}_{1,c+1}{B}_{2,c+1}\sin \left(\frac{2\pi (c+1)({\lambda }_{1,c}+{\lambda }_{2,c})}{L}\right)$>

现在，对这些系数和它们相对应的来自方程11的DFT或FFT分量之间的差的平方和进行估计：

$>e_{2,c}\left(x\right)=\underset{m=\{\mathrm{2,2}c,2c-\mathrm{2,2}c+2\}}{\Sigma }({(C_{m,c}-X_m)}^2+{(S_{m,c}-Y_m)}^2)$>(方程24)

这里方程24可以表示该目标函数或者误差。对于第2阶的情况，要寻找的未知量可以用向量表示为：

x_c＝{K_c，B_1，c+1，B_2，c+1，λ_1，c，λ_2，c}            (方程25)

一旦已经提供了该目标函数，就可以确定每个滤波器的幅度和相位响应。现在参照图9，示出了本校准方法的一个实施例。如步骤540中所示，首先将该目标函数最小化。在最小化该目标函数之后，对幅度执行解后校正(post-solutioncorrection)，如步骤560所示。该校正解现在被分解到为每一阶提供的滤波器之间，如步骤580所示。

为了最小化该目标函数，如步骤540所示，将需要求解非线性方程的系统。可以使用一类基于牛顿(Newton-based)的算法来对每个预期的阶求解这些非线性方程和最小化该目标函数。可能的基于牛顿的算法包括修正牛顿(MN)、高斯-牛顿(GN)和准牛顿(Quasi-Newton)(QN)。在每个搜索迭代k，这些方法都估计该目标函数的数值梯度向量(g_k)和该目标函数的Hessian(S_k)的数值逆，或者对于GN和QN方法是该目标函数的Hessian函数的逆的近似。该目标函数的梯度向量和该目标函数的Hessian的逆可以描述如下：

$>g_k={▿e}_{2,c}\left(x\right)$>在x＝x_k                                        (方程26)

$>S_k={\left({▿}^2{e}_{2,c}\left(x\right)\right)}^{-1}$>在x＝x_k                                        (方程27)

通过估计该梯度向量和逆Hessian，能够获得可用于最小化该目标函数的搜索方向(d_k)，其中该搜索方向如下给出：

d_k＝-S_kg_k                                   (方程28)

该目标函数的梯度向量定义为这样一个向量，其第i个分量是该函数关于其第i个未知变量的偏导数。因此，它是这个阶段的符号结果而非数值。对于对应于方程16的具有5个未知量的第二阶情况，该目标函数由方程24提供：

$>{▿e}_{2,c}\left(x\right)=\left(\begin{array}{c}\frac{{\partial e}_{2,c}\left(x\right)}{{\partial K}_c}\\ \frac{{\partial e}_{2,c}\left(x\right)}{{\partial B}_{1,c+1}}\\ \frac{{\partial e}_{2,c}\left(x\right)}{{\partial B}_{2,c+1}}\\ \frac{{\partial e}_{2,c}\left(x\right)}{{\partial \lambda }_{1,c}}\\ \frac{{\partial e}_{2,c}\left(x\right)}{{\partial \lambda }_{2,c}}\end{array}\right)$>

Hessian矩阵的第(i，j)个元素是该目标函数对于其第i个和第j个变量的偏导数。再次，对于第2阶情况，该Hessian矩阵如下给出：

$>{▿}^2{e}_{2,c}\left(x\right)=\left(\begin{array}{ccccc}\frac{{\partial }^2{e}_{2,c}\left(x\right)}{{\partial K}_c{\partial K}_c}& \frac{{\partial }^2{e}_{2,c}\left(x\right)}{{\partial K}_c{\partial B}_{1,c+1}}& \frac{{\partial }^2{e}_{2,c}\left(x\right)}{{\partial K}_c{\partial B}_{2,c+1}}& \frac{{\partial }^2{e}_{2,c}\left(x\right)}{{\partial K}_c{\partial \lambda }_{1,c}}& \frac{{\partial }^2{e}_{2,c}\left(x\right)}{{\partial K}_c{\partial \lambda }_{2,c}}\\ \frac{{\partial }^2{e}_{2,c}\left(x\right)}{{\partial B}_{1,c+1}{\partial K}_c}& \frac{{\partial }^2{e}_{2,c}\left(x\right)}{{\partial B}_{1,c+1}{\partial B}_{1,c+1}}& \frac{{\partial }^2{e}_{2,c}\left(x\right)}{{\partial B}_{1,c+1}{\partial B}_{2,c+1}}& \frac{{\partial }^2{e}_{2,c}\left(x\right)}{{\partial B}_{1,c+1}{\partial \lambda }_{1,c}}& \frac{{\partial }^2{e}_{2,c}\left(x\right)}{{\partial B}_{1,c+1}{\partial \lambda }_{2,c}}\\ \frac{{\partial }^2{e}_{2,c}\left(x\right)}{{\partial B}_{2,c+1}{\partial K}_c}& \frac{{\partial }^2{e}_{2,c}\left(x\right)}{{\partial B}_{2,c+1}{\partial B}_{1,c+1}}& \frac{{\partial }^2{e}_{2,c}\left(x\right)}{{\partial B}_{2,c+1}{\partial B}_{2,c+1}}& \frac{{\partial }^2{e}_{2,c}\left(x\right)}{{\partial B}_{2,c+1}{\partial \lambda }_{1,c}}& \frac{{\partial }^2{e}_{2,c}\left(x\right)}{{\partial B}_{2,c+1}{\partial \lambda }_{2,c}}\\ \frac{{\partial }^2{e}_{2,c}\left(x\right)}{{\partial \lambda }_{1,c}{\partial K}_c}& \frac{{\partial }^2{e}_{2,c}\left(x\right)}{{\partial \lambda }_{1,c}{\partial B}_{1,c+1}}& \frac{{\partial }^2{e}_{2,c}\left(x\right)}{{\partial \lambda }_{1,c}{\partial B}_{2,c+1}}& \frac{{\partial }^2{e}_{2,c}\left(x\right)}{{\partial \lambda }_{1,c}{\partial \lambda }_{1,c}}& \frac{{\partial }^2{e}_{2,c}\left(x\right)}{{\partial \lambda }_{1,c}{\partial \lambda }_{2,c}}\\ \frac{{\partial }^2{e}_{2,c}\left(x\right)}{{\partial \lambda }_{2,c}{\partial K}_c}& \frac{{\partial }^2{e}_{2,c}\left(x\right)}{{\partial \lambda }_{2,c}{\partial B}_{1,c+1}}& \frac{{\partial }^2{e}_{2,c}\left(x\right)}{{\partial \lambda }_{2,c}{\partial B}_{2,c+1}}& \frac{{\partial }^2{e}_{2,c}\left(x\right)}{{\partial \lambda }_{2,c}{\partial \lambda }_{1,c}}& \frac{{\partial }^2{e}_{2,c}\left(x\right)}{{\partial \lambda }_{2,c}{\partial \lambda }_{2,c}}\end{array}\right)$>

因此该矩阵元素是该未知变量x的项。该偏导运算符是可交换的，所以Hessian矩阵总是平方对称的(square-symmetric)。

对于该目标函数可以找到相应的梯度和Hessian矩阵。虽然求解这种复杂表达式的导数是非常繁复的，但是可以通过使用符号数学软件工具例如在Mathematica中的符号导数函数来执行计算机化符号计算。可选地，可以使用众所周知的近似来数值地求解任何函数f(x)的导数f′(x)：

$>f^{\prime }\left(x\right)\approx \frac{f(x+\Delta )-f\left(x\right)}{\Delta }$>(方程29)

对于适当小的值Δ，假定该计算精度可用。可以使用符号或者数值微分。符号微分可以通过符号数学软件来提供，通过这种软件提供的这种处理对处理器204使用通用处理器。应当注意，如果已经得到了符号微分，在本校准方法的一些实施例中，可以使用较低级语言例如C语言将这些符号结果编码为函数，以便改善在处理器204中的这种操作的性能。在可选实施例中，可以由处理器使用数值微分代替提供该符号解的编码实施。

如上所述，可以通过使用基于牛顿的算法直接或叠代求解逆Hessian。例如，在本校准方法的一个实施例中，使用准牛顿算法叠代确定该Hessian矩阵的逆的近似值。有多个QN叠代的子范畴可以使用。例如可以使用BFGS(Broyden，Fletcher，Goldfarb，Shanno)叠代公式。在本校准方法的一个实施例中，该BFGS叠代公式与弗莱彻线搜索(Fletcher’s Line Search)算法一起使用。该逆Hessian S_k+1的第(k+1)次BFGS叠代如下给出：

$>S_{k+1}=S_k+\frac{(q_k+{\gamma }_k^T{p}_k){\delta }_k{\delta }_k^T}{{\left(q_k\right)}^2}-\frac{(r_k+r_k^T)}{q_k}$>(方程30)

其中列向量p_k、标量q_k和方矩阵r_k如下给出：

p_k＝S_kγ_k

$>q_k={\delta }_k^T{\gamma }_k$>(方程31)

$>r_k=p_k{\delta }_k^T=S_k{\gamma }_k{\delta }_k^T$>

S_k(方矩阵)是该逆Hessian的第k次近似值，而S₀＝I为单位矩阵。应当注意，上标T是转置，例如：是δ_k的转置。并且列向量：

γ_k＝g_k+1-g_k                                   (方程32)

其中g_k是较早从(方程26)中获得的梯度向量。对于下一个叠代的该新的解向量估计x_k+1由应用到该前一个x_k的校正列向量δ_k给出：

x_k+1＝x_k+δ_k                                   (方程33)

为了寻找每个叠代的未知的δ_k，使用沿着搜索方向d_k的约束搜索。一旦使用方程33找到x_k并且使用方程28和方程30找到d_k，然后，就找到了非负标量α_k，其最小化：

e₂(x_k+1)＝e₂(x_k+δ_k)＝e₂(x_k+α_kd_k)             (方程34)

这是α_k中的一维优化问题，而不论该原始问题的维数如何。因而，对这种特定类型方程的求解已知为线搜索。

当前的解可估计向量x_k，且其相应的搜索方向d_k被给定作为弗莱彻线搜索算法的输入，以给出标量值α_k。于是，对于方程33中的对x_k的列向量校正如下给出：

δ_k＝x_k+1-x_k＝α_kd_k                             (方程35)

众所周知，在一般情况下，寻找目标函数的全局最小值是一个困难问题。所找到的最小值总是依赖于该目标函数，但是也可以依赖于该初始条件x₀。如果该失真模型能够相当好地符合，那么通常收敛会迅速和可靠。然而，如果该真实的失真机制包括多个失真乘积或者其他一些不遵循该失真模型的机制，则该解会发散。在这种情况下，向一个解前进，并且该误差函数方程24在每次叠代中减少，但是向量x中的未知量之一按指数规律向无穷发散。对BFGS叠代数量的限制可以可靠地检测这种问题。然而，到达这种限制的过程也减慢了该校准算法。

如果在噪声减少平均后，看到发散，那么可以设置发散失败标记以指示对于进一步诊断的需要，或者该ADC的失败。

然而，一旦逼进最小解，则算法收敛是二次的，所以能迅速收敛到可重复的结果。这种特性可以用于探索方程16的模型的解空间。如果一个解收敛到在先找到的解，则可以作为重复解而拒绝。该过程会继续，直到已经获得不能再找到最小值的统计上符合要求的判断。

在本校准方法的一些实施例中，在具有π的邻近整数倍的角度处可能有其他邻近解。这些重复解由于微不足道地相关或“无兴趣”而被辨别并被排除。

找到解的一个方法是在方程19中以B的随机值开始x，使用：

B＝e^{u(Random-1/2)}                         (方程36)

Random是从0到1的随机实数值。u＝0.1的值对于实数ADC数据可以有很好的效果。每个角可以在以下范围中随机产生：

(方程37)

然后可以使用方程18在已知频率将角转变为方程19中的延迟。

在另一实施例中，通过将用作校准指数c的函数的随机角的初始范围限制到在先前校准中的起作用的范围来寻找已知ADC设计的解。对初始范围的这种限制会加速该解的搜索。

即使该开始值至少被方程37约束，该最终值也可以存在于这些范围之外而进入最接近的相邻重复解中。这是因为该开始点可以存在于在该重复最小值之间的重复的“峰”的另一侧。然而，由于在该间隔π的重复的函数“形状(landscapes)”的相似性，即使更远也不会找到重复解。在本校准方法的一个实施例中，找到了最近的相邻解并且排除了重复解。

对于每个校准频率，一旦找到第一解angle，就可以很容易地找到中心解(即角最接近0)。在本校准方法的一个实施例中，所找到的角直接被验证为中心解(在±π/2内)。在可选实施例中，使用multiple＝floor(angle/π+0.5)来寻找距该中心解区域最接近的π的整数倍，然后将该π的倍数从该第一解角(solution angle)中减去以使该角进入该中心区域中。在一些应用中，接近±π/2的解可以随着在另外具有校准频率的角度平滑变化中的在+π/2或-π/2之间的噪声波动。这些波动可以通过在之后的处理中查找角的连续性而得到校正。然后，该BFGS算法的第二次运行可以通过使用被替换的第一解作为好的开始点而迅速找到更准确的中心解。

从该中心解，可以系统地找到距离该中心解最近的相邻解。如上面寻找该中心解的过程，可以通过将{-π，0，π}的所有组合加到每个角并且使用作为结果的向量作为BFGS解搜索的开始点来找到该重复解。再次，因为每个开始点非常接近该正确值，BFGS算法非常迅速地收敛。对于第2阶搜索有3²-1＝8个相邻解，对于第3阶搜索有3³-1＝26个相邻解。

找到这些解之后，可以使用在其他随机开始位置的搜索来寻找任何更多的解，如果它们存在的话。如果一个解与先前找到的解中的一个匹配，则拒绝它。如前面所述，通过由具有符号梯度的BFGS算法找到的解的高重复性而使得验证重复(duplicate)的过程变得更简单。

如果一个新解与迄今所找到的任何一个都不匹配，则可以找到其中心解，并且使用与前述相同的方法找到其所有相邻解。在本校准方法的一个实施例中，富有成效的搜索结果重设超时计数器(timeout counter)，而寻找新解的失败则减少该超时计数器。如果该超时(timeout)到达零，则停止对其他解的搜索。选择根据方程24给出最好的误差测量的中心解作为对于该校准频率指数的最终解。

在本校准方法的一个实施例中，如果已经在先前的校准频率指数c_prev找到一个解，则可以使用它作为在c的下一次搜索的开始点。如果它不能收敛，则使用前述的慢的随机搜索方法。

如果对于特定的c没有找到解，可以使用在c_next的解作为开始点进行第二次扫描(pass)。如果仍然没有找到解，那么可以使用相邻值之间的修补(patching)或内插。如果对太多的校准值指数都没有能找到解，则该ADC是有故障的，可以设定一个故障标记。

如果对于所有校准频率已经找到可以接受的一组解，则进入该自调制系统的乘积的每个通道的幅度和相位响应的特征在于该组选定的离散的校准频率。利用这些频率的均匀分布，对于每个通道的响应可以由如图2-4中的FIR滤波器所表示。在本校准方法的一个实施例中，现在对每个滤波器的系数进行叠代寻找。

在本校准方法的另一实施例中，对来自方程25的该组向量x_c在将它们传送到该滤波器设计之前进行校正，如步骤560所示。在本校准方法的实施例中，该校准输入的幅度在合理的校准范围上将不会显著影响该滤波器响应。从方程14可以看出，这种依赖性通过用除K_c而可以被消除，其中n是该乘积阶指数。而且，在一些实施例中，在方程8的两个校准正弦输入的幅度中的任何差别还应当对该滤波器响应具有可以忽略的影响。在这种情况下，不仅该失真滤波器的相对响应，而且该校准正弦输入的相对幅度都会影响该测量结果。因此，在这些实施例中，使用相对幅度P_c-1和Q_c+1来进行校正。该比率：

R_c＝Q_c+1/P_c-1                             (方程38)

给出了在x中B参数被高估的量。因此对方程25中的x的该参数针对第n阶校准进行校正以给出新向量X_c如：

$>X_c=\{K_c/P_{c-1}^n,B_{1,c+1}/R_c,B_{2,c+1}/R_c,{\lambda }_{1,c},{\lambda }_{2,c}\}$>(方程39)

在任何校准频率，滤波器乘积系统的组合幅度响应是每个滤波器的幅度响应的函数。因此，我们可以使得一个滤波器的系数变大两倍，而另一个缩小两倍，而具有相同的结果。系统幅度响应的变化在校准频率之间可以是重要的。我们可以通过使得乘积中的每个滤波器对于第n阶失真校正系统具有相同的来自方程39中第一项的第1/n次方根响应，从而在滤波器乘积系统中的所有滤波器中平均分散跟踪幅度响应变化的负荷，以使：

$>{\mathrm{Ampl}}_c={(K_c/P_{c-1}^n)}^{1/n}=K_c^{1/n}/P_{c-1}$>(方程40)

对于第n阶失真系统，在频率指数c的每个向量X_c中有n对幅度和频率响应。对n个滤波器中的一个任意指定一对幅度和相位响应，对作为频率的函数的每个滤波器可能会产生非平滑幅度响应、相位响应，或者两者。非平滑响应可以产生不能对选择的滤波器长度很好地跟踪预期响应的滤波器设计。因而，该幅度响应和相位响应被分配到每一阶可用的滤波器之间，如步骤580所示。因为一组足够密集的校准频率通常会导致对于相邻校准指数的延迟响应之间的高的相关度，所以在本校准方法的一个实施例中，通过以该校准循环周期(1/f_c-1)的一半为模，测试相对于在频率指数c_prev处的前一组的新组可能的置换，来获得在该新组延迟和先前一组延迟之间的更好的配合。在奇数个滑移(slips)的情况下，将对应于半个循环的延迟应用到该滤波器之一。在本校准方法的实施例中，例如采用方程16所述的模型的实施例，每个相位值具有相应的幅度，所以重新排列相位也重新排列相应的幅度。如果两个相位交叉，它们可以被分组为对一个滤波器的最小相位值和对另一滤波器的最大相位值。在每个相位图上导致的绞缠(kink)不会像不连续性一样对所得到的滤波器质量不利，而是产生可行的滤波器设计，如果提供足够的滤波器抽头的话。

通过前面的校准步骤，对于每个滤波器路径都获得一组适当分组的幅度和相位响应。图6中的滤波器设计步骤360使用在步骤340计算的该幅度和相位响应设计每个滤波器，以给出对该计算的响应的近似。在射频(RF)应用的情况，使用该ADC的上Nyquist频带的中间部分，而不对该频带中的外部频率区域进行校准。这意味着该外部频率是不受约束的。如图10所示，在本校准方法的实施例中，使用叠代过程来完成该滤波器设计和寻找该滤波器抽头。在可选实施例中，可以使用简单的逆FFT。

如步骤610所示，对每个通道选择一个滤波器长度。在本校准方法的一个实施例中，对于所有通道使用相同的滤波器长度。在可选实施例中，对于部分或所有通道使用不同的滤波器长度。在本可选实施例中，可以需要额外的延迟以补偿该不同的滤波器长度。该滤波器长度可以至少部分依赖于该预期的性能和被校准的ADC。以示例的方式，使用了全部63抽头的滤波器长度或者全部127抽头的滤波器长度。

在步骤620，选择FFT长度并且将该幅度和相位响应转换为复直角坐标的滤波器频率响应向量。该FFT长度应当比在步骤610选择的滤波器长度要长。例如，在本校准方法的实施例中，选择512个样本的实数FFT长度。因为该FFT比滤波器长度长，所以这里将对应于滤波器抽头的频率之外的值初始化为零。

在步骤630，执行该滤波器频率响应向量的逆FFT以获得一组实数滤波器抽头，但是还有扩展到该FFT长度例如512的抽头。在时域中，超出该选择的滤波器长度的抽头被强制为零。

在步骤640，执行前向FFT以回到频域。该频率响应向量的一些区域应当是不受约束的。在所关心的频率的FFT槽(bins)被重写回对于该预期幅度和频率响应的原始值，使得该不受约束的频率槽(frequency bins)不变。

重复步骤630和640以叠代收敛到预期解。一旦在步骤630提供的该滤波器抽头已经从先前的叠代中变得稳定，就找到了该滤波器抽头。

一旦从步骤630获得该滤波器抽头，就可以如图3中的步骤380所提供的那样对硬件编程。该编程滤波器乘积系统现在能够对ADC谐波和互调失真进行校正。

本领域普通技术人员将会清楚，可以对本发明的上述实施例细节进行许多改变，而不脱离其基本原则。因此，本发明的范围应当由所附的权利要求来确定。