所有提交的EM系统将被重定向到网上投稿系统.作者被要求将文章直接提交给网上投稿系统各自的日志。

lms, RLS和基于格的算法在线性预测领域的性能分析

纳斯林Akhter1,利拉图尔·费尔杜斯2,法里哈·塔斯敏·贾吉尔达尔3.还有塔玛娜·哈克·尼帕4
  1. 孟加拉斯坦福德大学计算机科学系,达卡,孟加拉
  2. 孟加拉斯坦福德大学计算机科学系,达卡,孟加拉
  3. 孟加拉斯坦福德大学计算机科学系,达卡,孟加拉
  4. 孟加拉斯坦福德大学计算机科学系,达卡,孟加拉
有关文章载于Pubmed谷歌学者

更多相关文章请访问全球计算机科学研究杂志。

摘要

本文对三类自适应滤波算法在线性预测中的应用进行了性能分析。所考虑的算法类别是基于最小均方(LMS),基于递归最小二乘(RLS)和基于格的自适应滤波算法。从收敛性能、执行时间和滤波器长度等方面比较了各类算法的性能。分析确定了每个类的最佳收敛算法。最后选择了性能最佳的自适应线性预测算法。

关键字

自适应滤波,线性预测,LMS, RLS,基于晶格的算法,信噪比。

介绍

线性预测已广泛应用于地质和地震应用,雷达和声纳,语音分析和合成,以及计算机音乐。这项技术最初用于语音分析和合成,对语音研究的各个方面都产生了非常大的影响。线性预测的重要性源于这样一个事实,即波动和频谱特征可以有效和精确地表示,使用非常少的参数。线性预测中有多种自适应算法。当使用这些算法时,任务是估计滤波器响应,对于给定的输入信号,其输出以最佳方式跟踪期望的响应信号。这些自适应算法的性能高度依赖于滤波器阶数、信号条件和其他一些参数。这些参数的选择可以对算法的性能以及算法正在使用的应用程序产生强烈的影响。因此,仔细选择自适应算法和算法中使用的参数是必要的。本文介绍了7种广泛应用于线性预测领域的自适应算法的比较性能研究。这些算法分为三类:基于LMS的算法、基于RLS的算法和基于格的算法。 Three performance criteria are utilized in this study which are algorithm execution time, convergence speed and the required filter order. Each algorithm is analyzed by executing it using four different types of input signals, by changing the filter order and by different convergence parameters. For different types of input signals, different filter orders and different convergence parameters, the convergence speeds are measured. After analyzing all the algorithms, their convergence performances are compared. Finally the best performing algorithm is determined for adaptive linear prediction.

线性预测

时间序列分析中讨论最多的问题之一是在给定平稳离散随机过程的一组过去样本的情况下,预测该过程的未来值。线性预测是一种数学操作,其中离散时间信号的未来值被估计为先前样本[1]的线性函数。具体来说,考虑时间序列u(n), u(n - 1),…,u(n - M),代表时间n之前和包含时间n的(M + 1)个样本。使用样本u(n - 1), u(n - 2),…,u(n - M),操作,预测对u(n)进行估计。设Un-1表示u(n -1), u(n - 2),…,u(n - M)所张成的M维空间,用u(n | Un-1)表示u(n)的预测值。,给定这组样本。在线性预测中,预测值u(n)表示为样本u(n -1), u(n - 2),…,u(n - M)的线性组合。这种操作对应于对未来的一步预测,相对于时间n-1进行测量,这种形式的预测被称为向前方向的一步线性预测,或简单地说,向前线性预测。还有另一种形式的预测,使用样本u(n), u(n - 1),…,u(n - M + 1)对过去样本u(n - M)进行预测,这种第二种形式的预测被称为反向线性预测。

自适应线性预测

自适应线性预测系统[2]包括元素为x0, x1,…,xL的输入信号向量,以及相应的权重集合w0, w1,…,wL和求和单位s。
图像
如果X = [x0 x1…xL]T表示输入信号向量,W = [w0 w1…wL]T表示相应的自适应加权向量,其中XT表示X的转置,则y = WT X, W的元素由某种自适应机制自适应确定。自适应滤波器的功能是提供对信号现值的最佳预测。信号的当前值用于自适应滤波器的期望响应,信号的过去值提供应用于滤波器的输入。根据感兴趣的应用,自适应滤波器输出或预测误差可以作为系统输出。

自适应滤波算法

我们使用三种基于LMS的算法,三种基于RLS的算法和一种基于Lattice的算法进行分析。

LMS-based算法

有许多自适应滤波器算法都是由传统的LMS算法衍生而来的。其他基于LMS的算法的目标是降低计算复杂度或收敛时间。从第一类算法中选取了三种算法:伴随LMS (ADJLMS)、符号数据LMS (SDLMS)和符号误差LMS (SELMS)自适应滤波算法。
伴随LMS算法:伴随LMS算法[3]被定义为流行的filter - x LMS算法的简单替代方案。在伴随LMS算法中,通过误差信道的伴随滤波器对误差进行滤波。公式2和3表示伴随LMS。
图像
在伴随LMS的情况下,信道模型过滤的是误差而不是输入。(M2为FIR通道模型的阶数。此外,滤波是通过伴随信道模型。虽然伴随lms仍然是一个随机梯度下降算法,它不是基于瞬时梯度。伴随LMS在此基础上随机更新了滤波器权值,从而得到了计算效率更高的形式。事实上,该算法的一个优点是它可以推广到主滤波器和信道都采用非线性滤波器建模的情况。在线性预测的情况下,实现伴随LMS算法的滤波器将把期望信号的延迟版本作为输入,输出将是对实际信号的估计。
符号数据LMS算法:简化LMS算法计算负担的另一种方法是对数据向量x(k)应用量化。一种可能的量化方案是将符号函数应用于输入信号,产生符号数据算法[4],其系数更新为
W (k+1) = W (k) + 2μ e(k) sgn[x(k)] (4)
在这里,符号操作应用于输入向量的每个元素。数据向量的量化会导致收敛速度的降低和可能的发散。在LMS算法中,平均梯度方向遵循真梯度方向(或最陡下降方向)[5],而在符号数据算法中只能遵循一组离散的方向。符号数据算法对于高斯输入是稳定的,因此在某些应用中被发现是有用的。在线性预测的情况下,实现符号数据LMS算法的滤波器将把期望信号的延迟版本作为输入,输出将是对实际信号的估计。
符号误差LMS算法:符号误差算法[6]利用符号函数作为误差量化器,其中系数向量更新由
W (k+1) = W (k) + 2μ sgn[e(k)] x(k) (5)
符号误差算法具有这样的特性,即在某些一般假设下,它产生的权重向量在最小化平均绝对估计误差方面聚集在最优权重向量周围。对于足够小的自适应步长参数,可以使渐近平均绝对估计误差尽可能接近于可能的最小值[7]。在线性预测的情况下,实现符号误差LMS算法的滤波器将期望信号的延迟版本作为输入,输出将是实际信号的估计。

RLS-based算法

研究了两种重要的平方根自适应滤波算法,即qr -分解RLS算法和逆QR-RLS算法。我们将QR分解应用于自适应滤波的动机是利用其良好的数值特性。
QR-decomposition RLS算法:QR-decomposition RLS算法[8]通过QR分解直接处理输入数据矩阵,而不是像标准RLS算法那样处理输入数据的(时间平均)相关矩阵,在自适应滤波算法的有限时间脉冲响应(FIR)滤波器实现中完成最小二乘权重向量的计算。因此,QR-RLS (QR-decomposition RLS)算法在数值上比标准RLS算法更稳定。在线性预测的情况下,实现qr分解RLS算法的滤波器将期望信号的延迟版本作为输入,输出将是对实际信号的估计。
滑动窗口FTF算法:FTF[9]算法利用输入数据的时移不变性来解决递归最小二乘问题。FTF算法的一个吸引人的特点是它允许直接计算横向滤波器模型的系数。遗憾的是,当FTF算法在有限精度算法中实现时,数值误差可能会导致算法发散。在数值发散之前,算法必然会失去其最小二乘特性。在线性预测的情况下,实现滑动窗口FTF算法的滤波器将把所需信号的延迟版本作为输入,输出将是实际信号的估计。
Householder RLS算法:RLS算法计算迭代n时新数据到达时向量的更新估计,给定滤波器在迭代n - 1时tap-weight向量的最小二乘估计。户主RLS算法是涉及户主变换的RLS算法的一种变体。在线性预测的情况下,实现householder RLS算法的滤波器将期望信号的延迟版本作为输入,输出将是对实际信号的估计。

Lattice-based算法

晶格滤波器[10]是感兴趣的,因为他们提供了RLS算法的快速收敛特性,显著降低了大模型阶自适应滤波器应用的计算复杂度。递归最小二乘格滤波器由于其模块化结构和计算效率[11]而被用于预测和自适应滤波。
最小二乘格子(LSL)滤波器:在线性预测的情况下,最小二乘格子滤波器将把期望信号的延迟版本作为输入,输出将是对实际信号的估计。

仿真结果

仿真结果显示了自适应算法在线性预测应用中的性能随步长、滤波器长度和块长度(适当时)的变化而变化。考虑了四种不同类型的信号。它们是:0.015个周期/样本的正弦波和0.008个周期/样本的余弦信号,啁啾信号,锯齿波和语音信号。在分析时,收敛行为被认为是良好性能的标准。我们使用MATLAB进行仿真。首先,针对不同类型的信号,比较了三种基于lms的算法。对于每种类型的信号,比较了算法的收敛行为,并确定了性能最好的算法。
图像
图像
分析还确定了算法收敛最好的滤波器长度和步长参数。表一显示了结果。
图像
如果考虑到收敛速度,使用上面的比较图,结果是SELMS比其他两个收敛得更快。虽然SDLMS的收敛方式几乎与SELMS对SinCos波、chirp信号和swatooth波的收敛方式相同,但在语音信号的情况下,它的收敛效果最差。综上所述,在本文所考虑的基于lms的算法中,SELMS在线性预测领域的表现是最好的。基于rls的算法通过改变滤波器长度、遗忘因子和块长度(在适当的情况下)进行了分析。在改变这些参数的同时,已经尝试确定一个范围的遗忘因子,块长度和过滤器长度的算法表现更好。输入信号为0.015个周期/样本的正弦波和0.008个周期/样本的余弦波。
图像
分析确定了算法收敛最好的滤波器长度、遗忘因子和块长度。表二显示了结果。
图像
从表中可以看出,HRLS算法是三种算法中速度最快的。上述图也表明,HRLS和QR-RLS的收敛性能优于SWFTF。我们对基于rls算法的分析得出结论,在本文考虑的基于rls的算法中,HRLS可能是线性预测的最佳选择。通过改变滤波器长度和遗忘因子对基于格的算法进行了分析。我们发现LSL对较高的滤波器长度值收敛得更好。同样,该算法不受不同遗忘因子值的显著影响。但0.99的遗忘因子表现较好。它需要比其他算法更少的执行时间,即1.2310。通过分析,我们发现基于LMS算法的SELMS和基于RLS算法的HRLS是线性预测的最佳表现。然后将SELMS、HRLS和LSL进行比较,以确定最适合线性预测的SELMS。
图像
图像
我们记录了每个信号所需的执行时间。
图像
在执行时间方面,SELMS要求最少。如果考虑收敛性能,所示的相应的mse图表明SELMS是性能最好的算法。从仿真结果可以看出,SELMS在自适应线性预测中表现最好。

结论

我们使用七种常用的自适应滤波算法进行自适应线性预测,以确定七个算法中性能最好的算法。对四个不同的信号进行测试,观察算法对每个信号的收敛性能。首先对算法进行分析,以确定它们收敛得最好的参数。此外,本文还尝试确定算法收敛性能较好的参数的取值范围。在评估它们的性能时,不仅要考虑收敛行为,还要考虑执行时间。在找出每个类别中表现最好的算法后,比较它们的收敛性能,最后确定应用于自适应线性预测领域中收敛最好的算法。我们的仿真表明,符号误差LMS算法是最好的。

参考文献

  1. 阿塔尔,B. S.“线性预测的历史”,信号处理杂志,IEEE,第23卷,第2期,2006年3月,页。154 A¢€“161。
  2. B. Widrow和S. D. Stearns,自适应信号处理,Englewood Cliffs, NJ:Prentice Hall, 1985。
  3. 万志伟,“伴随LMS:一种有效的滤波- x LMS和多误差LMS算法”,ICASSP96, vol. III, pp. 1842â '  ' ' 1845。
  4. S. C. Douglas,“I.I.D.输入数据的符号-数据LMS算法的精确期望分析”,第26届信号、系统和计算机会议,第1卷,566â '  ' - 570页,1992年10月。
  5. 崔云锡,申昌秀,闵东柱,何泰英,“无源地震波形反演中最陡下降方向的有效计算方法”,计算物理学报,vol. 208,第2期,2005年9月,pp. 455ÃⅱÂ ' Â ' - 468。
  6. 保罗·塞尔吉奥·拉米雷斯·迪尼兹,自适应滤波:算法和实际实现,第2版,施普林格,2002年。
  7. 郭晓平,“基于二进制增强的自适应滤波”,《电子工程学报》,vol. ITâ '  ',第30期。2, pp. 191Ãⅰ '  ' 199, 1984年3月。
  8. Deepak Boppana, KullyDhanoa和Jesse Kempa,“基于FPGA的qrd - rls算法的嵌入式处理架构”,第12届IEEE现场可编程自定义计算机器年度研讨会(FCCM ' 04), 330â '  ' 331。
  9. D. T. M. Slock,和T. Kailath,“递归最小二乘自适应滤波的数值稳定快速横向滤波器”,IEEE传输。信号Proc, ASSPA¢€“39 (1):92 A¢€“114,1991年1月。
  10. B. Friedlander,“自适应处理的晶格滤波器”,《电子工程学报》,vol. 70, pp. 829â '  ' 867, 1982年8月。
  11. J. M. Cioffi和T. Kailath,“用于自适应滤波的快速递归最小二乘横向滤波器”,《ieeetransancanctions on Acoustics》,语音和信号处理,vol. ASSPâ '  ' ' 32, pp. 304â ' '  ' ' 337, 1984年4月。
全球科技峰会