论文导读：本文在对自然梯度算法进行分析的基础上。自然梯度算法，一种改进的自适应步长盲源分离算法。
关键词：盲源分离，自然梯度算法，自适应步长
引言
在科学研究和工程中，很多观测信号可以看成是不可见的源信号的混合，这意味着源信号和传输信道都是未知的，仅仅由观测信号对未知的传输信道和源信号进行估计的问题称为盲源分离（Blind Signal Separation,BSS），所谓“盲”是指（1）源信号不可观测；（2）混合方式未知。硕士论文，自然梯度算法。BSS技术是当前信号处理领域的一个热点研究问题，在生物医学信号处理、军事雷达技术、通信信号处理中有着广泛的应用[1-3]。硕士论文，自然梯度算法。
在Amari[4]的自然梯度算法中，步长的选择对算法的稳定性和收敛速度有着非常重要的影响。步长越大，算法的收敛速度就越快，但同时会引起算法的稳态失调；步长越小，算法的稳态误差就越小，但同时收敛速度变慢。本文算法在迭代过程中，适时对步长进行优化，使得算法在保证稳态误差的情况下收敛速度大幅提高。
1 线性混叠盲源分离模型
假设有n个相互统计独立的未知源信号 ，经过未知的传输信道 后获得m个观测信号 ,写成矩阵形式为：
 （1）
即 ，该模型称为盲源分离的线性混叠模型， 称为混叠矩阵或者传输信道，t为时间指标。硕士论文，自然梯度算法。盲源分离的任务就是在源信号 和传输矩阵A均为未知的情况下，仅仅由 对源信号作出估计，通过学习，寻找一个 满秩的分离矩阵W使得 各分量之间尽可能的独立，依此作为对源信号的一个估计。若全局矩阵[5] 的各行各列只有一个元素接近于1，其余的元素皆接近于0，此时估计信号 是源信号的一个拷贝。硕士论文，自然梯度算法。
2、Iformax[6]（information maximization）盲源分离算法
Informax算法采用信息传输极大准则，通过调整分离矩阵 使得非线性输出 与网络输入 之间的互信息 最大：
图1 Informax 算法原理图
由信息论知识：
 （2）
边缘熵：  （3）
微分熵：  （4）
得到代价函数： （5）
与分离矩阵无关，优化代价函数为：
 （6）
即算法通过调整通过调整分离矩阵，使得(5)式极大。
采用自然梯度算法搜索代价函数（5）的极值点：
 （7）其中：  （8）
第 个分量： （9）
称为激活函数， 是对源信号 的概率密度函数的近似估计。硕士论文，自然梯度算法。
3、改进的自适应步长算法
在信号分离的初始阶段，由于信号之间的强相关性，算法需要使用较大学习速率，以加速信号的分离，到了算法的后期，需要跟踪分离出来的信号，同时还需要捕捉未分离出来的信号，此时较小的步长可以满足需求，以分离出剩余的信号。硕士论文，自然梯度算法。算法收敛时满足：
 （10）
计算过程的迭代式为[4]：
 （11）
当（9）式成立时，算法的迭代式满足：
 （12）
由（11）式可以看出，当 [7]取值较大时，则信号分离情况较差，需要较大的步长，算法趋于收敛时， 取值趋于0。所以可以依据取值大小调整步长。现有定义如下：
 （13） （ 为源信号个数）（14）
 （15）
综合（10）(11)（12）（13）（15），本文的自适应步长算法可以描述为：
 （16）
令 ，设置小的正数 ，当 时算法收敛。
4、计算机仿真
随机选取混合矩阵 ，两个语音信号为：
图2：源声音信号图
Fig2:Sourcespeech signal
混合后的信号图像为：
图3：混合声音信号
Fig3:Mixture speech signal
还原后的信号图像为：
图4: 还原声音信号
Fig4: Recovery speech signal
串音误差曲线图[8]为：
图5：串音误差曲线图
Fig5: Crosstalk error
5总结：
本文在对自然梯度算法进行分析的基础上，提出了算法迭代过程中步长适时调整的依据，在加快算法收敛速度的同时兼顾稳态误差，通过计算机仿真，本文算法的收敛速度明显优于原算法，且稳态误差较小。
参考文献：
[1]张贤达，保铮.盲信号分离.[J]电子学报，2001，29(12):1766一77.
[2]CardosoJF.Blindsignalseparation:statisticalprinciples.ProceedingofIEEE.[J],86(10):2009-2025,1998.
[3]E.OjaThenonlinearpcalearningruleinindependentcomponentanalysis.[J].NeuroComputing,17(1):25-46,1997.
[4]SAmari.NaturalGradientWorksEfficientlyinLearning.[J].NauralComputation,10,251-276,1998.
[5]CardosoJF.Blindsignalseparation:statisticalprinciples.ProceedingofIEEE.[J],86(10):2009-2025,1998.
[6]RLinsker.Self-organizationinaperceptualnetwork.Computer,[J].21:105-117,1988.
[7]一种改进的步长自适应EASI算法。[J].舰船电子工程，2006，（2），P137
[8]AmariS,CichockiA,YangHH.Anewlearningalgo2rithmsforblindsignalseparateion[J].NeuralInformationProcess2ingSystems,1996,(8):757～763
|
