全局优化RBF网络的一种新算法
张刚林,甘 敏,董学平,陈威兵
长沙学院电子与通信工程系,湖南长沙
合肥工业大学电气与自动化工程学院,安徽合肥
摘 要:神经网络的输入变量、隐含层结点以及中心的选择对模型的性能都有重大的影响,以前的研究一般只考虑优化网络的参数或其结点数。为解决这个问题,提出了一种新的全局优化算法来自动选择RBF神经网络的输入变量和结点数目,并同时优化其参数。在提出的算法中,RBF网络的结点数目、输入变量的选择和参数都采用二进制编码,并用遗传算法来优化。为提高算法的性能和收敛速度,在遗传算法优化的同时引入了一种高性能的基于梯度的局部搜索算子(结构化的非线性参数优化方法)来优化RBF网络中的参数。BoxJenkins煤气炉标准时间序列的预测问题被用来检验算法的性能。实验结果表明,提出的算法可以得到非常“紧凑”的RBF网络,且其性能优于其他一些算法。
关 键 词:RBF神经网络;遗传算法;混合优化方法
1 引 言
RBF网络自从由Broomhead和Lowe[1]引入到人工神经网络以来一直是学术界研究和应用的热点。由于其简单的结构、非线性逼近的精度和快速学习的能力被广泛地应用于模式识别、函数逼近、信号处理和时间序列预测等领域[25]。应用RBF神经网络的一个难点是如何选择网络结构,优化模型参数,以及输入层中的输入变量选择。当前,把“软计算” (softcomputing)的多种方法相混合被认为是很有前景的研究领域。特别是用遗传算法来优化神经网络已在大量的研究论文中出现[6]。然而,以前的一些研究绝大多数都只是优化RBF网络的参数,或其结点数。对于同时选择结点数目,模型参数以及输入变量在国内外还是很鲜见的。以往的研究[78]表明,输入结点、隐含结点以及中心的选择对模型的性能都有重大的影响。为解决以上问题,本文提出了一种新的算法来同时优化RBF网络的结构和参数。在这种方法中RBF网络的结点数目、输入变量的选择和参数都采用二进制编码,并用遗传算法来优化。为提高算法的性能和加速收敛,新算法引入了一种高性能的基于梯度的局部搜索算子[10]来优化RBF网络中的参数。实验结果表明新算法可以得到非常“紧凑” 的模型,且性能优于现存的其他一些算法。
相关阅读:
- ...· Efinix® 全力驱动AI边缘计算,成功推出Trion™ T20 FPGA样品, 同时将产品扩展到二十万逻辑单元的T200 FPGA
- ...· 英飞凌亮相进博会,引领智慧新生活
- ...· 三电产品开发及测试研讨会北汽新能源专场成功举行
- ...· Manz亚智科技跨入半导体领域 为面板级扇出型封装提供化学湿制程、涂布及激光应用等生产设备解决方案
- ...· 中电瑞华BITRODE动力电池测试系统顺利交付北汽新能源
- ...· 中电瑞华FTF系列电池测试系统中标北京新能源汽车股份有限公司
- ...· 中电瑞华大功率高压能源反馈式负载系统成功交付中电熊猫
- ...· 中电瑞华国际在电动汽车及关键部件测评研讨会上演绎先进测评技术