您好,欢迎进入某某沙盘有限公司官网!

咨询热线:

020-88888888

优化算法+神经网络:神经网络自动参数优化

发布时间:2024-06-10 06:03人气:

最近先立个flag,用python把目前的主流的、新的智能算法与神经网络的参数优化相结合,进行自动参数寻优。寻优参数,不用限制形式,待寻优参数可以使网络层数、激活函数、优化器、初始学习率、网络块的结构、卷积的方式、核大小、步幅、初始化方式、神经元数目、神经元类型等但凡能想得到的“参数”

目前,已经使用了GA算法、PSO算法和SSA算法优化CNN网络进行涡扇发动机数据集的剩余使用寿命预测:

 

1.已经实现的Genetic Algorithm优化Neural Network

GA参数搜索的可视化过程:
在这里插入图片描述

2.已经实现的PSO优化Neural Network

参数搜索和GA通用,单独修改了算法代码。PSO参数搜索可视化过程:

在这里插入图片描述

3.已实现的SSA1优化Neural Network

参数搜索和GA通用,单独修改了算法代码。SSA参数搜索可视化过程:
在这里插入图片描述

1)三种算法的种群平均适应度的比较
在这里插入图片描述
2)种群最佳个体适应度
在这里插入图片描述

GA、PSO和SSA三种优化算法的性能总结:

项目收敛速度收敛值
GA最慢较小
PSO最快最大
SSA较快最小

优化算法搜索出来的神经网络模型效果确实是有一定的提升,但是未必能保证后续每一次运行的结果就能达到优化时那么好的效果。

当GA、PSO和SSA知道了他们的搜索性能后会发生什么有趣的事?

GA PSO SSA 我是老大,在座的各位都是小弟! 我才是鼻祖! 你觉得谁才是老大? 恕我直言,都是弟弟! 我不是针对谁,我是针对在座的各位! 不要太嚣张,总有后辈会收拾你的! GA PSO SSA

  1. Xue, J., & Shen, B. (2020). A novel swarm intelligence optimization approach: sparrow search algorithm. Systems Science & Control Engineering, 8(1), 22-34.


020-88888888

平台注册入口