当前位置:   article > 正文

10种2024新算法实现特征选择同时优化XGBOOST参数分类,MATLAB代码

ga-svm based feature selection and parameter optimization in hospitalization

c286a8d1677af1e72477a890ece7872d.gif

加关注这种话银家怎么好意思说出口嘛--


本期采用102024年最新的智能优化算法实现特征选择,并同时优化XGBOOST参数。采用UCI数据集中的红酒数据进行实验。

目前网络上还没有人采用XGBOOST作为基分类器进行特征选择的。

利用本文方法水一篇小小的水刊还是绰绰有余(尤其是你如果有自己独有的数据)!

优化算法选择了10种2024最新算法和10种经典的优化算法。如下如所示:

08f3a108265b207fc5119dca8e6bba8c.png

之所以选择这么多,也是想教会大家怎么方便快捷的替换自己想替换的算法。

数据集选择UCI的红酒数据,格式也很简单,第一列为标签列,后面的为特征列,只要你的数据也整理成这样,就很方便替换数据!如下图所示

ce93ff2bc57fe20fb0ed06057e7d8ce0.png

可以看到,该数据包含了13个特征数,一共有178个样本,3种类别。

关于特征选择的一些文献

[1]叶雨彬,韦文山.基于多策略融合鹈鹕优化算法的特征选择方法[J/OL].微电子学与计算机,2023,(12):19-25[2024-03-05].

[2]徐明,龙文.基于多策略融合灰狼优化算法的特征选择方法[J].科学技术与工程,2021,21(20):8544-8551.

[3]Tao Z, Huiling L, Wenwen W, et al. GA-SVM based feature selection and parameter optimization in hospitalization expense modeling[J]. Applied soft computing, 2019, 75: 323-332.(JCR1区,被引次数:217次)


特征选择也称为特征子集选择或属性选择,它是机器学习中分类、回归和数据挖掘中至关重要的预处理步骤,特征选择的目的是利用一种选择方法删除数据集中冗余和不相关的特征,以找到最优特征子集。它不仅能降低数据维度、提高机器学习算法的效率,还能从原始数据集中选出对分类器分类性能最有用的特征,提高其分类精度。

d277901e9ba01cb77195dfc4d5e6149d.gif

代码目录展示

a8cbd213fc81a8f4309bf9dd954447dc.png

可以看到,本次代码贴心整理了两个大分类,一个是只优化特征选择的,一个是优化特征选择的同时还优化XGBOOST参数。代码中可以自由修改算法!

代码功能介绍

为了方便修改智能优化算法,代码做了相应集成,示例:

H1 = 'HBA'; %!!!修改这里的算法名字即可更改算法!eval(['[fMin , bestX, Convergence_curve ] =',H1,'(SearchAgents_no,Max_iter,lb,ub,dim,fobj);'])%% 来自公众号《淘个代码》% 可选:% 'DBO','PSO','GWO','OOA','DE','SSA','BWO',','WOA',''HBA''GA';% 以及102024新算法:% GOOSE,鹅优化算法% HLOA,角蜥蜴优化算法% HO , 河马优化算法% 鹦鹉优化算法 PO% 鳑鲏鱼优化算法 BFO% 冠豪猪优化算法 CPO% 差异化创意搜索算法 DCS% 黑翅鸢 BKA% PID搜索算法 PSA% 牛顿-拉夫逊优化算法算法 NRBO

只需要修改这里的H1变量,即可选择不同的智能优化算法,直呼不要太贴心!

而且,最关键的是,如果你想要再添加任何算法,只要在目录中添加一个算法的代码,在主脚本文件中修改这个算法名字即可。

最后来一起看看代码效果吧!

特征选择-XGBOOST分类(不优化XBOOST参数)结果:

2adcfa207326019faeb7e70856960ff2.png

f29ebbb1b8c0f750588919c903219d09.png

7dcab74838a9c7fd046ea03ad59753d6.png

0973d8160d4ee117406929120f2d10f6.png

特征选择-XGBOOST分类(同时优化XBOOST参数)结果:

27cca019feff1038f98db99e805774d2.png

58969cc6c4d61d6c3fd3f9f881fd64da.png

7c64e8a81485f65bf3d5f0088b63f50b.png

 本文代码获取链接:

https://mbd.pub/o/bread/ZZ6XlZxv

或点击下方阅读原文获取。


fdb67e94c3ef12f0770968b8a57220b4.gif

Easily Search Code

声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/盐析白兔/article/detail/872012
推荐阅读
相关标签
  

闽ICP备14008679号