赞
踩
目录
基于Adaboost的数据分类算法matlab仿真,分别对比线性分类和非线性分类两种方式。
MATLAB2022A版本运行
(完整程序运行后无水印)
- ............................................
- for i = 1:2
- figure;
- plot(error,'-b^',...
- 'LineWidth',1,...
- 'MarkerSize',6,...
- 'MarkerEdgeColor','k',...
- 'MarkerFaceColor',[0.2,0.9,0.5]);
- xlabel('迭代次数');
- ylabel('error');
- grid on
-
- %使用Boost给出的强分类器完成识别
-
- class1 = func_classify(Models, P_train);
- miss_classify = abs(class1 - T_train)/2;
- error_rate1 = sum(miss_classify)/(size(T_train,1));
-
- class2 = func_classify(Models, P_test);
- miss_classify = abs(class2- T_test)/2;
- error_rate2 = sum(miss_classify)/(size(T_test,1));
-
- figure;
- subplot(121);
- plot(P_train(T_train==1,1),P_train(T_train==1,2), 'b.');
- hold on;
- plot(P_train(T_train==-1,1),P_train(T_train==-1,2), 'g.');
- title(['训练集合,预测误差',num2str(error_rate1)]);
- hold off;
-
- subplot(122);
- plot(P_test(class2==1,1),P_test(class2==1,2), 'b.');
- hold on;
- plot(P_test(class2==-1,1),P_test(class2==-1,2), 'g.');
- title(['测试集合,预测误差',num2str(error_rate2)]);
- hold off;
-
- end
- 67
Adaptive Boosting,通常简称为AdaBoost,是一种集成学习方法,由Yoav Freund和Robert Schapire于1996年提出。它通过结合多个弱分类器(即分类性能略优于随机猜测的分类器)来构建一个强分类器,从而显著提高预测准确率。AdaBoost的核心思想在于迭代地训练一系列弱分类器,并在每一轮中给错分样本赋予更高的权重,使得后续的弱分类器更加关注这些难分样本。最终,通过加权组合这些弱分类器的输出来做出最终决策。
AdaBoost的一个重要特性是其具有很强的理论基础,保证了随着弱分类器数量T 的增加,训练误差会逐渐减小,直至达到零错误(在理论上,忽略过拟合的情况)。Freund和Schapire证明了AdaBoost在一定条件下具有最小化训练误差的性质,这一性质部分源于其损失函数的选择和权重更新的机制。
VVV
Copyright © 2003-2013 www.wpsshop.cn 版权所有,并保留所有权利。