EL:集成学习(Ensemble Learning)的概念讲解、问题应用、算法分类、关键步骤、代码实现等相关配图详细攻略


蚂蚁从容
蚂蚁从容 2022-09-19 16:58:19 49459
分类专栏: 资讯

EL:集成学习(Ensemble Learning)的概念讲解、算法分类、问题应用、关键步骤、代码实现等相关配图详细攻略

目录

集成学习Ensemble Learning

1、EL的优缺点

2、集成学习中弱分类器选择 

3、多个弱分类区如何组合 

EL的解决问题类型

EL算法分类

1、VotingClassifier、Bagging

2、Stacking、Blending

3、Boosting

EL代码实现


集成学习Ensemble Learning

          集成学习是使用一系列学习器进行学习,并使用某种规则把各个学习结果进行整合,从而获得比单个学习器更好的学习效果的一种机器学习方法。它本身不是一个单独的机器学习算法,而是通过构建并结合多个机器学习器来完成学习任务,实现博采众长
          一般而言,通常所说的集成学习中的多个学习器都是同质的“弱学习器”。基于该弱学习器,通过样本集扰动、输入特征扰动、输出表示扰动、算法参数扰动等方式生成多个学习器,进行集成后获得一个精度较好的“强学习器”

思路步骤:集成学习的主要思路是先通过一定的规则生成多个学习器,再采用某种集成策略进行组合,最后综合判断输出最终结果。
核心思想:就是如何训练多个弱分类器以及如何将这些弱分类器进行组合

1、EL的优缺点

模型

优势

缺点

EL(RF/GBDT)

准确度高

鲁棒性好

泛化能力好

可解释性差

部署困难

计算量大

2、集成学习中弱分类器选择 

          一般采用弱分类器的原因在于将误差进行均衡,因为一旦某个分类器太强了就会造成后面的结果受其影响太大,严重的会导致后面的分类器无法进行分类。常用的弱分类器可以采用误差率小于0.5的,比如说逻辑回归、SVM、神经网络。

3、多个弱分类区如何组合 

          基本分类器之间的整合方式,一般有简单多数投票、权重投票,贝叶斯投票,基于D-S证据理论的整合,基于不同的特征子集的整合。

EL的解决问题类型

比如分类问题集成、回归问题集成、特征选取集成、异常点检查集成等。

EL算法分类

Boosting、Bagging、随机森林。

1、VotingClassifier、Bagging

2、Stacking、Blending

3、Boosting

EL代码实现

更新……

相关文章推荐
集成学习算法总结----Boosting和Bagging
 

网站声明:如果转载,请联系本站管理员。否则一切后果自行承担。

本文链接:https://www.xckfsq.com/news/show.html?id=3724
赞同 0
评论 0 条
蚂蚁从容L0
粉丝 0 发表 9 + 关注 私信
上周热门
如何使用 StarRocks 管理和优化数据湖中的数据?  2947
【软件正版化】软件正版化工作要点  2868
统信UOS试玩黑神话:悟空  2828
信刻光盘安全隔离与信息交换系统  2723
镜舟科技与中启乘数科技达成战略合作,共筑数据服务新生态  1256
grub引导程序无法找到指定设备和分区  1221
华为全联接大会2024丨软通动力分论坛精彩议程抢先看!  165
2024海洋能源产业融合发展论坛暨博览会同期活动-海洋能源与数字化智能化论坛成功举办  163
点击报名 | 京东2025校招进校行程预告  163
华为纯血鸿蒙正式版9月底见!但Mate 70的内情还得接着挖...  158
本周热议
我的信创开放社区兼职赚钱历程 40
今天你签到了吗? 27
如何玩转信创开放社区—从小白进阶到专家 15
信创开放社区邀请他人注册的具体步骤如下 15
方德桌面操作系统 14
用抖音玩法闯信创开放社区——用平台宣传企业产品服务 13
我有15积分有什么用? 13
如何让你先人一步获得悬赏问题信息?(创作者必看) 12
2024中国信创产业发展大会暨中国信息科技创新与应用博览会 9
中央国家机关政府采购中心:应当将CPU、操作系统符合安全可靠测评要求纳入采购需求 8

加入交流群

请使用微信扫一扫!