ML之FE:基于BigMartSales数据集利用Featuretools工具(1个dataframe表结构切为2个Entity表结构)实现自动特征工程之详细攻略


爱听歌扯豆芽
爱听歌扯豆芽 2022-09-19 11:15:30 52691
分类专栏: 资讯

ML之FE:基于BigMartSales数据集利用Featuretools工具(1个dataframe表结构切为2个Entity表结构)实现自动特征工程之详细攻略

目录

基于BigMartSales数据集利用Featuretools工具(1个dataframe表结构切为2个Entity表结构)实现自动特征工程之详细攻略

设计思路

输出结果

1、结果输出

2、FE后的字段

3、衍生字段案例具体实现过程

T1、选择的基字段(1个)

(1)、生成的所有衍生字段

(2)、父衍生字段—outlet.COUNT(bigmart)

(3)、子衍生字段的具体字段分析

T2、选择的基字段(2个)

核心代码


相关文章
ML之FE:基于BigMartSales数据集利用Featuretools工具(1个dataframe表结构切为2个Entity表结构)实现自动特征工程之详细攻略
ML之FE:基于BigMartSales数据集利用Featuretools工具(1个dataframe表结构切为2个Entity表结构)实现自动特征工程之详细攻略实现

基于BigMartSales数据集利用Featuretools工具(1个dataframe表结构切为2个Entity表结构)实现自动特征工程之详细攻略

设计思路

输出结果

1、结果输出

2、FE后的字段

Item_Identifier

Item_Weight

Item_Fat_Content

Item_Visibility

Item_Type

Item_MRP

Outlet_Identifier

Outlet_Establishment_Year

Outlet_Size

Outlet_Location_Type

Outlet_Type

id

3、衍生字段案例具体实现过程

T1、选择的基字段(1个)

['id','Item_Identifier','Item_Weight','Outlet_Identifier','Outlet_Establishment_Year', 'Outlet_Size']

(1)、生成的所有衍生字段

id

Item_Identifier

Item_Weight

 
 

Outlet_Identifier

outlet.Outlet_Establishment_Year

outlet.Outlet_Size

outlet.COUNT(bigmart)

outlet.MODE(bigmart.Item_Identifier)

outlet.NUM_UNIQUE(bigmart.Item_Identifier)

 
 

outlet.MAX(bigmart.Item_Weight)

outlet.MEAN(bigmart.Item_Weight)

outlet.MIN(bigmart.Item_Weight)

 

outlet.SKEW(bigmart.Item_Weight)

outlet.STD(bigmart.Item_Weight)

outlet.SUM(bigmart.Item_Weight)

(2)、父衍生字段—outlet.COUNT(bigmart)

outlet.COUNT(bigmart)字段意义:是根据Outlet_Identifier字段内10个子类别的整体个数,分别进行填充设计。
outlet.COUNT(bigmart)字段内容:根据该字段的下拉列表可知,标记为1550的个数有4650个,是因为在Outlet_Identifier字段内,OUT035、OUT046、OUT049三个子类别均有1550个,所以,以上结果比较巧。

(3)、子衍生字段的具体字段分析

outlet.MODE(bigmart.Item_Identifier)    字段的分析过程

T2、选择的基字段(2个)

['Item_Identifier','Item_Weight','Item_Fat_Content','Outlet_Identifier','Outlet_Establishment_Year', 'Outlet_Size']

id

Item_Identifier

Item_Weight

Item_Fat_Content

  
 

Outlet_Identifier

outlet.Outlet_Establishment_Year

outlet.Outlet_Size

  
outlet.COUNT(bigmart)

outlet.MODE(bigmart.Item_Identifier)

outlet.NUM_UNIQUE(bigmart.Item_Identifier)

   

outlet.MAX(bigmart.Item_Fat_Content)

outlet.MEAN(bigmart.Item_Fat_Content)

outlet.MIN(bigmart.Item_Fat_Content)

outlet.SKEW(bigmart.Item_Fat_Content)

outlet.STD(bigmart.Item_Fat_Content)

outlet.SUM(bigmart.Item_Fat_Content)

outlet.MAX(bigmart.Item_Weight)outlet.MEAN(bigmart.Item_Weight)outlet.MIN(bigmart.Item_Weight)outlet.SKEW(bigmart.Item_Weight)outlet.STD(bigmart.Item_Weight)outlet.SUM(bigmart.Item_Weight)

核心代码

  1. 2.2、特征衍生
  2. (1)、创建一个实体集EntitySet:实体集是一种包含多个数据帧及其之间关系的结构。
  3. ftES = ft.EntitySet(id = 'sales')
  4. (2)、规范化实体集:
  5. ftES.normalize_entity(base_entity_id='bigmart',
  6. new_entity_id='outlet',
  7. index = 'Outlet_Identifier',
  8. additional_variables = ['Outlet_Establishment_Year', 'Outlet_Size',
  9. 'Outlet_Location_Type', 'Outlet_Type',
  10. ])
  11. (3)、利用dfs函数自动创建新特征并输出
  12. feature_matrix, feature_names = ft.dfs(entityset=ftES,target_entity = 'bigmart',
  13. max_depth = 2,
  14. verbose = 1, n_jobs = -1,
  15. )
  16. print('feature_names: \n',len(feature_names),feature_names)
  17. print('feature_matrix:',feature_matrix.shape,type(feature_matrix),'\n',feature_matrix.iloc[:,:10].head())
  18. feature_matrix.to_csv('%sfeature_matrix.csv'%date)
  19. feature_matrix = feature_matrix.reindex(index=data_all['id']) reindex()函数,重新把列/行根据columns/index参数指定字段顺序整理一遍
  20. feature_matrix = feature_matrix.reset_index() reset_index()函数,重新设置dataframe的index,范围为0~len(df)
  21. feature_matrix.to_csv('%sfeature_matrix2reset_index01.csv'%date)

网站声明:如果转载,请联系本站管理员。否则一切后果自行承担。

本文链接:https://www.xckfsq.com/news/show.html?id=2005
赞同 0
评论 0 条
爱听歌扯豆芽L1
粉丝 0 发表 15 + 关注 私信
上周热门
如何使用 StarRocks 管理和优化数据湖中的数据?  2944
【软件正版化】软件正版化工作要点  2863
统信UOS试玩黑神话:悟空  2823
信刻光盘安全隔离与信息交换系统  2718
镜舟科技与中启乘数科技达成战略合作,共筑数据服务新生态  1251
grub引导程序无法找到指定设备和分区  1217
华为全联接大会2024丨软通动力分论坛精彩议程抢先看!  164
点击报名 | 京东2025校招进校行程预告  163
2024海洋能源产业融合发展论坛暨博览会同期活动-海洋能源与数字化智能化论坛成功举办  161
华为纯血鸿蒙正式版9月底见!但Mate 70的内情还得接着挖...  157
本周热议
我的信创开放社区兼职赚钱历程 40
今天你签到了吗? 27
信创开放社区邀请他人注册的具体步骤如下 15
如何玩转信创开放社区—从小白进阶到专家 15
方德桌面操作系统 14
我有15积分有什么用? 13
用抖音玩法闯信创开放社区——用平台宣传企业产品服务 13
如何让你先人一步获得悬赏问题信息?(创作者必看) 12
2024中国信创产业发展大会暨中国信息科技创新与应用博览会 9
中央国家机关政府采购中心:应当将CPU、操作系统符合安全可靠测评要求纳入采购需求 8

加入交流群

请使用微信扫一扫!