kaiyun下载app下载安装手机版 XGBoost中特征重要性计算方法对比

XGBoost作为竞赛杀手锏kaiyun官方网app下载app，内置了若干重要性函数kaiyun官方网app下载app，今天我们来梳理一下本文中三种常见的特征重要性计算方式kaiyun下载app下载安装手机版，并思考它们的使用场景。

xgboost.plot_importance(booster, ax=None, height=0.2, xlim=None, ylim=None, 
title='Feature importance', xlabel='F score', ylabel='Features', fmap='', 
importance_type='weight', max_num_features=None, grid=True, 
show_values=True, **kwargs)

在上面的函数中，我们可以通过修改importance_type参数来改变如何计算特征之间的重要性。可选值为：“weight”、“gain”、“cover”

重量

“权重”是特征在树中出现的次数

获得

“增益”是使用该特征的分割的平均增益

覆盖

“覆盖率”是使用该特征的分割的平均覆盖率，其中覆盖率定义为受分割影响的样本数量

总结

如果有下游业务方，建议使用覆盖特征重要性计算方法。当然如果只是模型调优，g​​ain可以指出最重要的特征。这些特征在某些场景下也可以归纳成硬规则。