XGBoost - 使用XGBRegressor的功能选择

Question

我想通过XGBRegressor()执行功能选择（用于回归任务）。

更确切地说，我想知道：

• 如果有类似的方法 feature_importances_，与XGBClassifier利用，这我可以用回归。
• 如果当它被用来与XGBRegressor()

Answer 1

最后我已经解决了这个问题XGBoost的方法plot_importance()可靠：

model.booster().get_score(importance_type='weight')

Answer 2

这里是我的解决方案（Xnames指功能名称）：

def xgb_feature_importance(model_xgb, fnames=None): 
    b = model_xgb.booster() 
    fs = b.get_fscore() 
    all_features = [fs.get(f, 0.) for f in b.feature_names] 
    all_features = np.array(all_features, dtype=np.float32) 
    all_features_imp = all_features/all_features.sum() 
    if fnames is not None: 
     return pd.DataFrame({'X':fnames, 'IMP': all_features_imp}) 
    else: 
     return all_features_imp