数学建模思考(1)
类型一:选取特征
如果想要知道哪些变量比较重要的话。可以通过模型的feature_importances_方法来获取特征重要性。Permutation Importance适用于表格型数据,其对于特征重要性的评判取决于该特征被随机重排后,模型表现评分的下降程度。
一般情况下,不同的衡量准则得到的特征重要性顺序会有差异。通过多种评价标准来交叉选择特征,若一个特征在不同的评价标准下都是比较重要的,那么该特征对label有较好的预测能力。
评价特征重要性的方法:PermutationImportance。若将一个特征置为随机数,模型效果下降很多,说明该特征比较重要;反之则不是。