feature importance指
特征重要性，在
特征选择的许多方法中，我们可以使用
随机森林模型中的
特征重要属性来筛选
特征，并得到其与分类的相关性。
由于
随机森林存在的固有随机性，该模型可能每次给予
特征不同的重要性权重。但是通过多次训练该模型，即每次通过选取一定量的
特征与上次
特征中的交集进行保留，以此循环一定次数，从而我们最后可以得到一定量对分类任务的影响有重要贡献的
特征。
具体来说，在
随机森林中某个
特征X的重要性的计算方法如下：
1：对于
随机森林中的每一颗
决策树,使用相应的OOB(袋外数据)数据来计算它的袋外数据误差,记为errOOB1.
2: 随机地对袋外数据OOB所有样本的
特征X加入噪声干扰(就可以随机的改变样本在
特征X处的值),再次计算它的袋外数据误差,记为errOOB2.
3：假设
随机森林中有Ntree棵树,那么对于
特征X的重要性=∑(errOOB2-errOOB1)/Ntree,之所以可以用这个表达式来作为相应
特征的重要性的度量值是因为：若给某个
特征随机加入噪声之后,袋外的准确率大幅度降低,则说明这个
特征对于样本的分类结果影响很大,也就是说它的重要程度比较高。
