模型解释性:SHAP包的使用

  本篇博客介绍另一种事后可解释性方法：SHAP(SHapley Additive exPlanation)方法。

1. Shapley值理论

  Shapley值是博弈论中的一个概念，通过衡量联盟中各成员对联盟总目标的贡献程度，从而根据贡献程度来进行联盟成员的利益分配，避免了分配的平均主义。
  当Shapley理论用于解释机器学习模型的时候，将输入特征$x$视为参与成员，模型输出的概率分布$f(x)$视为联盟总目标，通过衡量各特征的贡献度来挖掘重要特征，从而提供可解释性判断依据。其数学模型如下：$$g(Z^{{}^{\prime }})={\phi }_0+\sum _{j=1}^M{\phi }_j{Z}_j^{{}^{\prime }}\approx f(x)\text{\hspace{1em}(1)}$$其中，$g$是解释模型，$f(x)$是原机器学习模型， Z j ′ = { 0 , 1 } M Z^{'}_{j}=\{0,1\}^{M} Zj′​={0,1}M表示相应特征是否被观察到，$M$是输入特征的数目，${\phi }_i$是每个特征的归因值，${\phi }_0$是解释模型的常数。
  对于一个特定的输入数据$x_0$，其Shapley值的计算公式如下： φ i ( f , x 0 ) = ∑ S ⊆ N S / { i } ∣ S ∣ ! ( M − ∣ S ∣ − 1 ) ! ∣ N S ∣ ! [ f ( S ∪ { i } ) − f ( S ) ] (2) \varphi_{i}(f,x_{0})=\sum_{S\subseteq N_{S}/ \{i\}}\frac{|S|!(M-|S|-1)!}{|N_{S}|!}[f(S\cup\{i\})-f(S)]\tag{2} φi​(f,x0​)=S⊆NS​/{i}∑​∣NS​∣!∣S∣!(M−∣S∣−1)!​[f(S∪{i})−f(S)](2)其中，${\phi }_i(f)$代表函数$f$中特征$i$的贡献度，$N_S$是所有特征组成的集合，$S$代表特征子集， N S / { i } N_{S}/\{i\} NS​/{i}代表在集合$N_S$中去除特征$i$， S ∪ { i } S\cup \{i\} S∪{i}表示子集$S$中增加特征$i$，$|S|$表示集合$S$中元素的个数。
  为了方面公式(2)的计算，通常将公式(2)转化为如下公式计算： φ i ( f , x 0 ) = ∑ z ′ ∈ { 0 , 1 } M ∣ z ′ ∣ ! ( M − ∣ z ′ ∣ − 1 ) ! M ! [ f S ( z ′ ) − f S ( z ′ ∣ i ) ] (3) \varphi_{i}(f,x_{0})=\sum_{z^{'}\in\{0,1\}^{M}}\frac{|z^{'}|!(M-|z^{'}|-1)!}{M!}[f_{S}(z^{'})-f_{S}(z^{'}|i)]\tag{3} φi​(f,x0​)=z′∈{0,1}M∑​M!∣z′∣!(M−∣z′∣−1)!​[fS​(z′)−fS​(z′∣i)](3)其中，$$f_S=E[f(x)|z_S^{{}^{\prime }}]=\frac{1}{N}\sum _{j=1}^{N}f(x_j^{{}^{\prime }})$$其中，$z_S^{{}^{\prime }}$为集合$S$中特征的取值所组成的集合，$N$为原函数$f$训练数据的个数，$x_j^{{}^{\prime }}$的取值如下： x j ′ = { x 0 i , F i ∈ z S ′ x j i , F i ∉ z S ′ x_{j}^{'}=\left\{

$$\begin{aligned} x_{0i},& F_{i}\in z_{S}^{'} \\ x_{ji},&F_{i}\notin z_{S}^{'} \end{aligned}$$ \right. xj′​={x0i​,xji​,​Fi​∈zS′​Fi​∈/zS′​​其中，$x_{0i}$为待解释数据$x_0$的第$i$个特征值，$x_{ji}$表示第$j$个训练数据中第$i$个特征的取值，$F_i$表示第$i$个特征值。
  SHAP值具备扎实的理论基础，但${\phi }_i$的计算复杂度和$E[f(x)|z_S^{{}^{\prime }}]$的有效估计是其在实际应用中的最大阻碍，为了解决这个问题，Lundberg等人提出了Tree SHAP方法。
  Tree SHAP是用于树模型(比如,XGBoost, LightGBM, CatBoost等)的快速SHAP值估计方法，大大增加了SHAP值的实际应用能力。

2 SHAP包用法

  这里仍然以Boston房价为例，使用XGBoost方法训练模型。其用法举例如下：
模型训练

import pandas as pd
import numpy as np
from sklearn.datasets import load_boston
from xgboost import XGBRegressor
from sklearn.model_selection import train_test_split
import shap
shap.initjs()
#分类
boston=load_boston()
X=boston.data
y=boston.target
features=boston.feature_names
X_train,X_test,y_train,y_test=train_test_split(X,y,test_size=0.2,random_state=0)

xgbr=XGBRegressor(n_estimators=200,max_depth=4)
xgbr.fit(X_train,y_train)
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16

对单个样本进行解释

explainer=shap.TreeExplainer(xgbr)
shap_values=explainer.shap_values(X_test[1].reshape(1,-1))
shap.force_plot(explainer.expected_value,shap_values,X_test[1].reshape(1,-1),feature_names=features)
1
2
3

其结果如下：

关于上图，有以下几个方面需要说明：

• base_value:全体样本Shape平均值，这里的全体样本指的是模型的训练样本；
• output_value: 当前样本的Shap输出值，即为模型的预测值；
• 正向作用特征：红色特征即为正向作用的特征；
• 反向作用特征：蓝色特征即为反向作用的特征；

整个测试集的Shap分布

explainer=shap.TreeExplainer(xgbr)
shap_values=explainer.shap_values(X_test)
shap.force_plot(explainer.expected_value,shap_values,X_test,feature_names=features)
1
2
3

其结果如下(可以通过调节横纵坐标观察单个特征的效果):

从特征角度观察样本Shap值

shap.summary_plot(shap_values,X_test,feature_names=features)
1

其结果如下：

参考文献

• 《基于图模型机器学习算法的可解释性技术研究与实现》
• 《稳定评估机器学习模型可解释性研究》
• https://blog.csdn.net/tMb8Z9Vdm66wH68VX1/article/details/106131890