SHAPSHapley Additive exPlanations是一种基于博弈论的模型解释方法用于量化每个特征对模型预测结果的贡献度。一、核心概念1.1 什么是 SHAP 值SHAP 值表示某个特征对预测结果的边际贡献。简单来说它回答这个特征让预测值比基准值高了多少或低了多少数学关系模型预测值 基准值 Σ(每个特征的SHAP值)基准值通常是所有样本预测值的平均值正SHAP值该特征将预测值推高红色负SHAP值该特征将预测值推低蓝色1.2 SHAP 的核心优势特性说明一致性特征对模型影响越大SHAP值必然越高可加性所有特征SHAP值之和 预测值 - 基准值模型无关适用于树模型、神经网络、线性模型等全局局部既能解释整体特征重要性也能解释单个预测二、在分类模型中使用 SHAPimport pandas as pd import numpy as np from sklearn.ensemble import RandomForestClassifier from sklearn.model_selection import train_test_split import joblib import sys import shap def main(): # 1. 读取数据 input_file sys.argv[1] if len(sys.argv) 1 else data.csv output_file sys.argv[2] if len(sys.argv) 2 else model.pkl df pd.read_csv(input_file) X df.drop(target, axis1) y df[target] # 2. 划分数据 X_train, X_test, y_train, y_test train_test_split( X, y, test_size0.2, random_state42, stratifyy ) # 3. 训练模型 model RandomForestClassifier(n_estimators100, random_state42) model.fit(X_train, y_train) # 4. 保存模型 joblib.dump(model, output_file) print(f模型已保存到 {output_file}) # SHAP 解释 # 5. 创建解释器树模型专用效率高[citation:2] explainer shap.TreeExplainer(model) # 6. 计算 SHAP 值可以只计算部分样本以节省时间 # 如果数据量大可采样计算X_sample X_test.sample(100) shap_values explainer.shap_values(X_test) # 对于二分类shap_values 是 [n_samples, n_features] 的数组 # 对于多分类shap_values 是 [n_classes, n_samples, n_features] if isinstance(shap_values, list): # 多分类情况取正类的 SHAP 值根据你的业务选择 shap_values_for_class shap_values[1] if len(shap_values) 1 else shap_values[0] else: shap_values_for_class shap_values # 7. 全局解释 - 特征重要性条形图 print(\n 全局特征重要性SHAP) shap.summary_plot(shap_values_for_class, X_test, plot_typebar) # 8. 全局解释 - 特征影响分布蜂群图 # 红色高特征值推高预测蓝色低特征值拉低预测[citation:2] print(\n 特征影响分布图 ) shap.summary_plot(shap_values_for_class, X_test) # 9. 局部解释 - 单个样本的瀑布图 print(\n 单个样本解释瀑布图) shap.waterfall_plot( shap.Explanation( valuesshap_values_for_class[0], base_valuesexplainer.expected_value if not isinstance(explainer.expected_value, list) else explainer.expected_value[1], dataX_test.iloc[0].values, feature_namesX_test.columns.tolist() ) ) # 10. 依赖关系图 - 查看单个特征的影响 print(\n 特征依赖关系图 ) # 显示第一个特征与预测的关系 shap.dependence_plot(0, shap_values_for_class, X_test) return model if __name__ __main__: main()三、SHAP 可视化图表解读3.1 Summary Plot蜂群图— 最重要shap.summary_plot(shap_values, X_test)解读方法纵轴特征按重要性排序最重要的在顶部横轴SHAP值大小正值推高预测负值拉低预测颜色红色高特征值蓝色低特征值示例洞察如果高收入的点全是红色且集中在右侧 → 收入越高预测为正类的概率越大如果某个特征的SHAP值分布对称红蓝混合→ 该特征对预测方向有双向影响3.2 Summary Bar Plot条形图shap.summary_plot(shap_values, X_test, plot_typebar)显示每个特征的平均绝对SHAP值直观反映特征重要性排序。3.3 Waterfall Plot瀑布图— 单样本解释shap.plots.waterfall(shap_values[0])解读灰色条基准值所有样本的平均预测红色条该特征将预测值向上推蓝色条该特征将预测值向下推最终到达该样本的实际预测值业务价值可用于向客户解释为什么您的贷款被拒绝3.4 Dependence Plot依赖图shap.dependence_plot(feature_name, shap_values, X_test)显示某个特征值与SHAP值的关系帮助发现非线性关系如收入超过阈值后影响下降特征间的交互效应四、不同模型类型的 Explainer 选择模型类型推荐 Explainer说明树模型RF, XGBoost, LightGBMshap.TreeExplainer最快、最精确深度学习CNN, RNNshap.DeepExplainer基于梯度近似线性模型shap.LinearExplainer适用于线性回归、逻辑回归任何模型通用shap.KernelExplainer模型无关但计算慢五、安装与注意事项pip install shap关键注意事项问题建议计算耗时大模型采样计算shap_values explainer.shap_values(X_test.sample(100))多分类问题shap_values是列表shap_values[class_id]取对应类别特征相关性使用依赖图检查特征交互基准值理解基准值是训练集预测均值不是0六、业务应用场景场景如何使用 SHAP信贷审批向客户解释因负债率过高被拒满足监管合规医疗诊断用热力图标注病灶区域辅助医生决策模型调试检查是否有特征违反业务常识如房间数多反而房价低特征筛选删除平均SHAP值极低的特征简化模型一句话总结SHAP 不是传统的评估指标如准确率、AUC而是模型解释工具它告诉你模型为什么这么预测而非有多准。这在金融风控、医疗诊断等需要解释决策理由的领域尤其重要。
