news 2026/4/16 16:16:31

探索LightGBM - shap集成模型在回归任务中的魅力

作者头像

张小明

前端开发工程师

1.2k 24
文章封面图
探索LightGBM - shap集成模型在回归任务中的魅力

LightGBM-shap集成模型,回归任务,Python代码 方法本身没有啥可以解释 自带数据集可以直接运行 回归任务,所有图所见即所得,

在数据科学的领域中,回归任务是我们常常需要面对的挑战之一。今天,咱们就来捣鼓捣鼓LightGBM - shap集成模型,看看它在回归任务里能玩出什么花样,并且附上Python代码,让一切所见即所得。

准备工作

首先,我们得把需要的库都装上。这里主要用到lightgbm来搭建模型,shap用于解释模型,还有pandasmatplotlib来处理数据和画图。

import lightgbm as lgb import shap import pandas as pd import matplotlib.pyplot as plt

数据集

咱直接用lightgbm自带的数据集,方便又快捷。

# 加载自带数据集 data = lgb.Dataset(lgb.datasets.regression()[0]) X = data.data y = data.label

这里我们直接从lgb.datasets.regression()获取数据,然后把特征数据存到X,标签数据存到y

构建LightGBM模型

# 划分训练集和测试集 from sklearn.model_selection import train_test_split X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.2, random_state=42) # 定义LightGBM参数 params = { 'objective':'regression', 'learning_rate': 0.1, 'num_leaves': 31 } # 训练模型 gbm = lgb.train( params, lgb.Dataset(X_train, label=y_train), num_boost_round=100, valid_sets=[lgb.Dataset(X_test, label=y_test)], early_stopping_rounds=10 )

在这部分代码里,先用traintestsplit把数据集分成训练集和测试集。接着定义了一些LightGBM的参数,像objective指定为回归任务,learningrate是学习率,numleaves是叶子节点数。然后用这些参数和训练数据来训练模型,同时指定了验证集,设置了提前停止的轮数。

使用SHAP解释模型

# 计算SHAP值 explainer = shap.TreeExplainer(gbm) shap_values = explainer.shap_values(X_test) # 绘制SHAP摘要图 shap.summary_plot(shap_values, X_test, plot_type="bar") plt.show()

shap.TreeExplainer是专门为树模型计算SHAP值的,这里就用它来解释我们训练好的LightGBM模型。算好SHAP值后,用shap.summary_plot画个摘要图,能直观看到每个特征对模型输出的影响。这个图能让我们快速了解哪些特征在模型里更重要。

模型预测与评估

# 模型预测 y_pred = gbm.predict(X_test) # 评估模型 from sklearn.metrics import mean_squared_error mse = mean_squared_error(y_test, y_pred) print(f"Mean Squared Error: {mse}")

最后,用训练好的模型对测试集进行预测,再用均方误差(MSE)来评估模型的性能。通过这些步骤,咱们就完成了一个基于LightGBM - shap集成模型的回归任务,从数据准备到模型评估,所见即所得。希望大家能从这个小例子里对LightGBM - shap在回归任务中的应用有更清晰的认识。

版权声明: 本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若内容造成侵权/违法违规/事实不符,请联系邮箱:809451989@qq.com进行投诉反馈,一经查实,立即删除!
网站建设 2026/4/16 9:03:45

3步快速部署xPack OpenOCD调试环境

3步快速部署xPack OpenOCD调试环境 【免费下载链接】openocd-xpack A binary distribution of OpenOCD 项目地址: https://gitcode.com/gh_mirrors/op/openocd-xpack 还在为嵌入式开发中的调试工具配置烦恼吗?xPack OpenOCD为您提供了跨平台的开箱即用解决方…

作者头像 李华
网站建设 2026/4/16 11:10:35

高效CVAT协作管理:从团队混乱到有序标注的完整指南

高效CVAT协作管理:从团队混乱到有序标注的完整指南 【免费下载链接】cvat Annotate better with CVAT, the industry-leading data engine for machine learning. Used and trusted by teams at any scale, for data of any scale. 项目地址: https://gitcode.com…

作者头像 李华
网站建设 2026/4/16 10:40:15

错过Open-AutoGLM你就落后了:2024年智能资讯分发的终极解决方案来了

第一章:错过Open-AutoGLM你就落后了:2024年智能资讯分发的终极解决方案来了在信息爆炸的2024年,传统推荐系统已难以应对海量、多源、高动态的资讯流。Open-AutoGLM 的横空出世,标志着智能资讯分发进入全新纪元——一个由大语言模型…

作者头像 李华
网站建设 2026/4/16 15:42:15

MicroPython存储管理实战指南:从基础操作到高级应用

MicroPython存储管理实战指南:从基础操作到高级应用 【免费下载链接】micropython MicroPython - a lean and efficient Python implementation for microcontrollers and constrained systems 项目地址: https://gitcode.com/gh_mirrors/mi/micropython Mic…

作者头像 李华
网站建设 2026/4/16 10:45:51

(颠覆传统烹饪模式)Open-AutoGLM自动化系统实战部署全记录

第一章:颠覆传统烹饪模式的起点现代厨房正在经历一场由技术驱动的深刻变革。传感器、物联网(IoT)与人工智能算法的融合,使得烹饪不再依赖经验直觉,而是基于实时数据与自动化控制。这一转变的起点,正是智能烹…

作者头像 李华