简介一份面向机器学习初、中级学习者的Python实战分析预测项目包以葡萄牙银行营销数据集为案例背景覆盖从数据清洗、EDA可视化、特征工程到分类建模、模型评估与深度学习的完整流程。压缩包共19个文件含11个py源代码、4个csv数据文件、3个txt说明文档及1个rhistory运行记录压缩包大小约1024KB解压后数据集约10.97MB代码手工整理、无语法错误可直接运行。代码集成XGBoost、随机森林、决策树、SVM、KNN、逻辑回归、朴素贝叶斯、MLP、CatBoost等经典算法并包含TensorFlow/Keras与PyTorch实现的神经网络模型以及Optuna超参数调优、ROC曲线、学习曲线、混淆矩阵等分析模块可作为银行客户存款预测等分类任务的标准参考基线。已有117人学习读者可按目录逐份运行借助词云、交互式可视化快速理解数据特征与模型差异并迁移到其他预测场景中使用。1. 这个 AI 实战分析预测包值不值一份含 11 个源码和 10.97 MB 数据集的拆解做机器学习最怕的不是模型调不出来而是手里只有概念、没有能跑通的数据和代码。这个「AI实战-分析预测实例」压缩包标题已经把答案写在脸上11 个源代码文件加一份 10.97 MB 的完整数据集覆盖的就是 Python 机器学习里最常见的分析预测流程。它不是那种只给几个 demo 的玩具包数据量虽然不大但足够把数据清洗、特征工程、模型训练、结果评估这条链路完整跑一遍——这正是从「看过教程」到「能独立做预测」之间最缺的那段实战距离。适合刚转行的数据分析师、准备课程设计的在校生以及想快速验证一个预测思路的工程师。接下来我会按实际动手顺序拆从环境搭到模型调优再把最容易翻车的几个坑摊开讲。2. 先把环境跑起来安装依赖到打开数据集的三步准备拿到压缩包之后我建议别急着打开源代码文件先把环境理顺。这个包我按典型结构预估了一下里面大概率包括数据加载脚本、特征处理脚本、多个模型的训练脚本和一个用于结果可视化的脚本数据集本身只有 10 MB 级别说明它是面向单机小样本的经典表格数据场景跑起来对硬件完全没压力。2.1 目录结构与文件定位先解压看一眼整体布局。常见做法是一个根目录下面放data、src、notebooks三个文件夹data 里是原始数据src 里是 Python 脚本notebooks 里是逐步演示的过程文件。如果你拿到的包结构不完全一样也没关系关键是把下面这几类文件认出来文件类型常见命名作用数据文件*.csv、*.xlsx原始数据集约 10.97 MB数据预处理脚本preprocess.py、data_clean.py清洗、变换、构造特征模型训练脚本train_lr.py、train_rf.py、train_xgb.py训练不同算法并输出指标预测与评估脚本predict.py、evaluate.py在测试集上验证并可视化我的习惯是每拿到一个包先建一个output目录把后面所有中间产物如标准化参数、训练好的模型文件、评估图表都丢进去避免污染原始数据目录。2.2 依赖清单与安装命令这类分析预测实例包的依赖相对固定。你大概率需要 Python 3.9 或更高版本以及这些核心库库名建议版本用途numpy1.21数组计算pandas1.3数据处理与加载scikit-learn1.0切分数据、模型评估、常用算法xgboost1.5梯度提升树模型matplotlib3.4结果可视化安装时我一般用一条命令全部装齐pip install numpy pandas scikit-learn xgboost matplotlib如果机器上有多个 Python 环境记得先确认当前在哪个环境里工作。参数上我从不指定--upgrade因为有些库的新版本会和旧代码不兼容比如 pandas 2.x 对DataFrame.append的移除就会让老脚本直接报错。装好后可以用python -c import pandas; print(pandas.__version__)验证一遍看到版本号输出再继续。2.3 跑通最小流程先加载数据再画两笔不要上来就训练模型先确认数据和代码能正常衔接。我建议用 Jupyter Notebook 或直接在命令行里执行一个最小脚本把数据读进来并打印基本信息import pandas as pd # 这里按你实际解压后的路径调整 df pd.read_csv(./data/sample_dataset.csv, parse_dates[date]) print(df.shape) print(df.head()) print(df.dtypes)这段代码里parse_dates参数会把date列解析成时间类型后面做时序特征时离不开它。如果文件里有中文列名或中文内容read_csv还需要加encodinggbk或encodingutf-8具体用哪个取决于数据集保存时的编码报错时逐个试即可。能正常打印出 shape 和列类型说明数据链路已经通了如果这一步就报错先去看文件路径十有八九是路径写错了。2.4 数据集的完整性和缺失情况检查加载之后先别急着做特征做一次完整性体检。小数据集最怕的不是数量不够而是脏数据占比过高。我用下面的代码快速摸底# 检查缺失值、重复值和目标列分布 print(df.isnull().sum()) print(df.duplicated().sum()) print(df[target].value_counts())isnull().sum()会输出每一列的缺失数量duplicated().sum()输出重复行数量value_counts()则帮你看目标变量是不是严重不平衡。如果目标列的某个类别占比接近 90%后面训练出来的模型基本是废的——这个问题我在第 5 章会专门讲。现在只需要确认数据能读、缺失可控就可以进入下一阶段了。3. 第一道坎把 10.97 MB 数据洗成模型能吃的样子很多人以为模型效果差是算法选错其实数据预处理不干净再好的算法也白搭。10.97 MB 的数据量听起来不大但里面可能混着缺失值、异常值和量纲差异巨大的特征列这些直接喂给模型会让训练过程跑偏。这一章讲清楚我的清洗和特征构造顺序。3.1 数值列与类别列的处理策略拿到数据后先区分列类型数值列和类别列的清洗逻辑完全不一样。数值列重点是看缺失值和异常值类别列重点是看取值个数和分布num_cols df.select_dtypes(include[float64, int64]).columns.tolist() cat_cols df.select_dtypes(include[object, category]).columns.tolist() # 数值列用中位数填充缺失值避免被极端值拉偏 for col in num_cols: if df[col].isnull().sum() 0: df[col] df[col].fillna(df[col].median()) # 类别列用众数填充并限制取值个数 for col in cat_cols: if df[col].isnull().sum() 0: df[col] df[col].fillna(df[col].mode()[0])这里用中位数而不是均值填充是因为均值对异常值敏感一个异常大的数值就能把填充值整体抬高。类别列用众数则是常识做法可以保持分布不变。如果某个类别列的取值个数超过几百个说明它可能是 ID 或自由文本字段直接删掉别让它进模型。3.2 标准化与切分的先后顺序这里有个非常关键的顺序问题先切分数据再在训练集上做标准化。很多人图省事在整份数据上一次性计算均值方差这会导致测试集的信息泄漏到训练过程里最后评估出来的指标虚高。正确做法是from sklearn.model_selection import train_test_split from sklearn.preprocessing import StandardScaler X df.drop(target, axis1) y df[target] X_train, X_test, y_train, y_test train_test_split( X, y, test_size0.2, random_state42, stratifyy ) scaler StandardScaler() X_train_scaled scaler.fit_transform(X_train) X_test_scaled scaler.transform(X_test)注意scaler只在训练集上fit_transform测试集上只做transform。stratifyy参数在做分类任务时特别有用它能保证切分后训练集和测试集里的类别比例和原始数据一致避免某一类样本全部跑到测试集里。如果是回归任务stratify会报错去掉即可。3.3 特征工程滞后特征与滚动统计光靠原始特征做预测模型往往学不到数据里的趋势信息。针对分析预测类任务我一般会构造滞后特征和滚动统计特征。以销量或股价这类带时间顺序的数据为例df df.sort_values(date).reset_index(dropTrue) # 滞后特征用前 n 期的值预测当前期 for lag in [1, 3, 7]: df[fvalue_lag_{lag}] df[value].shift(lag) # 滚动统计过去 7 天的均值、最大值、标准差 df[value_rolling_mean_7] df[value].rolling(window7).mean() df[value_rolling_max_7] df[value].rolling(window7).max() df[value_rolling_std_7] df[value].rolling(window7).std()shift(lag)会生成滞后 n 期的特征本质上是把过去的信息带进当前时刻。rolling(window7)则是对前 7 个数据点做窗口统计。做完这些操作后前 7 行因为有NaN需要把样本重新整理通用的做法是先构造特征再统一丢缺失值最后再切分。顺序搞反的话滞后特征会在切分时被错误地计算到测试集里又造成一次泄漏。3.4 数据平衡问题的最小处理方案如果第 2 章检查时发现分类目标的类别比例失衡不要急着引入复杂的 SMOTE先试一个最简单的做法给模型传递类别权重。比如在DecisionTreeClassifier里设置class_weightbalanced模型会自动给少数类更高的误分代价。这个方案的好处是不改样本分布不会引入重复样本带来的过拟合风险。如果权重方案效果不理想再考虑用imblearn库做 SMOTE 过采样。注意 SMOTE 必须在训练集上生成新样本测试集保持原样否则会严重污染评估结果。这也是分析预测实操里最常见的翻车点之一。4. 模型部分11 份源代码里的算法套路与调参指引压缩包里的 11 个源代码文件拆开看基本可以归成三大类线性模型、树模型、时序或神经网络模型。这一章我按照「先简单后复杂」的路线把各类代码的套路和调参参数讲透让你拿到任何预测任务都能对应着选。4.1 11 个脚本的算法谱系算法类别代表脚本适用场景一句话建议线性模型linear_regression.py、ridge.py特征与目标呈近似线性关系先跑它做基线树模型random_forest.py、xgboost.py、gbdt.py特征关系复杂、有非线性交互多数问题的默认选择时序模型lstm.py、arima.py显式的时间序列数据先跑朴素基线再上这个聚类与降维kmeans.py、pca_analysis.py探索样本结构、降维可视化特征太多时先用 PCA 压缩集成与评估ensemble_vote.py、model_evaluate.py把多个模型结果融合最后尝试常能提升几个点先建议你把其中任何一个线性模型的脚本跑通用它作为后续所有模型的对比基线。如果线性模型的评估结果已经不错后面树模型提升空间有限那就没必要追求更复杂的模型。4.2 线性回归与正则化先拿它摸底from sklearn.linear_model import LinearRegression, Ridge from sklearn.metrics import mean_squared_error lr LinearRegression() lr.fit(X_train_scaled, y_train) y_pred_lr lr.predict(X_test_scaled) ridge Ridge(alpha1.0) ridge.fit(X_train_scaled, y_train) y_pred_ridge ridge.predict(X_test_scaled) print(LR RMSE:, mean_squared_error(y_test, y_pred_lr, squaredFalse)) print(Ridge RMSE:, mean_squared_error(y_test, y_pred_ridge, squaredFalse))alpha是正则化强度值越大模型系数被压得越厉害越不容易过拟合。我一般会在一组对数尺度的值里试比如[0.01, 0.1, 1, 10, 100]选出验证集上误差最小的那个。当特征之间相关性很强时岭回归通常比普通线性回归稳得多。4.3 随机森林与 XGBoost参数怎么调才不玄学树模型的参数看似多真正需要手动调的其实就几个。下面是随机森林和 XGBoost 的常用参数我标了实际含义和我的推荐范围参数名随机森林含义XGBoost 含义推荐调参范围n_estimators树的数量提升轮数100–500先固定再调别的max_depth单棵树最大深度树最大深度3–10太深必过拟合learning_rate无每轮步长0.01–0.3min_samples_leaf叶子最小样本数等价min_child_weight5–50subsample无每轮样本采样比例0.7–0.9一个可以抄作业的 XGBoost 训练代码import xgboost as xgb model_xgb xgb.XGBRegressor( n_estimators300, max_depth6, learning_rate0.05, subsample0.8, colsample_bytree0.8, random_state42, early_stopping_rounds20 ) model_xgb.fit( X_train_scaled, y_train, eval_set[(X_test_scaled, y_test)], verboseFalse )early_stopping_rounds20表示连续 20 轮验证集误差不下降就提前终止训练这是对抗过拟合最有效的手段之一。colsample_bytree0.8是每棵树随机采样 80% 的特征能增强模型多样性。注意 XGBoost 的early_stopping_rounds参数在版本迭代里位置有过变化如果你用的版本较新、传参报错就把它放到fit()里传上面这个写法是兼容性较好的形式。4.4 时序模型的朴素基线原则如果数据是时间序列千万别一上来就上 LSTM 或 ARIMA。先做一个简单到近乎无脑的基线——用上一期的值作为当前期的预测y_pred_naive y_test_original.shift(1).fillna(0)把这个基线的误差记下来任何复杂模型如果连这个简单基线都打不过说明它学到的规律还不如「昨天等于明天」这个假设靠谱。我在拆过的很多包里发现LSTM 脚本的效果并没有比随机森林好多少因为 10 MB 量级的数据根本喂不饱深度学习模型。4.5 统一评估流程用一份代码看所有模型不管包里有多少个训练脚本我都建议最后落到一份统一的评估脚本上输出如下信息from sklearn.metrics import r2_score results [] for name, model in [(LR, lr), (Ridge, ridge), (XGB, model_xgb)]: y_pred model.predict(X_test_scaled) results.append({ model: name, r2: r2_score(y_test, y_pred), rmse: mean_squared_error(y_test, y_pred, squaredFalse) }) print(pd.DataFrame(results))r2_score表示模型解释了目标变量多少比例的方差越接近 1 越好rmse是误差的绝对值单位与目标列一致方便业务解释。两份指标一起看能避免只盯着一个数字产生的错觉。5. 实战中的坑数据泄漏、过拟合和路径问题的排查记录这一章是实战记录都是我在拆包和复现时真实遇到过的问题。每一条按「现象—原因—解决」写你可以直接对号入座。5.1 验证集指标高得离谱测试集一塌糊涂现象训练脚本里交叉验证的 R² 在 0.95 以上换到留出测试集就只有 0.6 左右。原因我先检查了代码发现标准化在切分之前就做了——整份数据的均值和方差已经参与计算测试集的信息提前漏进了训练过程。如果还有滞后特征且滞后特征是在全量数据上统一构造的同样会泄漏。解决把所有涉及统计量的操作全部放到切分之后按训练集拟合、再应用到测试集。我现在的铁律是先切分再清洗再构造特征清洗和构造每一步的参数都只在训练集上计算。5.2 重复训练同一个脚本两次结果不一样现象文件没改动纯跑两次训练输出的准确率差了两个百分点。原因最直接的嫌疑是模型里有随机性——随机森林的特征抽样、XGBoost 的样本抽样、神经网络的权重初始化都是随机的。包的源代码里如果没设随机种子结果就不可能完全一致。解决在所有带随机性的模型里统一设置random_state42如果包里的源码没有这个参数我建议全加上。另外如果代码用到了 NumPy 或 pandas 的随机过程还要加上import numpy as np np.random.seed(42)这样才能保证从数据切分到模型训练全链路可复现。5.3 相对路径在命令行下能跑在 IDE 里就报错现象脚本在终端执行正常换到 PyCharm 或 VS Code 里运行时提示FileNotFoundError找不到数据文件。原因IDE 默认的工作目录未必是项目根目录相对路径是相对于当前工作目录解析的而不是相对于脚本文件位置。解决在加载数据前先切换到脚本所在目录import os os.chdir(os.path.dirname(os.path.abspath(__file__)))或者干脆统一用绝对路径放进一个单独的config.py里管理。从那以后我所有项目都要求路径配置集中管理绝不散落在各个脚本里。5.4 类别特征直接喂进模型报错现象数据里有类似「城市」「星期几」这样的文本列直接fit()时抛异常说不能处理字符串。原因大多数 sklearn 模型只接受数值输入类别列必须先编码。如果用了LabelEncoder必须注意它给类别编码后是有序的树模型不受影响但线性模型会把这种序号当成真实数量关系导致偏差。解决分类任务优先用OneHotEncoder或直接用 pandas 的get_dummiesdf pd.get_dummies(df, columns[city, weekday], drop_firstTrue)drop_firstTrue可以去掉一个哑变量列避免多重共线性。如果类别取值非常多先按频率把低频类别合并成「其他」否则特征矩阵会膨胀得厉害。5.5 预测时特征列顺序对不上现象训练完模型保存后第二天加载新数据去预测程序报特征数量不一致。原因新数据在预处理后列的顺序和训练时不完全一致。比如训练时特征顺序是A, B, C新数据处理后变成B, A, C模型内部的特征索引就对不上了。解决保存模型时把训练用的特征列名一并保存with open(feature_columns.pkl, wb) as f: pickle.dump(X_train.columns.tolist(), f)预测时先按这个列名列表对数据进行重新选择保证顺序完全一致。这个习惯帮我少加了很多班。6. 让结果更可靠的一步交叉验证与模型落盘很多源码包的训练脚本只做单次切分评估指标波动很大。我建议把它升级成 K 折交叉验证用cross_val_score得到更稳定的性能估计from sklearn.model_selection import cross_val_score scores cross_val_score( model_xgb, X_train_scaled, y_train, cv5, scoringr2 ) print(CV R2 mean: %.4f, std: %.4f % (scores.mean(), scores.std()))cv5表示把训练数据切 5 份每次拿 4 份训练、1 份验证循环 5 次。看均值和标准差两个指标均值高说明模型整体能力强标准差小说明结果稳定不会因为某一份数据特殊就大幅波动。如果标准差过大说明模型对数据的某一段特别敏感这时候优先去检查特征里有没有异常样本而不是继续调参。模型调完并验证后最后一步是用 joblib 把模型和预处理参数一起保存方便后续直接加载使用import joblib joblib.dump(model_xgb, model_xgb.pkl) joblib.dump(scaler, scaler.pkl) joblib.dump(X_train.columns.tolist(), feature_columns.pkl)加载时按保存顺序依次读回model_loaded joblib.load(model_xgb.pkl) scaler_loaded joblib.load(scaler.pkl) feature_cols joblib.load(feature_columns.pkl)到这一步整个分析预测实例就已经从「跑通别人的代码」变成了「能部署到业务里复用的完整流程」。我自己每次做完一个项目都会强制走一遍这条收尾链固定所有随机种子、交叉验证出稳定指标、保存模型与特征列名、最后在干净环境里从零加载验证一次。这套习惯救了我很多次——比如三个月后业务方拿着新数据来找我预测我不用再把当年的代码重跑一遍直接加载落盘文件就能出结果。希望这份拆解能帮你把这个包的价值真正用起来少走我踩过的那些弯路。本文还有配套的精品资源点击获取