简介面向机器学习初学者与研究人员这份MATLAB例程包聚焦主动学习与半监督学习两类重要策略解决标注数据稀缺场景下的模型训练与性能提升问题。压缩包内仅含1个MATLAB脚本文件体积约9KB代码量精简但覆盖数据预处理、特征提取及多种算法实现思路适合直接阅读与修改调试。已有195人学习说明该主题受到一定关注度。通过运行与拆解脚本读者可直观理解不确定性采样、自训练、协同训练等典型方法的核心逻辑掌握将小样本标注与海量未标注数据结合使用的实践技巧并为后续开展文本分类、图像识别等实际项目积累可复用的MATLAB实现经验。1. 完整的主动学习和半监督学习的算法例程包解压后先搞清它值不值得跑标注预算只有一万条业务却要求模型覆盖几十个细分类别这是我在做视觉落地时最常碰到的开局。主动学习管的是“标注预算怎么花最划算”半监督学习管的是“没标注的数据能不能也拿来训练”这两类方法如今在图像分类、文本分类、目标检测里都是省成本的标准配置。这套“完整的主动学习和半监督学习的多项算法例程.zip”把常用算法整理成可运行的Python脚本解压后可以直接跑不确定性采样、伪标签、一致性正则化这几条主流路线适合刚接小样本项目的工程师或刚进组的研究生拿来当基线。我按“概念—例程—调参—踩坑—替换”的顺序把整个过程拆开讲中间遇到的问题基本都是实打实踩过的。2. 主动学习和半监督学习的原理分野一个管标注预算一个管无标注数据2.1 主动学习的核心问题在有限标注预算下选出信息量最大的样本主动学习的基本流程是先用一小批人工标注训练一个不怎么样的雏形模型然后拿这个模型对无标注池里的样本打分挑出最“值得”标注的样本交给标注员标注完成后再更新模型如此循环直到标注预算耗尽。这里的核心是采样策略——怎么定义“值得”。最常看到的采样策略是三种。第一种叫不确定性采样直接看模型对每个样本的预测分布。最小置信度取最大类概率概率越低越不确定边缘采样看最大与第二大类的概率差差距越小说明模型在两类之间摇摆得厉害熵值采样则算整个分布的信息熵分布越均匀熵越高。第二种叫多样性采样目的是避免不确定性采样把钱全花在彼此相似的困难样本上常见做法是用聚类或k中心贪心让选出的样本在特征空间里分散开。第三种叫预期误差减少理论上最能直接优化最终指标但每挑一批样本就要重新训练一次模型计算开销大得离谱例程包里一般不把它当默认选项只会留一个跑起来特别慢的对比脚本。实际工程里没人会只跑一种策略至少先跑个随机采样当底线再对比不确定性采样和多样性采样的差距否则你根本说不清楚采样策略到底有没有带来收益。三种策略的选择依据、计算成本和适用场景差异不小选型时可以参考下表。采样策略选择依据计算成本适用场景随机采样均匀随机抽极低基线对照最小置信度最大类概率低低快速验证边缘采样top2类概率差小低类别不太失衡时熵值采样预测分布熵高低类别数量较多时多样性采样特征空间分散中无标注数据有大量冗余时2.2 半监督学习的两种范式伪标签自训练与一致性正则约束半监督学习的基本假设是无标注数据本身的分布同样携带信息只是模型不知道怎么把它们变成监督信号。最常见的一类思路是伪标签自训练用当前模型的预测结果给无标注样本打上伪标签再把高置信度那一部分当成真实标注混进训练集里一起训练反复迭代。这个思路在工程上最容易落地但它特别依赖置信度阈值这个参数阈值调太高可用的无标注样本太少训练提升有限阈值调太低错误标签开始污染模型指标不升反降。更麻烦的是伪标签的错误率会随着训练轮数变化第一轮的0.9置信度可能很可靠训练到第十轮时0.95也不一定稳需要动态调整。另一类思路是一致性正则化它绕过显式的伪标签要求模型对同一个输入的不同增强版本给出相近的预测。代表方法是Mean Teacher一个学生模型常规训练一个教师模型用学生权重的滑动平均来更新用两个模型在扰动输入上的预测差异做损失。FixMatch则是把弱增强和强增强结合先用弱增强生成伪标签再让模型去匹配强增强版本的输出。这类方法在图像上效果通常比单纯伪标签好但严重依赖数据增强管线的配置——如果强增强破坏了样本的真实语义比如把猫的图增强得连人都认不出一致性约束反而会把模型带偏。2.3 两类方法为什么经常捆绑出现任务互补和代码复用主动学习需要人工标注员在循环里交互半监督学习不需要人工介入只需要无标注数据。两者看起来是两条独立路线但在实际项目中经常叠加使用主动学习负责从无标注池里挑出最需要人看的高信息量样本半监督学习负责把池子里剩下的所有样本用起来。一个真实场景里标注预算是有限的而无标注数据往往是海量的先把预算花在主动学习挑出的样本上再用半监督学习吸收剩余数据整体标注成本至少要低一个量级。打包出这样一个例程包也是这个原因算法层面两个方向共享大量基础设施模型训练的骨架、数据加载器、评估脚本几乎可以通用加一层采样器就是主动学习加一层伪标签生成器就是半监督。代码结构上最常见的设计是训练循环里预留两个钩子——采样器的查询函数和伪标签生成函数理解了这个结构后面改参数和替换算法就非常快。例程包的价值不在于里面某个算法写得多么惊艳而在于它把这两条线拧在一起的方式可以直接照抄。3. 从zip解压到首次跑通主动学习与半监督例程的最小可复现路径3.1 完整性校验是第一步先处理zip损坏和文件缺失的风险训练脚本跑了一半才发现某个依赖文件缺失导致崩溃是我见过最多的翻车套路。拿到压缩包第一件事不是双击解压而是先看文件列表、做完整性校验。常规的命令行流程是这样# 列出压缩包内部文件结构确认没有嵌套目录和意外文件 unzip -l active_semisup_examples.zip # 用 unzip -t 做一次完整测试逐个检查文件CRC unzip -t active_semisup_examples.zip如果包比较大unzip -t会花一点时间但它能提前暴露坏块。另一个更严格的做法是核对下载附带的md5或sha256校验文件。把这个流程单独拿出来讲是因为我确实见过有人把损坏的zip硬解压出来跑代码一直报奇怪错误最后才发现是数据文件在传输中被截断了。解压完成之后再花两分钟确认一下目录结构例程包一般会按算法分目录比如active_learning/、semi_supervised/、data/、utils/每个算法目录下应该有一个独立的train.py或run_demo.py这样你在替换自己数据时不会把不同算法的代码搅在一起。3.2 主动学习采样例程三种不确定性度量的可运行代码例程包里的主动学习部分核心就是采样函数。把逻辑抽出来看一般长这样import numpy as np import torch import torch.nn.functional as F def uncertainty_query(model, unlabeled_loader, query_size, modeentropy): 从无标注池中挑出模型最不确定的样本。 mode 支持 least_confidence / margin / entropy 三种。 model.eval() scores [] with torch.no_grad(): for batch in unlabeled_loader: logits model(batch) prob F.softmax(logits, dim1) max_prob, _ prob.max(dim1) if mode least_confidence: # 最小置信度1 - p_max越高代表越不确定 score (1.0 - max_prob).cpu().numpy() elif mode margin: # 边缘采样top1 - top2 概率差越小越不确定 top2_prob prob.topk(2, dim1).values score (top2_prob[:, 0] - top2_prob[:, 1]).cpu().numpy() score -score # 统一成越大越不确定 elif mode entropy: # 熵值直接用负熵作为不确定性分数 log_prob torch.log(prob 1e-10) score (-(prob * log_prob).sum(dim1)).cpu().numpy() scores.extend(score) scores np.array(scores) # 分数从大到小排列取前 query_size 个样本的下标 top_idx np.argsort(scores)[-query_size:][::-1] return top_idx.tolist()这个函数先把模型切到eval模式关闭梯度计算遍历无标注数据loader用softmax得到概率分布再按不同策略算出一个分数。分数统一为“越大代表越不确定”这样上层调用就不用关心具体策略的差异。整个函数只做一件事给定模型和数据把样本按照“值得标注的程度”排序返回最值得标注的前query_size个下标。query_size就是每轮想交给标注员的数量这也是重点观察的参数——如果设得太大模型反馈周期变长设得太小模型在每个batch里过拟合的风险会升高。三个模式下least_confidence的速度最快entropy在类别数多于10个时通常更稳定margin在二分类任务上表现最直接。3.3 半监督伪标签例程置信度阈值过滤与混合训练半监督部分最常见的一版实现是伪标签自训练核心代码结构如下def generate_pseudo_labels(model, unlabeled_loader, threshold0.95): 用当前模型为无标注数据生成伪标签只保留高置信度样本。 model.eval() pseudo_inputs, pseudo_targets [], [] with torch.no_grad(): for x in unlabeled_loader: logits model(x) prob F.softmax(logits, dim1) max_prob, pred prob.max(dim1) mask max_prob threshold if mask.sum() 0: pseudo_inputs.append(x[mask]) pseudo_targets.append(pred[mask]) if not pseudo_inputs: return None, None return torch.cat(pseudo_inputs), torch.cat(pseudo_targets)训练循环里把有标注batch和伪标签batch拼在一起混合计算损失。这个函数有两个隐藏参数需要在实验前想清楚一个是threshold0.95意味着只取模型95%以上确信的样本另一个容易被忽略的是类别平衡问题如果某些类天然置信度高伪标签会严重偏向那些类最终造成类别失衡。混合训练时的损失配比也有讲究。我一般会给伪标签样本的损失乘一个小于1的权重比如0.5起步观察模型在验证集上的表现再逐步调高。伪标签的精度和召回始终是矛盾的threshold越高伪标签越准但数量越少权重越小模型越不容易被噪声带偏但半监督的收益也越小。例程包里通常会把这两个值留成命令行参数方便你按数据集特点做网格搜索。4. 调参的三个关键旋钮标注比例、置信度阈值与查询批次的边界4.1 主动学习参数初始标注比例、query_size与总预算怎么配主动学习的三个关键参数是初始标注比例、每轮查询数量query_size和总标注预算。初始标注比例一般取5%到10%太少的话雏形模型学不出来采样策略相当于盲猜太多又浪费预算在随机采样上主动学习相比随机采样的优势就被稀释了。如果你发现5%的初始标注连模型都无法收敛优先考虑先跑一个简单的预训练或者用迁移学习的权重而不是把初始比例提得很高。query_size的设定要结合训练一个epoch的时间和标注员的效率。假设你总预算只有5000个样本query_size设500那就是10轮迭代设50那就是100轮。后者给了模型更多“学一点再问一点”的机会但每次查询之间都要重新训练模型时间成本会翻好几倍。我在文本分类项目里的经验是模型小、训练快query_size设小一点收益明显模型大、单次训练好几分钟的query_size反而要放大否则等一轮查询的周期太长。总预算要在实验设计阶段就定死。不要因为指标还在涨就无限追加预算主动学习的收益曲线一定会进入平台期追加预算的边际收益在平台期之后骤降。更实际的做法是设定几个检查点比如预算用掉25%、50%、75%时分别记录测试指标观察增长幅度。如果50%之后的提升不到1个百分点剩下的预算就不值得继续投了。4.2 半监督参数置信度阈值、伪标签权重与增强强度半监督侧的参数敏感度比主动学习高得多尤其是置信度阈值threshold。伪标签自训练的数据集threshold建议初始设置0.9到0.95之间当模型容量较小或类别数较多时模型的整体置信度会偏低阈值要适当放低到0.8左右才能产生足够多的伪标签。注意观察每个epoch产生的伪标签数量如果连续几个epoch都只有个位数的样本通过过滤说明阈值设得太高模型学不到新东西。伪标签权重w_pseudo在例程里通常以损失函数中一项的系数出现loss loss_supervised w_pseudo * loss_pseudo。起始值设在0.5是安全的后续可以用0.1的步长向上调。图像任务里如果用了FixMatch这类方法增强强度是另一个更隐蔽的参数。弱增强和强增强必须分开管线弱增强负责生成稳定的伪标签强增强负责给训练过程加扰动两个管线混在一起会让伪标签的质量随训练过程剧烈波动。4.3 基线对比设计三组实验才能说清楚采样策略的收益一个可靠的实验配置不能只跑一个主动学习策略就下结论。我一般会同时跑随机采样、最小置信度、多样性采样三组每组在相同的初始标注和总预算下执行如果实验里加了半监督模块再把伪标签的开关做成2乘2组合。这样四个结果放在一起能直接看出采样策略和半监督各自贡献多少。随机采样在主动学习文献里被当“垃圾基线”但它在工程上是唯一能判断其他策略是否真正有效的参照物不少论文里的不确定性采样相比随机采样的提升换上自己的数据集后就不剩几个点了。表格可以把这四种组合的配置列清楚方便照着搭实验实验组采样策略半监督伪标签预期观察点A随机采样关标注预算的朴素下限B最小置信度关不确定性采样的独立贡献C随机采样开半监督在无策略下的贡献D最小置信度开两条路线的叠加效果如果B相比A提升微弱而D相比C提升明显说明你的数据集更适合在半监督框架下体现主动学习的价值反过来就是采样策略本身贡献更大。这个判断直接决定后续优化投入的方向省得在错误的旋钮上浪费时间。5. 例程跑通的常见问题与排查四个高频翻车点的现象、原因和解决5.1 解压报错 invalid zip archive: could not find eocd现象执行导入或解压时直接报导入失败caused by: invalid zip archive: could not find eocdzipfile模块打开压缩包失败。原因EOCDEnd of Central Directory是zip文件末尾的结束标记如果找不到它通常意味着压缩包在传输中被截断或者下载工具只保存了部分内容就判定完成。这个错误在网盘下载的包里非常高频因为网盘客户端有时候会把还在缓存中的文件提前标记为“下载完成”。解决先看文件大小是否和源站点一致差别超过几十KB就重新下载用支持断点续传的工具下载大文件更可靠。如果文件大小一致还报错可以用7-Zip的修复功能试试提取部分文件拖回来能救多少是多少但不要指望修复完整。最省事的做法是重新下载后立即做md5校验。顺带提醒这类例程包解压过程中如果中途手动取消过也会产生类似问题尽量一次解压完整再操作内部文件。5.2 伪标签噪声把模型带崩阈值与权重的配合现象加入伪标签后没跑几个epoch验证集准确率就开始掉有时直接发散。去掉伪标签部分再跑训练又恢复正常。原因伪标签的置信度阈值设得太低把错误预测当成监督信号喂回去另一个叠加因素是伪标签在训练早期虚高——模型在小数据上已经过拟合对训练集以外的数据预测很“自信”但这个自信并不可靠。解决先把threshold提到0.98观察曲线确认收敛稳定后再逐步降到0.9每次下降观察至少两轮epoch。同时在损失函数里给伪标签样本乘一个0.5的权重降低单次错误标签的影响。如果用的数据集类别数很少比如二分类建议直接用margin采样来生成伪标签不要只看最大类概率因为二分类的0.9置信度很可能来自类别先验偏差。这类问题在例程包里不一定复现但换成你自己的数据后是最容易冒出来的因为它取决于数据分布与预训练模型的匹配程度建议第一时间排查。5.3 主动学习后期指标不升反降采样陷入局部困难区现象主动学习循环前几轮指标持续上涨从第6轮左右开始准确率不涨反跌或者停滞在一个不太理想的水平。原因不确定性采样倾向于把查询集中在模型难以区分的样本这些样本可能是标签噪声本身也可能是类别极度不均衡的尾部小类。到了后期模型把容易学的都学完了被挑选的样本越来越“假困难”为了拟合这些样本模型反而破坏了已经学到的知识。这在图像分类里表现尤其明显因为困难样本往往是模糊或裁剪质量差的图人的标注一致性都很低。解决后期切换成多样性采样或者在查询函数里加入“远离已标注区域”的约束避免重复查询相似的样本。更简单的办法是缩小query_size每轮少采一些同时观察标注员在每一轮标注时的实际体验——如果标注员连续几轮都在抱怨“都是模糊图”基本就是采样策略出了问题。也可以设定提前停止条件连续两轮验证集提升小于阈值就终止主动学习循环把剩余预算省下来。5.4 换机器复现不出结果随机种子与数据顺序的隐形差异现象同一套代码在A机器上跑出的指标是88%换到B机器上只剩85%甚至同一台机器第二次跑也差一个点左右。原因半监督方法对初始状态特别敏感随机种子没固定GPU算子在不同框架版本下的浮点行为有差异数据加载顺序不同导致伪标签生成顺序变化多个随机因素叠加之后不稳定性就被放大了。例程包给的默认结果往往是在固定种子和固定数据顺序下跑出来的你换环境后复现不了很正常。解决固定全局种子还不够还需要固定数据加载器的随机状态和增强的随机状态。常见的做法是设置全局种子之后在DataLoader里传入同一个generator并关闭shuffle之外的随机性。如果要对比不同算法务必在同一台机器上跑完所有实验不要A算法在GPU机器上跑B算法在CPU机器上跑两者的结果完全不可比。另一个偏玄学的经验是训练早期不要用太高的学习率半监督伪标签在早期不稳定高学习率会放大错误信号导致最终收敛点跑偏。这个坑不是例程包特有只要你做半监督实验早晚会撞上。6. 把例程替换成自己的数据三处改动和一条验证路径要跑自己的数据改动的地方其实不多。第一处是数据加载函数把例程里的MNIST或CIFAR类替换成自定义Dataset标签格式转成单数字类别索引第二处是数据增强管线图像任务可以直接复用例程里的增强策略但要把归一化参数换成自己数据集的均值方差这组参数不换模型收敛速度会明显变慢第三处是输出类别数写死在模型初始化里的n_classes一定要改否则最后一层维度不匹配会直接报错。改完这三处之后建议先把伪标签生成关掉只跑有标注部分确认模型能正常收敛到合理水平再打开半监督模块。这样每一步出问题都能定位到具体环节不会把数据加载的锅甩给采样算法。验证路径上我习惯先跑随机采样基线再用最小置信度跑一组最后加伪标签三个结果放在同一条曲线图里一眼就能看出每个模块的贡献。半监督方法在标签率极低时提升最明显比如每类只有十张图的情况如果数据集本身已经有两三万张标注半监督的边际收益大概率没有预想的大。这是我做了几轮实验之后养成的习惯每开一个新数据集先把随机基线和最简单的采样器跑出来再决定要不要继续投入调参。先确认下限在哪再谈上限能省下大量和数据集较劲的时间。希望帮到你。本文还有配套的精品资源点击获取 主动学习与半监督学习例程包实战：从采样策略到参数调优
简介面向机器学习初学者与研究人员这份MATLAB例程包聚焦主动学习与半监督学习两类重要策略解决标注数据稀缺场景下的模型训练与性能提升问题。压缩包内仅含1个MATLAB脚本文件体积约9KB代码量精简但覆盖数据预处理、特征提取及多种算法实现思路适合直接阅读与修改调试。已有195人学习说明该主题受到一定关注度。通过运行与拆解脚本读者可直观理解不确定性采样、自训练、协同训练等典型方法的核心逻辑掌握将小样本标注与海量未标注数据结合使用的实践技巧并为后续开展文本分类、图像识别等实际项目积累可复用的MATLAB实现经验。1. 完整的主动学习和半监督学习的算法例程包解压后先搞清它值不值得跑标注预算只有一万条业务却要求模型覆盖几十个细分类别这是我在做视觉落地时最常碰到的开局。主动学习管的是“标注预算怎么花最划算”半监督学习管的是“没标注的数据能不能也拿来训练”这两类方法如今在图像分类、文本分类、目标检测里都是省成本的标准配置。这套“完整的主动学习和半监督学习的多项算法例程.zip”把常用算法整理成可运行的Python脚本解压后可以直接跑不确定性采样、伪标签、一致性正则化这几条主流路线适合刚接小样本项目的工程师或刚进组的研究生拿来当基线。我按“概念—例程—调参—踩坑—替换”的顺序把整个过程拆开讲中间遇到的问题基本都是实打实踩过的。2. 主动学习和半监督学习的原理分野一个管标注预算一个管无标注数据2.1 主动学习的核心问题在有限标注预算下选出信息量最大的样本主动学习的基本流程是先用一小批人工标注训练一个不怎么样的雏形模型然后拿这个模型对无标注池里的样本打分挑出最“值得”标注的样本交给标注员标注完成后再更新模型如此循环直到标注预算耗尽。这里的核心是采样策略——怎么定义“值得”。最常看到的采样策略是三种。第一种叫不确定性采样直接看模型对每个样本的预测分布。最小置信度取最大类概率概率越低越不确定边缘采样看最大与第二大类的概率差差距越小说明模型在两类之间摇摆得厉害熵值采样则算整个分布的信息熵分布越均匀熵越高。第二种叫多样性采样目的是避免不确定性采样把钱全花在彼此相似的困难样本上常见做法是用聚类或k中心贪心让选出的样本在特征空间里分散开。第三种叫预期误差减少理论上最能直接优化最终指标但每挑一批样本就要重新训练一次模型计算开销大得离谱例程包里一般不把它当默认选项只会留一个跑起来特别慢的对比脚本。实际工程里没人会只跑一种策略至少先跑个随机采样当底线再对比不确定性采样和多样性采样的差距否则你根本说不清楚采样策略到底有没有带来收益。三种策略的选择依据、计算成本和适用场景差异不小选型时可以参考下表。采样策略选择依据计算成本适用场景随机采样均匀随机抽极低基线对照最小置信度最大类概率低低快速验证边缘采样top2类概率差小低类别不太失衡时熵值采样预测分布熵高低类别数量较多时多样性采样特征空间分散中无标注数据有大量冗余时2.2 半监督学习的两种范式伪标签自训练与一致性正则约束半监督学习的基本假设是无标注数据本身的分布同样携带信息只是模型不知道怎么把它们变成监督信号。最常见的一类思路是伪标签自训练用当前模型的预测结果给无标注样本打上伪标签再把高置信度那一部分当成真实标注混进训练集里一起训练反复迭代。这个思路在工程上最容易落地但它特别依赖置信度阈值这个参数阈值调太高可用的无标注样本太少训练提升有限阈值调太低错误标签开始污染模型指标不升反降。更麻烦的是伪标签的错误率会随着训练轮数变化第一轮的0.9置信度可能很可靠训练到第十轮时0.95也不一定稳需要动态调整。另一类思路是一致性正则化它绕过显式的伪标签要求模型对同一个输入的不同增强版本给出相近的预测。代表方法是Mean Teacher一个学生模型常规训练一个教师模型用学生权重的滑动平均来更新用两个模型在扰动输入上的预测差异做损失。FixMatch则是把弱增强和强增强结合先用弱增强生成伪标签再让模型去匹配强增强版本的输出。这类方法在图像上效果通常比单纯伪标签好但严重依赖数据增强管线的配置——如果强增强破坏了样本的真实语义比如把猫的图增强得连人都认不出一致性约束反而会把模型带偏。2.3 两类方法为什么经常捆绑出现任务互补和代码复用主动学习需要人工标注员在循环里交互半监督学习不需要人工介入只需要无标注数据。两者看起来是两条独立路线但在实际项目中经常叠加使用主动学习负责从无标注池里挑出最需要人看的高信息量样本半监督学习负责把池子里剩下的所有样本用起来。一个真实场景里标注预算是有限的而无标注数据往往是海量的先把预算花在主动学习挑出的样本上再用半监督学习吸收剩余数据整体标注成本至少要低一个量级。打包出这样一个例程包也是这个原因算法层面两个方向共享大量基础设施模型训练的骨架、数据加载器、评估脚本几乎可以通用加一层采样器就是主动学习加一层伪标签生成器就是半监督。代码结构上最常见的设计是训练循环里预留两个钩子——采样器的查询函数和伪标签生成函数理解了这个结构后面改参数和替换算法就非常快。例程包的价值不在于里面某个算法写得多么惊艳而在于它把这两条线拧在一起的方式可以直接照抄。3. 从zip解压到首次跑通主动学习与半监督例程的最小可复现路径3.1 完整性校验是第一步先处理zip损坏和文件缺失的风险训练脚本跑了一半才发现某个依赖文件缺失导致崩溃是我见过最多的翻车套路。拿到压缩包第一件事不是双击解压而是先看文件列表、做完整性校验。常规的命令行流程是这样# 列出压缩包内部文件结构确认没有嵌套目录和意外文件 unzip -l active_semisup_examples.zip # 用 unzip -t 做一次完整测试逐个检查文件CRC unzip -t active_semisup_examples.zip如果包比较大unzip -t会花一点时间但它能提前暴露坏块。另一个更严格的做法是核对下载附带的md5或sha256校验文件。把这个流程单独拿出来讲是因为我确实见过有人把损坏的zip硬解压出来跑代码一直报奇怪错误最后才发现是数据文件在传输中被截断了。解压完成之后再花两分钟确认一下目录结构例程包一般会按算法分目录比如active_learning/、semi_supervised/、data/、utils/每个算法目录下应该有一个独立的train.py或run_demo.py这样你在替换自己数据时不会把不同算法的代码搅在一起。3.2 主动学习采样例程三种不确定性度量的可运行代码例程包里的主动学习部分核心就是采样函数。把逻辑抽出来看一般长这样import numpy as np import torch import torch.nn.functional as F def uncertainty_query(model, unlabeled_loader, query_size, modeentropy): 从无标注池中挑出模型最不确定的样本。 mode 支持 least_confidence / margin / entropy 三种。 model.eval() scores [] with torch.no_grad(): for batch in unlabeled_loader: logits model(batch) prob F.softmax(logits, dim1) max_prob, _ prob.max(dim1) if mode least_confidence: # 最小置信度1 - p_max越高代表越不确定 score (1.0 - max_prob).cpu().numpy() elif mode margin: # 边缘采样top1 - top2 概率差越小越不确定 top2_prob prob.topk(2, dim1).values score (top2_prob[:, 0] - top2_prob[:, 1]).cpu().numpy() score -score # 统一成越大越不确定 elif mode entropy: # 熵值直接用负熵作为不确定性分数 log_prob torch.log(prob 1e-10) score (-(prob * log_prob).sum(dim1)).cpu().numpy() scores.extend(score) scores np.array(scores) # 分数从大到小排列取前 query_size 个样本的下标 top_idx np.argsort(scores)[-query_size:][::-1] return top_idx.tolist()这个函数先把模型切到eval模式关闭梯度计算遍历无标注数据loader用softmax得到概率分布再按不同策略算出一个分数。分数统一为“越大代表越不确定”这样上层调用就不用关心具体策略的差异。整个函数只做一件事给定模型和数据把样本按照“值得标注的程度”排序返回最值得标注的前query_size个下标。query_size就是每轮想交给标注员的数量这也是重点观察的参数——如果设得太大模型反馈周期变长设得太小模型在每个batch里过拟合的风险会升高。三个模式下least_confidence的速度最快entropy在类别数多于10个时通常更稳定margin在二分类任务上表现最直接。3.3 半监督伪标签例程置信度阈值过滤与混合训练半监督部分最常见的一版实现是伪标签自训练核心代码结构如下def generate_pseudo_labels(model, unlabeled_loader, threshold0.95): 用当前模型为无标注数据生成伪标签只保留高置信度样本。 model.eval() pseudo_inputs, pseudo_targets [], [] with torch.no_grad(): for x in unlabeled_loader: logits model(x) prob F.softmax(logits, dim1) max_prob, pred prob.max(dim1) mask max_prob threshold if mask.sum() 0: pseudo_inputs.append(x[mask]) pseudo_targets.append(pred[mask]) if not pseudo_inputs: return None, None return torch.cat(pseudo_inputs), torch.cat(pseudo_targets)训练循环里把有标注batch和伪标签batch拼在一起混合计算损失。这个函数有两个隐藏参数需要在实验前想清楚一个是threshold0.95意味着只取模型95%以上确信的样本另一个容易被忽略的是类别平衡问题如果某些类天然置信度高伪标签会严重偏向那些类最终造成类别失衡。混合训练时的损失配比也有讲究。我一般会给伪标签样本的损失乘一个小于1的权重比如0.5起步观察模型在验证集上的表现再逐步调高。伪标签的精度和召回始终是矛盾的threshold越高伪标签越准但数量越少权重越小模型越不容易被噪声带偏但半监督的收益也越小。例程包里通常会把这两个值留成命令行参数方便你按数据集特点做网格搜索。4. 调参的三个关键旋钮标注比例、置信度阈值与查询批次的边界4.1 主动学习参数初始标注比例、query_size与总预算怎么配主动学习的三个关键参数是初始标注比例、每轮查询数量query_size和总标注预算。初始标注比例一般取5%到10%太少的话雏形模型学不出来采样策略相当于盲猜太多又浪费预算在随机采样上主动学习相比随机采样的优势就被稀释了。如果你发现5%的初始标注连模型都无法收敛优先考虑先跑一个简单的预训练或者用迁移学习的权重而不是把初始比例提得很高。query_size的设定要结合训练一个epoch的时间和标注员的效率。假设你总预算只有5000个样本query_size设500那就是10轮迭代设50那就是100轮。后者给了模型更多“学一点再问一点”的机会但每次查询之间都要重新训练模型时间成本会翻好几倍。我在文本分类项目里的经验是模型小、训练快query_size设小一点收益明显模型大、单次训练好几分钟的query_size反而要放大否则等一轮查询的周期太长。总预算要在实验设计阶段就定死。不要因为指标还在涨就无限追加预算主动学习的收益曲线一定会进入平台期追加预算的边际收益在平台期之后骤降。更实际的做法是设定几个检查点比如预算用掉25%、50%、75%时分别记录测试指标观察增长幅度。如果50%之后的提升不到1个百分点剩下的预算就不值得继续投了。4.2 半监督参数置信度阈值、伪标签权重与增强强度半监督侧的参数敏感度比主动学习高得多尤其是置信度阈值threshold。伪标签自训练的数据集threshold建议初始设置0.9到0.95之间当模型容量较小或类别数较多时模型的整体置信度会偏低阈值要适当放低到0.8左右才能产生足够多的伪标签。注意观察每个epoch产生的伪标签数量如果连续几个epoch都只有个位数的样本通过过滤说明阈值设得太高模型学不到新东西。伪标签权重w_pseudo在例程里通常以损失函数中一项的系数出现loss loss_supervised w_pseudo * loss_pseudo。起始值设在0.5是安全的后续可以用0.1的步长向上调。图像任务里如果用了FixMatch这类方法增强强度是另一个更隐蔽的参数。弱增强和强增强必须分开管线弱增强负责生成稳定的伪标签强增强负责给训练过程加扰动两个管线混在一起会让伪标签的质量随训练过程剧烈波动。4.3 基线对比设计三组实验才能说清楚采样策略的收益一个可靠的实验配置不能只跑一个主动学习策略就下结论。我一般会同时跑随机采样、最小置信度、多样性采样三组每组在相同的初始标注和总预算下执行如果实验里加了半监督模块再把伪标签的开关做成2乘2组合。这样四个结果放在一起能直接看出采样策略和半监督各自贡献多少。随机采样在主动学习文献里被当“垃圾基线”但它在工程上是唯一能判断其他策略是否真正有效的参照物不少论文里的不确定性采样相比随机采样的提升换上自己的数据集后就不剩几个点了。表格可以把这四种组合的配置列清楚方便照着搭实验实验组采样策略半监督伪标签预期观察点A随机采样关标注预算的朴素下限B最小置信度关不确定性采样的独立贡献C随机采样开半监督在无策略下的贡献D最小置信度开两条路线的叠加效果如果B相比A提升微弱而D相比C提升明显说明你的数据集更适合在半监督框架下体现主动学习的价值反过来就是采样策略本身贡献更大。这个判断直接决定后续优化投入的方向省得在错误的旋钮上浪费时间。5. 例程跑通的常见问题与排查四个高频翻车点的现象、原因和解决5.1 解压报错 invalid zip archive: could not find eocd现象执行导入或解压时直接报导入失败caused by: invalid zip archive: could not find eocdzipfile模块打开压缩包失败。原因EOCDEnd of Central Directory是zip文件末尾的结束标记如果找不到它通常意味着压缩包在传输中被截断或者下载工具只保存了部分内容就判定完成。这个错误在网盘下载的包里非常高频因为网盘客户端有时候会把还在缓存中的文件提前标记为“下载完成”。解决先看文件大小是否和源站点一致差别超过几十KB就重新下载用支持断点续传的工具下载大文件更可靠。如果文件大小一致还报错可以用7-Zip的修复功能试试提取部分文件拖回来能救多少是多少但不要指望修复完整。最省事的做法是重新下载后立即做md5校验。顺带提醒这类例程包解压过程中如果中途手动取消过也会产生类似问题尽量一次解压完整再操作内部文件。5.2 伪标签噪声把模型带崩阈值与权重的配合现象加入伪标签后没跑几个epoch验证集准确率就开始掉有时直接发散。去掉伪标签部分再跑训练又恢复正常。原因伪标签的置信度阈值设得太低把错误预测当成监督信号喂回去另一个叠加因素是伪标签在训练早期虚高——模型在小数据上已经过拟合对训练集以外的数据预测很“自信”但这个自信并不可靠。解决先把threshold提到0.98观察曲线确认收敛稳定后再逐步降到0.9每次下降观察至少两轮epoch。同时在损失函数里给伪标签样本乘一个0.5的权重降低单次错误标签的影响。如果用的数据集类别数很少比如二分类建议直接用margin采样来生成伪标签不要只看最大类概率因为二分类的0.9置信度很可能来自类别先验偏差。这类问题在例程包里不一定复现但换成你自己的数据后是最容易冒出来的因为它取决于数据分布与预训练模型的匹配程度建议第一时间排查。5.3 主动学习后期指标不升反降采样陷入局部困难区现象主动学习循环前几轮指标持续上涨从第6轮左右开始准确率不涨反跌或者停滞在一个不太理想的水平。原因不确定性采样倾向于把查询集中在模型难以区分的样本这些样本可能是标签噪声本身也可能是类别极度不均衡的尾部小类。到了后期模型把容易学的都学完了被挑选的样本越来越“假困难”为了拟合这些样本模型反而破坏了已经学到的知识。这在图像分类里表现尤其明显因为困难样本往往是模糊或裁剪质量差的图人的标注一致性都很低。解决后期切换成多样性采样或者在查询函数里加入“远离已标注区域”的约束避免重复查询相似的样本。更简单的办法是缩小query_size每轮少采一些同时观察标注员在每一轮标注时的实际体验——如果标注员连续几轮都在抱怨“都是模糊图”基本就是采样策略出了问题。也可以设定提前停止条件连续两轮验证集提升小于阈值就终止主动学习循环把剩余预算省下来。5.4 换机器复现不出结果随机种子与数据顺序的隐形差异现象同一套代码在A机器上跑出的指标是88%换到B机器上只剩85%甚至同一台机器第二次跑也差一个点左右。原因半监督方法对初始状态特别敏感随机种子没固定GPU算子在不同框架版本下的浮点行为有差异数据加载顺序不同导致伪标签生成顺序变化多个随机因素叠加之后不稳定性就被放大了。例程包给的默认结果往往是在固定种子和固定数据顺序下跑出来的你换环境后复现不了很正常。解决固定全局种子还不够还需要固定数据加载器的随机状态和增强的随机状态。常见的做法是设置全局种子之后在DataLoader里传入同一个generator并关闭shuffle之外的随机性。如果要对比不同算法务必在同一台机器上跑完所有实验不要A算法在GPU机器上跑B算法在CPU机器上跑两者的结果完全不可比。另一个偏玄学的经验是训练早期不要用太高的学习率半监督伪标签在早期不稳定高学习率会放大错误信号导致最终收敛点跑偏。这个坑不是例程包特有只要你做半监督实验早晚会撞上。6. 把例程替换成自己的数据三处改动和一条验证路径要跑自己的数据改动的地方其实不多。第一处是数据加载函数把例程里的MNIST或CIFAR类替换成自定义Dataset标签格式转成单数字类别索引第二处是数据增强管线图像任务可以直接复用例程里的增强策略但要把归一化参数换成自己数据集的均值方差这组参数不换模型收敛速度会明显变慢第三处是输出类别数写死在模型初始化里的n_classes一定要改否则最后一层维度不匹配会直接报错。改完这三处之后建议先把伪标签生成关掉只跑有标注部分确认模型能正常收敛到合理水平再打开半监督模块。这样每一步出问题都能定位到具体环节不会把数据加载的锅甩给采样算法。验证路径上我习惯先跑随机采样基线再用最小置信度跑一组最后加伪标签三个结果放在同一条曲线图里一眼就能看出每个模块的贡献。半监督方法在标签率极低时提升最明显比如每类只有十张图的情况如果数据集本身已经有两三万张标注半监督的边际收益大概率没有预想的大。这是我做了几轮实验之后养成的习惯每开一个新数据集先把随机基线和最简单的采样器跑出来再决定要不要继续投入调参。先确认下限在哪再谈上限能省下大量和数据集较劲的时间。希望帮到你。本文还有配套的精品资源点击获取 报考提示：本文涉及的批次、材料要求可能随上级文件调整，报名前建议再确认一次。你所在的工种、城市、当前进度如果拿不准，可以直接电话 18236992212 或在线预约，我们按你的情况单独捋一遍流程，不白跑。
