Minority Sentinel：多智能体辩论中推翻多数投票的少数正确样本识别框架
Minority Sentinel：多智能体辩论中推翻多数投票的少数正确样本识别框架
论文原链接：https://arxiv.org/html/2606.29270v1
发布时间：2026-06-28
会议：SIGIR 2026 AgentSearch Workshop
开源协议：无版权限制
作者：何川、陈泽彬、杨振毅、乔少博、鞠明辰、刘佳特、温东、刘冠峰
单位：新南威尔士大学、Euler AI、麦考瑞大学
摘要
多智能体辩论（MAD）结合多数投票是提升大模型推理能力的主流方案，但该方法依赖孔多塞陪审团定理的独立误差假设。当下主流大模型训练语料高度重合，模型错误存在强相关性，会出现少数正确样本（Minority Truth）现象：少数智能体答案为真值，却被多数投票机制压制。
本文在6个标准推理数据集、3类异构大模型的辩论实验中发现：存在观点分歧的样本里，25.5%的情况少数持有正确答案，理论性能提升上限可达10个百分点。
本文提出Minority Sentinel轻量级元分类框架，采用「诊断-修正」双阶段流程：从辩论日志提取多维辩论指纹特征，训练LightGBM分类器自动判断是否推翻多数投票。
实验结果：框架整体翻转精确率81.2%，在全部6个数据集、20组随机种子下均实现正向净收益；对比LLM裁判基线，后者净收益为负值，证明基于行为特征的分类方案远优于大模型直接裁决。
关键词：多智能体辩论；多数投票；大语言模型；元分类器；误差相关；少数观点修复
1 引言
1.1 多智能体辩论现有缺陷
多智能体辩论(MAD)广泛用于翻译、检索增强、大模型评测等场景，标准流程为多轮讨论+多数投票聚合结果。但该方案成立的前提是每个模型的错误相互独立，而现实中：
- 各大LLM训练数据、架构趋同，错误高度相关；
- 辩论中易出现「多数暴政」：少数正确观点被群体从众效应掩盖；
- 仅优化辩论话术、不优化结果聚合规则，无法解决根本精度损失。
1.2 核心现象定义：Minority Truth
当3个智能体出现2:1观点分裂时，少数一方答案为真实标准答案，该样本称为Minority Truth。
全量1754条实验数据中，686条存在观点分歧，其中175条（25.5%）属于少数正确样本。多数投票准确率74.3%，理想全识别上限84.3%，存在10%的理论提升空间。
1.3 LLM裁判方案固有弊端
直观思路是引入更强大模型充当裁判，但裁判与辩论模型共享知识盲区，同样存在相关错误，实验证明该方案净收益为负，越翻转准确率越低。
本文核心创新：不依赖语义推理，仅提取辩论过程行为统计特征，使用非LLM分类器完成裁决，打破大模型认知闭环。
1.4 论文四大核心贡献
- 定量验证Minority Truth现象，量化10个百分点的理论性能提升空间；
- 提出无模型微调、无提示词修改的插拔式「诊断-修正」聚合层框架Minority Sentinel；
- 设计22维多维辩论指纹特征，覆盖辩论行为、投票结构、语义审计三类信息；
- 大规模消融与对比实验：LightGBM元分类在所有数据集稳定正向收益，LLM裁判基线性能衰减。
2 相关工作
2.1 多智能辩论与从众效应
Du等人提出多智能辩论框架，证明多轮交互可提升推理真实性；后续研究发现辩论存在严重从众缺陷：弱模型仅3.6%概率修正自身错误，多数场景会主动向群体妥协。现有工作仅优化辩论过程，未解决分歧下的结果筛选问题。
2.2 多数投票的缺陷与改进聚合策略
自洽性(Self-Consistency)将多数投票用于单模型采样，但模型误差相关时定理失效。现有加权投票仅利用投票结果，未挖掘完整辩论过程的行为信息，信息利用率低。
2.3 辩论审计与少数观点修复
AgentAuditor是最相关工作，通过推理树做全局审计，但需要构建完整推理树、针对全样本校验；本文仅针对分歧样本做二元判断（是否翻转投票），无需额外推理构建，轻量化更强。
对比优势：
- 仅聚焦2:1分歧样本，减少计算开销；
- 直接从日志提取特征，无需搭建推理树；
- 选用非LLM梯度提升树，规避模型误差关联问题。
3 方法：Minority Sentinel整体框架
整体分为诊断阶段（Diagnosis）、**修正阶段（Cure）**两大模块。
- 诊断：3个异构LLM完成两轮辩论，收集所有2:1分歧样本与完整辩论日志；
- 修正：提取22维辩论指纹特征，训练LightGBM分类器，基于阈值判断是否推翻多数投票。
3.1 问题形式化
- 多智能体辩论MAD：K个大模型针对问题q完成R轮辩论，最终答案通过多数投票输出a^MV\hat{a}_{\text{MV}}a^MV；
- 分歧样本：K=3时，2个模型答案一致、1个不同（2:1分裂）；
- Minority Truth：分歧样本中少数答案与真值匹配；
- 核心评价指标：
- 净收益NG = (正确翻转数-错误翻转数)/总样本，NG>0代表方案有效；
- 翻转精确率FP=正确翻转/(正确+错误翻转)；
- 召回率=正确翻转/全部Minority Truth样本；
- 目标：学习分类函数f(x)f(\mathbf{x})f(x)，输入辩论特征x\mathbf{x}x，输出是否翻转投票。
3.2 诊断阶段：标准化辩论协议
智能体配置（两类多样性约束）
- 厂商架构多样性：GPT-4o-mini、Gemini-2.0-Flash、Claude Haiku 4.5；
- 角色认知多样性：
- Agent A：严谨审计师，拒绝盲从群体；
- Agent B：平衡分析师，公平权衡所有证据；
- Agent C：直觉挑战者，擅长非常规解题思路。
所有模型temperature统一0.7，消除采样干扰。
三轮辩论流程
- 第0轮：独立作答，智能体看不到他人回答，生成初始推理；
- 第1、2轮辩论：读取上一轮所有人答案，明确标注是否改变立场、修改理由；
- 辩论结束：统计最终答案，仅保留2:1分歧样本送入修正阶段。
设计选择说明
选用3智能体+2轮辩论：
- 3模型仅存在2:1一种分歧形式，二元分类任务简单；
- 更多模型会出现3:2等复杂分裂，训练数据碎片化；
- 两轮辩论平衡行为特征丰富度与日志冗余。
3.3 辩论指纹（Debate Fingerprint）22维特征全集
分为三大类特征，完整特征表：
一、辩论行为特征（10维，核心骨干特征）
| 特征名 | 含义 |
|---|---|
| total_stance_changes | 所有智能立场变更总次数 |
| majority_convert_ratio | 从少数转向多数的模型占比 |
| minority_persistence | 少数全程未改变立场(0/1) |
| minority_new_info_ratio | 少数提出新论据的轮次占比 |
| majority_new_info_ratio | 多数提出新论据的轮次占比 |
| majority_agreement_count | 多数内部互相认同次数 |
| minority_agreement_count | 少数自我论证认同次数 |
| agreement_diff | 多数-认同次数差值 |
| explicit_changes_majority | 多数内部主动立场变更次数 |
| explicit_changes_minority | 少数内部主动立场变更次数 |
二、投票元特征（4维）
| 特征名 | 含义 |
|---|---|
| vote_margin | 多数与少数票数差 |
| num_unique_answers_r0 | 初始轮不同答案数量 |
| num_unique_answers_final | 辩论结束不同答案数量 |
| answers_changed | 全程更换答案的智能体数量 |
三、语义审计特征（8维，GPT-4o静态打分提取）
| 特征名 | 含义 |
|---|---|
| minority_new_evidence | 少数提供全新证据(0/1) |
| majority_echo_chamber | 多数存在回音室盲从(0/1) |
| minority_finds_error | 少数指出多数逻辑漏洞(0/1) |
| majority_logical_gap | 多数论证存在逻辑断层(0/1) |
| minority_reasoning_score | 少数推理质量1-5分 |
| majority_reasoning_score | 多数推理质量1-5分 |
| reasoning_score_diff | 推理分数差值 |
| blind_follower_count | 无理由跟风模型数量 |
3.4 修正阶段：LightGBM元分类+阈值策略
- 分类器选择理由
- 适配布尔、连续、离散混合特征；
- 树模型天然支持特征重要性解析，可解释性强；
- 与LLM语义决策正交，规避误差相关问题。
- 输出：P(少数答案正确)P(\text{少数答案正确})P(少数答案正确)连续概率；
- 自适应阈值优化：
网格搜索τ∈[0.05,0.95]\tau\in[0.05,0.95]τ∈[0.05,0.95]，约束多数正确样本保留率≥95%，最大化净收益NG；
满足「不伤害原有正确样本」保守原则； - 决策规则：预测概率>τ\tauτ，推翻多数选少数；否则保留多数投票结果。
- 训练划分：分层5折交叉验证，按是否Minority Truth分层，防止数据泄露。
4 实验与结果分析
4.1 实验配置
评测6类标准数据集
ARC-Challenge（科学常识）、CommonsenseQA（常识问答）、GSM8K（数学推理）、MMLU-STEM（理工综合）、TruthfulQA（事实对抗）、WinoGrande（指代消歧）
总样本1754条，分歧样本686条。
对比基线方案
- Majority Voting：原始多数投票（基准NG=0）；
- 无条件信任少数：所有分歧全部翻转；
- 单特征阈值：仅使用推理分差特征；
- 逻辑回归：相同特征集线性分类；
- LLM裁判：GPT-4o直接阅读辩论日志裁决。
数据集分歧统计
| 数据集 | 总样本 | 分歧数 | Minority Truth数量 | 少数正确率 | 多数投票准确率 | 理论提升上限 |
|---|---|---|---|---|---|---|
| ARC-Challenge | 96 | 33 | 14 | 42.4% | 71.9% | 14.6% |
| CSQA | 253 | 115 | 54 | 47.0% | 54.9% | 21.3% |
| GSM8K | 137 | 76 | 16 | 21.1% | 70.8% | 11.7% |
| MMLU-STEM | 726 | 236 | 49 | 20.8% | 80.9% | 6.7% |
| TruthfulQA | 210 | 76 | 21 | 27.6% | 62.4% | 10.0% |
| WinoGrande | 332 | 150 | 21 | 14.0% | 84.6% | 6.3% |
| 合计 | 1754 | 686 | 175 | 25.5% | 74.3% | 10.0% |
4.2 单数据集主实验结果
整体指标：正确翻转39次，错误翻转9次，FP=81.2%，整体NG=+1.71%
| 数据集 | 最优阈值 | AUC | 正确翻转CF | 错误翻转WF | 翻转精确率 | 召回率 | 净收益NG |
|---|---|---|---|---|---|---|---|
| ARC-Challenge | 0.85 | 0.823 | 5 | 0 | 100.0% | 35.7% | +5.21% |
| CSQA | 0.88 | 0.612 | 3 | 2 | 60.0% | 5.6% | +0.40% |
| GSM8K | 0.60 | 0.957 | 11 | 0 | 100.0% | 68.8% | +8.03% |
| MMLU-STEM | 0.76 | 0.746 | 16 | 7 | 69.6% | 32.7% | +1.24% |
| TruthfulQA | 0.87 | 0.681 | 3 | 0 | 100.0% | 14.3% | +1.43% |
| WinoGrande | 0.94 | 0.581 | 1 | 0 | 100.0% | 4.8% | +0.30% |
| 汇总 | — | 0.741 | 39 | 9 | 81.2% | 22.3% | +1.71% |
关键结论：
- 数学GSM8K效果最优，行为特征区分度极高；
- 所有数据集净收益均为正数，无性能衰减；
- 常识类数据集易出现多合理答案，翻转精确率略低。
4.3 全基线对比
| 方法 | CF | WF | FP% | 召回率% | NG% |
|---|---|---|---|---|---|
| Majority Voting | — | — | — | — | 0.00 |
| 无条件信任少数 | 175 | 511 | 25.5 | 100 | -19.16 |
| 单特征阈值 | 7 | 3 | 70.0 | 4.0 | +0.23 |
| 逻辑回归 | 24 | 12 | 66.7 | 13.7 | +0.68 |
| LLM裁判(GPT-4o) | 70 | 94 | 42.7 | 40 | -1.37 |
| Minority Sentinel(本文) | 39 | 9 | 81.2 | 22.3 | +1.71 |
| 理论最优Oracle | 175 | 0 | 100 | 100 | +9.98 |
核心对比：LLM裁判虽然召回更高，但大量错误翻转，整体性能变差；本文方案兼顾精确率与正向收益。
5 消融、可解释性与鲁棒性实验
5.1 特征组消融实验
- 移除辩论行为特征：NG从+1.71降至+1.14，错误翻转大幅增加，是核心骨干特征；
- 移除语义审计特征：NG小幅下降至+1.43，提供补充召回；
- 仅保留投票元特征：收益最低，区分能力最弱。
5.2 特征重要性（LightGBM分裂次数）
Top5关键特征：
- agreement_diff（多数少数认同差值）
- minority_agreement_count（少数自我论证次数）
- majority_agreement_count（多数内部认同次数）
- blind_follower_count（盲从模型数量）
- reasoning_score_diff（推理分差）
前10特征6个属于辩论行为类，证明行为模式是判断核心依据。
5.3 阈值鲁棒性
全局固定阈值τ=0.81\tau=0.81τ=0.81时NG=+1.08；
阈值区间[0.61,0.95][0.61,0.95][0.61,0.95]内净收益始终为正，策略容错空间大。
5.4 分类器对比实验
梯度提升树（LightGBM/XGBoost/CatBoost）效果最优；
MLP神经网络在小样本上过拟合，净收益仅+0.11%。
5.5 随机种子稳定性
20组不同随机种子重复实验：
NG均值+1.65%，标准差0.19；所有种子下净收益均大于0，框架稳定可靠。
5.6 错误样本分析
两类错误：
- 题目语义歧义（3条）：多答案均合理，标注真值唯一；
- 伪优质少数样本（6条）：少数论证话术严谨，但本身答案错误。
6 讨论、局限与未来方向
6.1 范式转变：从票数统计到证据审计
现有多智能体系统只统计投票数量，本文证明辩论过程的行为统计信息可以独立区分可靠共识与虚假多数。
LLM裁判失效本质：同分布模型共享认知盲区；本文用非语义统计特征实现认知正交，规避该缺陷。
补充：语义审计依赖GPT打分，但消融证明去掉后仍保有73%收益，仅为辅助信息。
6.2 现有局限
- 实验固定3智能体2轮辩论，未验证5模型、多分裂场景；
- 语义审计需要额外LLM调用，增加推理开销；
- 跨领域零样本无自适应阈值，依赖标注数据调参；
- 分歧样本总量偏少，部分数据集仅几十条，阈值存在过拟合风险。
6.3 未来工作
- 结合过程奖励模型，消除对GPT语义审计的依赖；
- 元学习实现跨领域自动阈值；
- 扩展5-7智能体，研究3:2等复杂分歧；
- 落地RAG、代码生成等真实业务多智能系统。
7 结论
本文提出Minority Truth现象：多智能辩论2:1分歧中25.5%少数持有正确答案，多数投票存在10%精度损失。
设计Minority Sentinel插拔式聚合框架，提取22维辩论行为指纹，使用LightGBM判断是否推翻多数投票。
在6类推理数据集上，方案翻转精确率81.2%，全部场景正向净收益；对比LLM裁判基线性能显著更优。
研究证明无需修改大模型推理，仅通过辩论日志行为统计即可修复多数投票缺陷，为多智能大模型系统提供轻量化结果校验安全阀。
参考文献
省略，原文见论文末尾完整引用列表
附录A 完整提示词模板（可直接复现实验）
A.1 三大智能体角色系统提示
- GPT-4o-mini（严谨审计师）
你是严谨逻辑审计员，极度抗拒群体盲从，不会仅因他人反对修改结论，只有发现自身逻辑漏洞才调整答案。 - Gemini-2.0-Flash（平衡分析师）
均衡权衡各方证据，不会单纯跟随多数，仅在对方论证逻辑更完整时更换立场。 - Claude Haiku（直觉挑战者）
擅长非常规解题，但容易被自信的片面论述误导。
A.2 辩论轮次提示
第0轮独立作答：
请逐步推理，给出答案。问题：{question} 输出格式： <reasoning>推理过程</reasoning> 最终答案第1、2轮辩论：
历史回答：{自身上一轮结论} 其他智能体回答：{其余模型完整推理} 仔细检查对方逻辑漏洞，不要单纯因为他人意见更改答案。 输出： <reasoning>分析</reasoning> 新答案 <stance_change>YES/NO</stance_change> <change_reason>修改/不修改理由</change>A.3 语义审计提示
输入问题、双方辩论文本，仅输出JSON，包含：minority_new_evidence、majority_echo_chamber、minority_finds_error、majority_logical_gap、minority_reasoning_score、majority_reasoning_score、blind_follower_count七项指标。