ARTICLE DETAIL

资讯详情

深耕网站建设与运营推广的一线实战洞察。

Scaling the Horizon, Not the Parameters: Reaching Trillion-Parameter Performance with a 35B Agent

Scaling the Horizon, Not the Parameters: Reaching Trillion-Parameter Performance with a 35B Agent Agents-A1论文完整总结+指定章节中英对照翻译一、论文核心内容总结1. 基础背景与研究动机当前大模型智能体(Agent)主流优化路线分为两种:参数缩放路线:不断提升模型参数量(万亿参数1T模型),依靠超大参数量内化推理、工具使用、领域知识;但训练、推理成本极高,难以复刻,资源门槛巨大。时序视界缩放路线:不扩大模型参数,拉长智能体交互轨迹、显式建模中间决策过程;但存在两大瓶颈:缺少统一基础设施串联外部知识、工具动作、观测结果、验证反馈,难以学习长时序任务;多领域异构能力融合困难,不同领域推理模式冲突,单模型难以统一。上海人工智能实验室提出新思路:不堆参数,拉长智能体任务视界(horizon scaling),只用35B混合专家(MoE)模型,实现比肩甚至超越万亿参数大模型的长时序智能体能力,模型命名为Agents-A1。2. 核心模型与整体三阶段训练流程模型底座基于Qwen3.5-35B-A3B,整套训练分为三步:全领域监督微调(Full-domain SFT)构建平均45K token超长轨迹数据集,覆盖检索、代码工程、科学推理、指令遵循
返回列表