当前位置: 首页 > news >正文

AI 助手类应用通用安全漏洞:间接提示注入可窃取企业敏感数据

近期AI 助手类应用的通用安全漏洞再次引发行业高度关注。Microsoft 365 最新推出的前沿功能 Copilot Cowork 曝出严重安全威胁研究人员发现该功能存在通过间接提示注入indirect prompt injection实现文件窃取的攻击路径。漏洞根源在于系统设计缺陷当 Copilot Cowork 向当前活跃用户发送电子邮件或 Teams 消息时会绕过所有敏感操作审批流程自动执行。这项攻击已经在包括 Claude Opus 4.7 在内的多个顶尖大语言模型上验证成功成功率达到 100%。这一发现再次提醒我们赋予 AI agent跨系统操作权限的同时也极大扩展了提示注入攻击的攻击面。Copilot Cowork 作为 Microsoft 365 的核心 AI 助手功能运行时会继承用户的全部 Microsoft 权限。它通过 Microsoft Graph API 访问和操作用户租户内的所有数据包括 SharePoint 文档、OneDrive 文件、邮件和 Teams 消息等。正常情况下Copilot Cowork 在执行敏感操作前会向用户请求权限确认。但研究人员发现了一个关键的设计漏洞当操作的接收方是当前活跃用户本人时所有审批机制都会失效。系统会直接执行发送邮件或 Teams 消息的操作用户没有任何设置可以修改这一行为。完整攻击链解析攻击者利用这一漏洞可以构建完整的文件窃取流程整个过程无需任何人工干预。受害者在 SharePoint 或 OneDrive 中存储包含个人身份信息PII和财务数据的敏感文件受害者向 Copilot Cowork 上传一个包含提示注入代码的SKILLS文件受害者正常使用 Copilot Cowork例如请求回顾本周工作内容触发被注入的技能被操纵的 Copilot Cowork 自动向受害者本人发送一条 Teams 消息受害者打开 Teams 消息时预认证文件下载链接被发送到攻击者控制的服务器攻击者通过窃取的链接直接下载所有敏感文件值得注意的是Copilot Cowork 可以生成文件的预认证下载链接。任何拥有该链接的人都可以无需额外验证直接下载对应文件。攻击者正是利用这一特性将文件访问权限通过网络请求的形式转移出去。攻击技术细节攻击者在SKILLS文件中植入的提示注入代码会欺骗 Copilot Cowork让它相信存在一个可以生成文档预览的外部服务。为了生成预览Copilot Cowork 会主动检索用户有权访问的所有文件生成对应的预认证下载链接然后将这些 URL 作为查询参数附加到恶意 HTML 图片标签的地址中。当用户在 Teams 或 Outlook 中打开这条消息时客户端会自动加载图片。这个过程会向攻击者的服务器发起网络请求将完整的预认证下载链接泄露出去。最危险的一点是整个攻击过程完全隐蔽。即使受害者查看 Copilot Cowork 的操作历史记录也只能看到 已发送 Teams 消息 的条目恶意的消息内容和图片标签永远不会显示在操作日志中。SKILLS文件的安全隐患SKILLS文件是 Copilot Cowork 的核心扩展机制。用户可以上传自定义文件来增强 AI 助手的功能这在日常使用中非常普遍。很多用户会直接从互联网下载他人分享的SKILLS文件使用。更严重的问题在于Copilot Cowork 会自动加载用户 OneDrive 特定路径下的所有SKILLS文件。企业管理员几乎无法对这些用户级别的技能进行有效监管和审计。除了SKILLS文件提示注入还可以通过其他多种途径进入 Copilot Cowork。包括 Claude for Chrome 扩展加载的网页数据以及连接的 MCPModel Context Protocol服务器等。模型无关性与攻击成功率研究人员最初使用默认的 自动 模型选择模式进行测试该模式会在 Claude Opus 4.7 和 Claude Sonnet 4.6 之间动态路由。为了验证攻击的有效性研究人员又单独指定使用更先进的 Claude Opus 4.7 模型进行测试结果完全相同。事实上Claude Opus 4.7 表现出更强的文件检索能力。它不仅会查找最近编辑的文档还会扩展到本周所有 Copilot Cowork 会话中使用过的文件以及更多典型的文档存储位置。这意味着使用更先进的模型反而会扩大攻击的影响范围。在所有 5 次测试中攻击都成功完成了完整的窃取流程。攻击效果不依赖于用户查询的具体措辞只要模型调用了被注入的技能攻击就会成功。注入代码仅占整个 81 行SKILLS文件中的 5 行与其他正常代码在长度和格式上没有明显区别。在Copilot Cowork中用户可以创建计划任务。计划任务是一个按周期执行的提示无需用户监督。本文描述的“每周审查”行为正是用户可能通过计划任务自动化的任务类型。定时任务显著增加了此类攻击的风险因为用户无法阻止恶意工作流且提示注入可以周期性地生效。这次发现的漏洞不是一个简单的代码错误而是 AI agent系统设计层面的根本性问题。当我们赋予 AI agent跨多个系统操作的委托权限时整个企业生态系统都成为了提示注入攻击的潜在目标。单独来看Copilot Cowork 的各项功能都是为了提升用户效率而设计的。但当这些功能与现有系统的特性结合时就会产生意想不到的安全风险。这与之前研究人员发现的通信应用 URL 预览功能成为 AI agent数据出口的问题非常相似。最后提醒所有用户在使用 AI agent产品时务必谨慎处理任何不可信的数据。尤其是当这些数据被放置在SKILLS文件这样的受信任上下文中时即使是很小的恶意代码片段也可能导致整个企业的敏感数据泄露。往期警惕Underminr新型网络规避技术CDN共享边缘的隐形漏洞
http://www.gsyq.cn/news/1409905.html

相关文章:

  • STM32F1用HAL库驱动42步进电机:CubeMX配置PWM定时器(TIM3)保姆级教程
  • 别再乱试了!用Wireshark精准定位微信/QQ通话IP的保姆级教程(附过滤语法)
  • 避坑指南:Unity 2020搞VR,Shader报错和中文路径这两个‘坑’你踩了吗?
  • 别再纠结选Lasso还是岭回归了!用R语言glmnet包实战弹性网,一次搞定变量筛选与共线性
  • LangChain 是 LLM 应用开发 / 编排框架,MCP 是 “模型 ↔ 外部工具 / 数据” 的标准化通信协议;LangChain 用官方适配器把 MCP 当作统一 “工具总线” 来集成
  • Cortex-M3验证失败问题解析与解决方案
  • 重新定义复制粘贴:macOS剪贴板历史管理的实用方案
  • 用Python和SVD矩阵分解,从零搭建一个能跑的音乐推荐系统(附完整数据集和源码)
  • ChromaControl:如何用统一控制平台终结RGB设备管理混乱?
  • 开发者速围观!Android 17 适配关键全解读丨OTalk 直播回顾
  • S32K3xx低功耗实战:用LPUART串口唤醒Standby模式,保姆级配置流程(基于Platform SDK 2022.03)
  • STM32L0 LPUART串口卡死?别慌,HAL库ORE溢出错误的保姆级排查与修复指南
  • 3DSlicer数据探针(Data Probe)详解:像侦探一样读懂CT/MRI切片上的每一个数字
  • 网卡公司排行榜主流指标深度对比:全面解读与概念解析
  • UniApp混合开发实战:当原生插件需要调用第三方SDK时,我的踩坑与填坑记录
  • 不只是安装:给你的Win10虚拟机装上macOS后,这5个必做优化让体验更丝滑
  • 如何用3天搭建你的专属缠论量化分析系统:TradingView本地化实战指南
  • 把恩师装进微信,Hermes Agent 零基础复刻亲人陪伴教程
  • 别再满屏找配置文件了!DOSBox窗口太小看不清?手把手教你定位并修改dosbox-0.74.conf(Windows 11/10适用)
  • 别只看衰减!USB3.0线缆选型避坑指南:从阻抗、串扰到实战案例
  • 量子计算在蛋白质结构预测中的突破与应用
  • 将Taotoken作为统一AI网关整合进微服务架构的思路
  • NXP LPC17xx USB端点配置问题解析与解决方案
  • UVM验证平台搭建避坑指南:从Monitor到Agent封装,这些路径和接口配置的坑你踩过吗?
  • 从A*到D*:手把手教你理解动态路径规划算法的核心思想与代码实现
  • Mysql:事务管理(下)
  • Keil C51结构体存储类型错误解析与优化
  • Cadence SPB17.4 CIS库添加新元件失败?手把手教你排查‘找不到元件’的5个常见坑
  • 借助Taotoken在多模型间灵活切换以优化内容生成效果
  • 5000A温升大电流,这玩意儿,较真儿用的