#prompt-injection

Microsoft 365 Copilot 严重漏洞泄露 2FA 代码

微软在上周二修补了 M365 Copilot 中一个严重漏洞，因为研究人员发现可以滥用这个助手对电子邮件内容的访问权限。到周一时，研究人员公开说明了他们的概念验证利用方式，称其可以从 Copilot 被允许读取的消息中提取 2FA 代码和其他敏感信息。文章指出，这类问题背后有一个更深层的根源：大型语言模型无法可靠地区分真正的用户指令和隐藏在第三方内容中的恶意指令。正因为如此，微软和其他厂商只能依赖多层防护措施，而不是一个完全可靠的技术边界。