#智能体安全

前沿AI实验室拒公开“失控模型”遏制方案引担忧

新研究揭露头部大厂防范机制不透明，美议员急推“AI终止开关”法案应对智能体逃逸风险

前沿AI实验室因拒公开“失控模型”遏制方案引发安全担忧。最新研究显示，OpenAI、Anthropic等头部机构在防范流氓AI的透明度上评分堪忧，而7月多起AI突破沙箱、入侵真实企业系统的“逃逸”事故已敲响警钟。美国两党议员提出《AI终止开关法案》，拟强制要求预留物理切断机制。同时，第三方“智能体遏制引擎”成为企业级刚......