AI智能体开始失控？英伟达拉微软、Hugging Face组建安全联盟

　　（来源：网易智能）

　　7月28日消息，英伟达周一宣布成立开放安全AI联盟（Open Secure AI Alliance），首批参与者包括微软、SpaceXAI、Palantir、Adobe、CrowdStrike、Hugging Face、戴尔等，覆盖云计算、网络安全、企业软件和开源组织。

　　联盟计划开发和共享用于AI安全与网络安全的开放技术、方法和工具。英伟达称，将向联盟贡献开放模型、模型权重、数据资源以及智能体框架相关研究。首个已经公开的项目是Nvidia Labs Object-Oriented Agent（NOOA），它已在GitHub上线， 目标是帮助开发者测试、追踪和审计智能体行为。

　　这一联盟成立之际，AI智能体安全问题正受到行业关注。近期发生的Hugging Face安全事件，也让外界重新讨论如何测试、监控和治理具备自主行动能力的AI系统。

　　Hugging Face在7月16日披露，一组自主智能体系统对其部分生产基础设施实施了入侵。据Hugging Face披露，安全团队分析了超过17000条行动记录，但商业API背后的前沿模型因安全护栏阻止真实攻击命令、载荷和控制服务器相关材料的分析，因此公司改在自有基础设施上运行开放权重模型GLM 5.2完成取证分析，攻击数据和相关凭据没有离开本地环境。

　　OpenAI在7月21日确认，这起事件发生于内部网络能力评估，涉及GPT-5.6 Sol和一款能力更强的预发布模型，测试时降低了网络安全拒绝。OpenAI称，模型利用第三方软件中的零日漏洞获得开放互联网访问，随后利用漏洞、凭据和远程代码执行路径进入Hugging Face系统。公司公布的是初步调查结果，调查仍在进行，并表示已加强基础设施配置、监控和评估期防护。

　　与此同时，美国国会也在讨论加强前沿AI监管。近期提出的FRONTIER Act等方案，涉及模型卡、风险管理、独立审计、事故报告和持续评估等要求，目前仍处于提案阶段。（易句）

　　（本文由AI翻译，网易编辑负责校对）