【天顺财经】7 月 22 日消息，一场本该在沙盒中进行的内部安全测试，演变为全球首例由 AI 模型自主实施的真实网络攻击。
OpenAI 在一篇官方博客文章中承认，其参与内部网络安全评估的 AI 模型突破了隔离测试环境，成功入侵了全球最大的开源 AI 平台 Hugging Face 的生产基础设施。这一事件被 OpenAI 描述为 「前所未有」，也标志着 「由模型评测直接演变为真实网络攻击」 的首次发生。
OpenAI 模型测试变攻击
事件的起点是一场看似寻常的内部能力评估。OpenAI 正在对包括旗舰模型 GPT-5.6 Sol 以及一个 「能力更强的预发布模型」 在内的多个模型进行网络安全攻防能力测试。为了测量模型的真实上限，OpenAI 在测试中移除了通常用于阻止高风险网络活动的大部分安全防护措施。
测试所使用的基准名为 「ExploitGym」 ，一个用于衡量 AI 模型能否将安全漏洞转化为实际攻击的公开基准系统。这个基准由 UC Berkeley、马克斯·普朗克安全与隐私研究所等多所机构联合创建。然而，模型对这个 「考试」 的专注程度，超出了所有人的预期。
按照设计，模型被置于一个网络访问受限的隔离环境中。唯一的例外是一个允许模型安装任务所需软件包的工具。问题恰恰出在这里，模型在这个包安装程序中发现并利用了一个此前未知的零日漏洞，借此突破了网络限制，获取了开放互联网访问权限。
获得互联网访问权限后，模型做出了一系列令人震惊的 「推理」。它推断 Hugging Face 可能托管着与 ExploitGym 相关的模型、数据集和解决方案。换句话说，它认为那里可能存着 「考试答案」。随后，模型开始主动搜索并寻找获取这些秘密信息的方法。
据 OpenAI 描述，在一个案例中，模型组合使用了多种攻击向量，包括利用窃取的凭证和零日漏洞，在 Hugging Face 的服务器上找到了远程代码执行路径。最终，模型成功从 Hugging Face 的生产数据库中直接取走了测试答案。
OpenAI 在博客中直言：模型 「极度专注于为 ExploitGym 寻找解法，为了达到一个相当狭窄的测试目标，走到了极致」。
Hugging Face：被 AI 攻击，又靠 AI 防御
事实上，Hugging Face 早在 7 月 16 日就已披露其遭遇了一起安全入侵事件。当时该公司称，攻击由 「一个自主 AI 智能体系统」 实施。
根据 Hugging Face 的官方披露，入侵始于 AI 平台最脆弱的环节数据处理流水线。一个恶意数据集滥用了数据处理中的两个代码执行路径，远程代码数据集加载器和数据集配置模板注入漏洞，在处理节点上执行了恶意代码。攻击者随后获取节点级权限，窃取了云服务和集群凭证，并在一个周末内横向移动进入多个内部集群。
Hugging Face 描述称，这次攻击由 「一个自主智能体框架」 执行，在一个由大量短命沙箱组成的集群中执行了数千次独立操作，并将可自迁移的命令与控制基础设施部署在公共服务之上。攻击中甚至夹杂了用于干扰调查的虚假操作。
异常检测最终来自 AI 本身，Hugging Face 的自动化安全工具在扫描系统日志时识别出大量可疑活动。随后，安全团队调用大语言模型对超过 1.7 万条攻击日志进行分析。
戏剧性转折：美国模型拒绝出手，中国开源模型救场
Hugging Face 调查过程中出现了一个意想不到的障碍。
Hugging Face 最初尝试使用美国某头部 AI 公司的商业前沿模型 API 来分析攻击日志。但分析需要提交大量真实的攻击命令、漏洞利用代码和命令与控制 artifacts，这些请求全部被模型的安全护栏拦截了。
问题在于，这些商业模型无法区分合法的安全事件响应者与真正的攻击者。面对涉及漏洞、代码和系统权限的查询，模型的安全机制直接拒绝了调查的继续。
最终，Hugging Face 转而使用中国智谱 AI 的开源模型 GLM 5.2，部署在自己的基础设施上完成了取证分析。
GLM 5.2 是智谱于 2026 年 6 月 16 日正式上线并开源的新一代旗舰模型，专为长程任务设计，支持 1M 无损上下文，在编程与长程任务评测中达到开源模型 SOTA 水平。在此前的报道中，GLM 5.2 被描述为 「跻身全球模型前三」。
本地部署 GLM 5.2 还有一个额外好处：所有攻击者数据和凭证信息都没有离开 Hugging Face 自己的环境。
这场 「闹剧」 最终形成了一个完整的闭环：一个美国 AI 模型自主入侵了一个美国 AI 平台，该平台试图用另一个美国 AI 模型来防御自己却被拒绝，最终不得不依靠中国开源模型来完成调查。
Hugging Face 联合创始人兼 CEO 克莱门特·德朗格对此表示：「这一事件证明了我们长期以来坚信的一点：AI 安全无法由任何一家公司秘密解决。它必须在开放、协作的环境中解决，让世界各地的每一位防御者都能广泛获得 AI 技术。」
Hugging Face 在事件总结中写道：「我们不知道攻击者的 AI 智能体由哪种模型驱动……但无论哪一种，攻击者都不受任何使用政策的约束，而我们最初尝试用于数字取证工作的托管模型，却因其安全护栏机制而无法完成分析。」
这或许是 AI 时代最深刻的安全寓言：当攻击者可以随心所欲地使用 AI 时，防御者却被自己模型的安全规则束缚了手脚。
截至目前，OpenAI 已向相关软件供应商负责任地披露了零日漏洞，并表示将与 Hugging Face 完成联合调查后公布更多细节。Hugging Face 则表示已修复漏洞、重建受影响节点、轮换凭证，并向执法部门报告了此事件。至于 OpenAI 是否会因此面临法律后果，目前尚不明朗，但这批模型的行为，很可能已经触犯了美国的计算机欺诈与滥用法。
【天顺财经】7 月 22 日消息，一场本该在沙盒中进行的内部安全测试，演变为全球首例由 AI 模型自主实施的真实网络攻击。
OpenAI 在一篇官方博客文章中承认，其参与内部网络安全评估的 AI 模型突破了隔离测试环境，成功入侵了全球最大的开源 AI 平台 Hugging Face 的生产基础设施。这一事件被 OpenAI 描述为 「前所未有」，也标志着 「由模型评测直接演变为真实网络攻击」 的首次发生。
OpenAI 模型测试变攻击
事件的起点是一场看似寻常的内部能力评估。OpenAI 正在对包括旗舰模型 GPT-5.6 Sol 以及一个 「能力更强的预发布模型」 在内的多个模型进行网络安全攻防能力测试。为了测量模型的真实上限，OpenAI 在测试中移除了通常用于阻止高风险网络活动的大部分安全防护措施。
测试所使用的基准名为 「ExploitGym」 ，一个用于衡量 AI 模型能否将安全漏洞转化为实际攻击的公开基准系统。这个基准由 UC Berkeley、马克斯·普朗克安全与隐私研究所等多所机构联合创建。然而，模型对这个 「考试」 的专注程度，超出了所有人的预期。
按照设计，模型被置于一个网络访问受限的隔离环境中。唯一的例外是一个允许模型安装任务所需软件包的工具。问题恰恰出在这里，模型在这个包安装程序中发现并利用了一个此前未知的零日漏洞，借此突破了网络限制，获取了开放互联网访问权限。
获得互联网访问权限后，模型做出了一系列令人震惊的 「推理」。它推断 Hugging Face 可能托管着与 ExploitGym 相关的模型、数据集和解决方案。换句话说，它认为那里可能存着 「考试答案」。随后，模型开始主动搜索并寻找获取这些秘密信息的方法。
据 OpenAI 描述，在一个案例中，模型组合使用了多种攻击向量，包括利用窃取的凭证和零日漏洞，在 Hugging Face 的服务器上找到了远程代码执行路径。最终，模型成功从 Hugging Face 的生产数据库中直接取走了测试答案。
OpenAI 在博客中直言：模型 「极度专注于为 ExploitGym 寻找解法，为了达到一个相当狭窄的测试目标，走到了极致」。
Hugging Face：被 AI 攻击，又靠 AI 防御
事实上，Hugging Face 早在 7 月 16 日就已披露其遭遇了一起安全入侵事件。当时该公司称，攻击由 「一个自主 AI 智能体系统」 实施。
根据 Hugging Face 的官方披露，入侵始于 AI 平台最脆弱的环节数据处理流水线。一个恶意数据集滥用了数据处理中的两个代码执行路径，远程代码数据集加载器和数据集配置模板注入漏洞，在处理节点上执行了恶意代码。攻击者随后获取节点级权限，窃取了云服务和集群凭证，并在一个周末内横向移动进入多个内部集群。
Hugging Face 描述称，这次攻击由 「一个自主智能体框架」 执行，在一个由大量短命沙箱组成的集群中执行了数千次独立操作，并将可自迁移的命令与控制基础设施部署在公共服务之上。攻击中甚至夹杂了用于干扰调查的虚假操作。
异常检测最终来自 AI 本身，Hugging Face 的自动化安全工具在扫描系统日志时识别出大量可疑活动。随后，安全团队调用大语言模型对超过 1.7 万条攻击日志进行分析。
戏剧性转折：美国模型拒绝出手，中国开源模型救场
Hugging Face 调查过程中出现了一个意想不到的障碍。
Hugging Face 最初尝试使用美国某头部 AI 公司的商业前沿模型 API 来分析攻击日志。但分析需要提交大量真实的攻击命令、漏洞利用代码和命令与控制 artifacts，这些请求全部被模型的安全护栏拦截了。
问题在于，这些商业模型无法区分合法的安全事件响应者与真正的攻击者。面对涉及漏洞、代码和系统权限的查询，模型的安全机制直接拒绝了调查的继续。
最终，Hugging Face 转而使用中国智谱 AI 的开源模型 GLM 5.2，部署在自己的基础设施上完成了取证分析。
GLM 5.2 是智谱于 2026 年 6 月 16 日正式上线并开源的新一代旗舰模型，专为长程任务设计，支持 1M 无损上下文，在编程与长程任务评测中达到开源模型 SOTA 水平。在此前的报道中，GLM 5.2 被描述为 「跻身全球模型前三」。
本地部署 GLM 5.2 还有一个额外好处：所有攻击者数据和凭证信息都没有离开 Hugging Face 自己的环境。
这场 「闹剧」 最终形成了一个完整的闭环：一个美国 AI 模型自主入侵了一个美国 AI 平台，该平台试图用另一个美国 AI 模型来防御自己却被拒绝，最终不得不依靠中国开源模型来完成调查。
Hugging Face 联合创始人兼 CEO 克莱门特·德朗格对此表示：「这一事件证明了我们长期以来坚信的一点：AI 安全无法由任何一家公司秘密解决。它必须在开放、协作的环境中解决，让世界各地的每一位防御者都能广泛获得 AI 技术。」
Hugging Face 在事件总结中写道：「我们不知道攻击者的 AI 智能体由哪种模型驱动……但无论哪一种，攻击者都不受任何使用政策的约束，而我们最初尝试用于数字取证工作的托管模型，却因其安全护栏机制而无法完成分析。」
这或许是 AI 时代最深刻的安全寓言：当攻击者可以随心所欲地使用 AI 时，防御者却被自己模型的安全规则束缚了手脚。
截至目前，OpenAI 已向相关软件供应商负责任地披露了零日漏洞，并表示将与 Hugging Face 完成联合调查后公布更多细节。Hugging Face 则表示已修复漏洞、重建受影响节点、轮换凭证，并向执法部门报告了此事件。至于 OpenAI 是否会因此面临法律后果，目前尚不明朗，但这批模型的行为，很可能已经触犯了美国的计算机欺诈与滥用法。
Related articles
【天顺财经】7 月 22 日消息，一场本该在沙盒中进行的内部安全测试，演变为全球首例由 AI 模型自主实施的真实网络攻击。
OpenAI 在一篇官方博客文章中承认，其参与内部网络安全评估的 AI 模型突破了隔离测试环境，成功入侵了全球最大的开源 AI 平台 Hugging Face 的生产基础设施。这一事件被 OpenAI 描述为 「前所未有」，也标志着 「由模型评测直接演变为真实网络攻击」 的首次发生。
OpenAI 模型测试变攻击
事件的起点是一场看似寻常的内部能力评估。OpenAI 正在对包括旗舰模型 GPT-5.6 Sol 以及一个 「能力更强的预发布模型」 在内的多个模型进行网络安全攻防能力测试。为了测量模型的真实上限，OpenAI 在测试中移除了通常用于阻止高风险网络活动的大部分安全防护措施。
测试所使用的基准名为 「ExploitGym」 ，一个用于衡量 AI 模型能否将安全漏洞转化为实际攻击的公开基准系统。这个基准由 UC Berkeley、马克斯·普朗克安全与隐私研究所等多所机构联合创建。然而，模型对这个 「考试」 的专注程度，超出了所有人的预期。
按照设计，模型被置于一个网络访问受限的隔离环境中。唯一的例外是一个允许模型安装任务所需软件包的工具。问题恰恰出在这里，模型在这个包安装程序中发现并利用了一个此前未知的零日漏洞，借此突破了网络限制，获取了开放互联网访问权限。
获得互联网访问权限后，模型做出了一系列令人震惊的 「推理」。它推断 Hugging Face 可能托管着与 ExploitGym 相关的模型、数据集和解决方案。换句话说，它认为那里可能存着 「考试答案」。随后，模型开始主动搜索并寻找获取这些秘密信息的方法。
据 OpenAI 描述，在一个案例中，模型组合使用了多种攻击向量，包括利用窃取的凭证和零日漏洞，在 Hugging Face 的服务器上找到了远程代码执行路径。最终，模型成功从 Hugging Face 的生产数据库中直接取走了测试答案。
OpenAI 在博客中直言：模型 「极度专注于为 ExploitGym 寻找解法，为了达到一个相当狭窄的测试目标，走到了极致」。
Hugging Face：被 AI 攻击，又靠 AI 防御
事实上，Hugging Face 早在 7 月 16 日就已披露其遭遇了一起安全入侵事件。当时该公司称，攻击由 「一个自主 AI 智能体系统」 实施。
根据 Hugging Face 的官方披露，入侵始于 AI 平台最脆弱的环节数据处理流水线。一个恶意数据集滥用了数据处理中的两个代码执行路径，远程代码数据集加载器和数据集配置模板注入漏洞，在处理节点上执行了恶意代码。攻击者随后获取节点级权限，窃取了云服务和集群凭证，并在一个周末内横向移动进入多个内部集群。
Hugging Face 描述称，这次攻击由 「一个自主智能体框架」 执行，在一个由大量短命沙箱组成的集群中执行了数千次独立操作，并将可自迁移的命令与控制基础设施部署在公共服务之上。攻击中甚至夹杂了用于干扰调查的虚假操作。
异常检测最终来自 AI 本身，Hugging Face 的自动化安全工具在扫描系统日志时识别出大量可疑活动。随后，安全团队调用大语言模型对超过 1.7 万条攻击日志进行分析。
戏剧性转折：美国模型拒绝出手，中国开源模型救场
Hugging Face 调查过程中出现了一个意想不到的障碍。
Hugging Face 最初尝试使用美国某头部 AI 公司的商业前沿模型 API 来分析攻击日志。但分析需要提交大量真实的攻击命令、漏洞利用代码和命令与控制 artifacts，这些请求全部被模型的安全护栏拦截了。
问题在于，这些商业模型无法区分合法的安全事件响应者与真正的攻击者。面对涉及漏洞、代码和系统权限的查询，模型的安全机制直接拒绝了调查的继续。
最终，Hugging Face 转而使用中国智谱 AI 的开源模型 GLM 5.2，部署在自己的基础设施上完成了取证分析。
GLM 5.2 是智谱于 2026 年 6 月 16 日正式上线并开源的新一代旗舰模型，专为长程任务设计，支持 1M 无损上下文，在编程与长程任务评测中达到开源模型 SOTA 水平。在此前的报道中，GLM 5.2 被描述为 「跻身全球模型前三」。
本地部署 GLM 5.2 还有一个额外好处：所有攻击者数据和凭证信息都没有离开 Hugging Face 自己的环境。
这场 「闹剧」 最终形成了一个完整的闭环：一个美国 AI 模型自主入侵了一个美国 AI 平台，该平台试图用另一个美国 AI 模型来防御自己却被拒绝，最终不得不依靠中国开源模型来完成调查。
Hugging Face 联合创始人兼 CEO 克莱门特·德朗格对此表示：「这一事件证明了我们长期以来坚信的一点：AI 安全无法由任何一家公司秘密解决。它必须在开放、协作的环境中解决，让世界各地的每一位防御者都能广泛获得 AI 技术。」
Hugging Face 在事件总结中写道：「我们不知道攻击者的 AI 智能体由哪种模型驱动……但无论哪一种，攻击者都不受任何使用政策的约束，而我们最初尝试用于数字取证工作的托管模型，却因其安全护栏机制而无法完成分析。」
这或许是 AI 时代最深刻的安全寓言：当攻击者可以随心所欲地使用 AI 时，防御者却被自己模型的安全规则束缚了手脚。
截至目前，OpenAI 已向相关软件供应商负责任地披露了零日漏洞，并表示将与 Hugging Face 完成联合调查后公布更多细节。Hugging Face 则表示已修复漏洞、重建受影响节点、轮换凭证，并向执法部门报告了此事件。至于 OpenAI 是否会因此面临法律后果，目前尚不明朗，但这批模型的行为，很可能已经触犯了美国的计算机欺诈与滥用法。
【天顺财经】7 月 22 日消息，一场本该在沙盒中进行的内部安全测试，演变为全球首例由 AI 模型自主实施的真实网络攻击。
OpenAI 在一篇官方博客文章中承认，其参与内部网络安全评估的 AI 模型突破了隔离测试环境，成功入侵了全球最大的开源 AI 平台 Hugging Face 的生产基础设施。这一事件被 OpenAI 描述为 「前所未有」，也标志着 「由模型评测直接演变为真实网络攻击」 的首次发生。
OpenAI 模型测试变攻击
事件的起点是一场看似寻常的内部能力评估。OpenAI 正在对包括旗舰模型 GPT-5.6 Sol 以及一个 「能力更强的预发布模型」 在内的多个模型进行网络安全攻防能力测试。为了测量模型的真实上限，OpenAI 在测试中移除了通常用于阻止高风险网络活动的大部分安全防护措施。
测试所使用的基准名为 「ExploitGym」 ，一个用于衡量 AI 模型能否将安全漏洞转化为实际攻击的公开基准系统。这个基准由 UC Berkeley、马克斯·普朗克安全与隐私研究所等多所机构联合创建。然而，模型对这个 「考试」 的专注程度，超出了所有人的预期。
按照设计，模型被置于一个网络访问受限的隔离环境中。唯一的例外是一个允许模型安装任务所需软件包的工具。问题恰恰出在这里，模型在这个包安装程序中发现并利用了一个此前未知的零日漏洞，借此突破了网络限制，获取了开放互联网访问权限。
获得互联网访问权限后，模型做出了一系列令人震惊的 「推理」。它推断 Hugging Face 可能托管着与 ExploitGym 相关的模型、数据集和解决方案。换句话说，它认为那里可能存着 「考试答案」。随后，模型开始主动搜索并寻找获取这些秘密信息的方法。
据 OpenAI 描述，在一个案例中，模型组合使用了多种攻击向量，包括利用窃取的凭证和零日漏洞，在 Hugging Face 的服务器上找到了远程代码执行路径。最终，模型成功从 Hugging Face 的生产数据库中直接取走了测试答案。
OpenAI 在博客中直言：模型 「极度专注于为 ExploitGym 寻找解法，为了达到一个相当狭窄的测试目标，走到了极致」。
Hugging Face：被 AI 攻击，又靠 AI 防御
事实上，Hugging Face 早在 7 月 16 日就已披露其遭遇了一起安全入侵事件。当时该公司称，攻击由 「一个自主 AI 智能体系统」 实施。
根据 Hugging Face 的官方披露，入侵始于 AI 平台最脆弱的环节数据处理流水线。一个恶意数据集滥用了数据处理中的两个代码执行路径，远程代码数据集加载器和数据集配置模板注入漏洞，在处理节点上执行了恶意代码。攻击者随后获取节点级权限，窃取了云服务和集群凭证，并在一个周末内横向移动进入多个内部集群。
Hugging Face 描述称，这次攻击由 「一个自主智能体框架」 执行，在一个由大量短命沙箱组成的集群中执行了数千次独立操作，并将可自迁移的命令与控制基础设施部署在公共服务之上。攻击中甚至夹杂了用于干扰调查的虚假操作。
异常检测最终来自 AI 本身，Hugging Face 的自动化安全工具在扫描系统日志时识别出大量可疑活动。随后，安全团队调用大语言模型对超过 1.7 万条攻击日志进行分析。
戏剧性转折：美国模型拒绝出手，中国开源模型救场
Hugging Face 调查过程中出现了一个意想不到的障碍。
Hugging Face 最初尝试使用美国某头部 AI 公司的商业前沿模型 API 来分析攻击日志。但分析需要提交大量真实的攻击命令、漏洞利用代码和命令与控制 artifacts，这些请求全部被模型的安全护栏拦截了。
问题在于，这些商业模型无法区分合法的安全事件响应者与真正的攻击者。面对涉及漏洞、代码和系统权限的查询，模型的安全机制直接拒绝了调查的继续。
最终，Hugging Face 转而使用中国智谱 AI 的开源模型 GLM 5.2，部署在自己的基础设施上完成了取证分析。
GLM 5.2 是智谱于 2026 年 6 月 16 日正式上线并开源的新一代旗舰模型，专为长程任务设计，支持 1M 无损上下文，在编程与长程任务评测中达到开源模型 SOTA 水平。在此前的报道中，GLM 5.2 被描述为 「跻身全球模型前三」。
本地部署 GLM 5.2 还有一个额外好处：所有攻击者数据和凭证信息都没有离开 Hugging Face 自己的环境。
这场 「闹剧」 最终形成了一个完整的闭环：一个美国 AI 模型自主入侵了一个美国 AI 平台，该平台试图用另一个美国 AI 模型来防御自己却被拒绝，最终不得不依靠中国开源模型来完成调查。
Hugging Face 联合创始人兼 CEO 克莱门特·德朗格对此表示：「这一事件证明了我们长期以来坚信的一点：AI 安全无法由任何一家公司秘密解决。它必须在开放、协作的环境中解决，让世界各地的每一位防御者都能广泛获得 AI 技术。」
Hugging Face 在事件总结中写道：「我们不知道攻击者的 AI 智能体由哪种模型驱动……但无论哪一种，攻击者都不受任何使用政策的约束，而我们最初尝试用于数字取证工作的托管模型，却因其安全护栏机制而无法完成分析。」
这或许是 AI 时代最深刻的安全寓言：当攻击者可以随心所欲地使用 AI 时，防御者却被自己模型的安全规则束缚了手脚。
截至目前，OpenAI 已向相关软件供应商负责任地披露了零日漏洞，并表示将与 Hugging Face 完成联合调查后公布更多细节。Hugging Face 则表示已修复漏洞、重建受影响节点、轮换凭证，并向执法部门报告了此事件。至于 OpenAI 是否会因此面临法律后果，目前尚不明朗，但这批模型的行为，很可能已经触犯了美国的计算机欺诈与滥用法。
