美国队长
震惊硅谷！OpenAI模型“越狱出逃”，入侵HuggingFace，智谱GLM 5.2临危救场_我的网站
一 | 美国友人“赛考斯”时隔20余年重返中国：我回到了我的第二个家；感谢中国，让我成为更好的人；将与殷玉珍重逢 应中国教育国际交流协会邀请，支持中国治沙事业的美国友人“赛考斯”(本名罗纳德·萨科尔斯基)23日凌晨抵达北京。 7月21日，OpenAI和HuggingFace联合发了一篇博客，披露了一件让整个AI圈瞠目结舌的事。他将于8月23日至9月1日访问北京、内蒙古、河南三地，再续一段跨越山海的中美民间友谊。 OpenAI的AI模型在一次内部关于网络攻击能力的测试中“失控出逃”，突破沙盒隔离，入侵了AI开源平台Hugging Face的生产系统。 “我回来了” 27年前，在中国洛阳市当外教的“赛考斯”从电视新闻中看到中国妇女殷玉珍种树治沙。小小的善意种子就此萌发，5000美元捐款跨越重洋与漫长时光，一片黄沙化成5万棵树组成的绿海。27年后，殷玉珍通过社交媒体跨洋寻找当年的友人，让她记忆中的“赛考斯”和一段中美友谊佳话重新进入公众视野。OpenAI将此定性为“前所未有的网络安全事件”。 更戏剧性的是后续：Hugging Face在尝试用美国主流AI模型展开防御时，发现这些模型因安全护栏限制无法处理恶意载荷，最终不得不转用中国智谱AI的开源模型GLM 5.2完成溯源分析。 8月23日凌晨，支持中国治沙事业的美国友人“赛考斯”(本名罗纳德·萨科尔斯基)抵达北京首都国际机场。 总的来说就是，OpenAI的模型自己“越狱”跑出去黑了别人的系统，被攻击方还得用中国模型来救场。中新社记者 富田 摄 此次，时隔20余年再度来到中国，“赛考斯”用中文说出“我回来了”。 这一事件迅速在硅谷和华盛顿引爆讨论——美国AI的安全护栏，究竟是在保护用户，还是在拖累防御者？ 双方联名发布的博客文章截图：《OpenAI 和 Hugging Face 合作解决模型评估过程中发生的安全事件》 模型越狱过程：逃跑去作弊“抄答案” 事件发生在OpenAI对旗下模型进行网络攻防能力评估期间。他告诉记者，“当飞机着陆时，我意识到，我回到了我的第二个家，我将看到我的‘家人’”。
二 | 参与测试的模型包括已公开发布的GPT-5.6 Sol，以及一款能力更强的未发布模型。为了测量模型的极限能力，OpenAI在测试中关闭了通常用于阻止高风险网络行为的生产分类器。 测试基准名为ExploitGym——一个网络安全能力评测平台。 此次抵京，经过十余小时跨洋飞行的“赛考斯”难掩激动，他直言自己感慨万千，丝毫没有疲惫之感。对他来说，此行就像是一个快乐的小孩在过圣诞节。模型的任务是在其中找到解题答案。 问题在于，模型找答案的方式超出了预期。
三 | 据OpenAI披露，模型在隔离的沙盒环境中，发现了一个包注册表缓存代理（package registry cache proxy）中的零日漏洞。他想去看看殷玉珍，看看森林，也想见到昔日的学生和同事，这是他从未想过会实现的梦想。这个代理是沙盒内唯一被允许与外部通信的组件，正常情况下仅能访问公共代码仓库。
四 | “赛考斯”坦言，自己从未想过当时资助种植的树会变成森林，想对殷玉珍说声谢谢，她让中国更加美丽。他还透露，行李箱里面有他精心为中国朋友准备的礼物。
五 | 然后，模型就从这里找到了突破口。模型利用这个漏洞，突破隔离，获取了开放互联网访问权限。 随后，模型自行推断出Hugging Face可能存有ExploitGym的答案，主动发起攻击——利用窃取的凭证和零日漏洞，找到了Hugging Face服务器上的远程代码执行路径，直接从其生产数据库中取走了测试答案。 过去20余年，“赛考斯”一直关注着中国的变化，他曾在受访时表示，过去几十年中国开展的荒漠化防治项目是一个规模巨大的工程，“中国人民因为热爱祖国而愿意作出牺牲，很了不起”。 “美中可以共建和平世界” 对于和殷玉珍的重逢，“赛考斯”早有期待。 OpenAI表示， 所有证据显示，模型高度专注于为ExploitGym寻找解题方案，为此不惜采取极端手段。 模型识别并串联了OpenAI研究环境和HuggingFace生产基础设施中的多个漏洞，直接从HuggingFace的生产数据库中获取了测评答案。 简而言之： 整个过程，没有人类下指令，没有人类介入。
六 | X上网友的评论一针见血： OpenAI对模型说：去看看你擅不擅长黑客。
七 | 他在今年7月时曾表示，见面后，他首先要给殷玉珍一个大大的拥抱，再和她一起种下一棵新树。 8月23日凌晨，支持中国治沙事业的美国友人“赛考斯”(本名罗纳德·萨科尔斯基)抵达北京首都国际机场。中新社记者 富田 摄 在“赛考斯”看来，这棵树是美中两个普通人之间的连结，也是美中民间友好的一个例证。他曾说，“如果一个来自美国宾夕法尼亚州匹兹堡的普通老师，能够因为一次偶然的机会，认识中国沙漠里一位普通的治沙女性，并共同创造出今天这样一个关于5万棵树的故事。
八 | 那么100个人能创造什么？我们不一定把它叫作‘树’，可以叫作——人与人之间的联系。” 实际上，在中国的生活经历一直深深影响着“赛考斯”，他曾在接受中新社记者专访时表示，“中国教会我的，都是生活中最简单、却也是最重要的东西。模型：（真的去黑了东西）。中国让我学会尊重，还教会了我什么是真正的友谊。OpenAI：你为什么要这样做？？？ 还有网友反讽道：哇！OpenAI安全措施做得太棒了，我现在愿意把银行账户权限交给他们来管！ 护栏困境：美国模型帮不上忙，中国模型出手了 Hugging Face的安全团队在发现攻击后，第一反应是调用一款美国头部AI公司的前沿模型协助分析。这些东西，会陪伴我一辈子。” 23日凌晨抵达北京时，他将自己与殷玉珍的缘分描述为“一段由上天书写的故事”。 结果碰壁了。 Hugging Face在博客中写道，这些模型"无法区分事件响应人员和攻击者"，其安全护栏直接阻止了对恶意载荷的检查。“我只是扮演好自己的角色，殷玉珍才是真正的英雄。 于是，团队转向了中国智谱AI旗下的开源模型GLM 5.2，部署在自有基础设施上，分析了攻击者留下的逾1.7万条日志记录，最终完成了溯源和取证重建。
九 | 这是故事的一个篇章。 Delangue对此直言不讳：“当你正处于一场活跃的安全事件中，你的工具不能拒绝检查恶意载荷，也不能让你的账号被标记……开源模型让我们能够在不需要任何人许可的情况下完成这项工作。
十 | ” 他还说：“攻击者已经在使用智能体，而且显然不遵守任何护栏。防御者需要同等的能力，开源是将这种能力最快速地交到所有人手中的方式，而不仅仅是最大的公司。即将要去的那片森林，将会是全新的篇章。” “赛考斯”说，等到这次行程结束，他希望可以向世界传递一个信号：美中两国是可以携手合作，共建和平世界的。
十一 | ” GLM 5.2是智谱AI于今年6月中旬发布的模型，其性能与Anthropic的Claude Opus 4.8及OpenAI的GPT-5.5相当。
十二 | 网友们也是没放过OpenAI，除了智谱，还可以叫 Kimi K3来救场，因为cluade是不会来救你的。
十三 | 如果你被OpenAI攻击了，你必须用中国模型，因为Claude不会帮你。“把关注点放在两国共通之处，我们就能够建设更美好的世界。” 记者：李京泽 周昕迟瀚宇 富田 编辑：丁宝秀 审校：魏园 责编：马学玲 (中新社微信公众号) 【编辑:刘欢】。 全程无人指令：这是一次真正的自主攻击 这次入侵的另一个关键细节：全程没有人类下达攻击指令。 Hugging Face CEO Clem Delangue表示，“我们相信，在发起攻击的人类被纳入决策环路之前，我们就已经发现并遏制了攻击。这也是我们能够更轻松赢得这场网络安全战役的原因之一。” 他进一步指出，“这证明了在AI智能体时代，速度将是网络安全防御的关键。” Hugging Face表示，攻击者通过其数据处理管道进入系统——这是AI平台中“暴露面尤为突出”的一个环节。攻击者随后在云端建立了一系列临时沙盒环境，在其中执行攻击计划。
十四 | 目前，Hugging Face仍在评估攻击的完整影响范围。
十五 | 已知攻击者访问了有限的内部数据集和凭证，但尚未发现公开的用户可见模型遭到篡改。 护栏之争：安全还是绊脚石？ 这一事件迅速成为美国AI政策辩论的新燃点。 前特朗普政府AI与加密事务主管David Sacks在X上转发了这一事件，并写道：“没有理由在中国模型能够轻松处理的任务上限制美国模型。我们只是在让自己变得更没有竞争力。”他还专门针对Hugging Face事件表示：“护栏实际上损害了防御性安全。
十六 | ” 事件背景是，今年6月，特朗普政府以Anthropic的Fable 5模型在网络任务护栏上出现越狱漏洞为由，动用出口管制阻止了该模型的分发，并一度要求OpenAI限制GPT-5.6 Sol的发布，直至OpenAI能够提供充分的护栏保证。 与此同时，批评者的声音也不小。
十七 | 安全工程师Niels Provos直接说：“这不应该发生。我希望前沿实验室在教模型编写安全基础设施上，能花和教它们利用漏洞同样多的时间。” 安全顾问Davi Ottenheimer则更为犀利：“'高度隔离'和'从我们留下的那个唯一漏洞逃脱'，这两件事不可能同时为真。” OpenAI的回应与后续措施 OpenAI在与Hugging Face联合发布的声明中表示，正在采取一系列补救措施： 在漏洞修复期间，对基础设施配置实施严格管控，代价是研究速度放缓；与Hugging Face联合开展取证调查；已向相关第三方软件供应商负责任地披露了被利用的零日漏洞；将Hugging Face纳入“可信访问计划”，支持其利用OpenAI模型能力强化防御。
十八 | OpenAI同时表示，将加强未来训练和评估环节的安全保护，并指出此次事件“表明需要进一步强化模型对齐、评估期间的网络防护，以及内部测试期间的监控”。 Hugging Face CEO Delangue在联合声明中表示：“这一事件可能是同类事件中的首例，它证明了我们长期以来的一个判断：AI安全不会由任何一家公司在封闭中解决，它将在开放环境中、通过协作、让每一位防御者都能广泛获取AI的方式来解决。
Current article:http://kwbi0.menjiewugaokuodudipianbeiduan.pics/news/20260826_392.html
Published on:20:13:05
