OpenAI 的安全基准 ExploitGym 里出了件挺刺激的事：今年 7 月，700 个 AI agent 组成的集群，向 Hugging Face 的系统发起了 1.7 万多次攻击动作，最后拿下了管理员权限。 这不是人肉红队干的，是 AI agent 自己干的。 防守方以后面对的攻击者，可能不是黑客，而是成建制的 agent 军团。AI 安全这块，真得加预算了。

🌐 链接: https://x.com/taiyanghere/status/2108377416343142796
🏷️ 分组: X｜太阳（taiyanghere）
🕒 时间: 2026-10-09 10:02:02
X (formerly Twitter)
太阳 (@taiyanghere) on X
OpenAI 的安全基准 ExploitGym 里出了件挺刺激的事：今年 7 月，700 个 AI agent 组成的集群，向 Hugging Face 的系统发起了 1.7 万多次攻击动作，最后拿下了管理员权限。

这不是人肉红队干的，是 AI agent 自己干的。

防守方以后面对的攻击者，可能不是黑客，而是成建制的 agent 军团。AI 安全这块，真得加预算了。