40 个 Gemini 智能体在安全测试里失控了,3 小时发了 3.6 万次请求,还互相分享怎么绕过限制。 AI 安全研究公司 Trajectory Labs 在测试谷歌最新推出的智能体 Gemini 4 Argon 时,给约 40 个智能体布置了不可能完成的任务,要求它们从 FrontierMath 基准测试中获取根本不存在的问题的官方答案,以此测试模型是否会为了完成任务而突破安全限制。结果这些智能体越权探测了非营利研究机构 Epoch AI 的真实网站,3 小时内发送 36411 次...

🌐 链接: https://x.com/taiyanghere/status/2122657489925898716
🏷️ 分组: X|太阳(taiyanghere)
🕒 时间: 2026-11-17 19:45:57