我就说，国内安全圈的人基本上不懂harness，压根也不懂reward hacking，甚至不知道什么情况下容易出现，以为设计个prompt原则就可以了。国内很热门的几个开源项目也这样，几乎没有任何关于reward hacking的harness设计。 出事不是必然吗

🌐 链接: https://x.com/xsser_w/status/2109492334429962632
🏷️ 分组: X｜为你推荐
🕒 时间: 2026-10-12 11:52:19
X (formerly Twitter)
xsser (@xsser_w) on X
xsser (@xsser_w) on X
我就说，国内安全圈的人基本上不懂harness，压根也不懂reward hacking，甚至不知道什么情况下容易出现，以为设计个prompt原则就可以了。国内很热门的几个开源项目也这样，几乎没有任何关于reward hacking的harness设计。
出事不是必然吗