消息推送人工智能安全评估机构 METR 分析了 Anthropic 在高风险环境下的对齐保障措施和失控风险2天前人工智能安全评估机构 METR 分析了 Anthropic 在高风险环境下的对齐保障措施和失控风险🌐 链接: https://linux.do/t/topic/3053852🏷️ 分组: LinuxDo论坛🕒 时间: 2026-10-21 14:49:25 LINUX DO 人工智能安全评估机构 METR 分析了 Anthropic 在高风险环境下的对齐保障措施和失控风险 摘要: METR 对 Anthropic 公司 2026 年 8 月发布的风险报告 “高风险环境下的模型错位”部分进行了外部审查。Anthropic 的报告得出结论,截至 2026 年 7 月 15 日,“由[其]模型错位造成的灾难性伤害风险较低”。 我们目前的最佳推测是,我们同意 Anthropic 的观点,即报告中涵盖的模型因模型偏差而造成灾难性危害的风险较低。 然而,这主要是由于模型本身的能力有限,而非安全措施和模型校准训练的有效性。我们不确定,如果风险更高,报告中的方法是否能够可靠地识别出来… 2天前