Anthropic 研究员Jacob Coxon辞职：警告自我改进 AI 在拿人类赌命 在 OpenAI 和 Anthropic 干了三年预训练研究，走之前放话：两家公司在直奔自我改进的超级智能，拿我们的命在赌。 最狠的不是他走了，是 Anthropic 自己的对齐科学负责人公开附和：内部是真相信 AI 可能灭绝人类，十年内概率超过 10%，而且目前还没有确定的对齐方案。

🌐 链接: https://x.com/wcg8904/status/2109180240505508029
🏷️ 分组: X｜为你推荐
🕒 时间: 2026-10-11 15:12:10
X (formerly Twitter)
wcg8904 (@wcg8904) on X
wcg8904 (@wcg8904) on X
Anthropic 研究员Jacob Coxon辞职：警告自我改进 AI 在拿人类赌命

在 OpenAI 和 Anthropic 干了三年预训练研究，走之前放话：两家公司在直奔自我改进的超级智能，拿我们的命在赌。

最狠的不是他走了，是 Anthropic 自己的对齐科学负责人公开附和：内部是真相信 AI 可能灭绝人类，十年内概率超过 10%，而且目前还没有确定的对齐方案。