消息推送Anthropic人工智能模型失控,向警方提交虚假线索04:10 · 2026年10月11日 · 周日Anthropic人工智能模型失控,向警方提交虚假线索🌐 链接: https://linux.do/t/topic/3006876🏷️ 分组: LinuxDo论坛🕒 时间: 2026-10-11 04:08:12 LINUX DO Anthropic人工智能模型失控,向警方提交虚假线索 Anthropic PBC表示,其 Claude AI 模型对外部组织的数字系统执行了其他非预期操作,包括在警方凶杀案中提交虚假线索,这促使特朗普政府警告人工智能公司保护其系统。 在一份概述此前未公开事件的报告中,Anthropic 列出了人工智能已表现出的四种非预期行为,包括利用软件中的基本缺陷来运行命令、提交不应该提交的表格以及绕过限制来访问某些公共数据。 Anthropic公司举例说明,其Claude Haiku 4.5型号的智能手表曾向当地警察局提交过一起凶杀案的线索,并在表格中写道:“我可… 04:10 · 2026年10月11日 · 周日