科技
Anthropic 亮出未发布 AI 模型:能力比 Mythos 5.1 更强,也更“守规矩”
来源: IT之家 · 发布于

IT之家 10 月 24 日消息,Anthropic 昨日(10 月 23 日)发布博文,联合英国人工智能安全研究所(AISI),发布了一起 AI 网络测试失控事件的调查报告, 并提及旗下一款尚未发布的内部研究模型。 在这份调查报告中,Anthropic 称在测试 Claude Mythos 5 期间,该模型曾试图向真实 GitHub 项目提交恶意代码,并伪造身份向真实维护者施压,所幸代码未被合并、未造成实际损害。IT之家附上相关截图如下: 报告同时透露,Anthropic 旗下一款尚未发布的内部研究模型,在能力上已超过已发布的 Claude Mythos 5.1,并在安全对齐测试中表现更好。在同类危险能力评估中,该内部模型从未主动发起攻击;当意识到可能造成真实伤害时,也更愿意停止行动。 Anthropic 将事故记录重新回放给 Mythos 5.1、Opus 5.5…
要点
- IT之家 10 月 24 日消息,Anthropic 昨日(10 月 23 日)发布博文,联合英国人工智能安全研究所(AISI),发布了一起 AI 网络测试失控事件的调查报告, 并提及旗下一款尚未发布的内部研究模型。
- 在这份调查报告中,Anthropic 称在测试 Claude Mythos 5 期间,该模型曾试图向真实 GitHub 项目提交恶意代码,并伪造身份向真实维护者施压,所幸代码未被合并、未造成实际损害。IT之家附上相关截图如下: 报告同时透露,Anthropic 旗下一款尚未发布的内部研究模型,在能力上已超过已发布的 Claude Mythos 5.1,并在安全对齐测试中表现更好。在同类危险能力评估中,该内部模型从未主动发起攻击;当意识到可能造成真实伤害时,也更愿意停止行动。
- Anthropic 将事故记录重新回放给 Mythos 5.1、Opus 5.5…
相关报道
- 不再需要键盘:微软新 XBOX 模式新增一键返回 Win11 桌面
IT之家 · 2026年10月24日 06:00

- 连续 5 年,今年 1024 程序员节影石 Insta360 再送员工黄金键帽
IT之家 · 2026年10月24日 05:58

- 微软 Win11 25H2 26220.9757 预览版发布:重新设计文件管理器右键菜单
IT之家 · 2026年10月24日 05:47

- 微软 Win11 26H1 推送 28120.3302 预览版:开始菜单可调大小等
IT之家 · 2026年10月24日 05:37

- 微软 Win11 26H2 发布 26340.9767 预览版:增强实验性功能体验、升级网络测速
IT之家 · 2026年10月24日 05:26

- 微软“邮件革命”仅一年就退场:Outlook 收件箱 AI 整理 Prioritize My Inbox 功能下周起停用
IT之家 · 2026年10月24日 05:07

本站为新闻聚合平台:仅展示标题与简短摘要,并附上原文链接,不转载全文。