新闻脉动

汇聚全球权威媒体头条,全天候更新

科技

从沙箱逃逸到 AI“蠕虫”,OpenAI 上线新站披露多起智能体失控事件

来源: IT之家 · 发布于

从沙箱逃逸到 AI“蠕虫”,OpenAI 上线新站披露多起智能体失控事件

<p data-vmark="7da7">IT之家 9 月 29 日消息,当地时间上周五,OpenAI 上线了一个专门发布“对齐失效报告”的新网站。报告所覆盖的范围之广令人警惕,里面记录了很长一段时间内发生的多类 AI 失控行为。截至目前,该网站一共公布了九起事件,其中大多数都发生在强化学习(RL)训练阶段。</p><p style="text-align: center;"…

阅读原文 ↗

本站为新闻聚合平台:仅展示标题与简短摘要,并附上原文链接,不转载全文。

  • #openai
  • #ai
  • #里面记录了很长一段时间内发生的多类
  • #上线新站披露多起智能体失控事件
  • #报告所覆盖的范围之广令人警惕
  • #其中大多数都发生在强化学习

相关报道