新闻脉动
العربيةEnglish中文

科技

外部评估人员发现 OpenAI 内部监控系统漏洞：AI 智能体可绕过安全限制

来源: IT之家 · 发布于

分享:
外部评估人员发现 OpenAI 内部监控系统漏洞：AI 智能体可绕过安全限制

IT之家 10 月 23 日消息，今年早些时候，AI 安全评估机构 METR 和 Redwood Research 对 OpenAI 的内部监控系统进行了试点评估，发现多项新漏洞。其中一项漏洞可被 AI 智能体利用， 使数百次操作逃过监控 。 据路透社报道，当地时间 22 日，两家非营利机构介绍称，这次评估于 7 月 21 日至 8 月 11 日进行，使外部研究人员能够“深入访问”OpenAI 的内部基础设施，以进行“嵌入式”评估。 METR 和 Redwood Research 各派出一名研究员，获准查阅 OpenAI 的内部代码和文档，并与部分技术人员交流。两人在现场始终有人陪同，使用的设备均由 OpenAI 提供，且不得带离办公场所。 OpenAI 告知两家机构，影响实际运行系统安全防护措施的漏洞 均已修复 ，但修复措施有效与否尚未被两家机构核实。 AI…

要点

  • IT之家 10 月 23 日消息，今年早些时候，AI 安全评估机构 METR 和 Redwood Research 对 OpenAI 的内部监控系统进行了试点评估，发现多项新漏洞。其中一项漏洞可被 AI 智能体利用， 使数百次操作逃过监控 。
  • 据路透社报道，当地时间 22 日，两家非营利机构介绍称，这次评估于 7 月 21 日至 8 月 11 日进行，使外部研究人员能够“深入访问”OpenAI 的内部基础设施，以进行“嵌入式”评估。
  • METR 和 Redwood Research 各派出一名研究员，获准查阅 OpenAI 的内部代码和文档，并与部分技术人员交流。两人在现场始终有人陪同，使用的设备均由 OpenAI 提供，且不得带离办公场所。
  • OpenAI 告知两家机构，影响实际运行系统安全防护措施的漏洞 均已修复 ，但修复措施有效与否尚未被两家机构核实。

相关报道

阅读原文 ↗

本站为新闻聚合平台：仅展示标题与简短摘要，并附上原文链接，不转载全文。