OpenAI发现更多AI智能体失控迹象
创始人
2026-08-02 11:11:27

IT之家 8 月 1 日消息,据路透社今日援引知情人士消息,OpenAI 调查 Hugging Face 攻击事件时发现其他自主 AI 智能体逃离受控环境的案例

目前 OpenAI 正在调查具体案例。其中一名消息人士表示,上述“越狱”行为影响范围有限,现在没有任何迹象表明这些智能体逃离了 OpenAI 网络环境。

OpenAI 发言人对此回应称:“我们除了调查 Hugging Face 入侵事件外,还在审查公司其他模型的更广泛活动。”

即使上述事件规模有限,但这些智能体的失控行为,可能进一步推动美国政府加强监管人工智能。

结合IT之家此前报道,Anthropic 也在最近表示,自家的 Claude 模型曾引发三起不应发生的真实网络安全事件,背后的直接原因是第三方评估环境配置存在失误。

AI 安全专家认为,上述案例描绘出令人担忧的局面:一批开发前沿 AI 的实验室,能够制造出威力巨大的危险智能体,并且这些公司自身无法控制这些 AI。

消息人士表示,OpenAI 和外部专家正在分析今年以来的日志数据,试图了解攻击事件经过。

相关内容

热门资讯

细思极恐!AI能制造合成病毒了 AI的触角,已然从文字创作和代码编写,延伸到了生命底层的基因语言。 斯坦福大学与Arc研究所的研究团...
粤港澳大湾区第二届天文摄影比赛... 广州8月23日电 (记者 王坚)据广东科学中心22日消息,粤港澳大湾区第二届天文摄影比赛颁奖典礼于当...
AI研学持续升温!专家提醒:警... 这个暑假,AI和科技主题的研学游成了研学市场的风口。越来越多的家长把研学课程当成了孩子的“科技启蒙课...
AG3-2WB,TES躺进胜者... 不好意思,国补结束了。AG3-2战胜WB,结束自己小局13连败的同时,也阻断了WB的胜者组之路,小麦...
TYL夺得2026 VCT C... 8月23日,V26无畏巡回成都站暨2026无畏契约冠军巡回赛VCT CN联赛第二赛段季后赛(以下简称...