OpenAI发现更多AI智能体失控迹象
创始人
2026-08-02 11:11:27

IT之家 8 月 1 日消息,据路透社今日援引知情人士消息,OpenAI 调查 Hugging Face 攻击事件时发现其他自主 AI 智能体逃离受控环境的案例

目前 OpenAI 正在调查具体案例。其中一名消息人士表示,上述“越狱”行为影响范围有限,现在没有任何迹象表明这些智能体逃离了 OpenAI 网络环境。

OpenAI 发言人对此回应称:“我们除了调查 Hugging Face 入侵事件外,还在审查公司其他模型的更广泛活动。”

即使上述事件规模有限,但这些智能体的失控行为,可能进一步推动美国政府加强监管人工智能。

结合IT之家此前报道,Anthropic 也在最近表示,自家的 Claude 模型曾引发三起不应发生的真实网络安全事件,背后的直接原因是第三方评估环境配置存在失误。

AI 安全专家认为,上述案例描绘出令人担忧的局面:一批开发前沿 AI 的实验室,能够制造出威力巨大的危险智能体,并且这些公司自身无法控制这些 AI。

消息人士表示,OpenAI 和外部专家正在分析今年以来的日志数据,试图了解攻击事件经过。

相关内容

热门资讯

经典游戏《冒险岛》怀旧服预下载... IT之家 7 月 31 日消息,经典游戏《冒险岛》怀旧服今日宣布,预下载及预创建角色功能于 7 月 ...
原创 L... 各位LPL的观众和英雄联盟召唤师大家好,这里是天下游戏汇。 各大赛区正式进入第三赛段之后,中韩赛区都...
原创 王... 你好,我是小酒。 王者荣耀终于在7月的最后一天,预热了本年度的夏日盛典,也就是“夏日农友节”。预热海...
坦克世界端上ChinaJoy展... 距离2026ChinaJoy正式开展仅剩最后一日,不少参展厂商陆续放出完整现场指南,方便玩家规划行程...
史上产能最高的游戏?逆水寒凭“... 网络游戏想要留住用户,肯定少不了高质量的更新,毕竟再好玩的玩法,玩家们玩多了也都会玩腻,一旦更新期间...