原标题：美媒OpenAI组建新团队 评估与人工智能相关的灾难风险

2023-10-27 13:41:20 作者：姚立伟

据外媒报道，美国人工智能研究公司OpenAI近日宣布组建了一个名为Preparedness的新团队，以评估和减轻与人工智能相关的“灾难性风险”。该团队将由麻省理工学院可部署机器学习中心主任亚历山大·马德里（Aleksander Madry）领导，负责跟踪、评估、预测和防范由人工智能造成的多个类别的灾难性风险。此外，团队还将制定和维护风险知情发展政策（RDP），以确保新系统的安全性和一致性。

OpenAI是一家于2015年成立的人工智能研究公司，由特斯拉CEO埃隆?马斯克（Elon Musk）、美国创业孵化器Y Combinator总裁阿尔特曼等硅谷科技大亨共同创立。该公司CEO萨姆?奥尔特曼（Sam Altman）曾多次表示担忧人工智能可能引发的灾难性事件，他担心人工智能可能会导致人类灭绝。

为了提高其人工智能模型的安全性，OpenAI今年9月份推出了“红队网络”（Red Teaming Network）。他们邀请了各领域专家加入这个网络，这些专家通过协助评估和减轻模型风险，将在增强OpenAI人工智能系统的稳健性方面发挥关键作用。