比谷歌更担心人工智能的公司找到了应对方案
中关村在线
2023-10-28 16:02:05
2023-10-28 05:42:12 作者：姚立伟
OpenAI宣布成立Preparedness团队，评估通用人工智能（AGI）可能带来的灾难性风险。该团队由麻省理工学院的可部署机器学习中心主任Aleksander Madry主导。
OpenAI表示，尽管未来的AI模型拥有造福全人类的潜力，但也存在严重的风险。因此需要建立一个强大的框架来监控、评估、预测和防范这些AI模型所带来的一系列问题。
据悉，OpenAI设立了Preparedness团队，将对各种类型的AI模型进行能力评估和红队测试，以跟踪、预测和防止各类别灾难性风险的发生。
目前来看，OpenAI宣称的相关风险主要分为以下三大类：第一是说服人类的能力；第二是生成不当内容；最后则是自主复制与适应能力（Autonomous Replication and Adaptation，ARA）。
相关内容
热门资讯
中科蓝讯：公司将继续深化与国内...
证券日报网讯 12月18日，中科蓝讯在互动平台回答投资者提问时表示，公司围绕“AI赋能、技术领先、产...
“AI夫妻”搞营销恐消解行业信...
新华社北京12月18日电 12月18日,《新华每日电讯》发表题为《“AI夫妻”搞营销恐消解行业信任》...
华发上线全国首批增强型“CIP...
近日，在跨境银行间支付清算有限责任公司（简称“跨境清算公司”）和中国人民银行珠海市分行的指导与支持下...
万兴科技：公司坚持多端矩阵化产...
证券日报网12月17日讯 万兴科技在12月16日回答调研者提问时表示，公司坚持多端矩阵化产品战略，视...
知识产权小课堂：专利“家族化”...
专利“家族化”—同族专利 知识产权小课堂 01 同族专利的产生 专利文献大量重复出版，形成了一组组由...