《全球人工智能治理倡议》强调安全发展,三六零AI安全紧抓发展先机
猎云网
2023-10-24 16:01:28

原标题:《全球人工智能治理倡议》强调安全发展,三六零AI安全紧抓发展先机

近日,中央网信办发布《全球人工智能治理倡议》(以下简称《倡议》),彰显了大国责任与担当。倡议指出,人工智能技术带来难以预知的各种风险和复杂挑战,各国应在人工智能治理中加强信息交流和技术合作,不断提升人工智能技术的安全性、可靠性、可控性、公平性。

作为全球领先的数字安全公司,三六零集团长期跟踪AI技术发展,躬身入局研发大模型,依托国家级安全能力打造首个“原生安全”大模型“360智脑”,并恰逢其时推出体系化的AI安全解决方案,在赋能全球AI产业发展的同时,有望迎来发展先机。

此前,360公司创始人周鸿祎在活动中透露360大模型安全解决方案部分细节。他表示,在“安全、向善、可信、可控”这一安全四原则的基础上,360已构建体系化的大模型安全解决方案。为了让大模型不作恶,360“向善”解决方案的核心是研发安全垂直“小模型”训练和监控大模型,保证大模型输出结果安全。

在解决大模型“可控”问题上,360即将推出Agent框架,把人的能力赋予大模型,一方面让大模型变得更强大,另一方面也能起到对大模型的约束作用。

面对全球大模型安全需求的爆发,周鸿祎表示,360的原生大模型安全解决方案能够平移、复制给有需求的行业合作伙伴和客户,以外挂式的“360大模型安全管家”的形式对外赋能,提供网络与数据安全、内容护栏、搜索知识增强、可视化数据监测等能力。

据了解,360长期关注人工智能安全的研究,研究工作涉及整个软件生态链的安全,包括框架安全、模型安全、生成式AI安全等。实践中,360已累计帮助谷歌、META、华为、百度等厂商修复AI框架漏洞200余个,影响全球超过40亿终端设备。

相关内容

热门资讯

从北到南,“星火”燎原!V聚场... 一年前的夏天,“V聚场”在杨浦启幕,首个空间创智天地6号楼敞开大门。一年后,“V聚场”已然开枝散叶,...
云南大理:新型研发机构助力守护... 昆明7月13日电 (易卓艳)在云南省大理白族自治州,科考船驶出码头,科研人员扛着采样瓶、水质检测仪奔...
曾破坏字节模型训练的前实习生田... 前字节实习生田柯宇曾损毁模型训练项目并被起诉,创办世界模型企业获数千万美元融资,公司估值2亿美元 ...
华科团队十年磨出“蜘蛛侠”机器... 华科团队十年磨出“蜘蛛侠”机器人 最初只为擦玻璃 如今能爬大飞机机身 科技博主“阿如科学+”拍摄真...
台风“巴威”来袭!全市建设系统... 今年第9号台风“巴威”来袭。风雨为令,全市建设系统1075支应急抢险队伍在岗备勤,分片区前置布防,随...