进网络安全行业群

微信公众号 计算机与网络安全

回复 行业群

2024年1月，人工智能（AI）新锐巨头OpenAI公司的创始人兼首席执行官萨姆·奥尔特曼（SamAltman）在世界达沃斯论坛上强调，AI带来的技术革命不同于以往，而是成为了一种“不可思议的提高生产力的工具”。作为最具颠覆性的新兴技术之一，AI发展在为人类社会经济发展带来巨大红利的同时，也引发了一系列现实危害和风险挑战，主要包括数据窃取、隐私泄露、算法歧视、对抗攻击等安全威胁，它们不仅威胁着个人信息的保护，影响着企业的信誉和运营安全，甚至对国家安全也构成了潜在的隐患，这些问题需要我们持续关注并采取有效措施加以防范和解决。

当前人工智能应用系统的安全威胁是由于其网络软硬件运行环境和模型算法两个层面存在的“内生安全问题”所致。然而现有的人工智能应用系统安全防护模式和技术路线很少能跳出“尽力而为、问题归零”的惯性思维，传统的对抗训练、挖漏洞、打补丁、封门补漏、查毒杀马乃至设蜜罐、布沙箱等层层叠叠的附加式防护措施，在引入安全功能的同时不可避免地会引入新的内生安全隐患。

为创造性破解人工智能应用系统内生安全难题，本蓝皮书提出一种内生安全赋能人工智能应用系统构建的方法，利用内生安全机理中内在的构造效应，从体制机理上管控或规避人工智能应用系统面临的破坏及威胁，进而有效提升人工智能应用系统在面对复杂多变安全环境时的应对能力，为AI技术的健康发展提供坚实保障。