原标题：聚焦2024中关村论坛年会 | 清华大学学者黄民烈：解决生成式人工智能时代的数据安全风险需要算法和工具支撑

4月26日，在2024中关村论坛年会“数据安全治理与发展论坛”上，清华大学计算机科学与技术系教授、人工智能研究院基础模型研究中心副主任黄民烈说，“在生成式人工智能时代，我们在安全层面面临的是不断组合和创造新的数据安全风险问题，彻底解决这种风险需要算法和工具支撑，而不是靠人，或者靠一些静态的方法去做一些相对固定的检测。”

黄民烈

黄民烈表示，生成式人工智能时代的数据安全问题与过去不同。过去做数据处理时，只需把一些不好的、有害的数据过滤掉，清洗干净就可以了。但生成式人工智能是一种生成式的模型，它会通过训练去组合，去生成新的内容，这些新内容可能在过去的语料里根本没有出现过，但它依然是有害的。

“所以，即便你把训练数据，也就是事前数据处理得很干净，在生成式人工智能时代我们依然会面临很多有危害的内容产生。”黄民烈说。

怎么解决这些问题呢？黄民烈表示，“这需要很多算法和研究作支撑。比如去研究一些针对性的对抗和攻击的方法，事先让算法自动发现这个模型的漏洞和风险，然后再加上安全和对齐手段，能够让问题在线下时自动进行修复。”

贵州日报天眼新闻记者 袁航

编辑 罗秋红

二审 石云华

三审 岳振