近日,国家互联网信息办公室、工业和信息化部、公安部、国家广播电视总局联合发布《人工智能生成合成内容标识办法》(以下简称《办法》)。办法聚焦人工智能“生成合成内容标识”关键点,通过标识提醒用户辨别虚假信息,明确相关服务主体的标识责任义务,规范内容制作、传播各环节标识行为,将于今年9月1日起施行。
标识虽小,能量巨大。规范标注标识以后,大家最为关注的真与假的问题有望迎刃而解。眼下,网上充斥着大量不实信息,都在无中生有地误导着公众。以前,大家还能凭借一些方法判断真假,但随着人工智能的发展,肉眼已经跟不上节奏。有人将人工智能合成的内容包装成原创,让消费者为虚假信息埋单;有人拿某些主播的视频切片合成广告推销带货;还有人伪造名人明星视频,行各种欺诈之事……在这样的背景下,“有图有真相”“眼见为实、耳听为虚”的法则开始失灵,旧有的约束机制也有点无法适应,亟须建立起一整套行之有效的新管理办法。
今年全国两会期间,多位人大代表、政协委员谈到了这一问题,为规范化治理建言献策。他们中的一些人甚至自身就是合成视频的受害者,对乱象造成的伤害和困扰有着深切体会。无论是为了规范社会管理,还是为了促进人工智能的健康发展,都不支持乱象继续。《办法》正面回应了民众的呼声,规范标注以后,人工智能生成合成的内容真假自现,网友可以按图索骥,可以从根子上解决虚假信息泛滥的问题。
同时,规范标识也可以有效斩断虚假信息背后的利益链。当下,用人工智能替代创作已经成为不少人的生财之道。原来制作一期视频又要拍又要剪,可AI一键生成几乎没有成本,一个软件就能把许多活都干了。随着人工智能的进一步发展,门槛会越来越低,使用成本也会越来越少。《办法》通过规范标注的方式,让人工智能生成合成的内容公开化透明化,清清楚楚、明明白白地告诉网友,让浑水摸鱼者无机可乘。
规范标注标识治理的是信息乱象,建立的是内容生产发布的诚信机制,《办法》宣告人工智能生成合成内容野蛮生长的时代结束。当然,如何建立起从信息制作、发布到审核的一整套管理办法,把规定落实下去,平台还需要好好地予以落实。