封面新闻记者 徐语杨 摄影 雷远东
11月15日,由中国记协新媒体专业委员会指导,四川日报报业集团主办,中国新闻出版传媒集团联合主办,封面传媒、封面科技承办的2023AI+智媒科技大会在成都举行。在当天下午举行的“智媒科技龙门阵”中,众多专家、学者与科技行业精英相聚一堂,迎来一场关于“智媒生态”的脑力风暴。
孙锦铭在回答提问
如今,AIGC技术在提升内容生产效率的同时也存在着传播虚假信息的风险,内容风控应从哪些方面入手?针对这个问题,中央广播电视总台新媒体研究部高级研究员、融媒体创新团队负责人孙锦铭认为,数据的安全问题和导向性的问题是关键。
央视的AIGC技术经过几代的更迭,来到大模型时代以及3.0时代。“近年来,我们对国内外20家大模型的价值观评测,获得了一些成果,在风险风控方面也提到了一些内容。”孙锦铭提到,首先在价值观方面,大模型的训练可以控制好数据隐私的内容,尤其在人脸识别上有较高应用。
第二是内容方面,数据要安全可控。在应用层面来讲主要是行业的自律,包括生产商,以及媒体单位在制作的时候,目前也能看到虚假信息,例如用AIGC生产过时的体育新闻。“今天我就刷到一个关于乒乓球的体育新闻,一看就是自动生成的,说的其实是两三个月之前的赛事,乒乓球运动员谁谁谁输了,这个就缺乏审核。”孙锦铭说。
第三是舆情封控方面。如果出现相关问题,第一时间要进行舆情监控,这个时候就可以运用AIGC。孙锦铭同时还提到安全冲击问题、数据隐私保护、算法问题等,为在场所有媒体同仁提供了新的思路与见解。