中央广播电视总台新媒体研究部高级研究员孙锦铭:
内容风控,数据安全可控等是关键
中央广播电视总台新媒体研究部高级研究员、融媒体创新团队负责人孙锦铭
AIGC技术在提升内容生产效率的同时也存在着传播虚假信息的风险,内容风控应从哪些方面入手?
在11月15日举行的2023智媒科技龙门阵上,中央广播电视总台新媒体研究部高级研究员、融媒体创新团队负责人孙锦铭在回答上述问题时说,数据的安全问题和导向性的问题是关键。
央视的AIGC技术经过几代更迭后,进入到大模型时代以及3.0时代。“近年来,我们对国内外20家大模型的价值观评测,获得了一些成果,在风险风控方面也提到了一些内容。”孙锦铭说,首先在价值观方面,大模型的训练可以控制好数据隐私的内容,尤其在人脸识别上有较高应用。
第二是内容方面,数据要安全可控。从应用层面来讲主要是行业的自律,包括生产商,以及媒体单位在制作时。“今天我就看到一个关于乒乓球的体育新闻,一看就是自动生成的,说的其实是两三个月前的赛事,乒乓球运动员某某某输了,这个就缺乏审核。”孙锦铭说。
第三是舆情封控方面。如果出现相关问题,第一时间要进行舆情监控,这时就可以运用AIGC。孙锦铭同时还提到安全冲击问题、数据隐私保护、算法问题等,为在场所有媒体同仁提供了新的思路与见解。
华西都市报-封面新闻记者 徐语杨
本版图片除署名外,均为雷远东摄