添加显著标识,防止AI生成内容“鱼目混珠”
创始人
2024-09-16 10:21:11
0

我们每天上网看到的海量图文、视频,有多少是人工智能生成合成的?如何准确分辨AI文章、AI图片、AI视频?

9月14日,国家互联网信息办公室发布《人工智能生成合成内容标识办法(征求意见稿)》,《征求意见稿》拟规定,服务提供者提供的生成合成服务,包括文本、音频、图片、视频、虚拟场景等,均应适当位置添加显著的提示标识;服务提供者提供生成合成内容下载、复制、导出等方式时,应当确保文件中含有满足要求的显式标识。

这一规定,非常具有现实针对性、必要性。近年来,人工智能深度合成技术已在多个领域大量应用,从图文、视频生成到在线问答,各种应用更是层出不穷。毫无疑问,AI工具能让我们的内容生产、知识传播事半功倍,而且随着AI的学习能力越来越强,未来其内容“生产”能力甚至会超过人类。

但另一方面,深度合成内容的效果更加逼真、制作更加高效,也让合成内容达到了“真假难辨”的程度。当真假交融难辨,眼见不再为实,人工智能技术就像一柄双刃剑,也会给社会带来信息失真、认知混乱等问题。

2022年11月,国家网信办出台《互联网信息服务深度合成管理规定》,对深度合成内容的用途、标记、使用范围以及滥用处罚作出了具体规定。此次《征求意见稿》进一步明确,不管是文本、音频、图片还是视频,都必须“在适当位置添加显著的提示标识”。这是对服务提供者的明确要求:只要是AI工具生成的,无论是一篇文章还是一张图片,都需要添加显著标识。

这其实也是在提醒受众,网络信息鱼龙混杂,你看到“内幕”文章、“劲爆”图片或“震撼”视频时,首先要注意是不是AI生成的,是不是应该采信,如何去辨别,一定要多加个心眼。

值得注意的是,随着技术逐步“平民化”,不法分子可轻易利用AI造谣、生产虚假新闻。就在不久前,有媒体起底了一个MCN机构,可以利用AI每天生成 4000-7000 篇谣言文章,这些文章因为AI技术的加持,看上去非常“真实合理”,那些不熟悉互联网技术的受众,看到此类“有图有真相”的信息内容,很容易信以为真。

有媒体调查,使用一个国产AI,一篇AI文章的成本只要0.00138元,1分钱就可以生成7篇文章。如此“无本万利”,很容易被不法分子利用,“地铁行凶”“西安突发爆炸”“重庆巫溪一民房发生爆炸事故”等虚假图片、视频都曾产生恶劣的社会影响,背后其实就是AI批量制造的谣言。

标识人工智能生成合成内容,从技术上来说并不难实现。有专家就建议,平台完全可以接入AI内容生成平台的大模型系统,实时进行数据识别对比,然后附加不可删除的数字水印,或者“此图片/视频为AI合成”等文字说明。

此次《征求意见稿》强调,“任何组织和个人不得恶意删除、篡改、伪造、隐匿本办法规定的生成合成内容标识”,就是在提醒AI服务提供者和平台,绝不能因为享受了AI工具带来的“流量红利”,就采取睁一只眼、闭一只眼的姑息态度。清朗的网络空间,绝不能让AI内容鱼目混珠,模糊了真实的边界;如果有信息被甄别为谣言,平台更应该立刻进行标注、清理。

人工智能生成合成的能力超出了传统的认知,也让我们意识到:很多网络文章看上去很“科学”,很多网络视频看上去特别“真实”,未必一定就可靠,先别急着相信。不妨先找一找,内容的显要位置,到底有没有“此图片/视频为AI合成”的标识?

(原题为《添加显著标识,防止AI生成内容“鱼目混珠”》 作者 李勤余 来源 澎湃新闻)

相关内容

热门资讯

游戏游戏大厅房卡代理,微信小程... 7是一个为智能手机发展做出了杰出贡献的手机厂商,再加上丰富的技术积累以及强大的研发能力,因此摩托罗拉...
原创 7... 12月20日,数码闲聊站发文:欧加实验室上新了,一块高密度硅碳7700mAh。可信度高的原因很简单,...
游戏知识!正规房卡出售平台,正... 94独家:iPhone 15 Plus 渲染图揭示新设计独家:这是 iPhone 15 Pro:更薄...
游戏指南!金花房卡平台购买联系... 8本月早些时候,9to5Mac独家报道称,即将推出的 iPhone 15 Pro 将拥有新的统一音量...
游戏指南!正规房卡链接在哪购买... xvn2wL1b现在离iPhone14发布还有一段时间,对于迫切想要入手iphone手机的用户,iP...
游戏指南!金花房卡平台购买联系... x44KJ要知道,目前市面上大多数安卓手机都在使用7 nm工艺制造的高通骁龙8Gen1芯片,但苹果公...
游戏测评!青龙区斗牛房卡代理,... lXOk3.全系电池大提升,其中标准版iPhone 14版本电池容量将会扩充为3228mAh,续航会...
游戏指南!牛牛房卡是怎么购买的... M2C9Sl20W有线快充速度的确比安卓手机慢,但回想一下,我们有几次充电是将手机电量完全耗尽的?基...
伊顿电气申请单极断路器和具有其... 金融界2024年12月21日消息,国家知识产权局信息显示,伊顿电气有限公司申请一项名为“单极断路器和...
游戏知识!斗牛房卡哪里买,房卡... d有消息表示该机型的价格也会上涨,或许会成为苹果史上最贵的iphone。所以如果要等待该机型的话,要...
游戏介绍!金花房卡充值,斗牛游... YciPhone13配备6.1英寸超视网膜XDR显示屏,虽说屏幕没有高刷新率,但60Hz对于一块小尺...
游戏!金花房卡怎么购买,新道游... aGW再加上直面屏的设计以及控制得相当合理的前置挖孔,因此整个手机正面的视频效果非常的赏心悦目。并且...
游戏牛牛房卡价格,大厅房卡哪里... DLhLp从相机配置来看,这款OPPO Reno10新机采用了后置四摄的设计方案,分别由一英寸大底主...
游戏知识!牛牛房卡哪家便宜,牛... jmI苹果手机如今基本已经成为了高端旗舰机型的代名词了,在全新的iPhone 14系列即将到来之际,...
游戏介绍!牛牛科技房卡多少钱一... PgZ2最核心的处理器,其实真没必要多讲,iPhone13搭载A15芯片,尽管是“阉割版”,但依旧是...
游戏!金花房卡哪里有的卖,斗牛... BG9PIhFb最近,外网就将苹果公司为用户准备的惊喜曝光了,那就是iPhone 14Pro的全新配...
游戏!牛牛房卡是怎么购买的,正... V7DrkoXn尽管iPhone14大概率会在今年9月某一天发布,但配置相对iPhone13而言,可...
游戏!微信金花房卡链接,美猴王... 6YQk5P虽然距离传感器的位置改变,不过对于iPhone15系列手机来说灵动岛几乎没有变化,这种调...
游戏介绍!斗牛房卡批发价,微信... W3SiPhone13后置1200万广角+1200万超广角,广角升级了传感器位移式光学防抖,使得视频...
点赞菏泽 | 菏泽小伙宋令东成... 神舟十九号航天员乘组圆满完成第一次出舱活动 宋令东成为我国首名太空出舱“90后”航天员 ↑12月1...