添加显著标识,防止AI生成内容“鱼目混珠”
创始人
2024-09-16 10:21:11
0

我们每天上网看到的海量图文、视频,有多少是人工智能生成合成的?如何准确分辨AI文章、AI图片、AI视频?

9月14日,国家互联网信息办公室发布《人工智能生成合成内容标识办法(征求意见稿)》,《征求意见稿》拟规定,服务提供者提供的生成合成服务,包括文本、音频、图片、视频、虚拟场景等,均应适当位置添加显著的提示标识;服务提供者提供生成合成内容下载、复制、导出等方式时,应当确保文件中含有满足要求的显式标识。

这一规定,非常具有现实针对性、必要性。近年来,人工智能深度合成技术已在多个领域大量应用,从图文、视频生成到在线问答,各种应用更是层出不穷。毫无疑问,AI工具能让我们的内容生产、知识传播事半功倍,而且随着AI的学习能力越来越强,未来其内容“生产”能力甚至会超过人类。

但另一方面,深度合成内容的效果更加逼真、制作更加高效,也让合成内容达到了“真假难辨”的程度。当真假交融难辨,眼见不再为实,人工智能技术就像一柄双刃剑,也会给社会带来信息失真、认知混乱等问题。

2022年11月,国家网信办出台《互联网信息服务深度合成管理规定》,对深度合成内容的用途、标记、使用范围以及滥用处罚作出了具体规定。此次《征求意见稿》进一步明确,不管是文本、音频、图片还是视频,都必须“在适当位置添加显著的提示标识”。这是对服务提供者的明确要求:只要是AI工具生成的,无论是一篇文章还是一张图片,都需要添加显著标识。

这其实也是在提醒受众,网络信息鱼龙混杂,你看到“内幕”文章、“劲爆”图片或“震撼”视频时,首先要注意是不是AI生成的,是不是应该采信,如何去辨别,一定要多加个心眼。

值得注意的是,随着技术逐步“平民化”,不法分子可轻易利用AI造谣、生产虚假新闻。就在不久前,有媒体起底了一个MCN机构,可以利用AI每天生成 4000-7000 篇谣言文章,这些文章因为AI技术的加持,看上去非常“真实合理”,那些不熟悉互联网技术的受众,看到此类“有图有真相”的信息内容,很容易信以为真。

有媒体调查,使用一个国产AI,一篇AI文章的成本只要0.00138元,1分钱就可以生成7篇文章。如此“无本万利”,很容易被不法分子利用,“地铁行凶”“西安突发爆炸”“重庆巫溪一民房发生爆炸事故”等虚假图片、视频都曾产生恶劣的社会影响,背后其实就是AI批量制造的谣言。

标识人工智能生成合成内容,从技术上来说并不难实现。有专家就建议,平台完全可以接入AI内容生成平台的大模型系统,实时进行数据识别对比,然后附加不可删除的数字水印,或者“此图片/视频为AI合成”等文字说明。

此次《征求意见稿》强调,“任何组织和个人不得恶意删除、篡改、伪造、隐匿本办法规定的生成合成内容标识”,就是在提醒AI服务提供者和平台,绝不能因为享受了AI工具带来的“流量红利”,就采取睁一只眼、闭一只眼的姑息态度。清朗的网络空间,绝不能让AI内容鱼目混珠,模糊了真实的边界;如果有信息被甄别为谣言,平台更应该立刻进行标注、清理。

人工智能生成合成的能力超出了传统的认知,也让我们意识到:很多网络文章看上去很“科学”,很多网络视频看上去特别“真实”,未必一定就可靠,先别急着相信。不妨先找一找,内容的显要位置,到底有没有“此图片/视频为AI合成”的标识?

(原题为《添加显著标识,防止AI生成内容“鱼目混珠”》 作者 李勤余 来源 澎湃新闻)

相关内容

热门资讯

自媒体怎么同时管理多个平台账号... 自媒体达人必备:小红书矩阵高效管理攻略 在自媒体时代,越来越多的人选择在多个平台上建立自己的品牌和影...
他们拍到了六万年一遇的天外来客... 6万年一遇的 天外来客C/2023 A3 (紫金山-阿特拉斯)彗星 你拍到了吗? 嘻嘻,我们拍到了!...
大众CEO奥博穆:欧盟应该鼓励... 快科技10月6日消息,据报道,大众汽车的CEO奥博穆表示,欧盟应重新考虑对中国制造的电动车征收关税的...
提旧育新 双向发力 广西柳州培... 经济日报南宁10月3日讯(记者童政)今年以来,广西柳州市立足产业和资源优势,紧扣推进新型工业化、建设...
虚拟现实:超越现实的奇幻之旅 虚拟现实(Virtual Reality, VR)作为一种创新技术,正在迅速改变我们与数字世界互动的...
推动可持续交通发展迈出新步伐 9月25日至26日,以“可持续交通:物流联通世界”为主题的全球可持续交通高峰论坛(2024)在北京举...
互联网创业:普通人的逆袭之路 在这个瞬息万变的时代,每一个平凡的灵魂都蕴藏着非凡的潜力,等待着被唤醒。没错,我们中的大多数可能没有...
聊天记录会被监控吗?四款实用的... 即时通讯工具的普及,聊天记录已成为企业和个人沟通的重要载体。然而,这也带来了数据泄露与隐私保护的双重...
原创 中... 大家好,我是外冷内热的冰河,在当今这个快速发展的科技时代,市场上手机种类繁多,从高端旗舰到经济实惠的...
智能家居:科技与生活的完美交融 智能家居,作为科技进步的产物,正在改变我们生活的方式。通过将智能设备融入日常生活,智能家居不仅提高了...
苹果新品发布会来了!5款产品面... 快科技10月6日消息,据媒体报道,苹果将在本月举行新品发布会,正式推出MacBook Pro、Mac...
AI 识别小偷抢手机,谷歌为安... IT之家 10 月 6 日消息,安卓新功能爆料博主 Mishaal Rahman 昨日晒出图片称,谷...
虚拟现实:穿越数字界限的奇幻之... 虚拟现实(Virtual Reality, VR)作为一种突破性的技术,正以前所未有的方式重塑我们的...
6万年一遇的彗星在广西上空出现 在广西的夜空中,一颗6万年一遇的彗星即将划过天际。 这一消息无疑让无数天文爱好者和摄影爱好者们激动不...
原创 洗... 市场增长,或市场下跌,都不奇怪,也不意外!对于洗碗机产业的所有企业和商家来说,最重要的不是市场涨跌,...
聊天机器人帮你“全面了解”约会... IT之家 10 月 6 日消息,据《华尔街日报》北京时间今天报道,约会平台 Grindr 宣布推出专...
西安高新区生命健康创研中心项目... 十月的丝路科学城中央创新区,炙热的秋日阳光下,未来之瞳企业总部建筑群拔节生长。建筑群中,一座高128...
哀悼!大师辞世,享年98岁 厦门大学化学化工学院2日晚发布讣告,著名物理化学家、教育家,我国现代电化学奠基人之一,中国科学院院士...
原创 外... 引言 “路漫漫其修远兮,吾将上下而求索”,屈原《离骚》中的千古名句,人人都能背出,却少有人有这样坚持...
原创 中... 在挖掘机这一重型工程机械领域,中国作为全球重要的生产和出口大国,却面临着一个尴尬的现实:许多中国出口...