标记人工智能生成图像的内容凭证或将现身手机和相机
标记人工智能生成图像的内容凭证或将现身手机和相机
文 | Rashi Shrivastava
芯片巨头高通(Qualcomm)和相机制造商徕卡(Leica)近日宣布，他们在其最新硬件中加入了一项新技术，可以分辨某个图像到底是真实的还是合成的。
这项新技术将允许智能手机在硬件层面插入图像的来源数据，如拍摄时间、位置和用于创建图像的相机应用程序等，这可以帮助人们识别真假图像。图片来源：TRUEPIC AND QUALCOMM
随着人工智能生成的内容在互联网上不断涌现，企业和个人都在努力区分哪些内容是真实的，哪些是虚假的。在这方面，数字水印可能会有所帮助，但它们很容易被移除，而且人工智能检测工具并不总是很准确。
现在，多家公司开始推出技术，使智能手机等设备可以在他们创建的图像中插入不可更改的加密来源数据——即关于某段内容产生的方式、时间和地点的信息。这些元数据很难被篡改，因为它们存储在硬件层面，其目的是让人们更容易分辨某些内容是真实的还是人工智能生成的。
高通公司（Qualcomm）副总裁贾德·希普（Judd Heape）表示，这是区分真实和虚假图像的最“万无一失”、可扩展且安全的方法。这就是为什么高通在上周宣布，三星、小米、一加和摩托罗拉等使用其最新芯片组骁龙 8 Gen 3的智能手机可以在创建图像的那一刻就将所谓的“内容凭证”(content credentials)嵌入图像当中。
同样，德国相机制造商徕卡(Leica)上周宣布，它的新相机将在每张照片上都打上类似的数字凭证印记——例如摄影师的名字、拍摄照片的时间和地点等。
这两项声明都是一项更大的全行业协同努力的一部分，该努力被称为“内容来源和真实性联盟”(C2PA)，由Adobe、Arm、英特尔、微软和Truepic组成，旨在制定全球技术标准，以证明媒体内容的原创性和生成史。C2PA主席安德鲁·詹克斯(Andrew Jenks)表示，虽然让硬件在图像中插入元数据并不是识别人工智能生成内容的完美解决方案，但它比“脆弱”的水印更安全。
“只要文件保持完整，元数据就在那里。如果你开始编辑文件，元数据可能会被剥离和删除。但这已经是我们目前能做到的最好的方法了。”詹克斯说。“现在的问题是，我们应该将哪些方法整合在一起，才能对错误信息和虚假信息做出相对有力的回应。”
高通的新芯片组将使用C2PA的合作伙伴初创公司Truepic开发的技术，该技术使用密码学对图像的元数据(如拍摄时间、位置和相机应用程序)进行编码，并将其绑定到每个像素。如果图像是使用人工智能模型生成的，那么该技术同样会对它使用的哪个模型和生成提示进行编码。当文件在互联网上传播并被人用人工智能或其他技术进行编辑或修改时，这些更改将以数字签名的“声明”形式附加在其元数据中，类似于文档的数字签名方式。如果图像是在不符合C2PA内容凭证的设备上编辑的，那么编辑内容仍将包含在元数据中，但会被标记为“未签名”或“未知”的编辑内容。目前，Truepic公司的这项工具已被银行和保险提供商用于验证内容。
通过在真实图像中嵌入元数据来证明它们的来源，该联盟希望能让那些在互联网上看到这些图像的人更容易确认它们是真实的——或者立即知道它们是假的。
一些图像创建应用程序，如Adobe的生成式人工智能工具Firefly和必应（Bing）的图像创建器，已经为图像标记了内容凭证，但这项凭证在导出文件时可能会被删除或丢失。不过希普表示，Truepic的技术创建的元数据将存储在高通芯片最安全的部分，信用卡信息和面部识别信息等关键数据也保存在那里，因此无法被篡改。
Truepic首席执行官杰弗里·麦格雷戈（Jeffrey McGregor）表示，该公司一直专注于证明什么内容是真实的，而不是检测什么是假的——他称这是一种更“主动”和“预防性”的方法——因为试图识别假内容的检测技术最终会陷入无休止的“猫捉老鼠”游戏，这是因为人工智能工具的发展速度比检测策略的发展更快，后者依赖于人工智能生成内容重的差异。更新、更强大的人工智能模型可以创造出更能抵御技术检测的合成图像。
他说：“从长远来看，将会有更多投资进入人工智能的内容生成方面，因此AI生成的内容质量将很快超过探测器准确检测的速度。”
麦格雷戈认为，使用智能手机芯片来确保图像中嵌入有关其来源的信息，这种做法可以得到推广。但是，要实现这种方法也有一个先决条件：智能手机制造商和应用程序开发人员必须选择使用它。高通的希普表示，说服他们这样做是当务之急。
“我们正在降低准入门槛，因为它将直接在高通的硬件上运行，所以我们可以立即启用它们。”
不过，采用这种方法也还有另一个挑战：一些应用程序可能不支持这种较新的元数据类型。高通公司的希普表示，他希望最终所有设备的硬件和第三方应用程序都能支持C2PA的内容认证。“我希望每个智能手机终端都能采用相同的标准，无论它们使用的是高通的芯片还是其他公司的。”
译自https://www.forbes.com/sites/rashishrivastava/2023/10/27/content-credentials-that-label-ai-generated-images-are-coming-to-mobile-phones-and-cameras/?sh=b25a0b2208c4