Adobe提出保护艺术家免受人工智能剽窃的方法

站长云网 2024-10-08 5iter.com 站长云网

作为全球数字艺术家的动力引擎,Adobe肩负着减轻人工智能驱动的深度伪造、错误信息和内容盗窃的重大责任。2025年第一季度,Adobe将推出其内容真实性网络应用的测试版,允许创作者将内容证书应用到他们的作品中,并将其认证为自己的作品。

这并不像修改图片元数据那么简单--这种保护很容易被截图挫败。内容凭据则将来源又向前推进了一步。Adobe的系统使用数字指纹、隐形水印和加密签名元数据来更安全地保护艺术品,包括图像、视频和音频文件。

隐形水印对像素的改变非常微小,无法被人眼发现。数字指纹的工作原理与此类似,它将一个ID编码到文件中,以确保即使内容凭证被删除,文件仍能被识别为属于其原始创建者。

Adobe内容真实性高级总监安迪-帕森斯(AndyParsons)表示,有了这种技术,Adobe就可以真正做到,"无论图像、视频或音频文件流向哪里,无论在网络上还是在移动设备上,内容凭证都将始终附在文件上"。

像这样的"选择性加入"计划只有在被采用时才能发挥最大作用。但是,如果说有哪家公司能够达到数字艺术家和创作者的决定性用户数,那一定是Adobe,它拥有3300万为其软件付费的用户。即使不是Adobe用户的艺术家也可以使用网络应用程序来申请内容证书。

此外,还有一个问题是如何让内容证书在互联网上可被访问。Adobe与其他公司共同成立了两个行业组织,致力于维护内容的真实性,提高网络信任度和透明度,其成员包括占市场90%的相机制造商、微软和OpenAI的内容创建工具,以及TikTok、LinkedIn、Google、Instagram和Facebook等平台。这些公司的加入并不意味着它们会将Adobe的内容认证整合到自己的产品中,但这确实意味着Adobe已经得到了它们的认可。

不过,并非所有社交媒体平台和网站都能明显显示出处信息。

帕森斯说:"同时,为了弥补这一差距,我们将发布Chrome浏览器的内容真实性扩展,作为该软件包的一部分,同时我们还将在Adobe内容真实性网站上发布名为Inspect的工具。这些工具将帮助你发现和显示内容凭证,无论这些凭证与网络上任何地方的内容有关联,都可以再次向你展示是谁制作了这些内容,是谁获得了这些内容的授权。"

具有讽刺意味的是,人工智能并不擅长分辨某物是否是人工智能。由于区分真实图像和合成图像变得越来越困难,这些工具可以提供一种更具体的方法来确定图像的来源(只要它有凭证)。

Adobe并不反对使用人工智能。相反,该公司正试图明确人工智能在艺术作品中的应用,并防止艺术家的作品在未经同意的情况下被用于训练数据集。Adobe甚至拥有自己的人工智能生成工具Firefly,该工具在AdobeStock图像上进行训练。

帕森斯说:"Firefly在商业上是安全的,我们只在Adobe明确允许使用的内容上对其进行训练,当然,绝不会在客户内容上进行训练。"

尽管艺术家们对人工智能工具表现出极大的抵触情绪,但帕森斯表示,Adobe在Photoshop和Lightroom等应用中集成的Firefly功能获得了积极的反馈。Photoshop中的生成填充功能可以通过提示来扩展图像,其采用率是普通Photoshop功能的10倍。

Adobe还一直在与Spawning合作,这是另一个帮助艺术家控制其作品如何在网上使用的工具。通过名为"我被训练了吗?"的网站,Spawning允许艺术家搜索他们的艺术作品是否出现在最流行的训练数据集中。艺术家可以将自己的作品添加到"请勿训练"注册表中,从而向人工智能公司发出信号,表明该作品不应被纳入训练数据集中。这只有在人工智能公司尊重该名单的情况下才会有效,但到目前为止,HuggingFace和Stability已经加入了该名单。

本周二,Adobe将推出内容真实性Chrome浏览器扩展的测试版。创作者还可以注册,以便在明年推出完整网络应用的测试版时收到通知。

责任编辑:站长云网