AI 生成图像造成的宣布小人问题已经有不少了,典型的生成例如上周不少用户在 X/Twitter 上发布大量利用 AI 生成的莓莓裸照,这甚至惊动了埃隆马斯克。图像魔纹师
今天 OPENAI 宣布接入开放技术标准 C2PA,中添用来在 OPENAI DALL-E 3 中生成的加水据图像里嵌入元数据,表明图像是印和元数 DALL-E 生成的。
C2PA 是防君一项开放的技术标准,允许出版商、不防企业和其他人在媒体中嵌入元数据用来验证图像来源或其他信息,蓝点该标准目前已经被部分 AI 模型、宣布小人魔纹师相机制造商、生成新闻机构采用。图像
但该标准并不是中添解决问题的灵丹妙药,例如现在很多社交媒体都会自动压缩图片,加水据这就会导致元数据丢失而无法溯源,印和元数为此 OPENAI 还准备了个备用方案。
OPENAI 采用的方案如下:
对于有心人很容易通过工具抹掉元数据以及 OPENAI 添加的水印,所以这也是个防君子不防小人的做法,看起来更像是 OPENAI 基于某些原因推出的打补丁方案,但肯定不是最终方案,比如 OPENAI 并没有使用盲水印。
接入 C2PA 标准后也让图像体积变大:
OPENAI 强调增长的体积可以忽略不计,这不会导致图片出现加载延迟等问题,并且也不会因为嵌入了 C2PA 元数据以及添加了水印后就导致图像质量降低。