OpenAI 宣布在自家生成的图片中采用 C2PA 开放标准在元数据中标注来源,并与谷歌合作接入 SynthID 隐形水印,两者互为补充:元数据提供丰富溯源信息但易被篡改,SynthID 对截图、缩放和数字修图等篡改具有更强抗性。OpenAI 同时展示了一款初期仅支持自家图片的核验工具,未来计划逐步适配其他平台。该举措能提高由 OpenAI 工具生成图片的可溯源性,但无法约束大量未标注或来路不明的 AI 生成图片。
5 月 20 日消息,如今各类 AI 图像生成工具层出不穷,且功能日益强大,想要分辨一张图片是否真实变得前所未有的困难。本周二,OpenAI 推出两项新举措,助力解决这一问题。
IT之家注意到,该公司已承诺采用名为 C2PA 的开放标准,该标准会在图片元数据中留下明确标识,标注图片由人工智能生成。同时,OpenAI 还携手谷歌,接入名为 SynthID 的隐形水印。这种水印隐蔽性更强,即便不法分子试图抹除痕迹,也很难将其彻底清除。
此番全新防护措施仅适用于 OpenAI 旗下产品生成的图片,无法约束大量来路不明的劣质 AI 作图工具产出的海量图像,但至少能确保 OpenAI 不再助长图片造假乱象。
OpenAI 还提前展示了一款图片核验工具,可同时检测上述两种溯源标识,方便用户快速查验图片是否由 AI 制作。该工具初期仅支持核验自家产品生成的图片,后续计划逐步适配其他平台的 AI 作图工具。
内容溯源与真实性联盟(C2PA)成立于 2021 年,是一家非营利机构,致力于减少 AI 伪造图像对社会舆论造成的不良影响。目前谷歌多款产品已采用 C2PA 标准,但整个行业尚未形成统一普及态势。由于 C2PA 溯源信息可直接在文件元数据中查看,存在被篡改的风险,仅在可信使用群体中实用性较高。
而 SynthID 是一项更新的技术方案,抵御篡改的能力更强。该水印由谷歌研发,即便不法分子通过截图、缩放尺寸、数字修图等方式试图去除水印,水印标识依旧能够留存。
两套溯源体系互为补充,各自弥补对方的短板。
OpenAI 在公告中表示:“隐形水印在截图、二次编辑等图片改动场景下留存性更强,而元数据溯源能提供比单一水印更丰富的信息。二者结合使用,能让图片来源溯源的可靠性远超单一防护手段。”