读3分钟新德里更新时间：2026 年 5 月 24 日下午 03:49（美国标准时间）
OpenAI 本周早些时候宣布了两项新措施，加大力度打击通过人工智能生成的深度伪造品传播错误信息。
ChatGPT 制造商于 5 月 19 日星期二宣布与谷歌建立新的合作伙伴关系，在使用其人工智能产品生成的所有场景上添加名为 SynthID 的隐形水印。此外，OpenAI还推出了新的公共验证工具，可以让用户轻松查明图像是否是使用AI创建的。
该工具依赖于两个信号，即 SynthID 和另一个名为 C2PA 的开放标准，后者为使用 AI 生成的图像的元数据添加了清晰的信号。
当然，该工具仅用于检测 ChatGPT、OpenAI API 或编解码器生成的图像。然而，OpenAI 表示希望随着时间的推移将其扩展到其他人工智能工具。
此举正值人工智能图像生成器变得越来越复杂并且在网上广泛使用之际。反过来，这使得很难判断图像是否真实。尽管 OpenAI 宣布的新保护措施可能有助于打击错误信息的传播，但它们可能无法有效阻止来自信誉不佳的人工智能工具的大量图像。
OpenAI 在博客文章中表示：“通过屏幕截图等更改，水印可以更具可持续性，而元数据可以提供比单独水印更多的信息。它们共同使来源比任何单层都更具弹性。”
要使用OpenAI的新AI图像验证工具，请按照以下步骤操作：
故事在该广告下方继续
– 上传单个图像。请注意，该工具支持的格式有 PNG、JPG 和 WEBP。
– 查看结果以查看该工具是否检测到 C2PA 元数据、SynthID 水印或不支持的信号。
OpenAI 会紧密裁剪图像周围的屏幕截图，并避免上传包含多个图像的文件，以达到最佳效果。
为了测试该工具，我们上传了使用 OpenAI 今年 4 月发布的最新图像生成模型 Images 2.0 创建的图像。回应：“我们没有找到证据表明该内容是使用 OpenAI 工具生成的。但是，它可能仍然是 AI 生成的。有关详细信息，请参阅常见问题解答。”
故事在该广告下方继续
C2PA 和 SynthID 之间的区别
内容来源和真实性联盟 (C2PA) 是一家成立于 2021 年的非营利组织，其使命是减少人工智能图像对公共话语的有害影响。
到目前为止，C2PA标准已经被Google的很多产品所采用。然而，整个行业的采用情况仍然不一致。此外，C2PA 信号可以被操纵，因为它可以在每个文件的元数据中轻松访问。
另一方面，SynthID 是 由谷歌 DeepMind 设计 即使坏人试图通过屏幕截图、调整大小或数字操作来删除它，它仍然存在。尽管这两个系统可能都有各自的缺点，但以互补的方式依赖这两个系统的工具可能会更有效。
Leave a Reply