在诈骗者利用生成式人工智能进行金钱欺诈或破坏个人声誉的背景下，科技公司正积极寻找方法帮助用户验证内容真实性，尤其是静态图像。OpenAI在2024年错误信息战略中采取创新举措，通过在ChatGPT和DALL-E 3 API生成的图像中嵌入C2PA标准元数据，以追踪图像来源。此举标志着其移动版本将于2月12日前完成相应升级。
利用C2PA（内容来源和真实性联盟）开放标准，用户上传图像至内容凭证验证工具时，能够清晰追踪其来源沿袭。例如，ChatGPT生成的图像将展示详尽的元数据清单，揭示其经由DALL-E 3 API生成，并随后在ChatGPT中使用的完整路径。
尽管C2PA标准背后依托复杂的加密技术，但验证方法的有效性完全依赖于元数据的完整性。若上传的图像未附带元数据，验证工具将失去作用，如同社交媒体上的普通截图或上传图像一样。目前，DALL-E 3官方页面的示例图像也未能返回有效的元数据信息。
OpenAI在常见问题解答中坦诚表示，此举措并非解决错误信息泛滥的万能药，但强调关键在于鼓励用户积极寻找和验证内容来源的信号。虽然OpenAI当前的努力仅限于静态图像，但业界其他公司也在积极探索类似技术。谷歌的DeepMind已推出SynthID，为人工智能生成的图像和音频添加数字水印，而Meta则在其人工智能图像生成器中测试隐形水印技术，以增强内容的抗篡改能力。这些举措共同标志着科技行业在应对生成式人工智能带来的挑战方面取得重要进展。
本文资料来源于互联网，仅做网络分享，如有侵权，请联系删除；不代表Sora中文网立场，如若转载，请注明出处：https://www.allinsora.com/6620
