数字水印技术，但最新研究表明，这种技术可以被轻松绕过，使得打击AI深度伪造的战斗仍然面临挑战。

近年来，随着AI技术的迅猛发展，生成深度伪造图像变得越来越容易。这一进步在许多情况下带来了娱乐效果，但最近的发展趋势却引发了更加令人不安的问题，因为这些深度伪造图像正被用于恶意用途。数字水印技术，但最新研究表明，这种技术可以被轻松绕过，使得打击AI深度伪造的战斗仍然面临挑战。最近，好莱坞演员汤姆·汉克斯在社交媒体上谴责一则广告，该广告使用了他的AI生成肖像来推广一项牙科保健计划。此外，拥有超过50亿观看次数的YouTuber Mr. Beast也被虚假地展示为以2美元的价格提供iPhone 15 Pro。普通市民也成为了目标，他们的面孔被用于社交媒体上，而未经他们同意。最令人不安的是“复仇色情”的增加，其中受到伤害的人发布了虚假的图像，将前任伴侣描绘成令人尴尬或色情的场景中。为了应对这一问题，主要的数字媒体公司，如OpenAI、Alphabet、亚马逊和DeepMind，承诺开发工具来打击虚假信息。其中一个关键方法是在AI生成的内容上使用数字水印。然而，一份发表在arXiv预印本服务器上的研究报告指出，要遏制这种数字虚假信息滥用的能力存在困难。马里兰大学的教授进行了测试，展示了保护性水印的轻松绕过方法。其中一位报告作者Soheil Feizi表示：“目前我们没有可靠的数字水印技术。”他表示，他的团队都可以成功绕过数字水印技术。他还警告说，AI的误用可能导致涉及虚假信息、欺诈乃至选举操纵等潜在危害，这些危害涵盖了个人和更广泛社会的伤害。研究团队采用了一种称为“扩散净化（diffusion purification）”的过程，该过程将高斯噪声应用于数字水印，然后将其删除。这留下了一个扭曲的水印，可以绕过检测算法，而图像的其余部分几乎没有改变。他们还成功地证明，恶意行为者通过访问黑匣子数字水印算法可以发布带有标记的虚假照片，以欺骗检测器认为它们是合法的。尽管如此，Feizi也表达了一些乐观情绪，他说：“根据我们的研究结果，设计强大的数字水印是一项具有挑战性但不一定不可能的任务。”因此，目前人们在审查包含可能对他们重要的内容的图像时，必须要保持警惕，双重检查来源，并运用常识。