飞鱼博客 
也许人工智能最令人不寒而栗的方面是其生成深度假图像的能力。
当然，有些电影能带来笑料。阿诺德·施瓦辛格的脸叠加在克林特·伊斯特伍德的《肮脏的哈利》中，用武器指着逃跑的嫌疑人。迈克·泰森变成了奥普拉。唐纳德·特朗普变成了《风骚律师》(Better Call Saul)中的鲍勃·奥登柯克(Bob Odenkirk)。尼古拉斯·凯奇在《超人》中饰演露易丝·莱恩。
但最近的事态发展预示着一种更令人不安的趋势，即数字造假变得恶意。
就在上周，演员汤姆·汉克斯(Tom Hanks)在社交媒体上谴责了一则利用人工智能生成的他的肖像来宣传牙齿健康计划的广告。自2012年以来视频浏览量超过500亿次的youtube热门用户比斯特(Mr. Beast)，在虚假视频中以2美元的价格出售iPhone 15 pro。
普通公民也成为攻击目标。人们的脸在未经同意的情况下出现在社交媒体上的图片中。最令人不安的是“报复性色情”事件的增加，在这些事件中，被抛弃的情侣在网上发布他们前任的妥协或淫秽的照片。
随着政治分裂的美国警惕地接近2024年一场极具争议的总统竞选，伪造图像和视频的前景预示着一场前所未有的丑陋选举。
此外，假图片的泛滥可能会颠覆我们所知道的法律体系。正如美国国家公共电台(NPR)最近报道的那样，律师们正在利用那些有时被真假搞糊涂的倒霉公众，并越来越多地质疑法庭上提供的证据。
加州大学伯克利分校(University of California, Berkeley)专门研究数字图像分析的哈尼·法里德(Hany Farid)说，“这正是我们所担心的，当我们进入这个深度造假的时代，任何人都可以否认现实。”
“这是典型的骗子红利，”他说。2018年，在一份关于deepfake可能侵犯隐私和民主的报告中，他首次使用了这个词。
主要的数字媒体公司——openai、Alphabet、亚马逊、deepmind——已经承诺开发打击虚假信息的工具。一个关键的方法是在人工智能生成的内容上使用水印。
但9月29日发表在预印本服务器arXiv上的一篇论文提出了一个令人不安的消息，即遏制这种数字滥用的能力。
马里兰大学(University of Maryland)的教授们进行了测试，证明可以很容易地绕过保护水印。
“在这一点上，我们没有任何可靠的水印，”Soheil Feizi说，他是《人工智能图像检测器的鲁棒性:基本限制和实际攻击》报告的作者之一。
费子说他的团队“打破了所有的规则”。
“人工智能的误用会带来与错误信息、欺诈甚至选举操纵等国家安全问题相关的潜在危险，”费子警告说。“深度造假会造成人身伤害，从人格诽谤到情绪困扰，影响个人和更广泛的社会。因此，识别人工智能生成的内容……成为一个需要解决的关键挑战。”
该团队使用了一种称为扩散净化的过程，该过程将高斯噪声应用于水印，然后将其去除。它留下了一个扭曲的水印，可以绕过检测算法。图像的其余部分只有最小程度的改变。
他们进一步成功地证明，拥有黑盒水印算法的不法分子可以在假照片上加上标记，欺骗检测器，让它们相信是合法的。
更好的算法肯定会出现。就像病毒攻击的情况一样，坏人总是会努力打破好人的防御，猫捉老鼠的游戏将继续下去。
但飞子表达了一些乐观。
“根据我们的研究结果，设计一个健壮的水印是一个具有挑战性的任务，但不一定是不可能的，”他说。
目前，人们在审查包含可能对他们很重要的内容的图像时，必须进行尽职调查。保持警惕，反复检查消息来源，并具备一定的常识是必要的。
更多信息:Mehrdad Saberi等，人工智能图像检测器的鲁棒性:基本限制和实际攻击，arXiv(2023)。DOI: 10.48550/ arXiv .2310.00076
?2023 Science X Network
引用:研究:数字水印保护可以很容易地绕过(2023,10月8日)从https://techxplore.com/news/2023-10-digital-watermark-easily-bypassed.html检索2023年10月8日本文档
作品受版权保护。除为私人学习或研究目的而进行的任何公平交易外，未经书面许可，不得转载任何部分。的有限公司
内容仅供参考之用。
