来自日本新闻联播的一段报道让普京在公开场合使用 “二重身 “的传言再次兴起，据称，生成式人工智能被用来让这些 “二重身 “的照片更像真正的俄罗斯总统。
据《每日邮报》报道，这一未经证实的说法已流传数月，并在日本再次出现。报道称，日本研究人员分析了普京出席各种活动的视频和照片，认为至少有三个人在扮演普京。尽管克里姆林宫立即驳斥了这种说法，但这个故事还是从一个侧面说明了人工智能的飞速发展：深度人工智能造假技术的进步。
深度人工智能造假是一种技术，它利用算法替换视频、图像和其他数字内容中的人脸，使假造的内容看起来像真的。深度造假被认为是一种危险的政治操纵新工具。检测深度伪造已成为一个快速发展的行业，生成式人工智能领域的领军企业 OpenAI 声称它能以 99% 的准确率识别深度伪造。
但研究人员表示，这并不容易，而且会越来越难。
Japanese TV network TBS said it has covered AI-based research suggesting Russian President Vladimir Putin uses impersonators to attend various events. 图片来源：每日邮报
“在概率技术中，人们试图确定某些东西是否是人工智能，”Digimarc 总裁兼首席执行官莱利-麦科马克（Riley McCormack）告诉 TCN。”我想你已经看到，如果你看一下很多这些方法，最好的方法准确率都很低。”
Digimarc 公司成立于 1994 年，提供数字水印，帮助识别和保护数字资产和版权所有权。水印是最常见的识别深度伪造的方法之一，谷歌等公司正在探索这种方法。
在旧金山举行的谷歌云大会（Google Cloud Next）上，Alphabet 和谷歌首席执行官桑达尔-皮查伊（Sundar Pichai）公布了谷歌 Vertix 人工智能平台的水印功能。
“皮查伊说：”利用由谷歌Deepmind提供支持的技术，Vertix人工智能生成的图像可以在不影响图像质量的前提下，以人眼不可见的方式添加水印。
不过，作为一种策略，水印有很多弱点。麦科马克说，要阻止深度人工智能水印造假，需要每个人都采用同样的方法来表明某样东西是人工智能生成的还是真实的–这是他之前就提出过的观点。
“他说：”只用水印生成人工智能的问题在于，并非每个生成人工智能引擎都会接受它。”任何认证系统的问题都在于，如果你不具备普遍性，仅仅用一种方式标记是没有用的。”
由于人工智能图像生成器利用的是互联网和社交媒体上免费提供的图像，其他专家建议在生成器中加入降低图像质量的代码，或者使用毒药，对数据进行不恰当的标记，这样当数据被输入到人工智能模型时，人工智能就无法创建所需的图像，并有可能在压力下崩溃。
深层次的人工智能造假已被用来陷害美国总统乔-拜登、教皇弗朗西斯和前总统唐纳德-特朗普。随着深度伪造技术的日臻完善，人工智能检测器不得不玩打地鼠的游戏来跟上时代的步伐。
儿童和成人人工智能生成材料（CSAM）的增加加剧了深度人工智能造假的危险。英国互联网监督组织互联网观察基金会（Internet Watch Foundation）10 月份发布的一份报告指出，借助可免费使用和传播的开源 AI 模型，儿童色情内容正在网上迅速传播。
IWF 认为，深度伪造色情作品已经发展到越来越难以区分人工智能生成的儿童图像和真实儿童图像的地步，导致执法部门起诉网络幽灵，而不是真正的虐待受害者。
“互联网观察基金会首席技术官丹-塞克斯顿（Dan Sexton）告诉 TCN：”因此，你无法相信事情的真假，这是一个持续存在的问题。”能够告诉我们事情真实与否的东西并不是百分之百的，因此你不能相信它们。”
麦科马克提出的另一个问题是，市场上的许多人工智能模型都是开源的，可以不受限制地使用、修改和共享。
“如果你把安全技术放到开源系统中，”McCormack 说。”你在里面放了一把锁，旁边就放了如何开锁的设计，所以它并没有真正增加多少价值。”
塞克斯顿说，在图像生成模型方面，他对一件事持乐观态度：随着像 Stable Diffusion、Midjourney 和 Dal-E 这样的大型模型变得越来越好，并保留了强大的护栏，那么允许本地 CSAM 创建的旧模型将不再受欢迎。他说：”这样也更容易确定是哪个模型创建了图像。
“塞克斯顿说：”到那时，做这些事情会更难，做这些事情的成本会更低，而且可能更容易锁定目标并防止这些危害。
虽然政府领导人是深度覆盖人工智能骗局的主要目标，但越来越多的好莱坞名人发现他们的肖像被用于涉及深度覆盖人工智能骗局的在线诈骗和广告中。
好莱坞女星斯嘉丽-约翰逊（Scarlett Johansson）表示，为了阻止未经授权使用自己的肖像，她正在对人工智能公司丽莎人工智能（Lisa AI）采取法律行动，该公司在一则广告中使用了人工智能生成的复仇者联盟明星的形象。上个月，YouTube 巨头 “野兽先生”（Mr Beast）警告他的追随者不要上当受骗，甚至汤姆-汉克斯（Tom Hanks）也成了深度伪造人工智能广告的受害者。
9 月，教皇方济各–众多深度伪造人工智能骗局的受害者–将技术作为世界和平日讲道的核心内容。这位宗教领袖呼吁就人工智能及其对人类的重要性展开公开对话。
“方济各说：”人工智能领域取得的卓越进展正在对人类活动、个人和社会生活、政治和经济产生迅速增长的影响。
麦科马克认为，随着人工智能检测工具的改进，深度伪造的生成器也将随之改进，从而导致去年推出的 ChatGPT 开始的人工智能军备竞赛的另一条战线。
“生成式人工智能并没有造成深度伪造问题或错误信息问题，”麦科马克说。”它只是将其民主化了。
