广告

俄罗斯假参谋长上线视频会议,AI换脸骗过荷兰外交官

2021-04-29 10:11 来源:智东西

近日,荷兰议会外交事务委员会在视频会议软件Zoom上被AI换脸技术所骗,对方利用Deepfake(深度伪造技术)冒名顶替俄罗斯反对派领导人阿列克谢·纳瓦尔尼的参谋长列昂尼德·沃尔科夫(Leonid Volkov)。

这样的事情并非第一次发生。此前,沃尔科夫的冒名顶替者还与拉脱维亚和乌克兰政治家进行了交谈,与英国、爱沙尼亚和立陶宛的政治人物进行了接触。

荷兰国众议院在一份声明中说到,众议院对此次Deepfake换脸事件感到愤慨,并正在研究如何防止此类事件再次发生。

一、单张照片即可换脸,Deepfake成政治武器

Deepfake由深度机器学习和假照片组合而成,本质是一种AI深度学习模型在图像合成、替换领域的技术框架,属于深度图像生成模型的一次成功应用。

Deepfake技术出现于2017年,给影视制作等方面带去高效、低成本制作等好处,但随之而来也存在造假、造谣、欺诈等伦理问题,真假混淆使得人们愈发缺乏安全感。

去年,俄罗斯的两位研究员推出了一款名为Avatarify的软件,可以与Zoom或Skype等视频会议软件配合使用,将视频会议中用户的面容变成任意指定名人的样子。通过Avatarify的使用,用户只需要一张制定照片就可以完成脸部替换。

7bd9e452c89a994e23ddc00accbcef5b.jpeg

俄罗斯假参谋长上线视频会议,AI换脸骗过荷兰外交官

AI换脸技术运用于视频通话存在潜在风险,恶作剧者可能会欺骗政府做出糟糕的政策决定,还会成为政客间相互攻击的武器。

在2020年美国大选期间,特朗普4月在推特上转发了一个伪造拜登吐舌头的视频,当晚视频播放量超过1000万次。随后特朗普在5月又转发了用自己脸替换科幻电影《独立日》中总统托马斯·怀特摩尔、发表“我们要为我们的生存而战”演讲的视频。

二、商学政界积极应对Deepfake风险

目前,针对Deepfake,谷歌、微软、Facebook等众多科技巨头都在开发各种检测技术。但目前比较进阶的Deepfake仍然可以骗过大多数AI检测模型。

2019年6月13日,美国众议院情报委员会召开关于人工智能深度伪造的听证会,公开谈论了深度伪造技术对国家、社会和个人的风险及防范和应对措施。这是美国众议院首次举办专门讨论深度伪造及其他类型的AI合成技术的听证会。

会议邀请了四位来自不同领域的专家,分别是美国外交政策研究所研究员克林特·瓦茨(Clint Watts)、马里兰大学法学教授丹尼尔 · 希特伦(Danielle Citron)、布法罗大学人工智能研究所所长大卫·多尔曼(David Doermann)和Open AI政策总监杰克·克拉克(Jack Clark),以系统介绍深度伪造技术及解答议员的疑惑,共同探讨“深度伪造”的风险及应对之策。

在我国,相关监管政策也在不断完善。我国《民法典》第1019条明确指出,任何组织或个人不得利用信息技术手段伪造等方式侵害他人的肖像权。

结语警惕视频通话中的AI换脸技术

荷兰视频会议遭AI换脸,表明当前AI换脸技术风险已渗透到安全性较高的政界,各界应当加大AI换脸技术的监管。

未来,可能需要严格的筛查流程来识别AI换脸技术,以此确保视频通话中每个参与者都是真实的。

责任编辑:潘一大