换脸已成“过去式” COPY全身时代已经来临！

还记得当初AI换脸技术乍一登陆中国引发的全民换脸恶搞热潮么？国内某知名视频网站上更是铺天盖地的以知名明星为素材蓝本进行二次创作恶搞视频，直到2019年4月12日某小鲜肉律师函警告该网站；再到20119年4月20日，民法典人格权编草案二审稿提交十三届全国人大常委会第十次会议审议。其中拟规定：任何组织或者个人不得以丑化、污损，或者利用信息技术手段伪造等方式侵害他人的肖像权。其他人格权的许可使用和自然人声音的保护，参照适用本章的有关规定的草案二审稿；最后官媒出面痛批AI换脸涉色情。这才让全民换脸热冷静了下来。

热潮虽过，却并不代表风险消失

近日，一段关于扎克伯格的恶搞视频在Instagram上流传。该视频中，扎克伯格的面部表情极其僵硬，声音与本人的相比差距很大。如果以传统的AI换脸、换声的角度来看，这似乎可以称得上是一个新手的“一次拙劣尝试下的作品”。可令人不寒而栗的是，这是以色列一家科技公司利用人工智能换脸技术合成而来，这一技术也被称为“深度伪造”。并无传统AI换脸技术、AI换声技术下所需要的大量素材训练AI，而是直接“一键生成”的产物。

初心何在？向“善”生却由“恶”死

全身深度伪造技术在诞生之初极具商业潜力，肉眼可见的便是在，在影视娱乐产业，尤其是科幻片不用替身，先通过计算机模型拍摄大型场面和惊险镜头，在后期制作时才把演员的头像换到人物躯干上，完全可以获得极为逼真的影视效果，大大节约成本。同时AI深度伪造还可以应用在趣味视频、游戏以及广告合作中，未来还会造福更多领域。

早在2018年8月，美国加州大学伯克利分校的研究人员在网上发布了名为《人人皆为舞王》的视频，展示了深度学习算法实现动作转移的方法。同年，由德国海德堡大学图像处理合作实验室（HCI）和科学计算跨学科中心（IWR）的计算机视觉教授比约恩·奥默尔博士领导的研究小组，发表了一篇关于教授机器以逼真形态渲染人类身体运动的论文。

换脸已成“过去式” COPY全身时代已经来临！

可惜的是现在的事实却与开发者的目的相去甚远，在人的恶意应用下给政府与企业带来破坏性的影响，尤其是对反恐和国家安全造成危害。于是，在它的发源地美国被全网封禁，Reddit讨论版被删除，其GitHub开源代码也被清除，可潘多拉的魔盒一旦被打开又怎么可能通过再次关上而阻止灾难的发生。

虽有距离，可这个距离又会是多远？

值得庆幸的是，截至目前全身深度伪造技术还并没有足够成熟。需要计算机科学家需要使用生成性对抗网络（GANS）来创造深度伪造视频，该网络是由两个神经网络组成的，它们分别是合成器（生成网络）以及检测器（鉴别网络）。它们会在反馈回路中工作，以创建逼真的合成图像和视频。合成器会利用数据库创建图像，而后者将会利用数据库确定图像的准确性。

达特茅斯大学计算机科学系主席哈尼·法里德表示，深度伪造技术正在走向成熟。但合成面部和整个身体的过程存在着非常显著的差异，因为人的身体与脸部比起来可变性更高，处理过程就会更加复杂。

这也就意味着这种技术与其产物还被深藏于实验室之中，生成性对抗网络的使用意味着该技术暂时不会像人脸识别技术一样“白菜化”，难以走进千家万户。而合成面部和整个身体的过程存在着非常显著的差异就意味着技术合成物还有较为显著的破绽与违和感，常人不通过技术手段即可分辨，短时间内对人的生命财产安全造不成什么影响。

不过值得让人担心的是，虽然现在还存在一定的安全距离，但是这个距离还有多远？

以当初该技术最初的开发者比约恩·奥默尔博士的猜想看，可能短短数年内，全身和其他深度伪造技术将变得更便宜，更普遍。

居安思危，浅析深度伪造潜在风险

其一、法律风险

视频证据属于我国证据法中的视听资料，具有直观生动性特点，但假视频会大大降低视频作为证据的可信度。比如利用AI深度伪造通奸视频起诉离婚并要求高额赔偿，伪造不在场证据为自己洗脱嫌疑等。虽然我们可以向法院申请司法鉴定，但AI深度伪造的图像、视频给非法证据排除和电子证据鉴定也提出了更高要求，一旦“道”难胜“魔”所带来的后果将是毁灭性的。

其二、信任危机

华夏自古便有“耳听为虚，眼见为实”的传统，尤其在移动支付盛行的今天，加之有被网友俗称为“盗号狗”的不法分子存在，让人们警觉倍增。每每是有熟人借钱大家第一反应都是要求发个语音以验明正身，可一旦深度伪造技术普及，不法分子盗号以后进行诈骗直接用合成物与受害进行视频，防不胜防，一般人可难以有辨别手段。

其三、秩序安全

2018年美国新安全中心发布的《人工智能与国家安全》报告认为，如果AI深度伪造生成工具向未经培训的业余爱好者开放，网络信息舆论生态的绝大部分可能被伪造品占领，对国家安全、政治安全、新闻舆论等领域带来一定风险。事实证明，已经有美国前领导人奥巴马的合成视频被发于youtube，这对于将是一个重大的隐患极易可能引起不明真相的吃瓜群众信以为真以至于出现难以预料的后果。

反制手段，监管、法律、技术三位一体

应对潜在的危机，在技术方面欧美日等国纷纷采取应对措施，美国安全机构已研发了一款反AI变脸刑侦检测工具；而日本一些研究人员认为，通过微小细节去发现线索，让人脸识别人工智能可以区分换脸技术制造的假视频。如今，以生成对抗式网络（GAN）为代表的AI深度伪造盛行，标志着AI深度伪造者和数字侦查人员之间人工智能新一轮“军备竞赛”的开始。当前，AI深度伪造技术还是已扩散到全球，为了避免产生不可预知的安全风险和新的法律问题，相关部门应高度关注恶意使用人工智能技术的潜在风险，需要联合科研界以及产业界的力量，共同做好前瞻技术研究，掌握应对防范之策。

AI深度伪造作为一种新兴的黑科技，我国目前尚没有专门的法律法规对其进行规制，建议运用法律手段，重点防控人工智能行为主体及其行为的异化。在立法方面，加强对人工智能技术应用可能出现的法律问题的前瞻性研究探索。虽然民法典人格权编草案二审稿提交十三届全国人大常委会第十次会议审议，但尚有一定欠缺，还需在法律属性、法律责任如何认定方面在进行加强让犯罪分子不会钻法律的空子成为漏网之鱼。

而在监管方面，在对技术传播进行管制的同时还应当强化网络视频图像内容监管审查，严厉打击伪造传播虚假视频图片新闻和信息行为。及时制定AI深度伪造相关产品和服务技术标准规范，规范和引导研发推广以应对将来的种种挑战。

结语

AI是把双刃剑，有人利用它去弄虚作假，有人利用它带来便捷和安全。人工智能技术发展日新月异，如何利用好AI技术，仍然是人工智能时代需要思考的课题。

责任编辑：潘一大