数字“深度造假” 影响政治和社会秩序

“深度造假”是指极为逼真以至于难以察觉的对音频或视频的数字操纵。如果该技术被用在政治和国际事务领域，可能以假乱真，煽动暴力活动，影响政治和社会秩序。

美国《外交》双月刊网站近日刊发的文章指出，由于“深度造假”的兴起，捏造某些从未说过的话、描绘某件从未做过的事变得比以往更加容易。

“深度造假”是人工智能“深度学习”技术进步的产物。它有许多有价值的应用，例如出于教育目的而制作历史人物的音频或视频。一家公司甚至声称可以利用这项技术，使丧失发音能力的人恢复讲话。但是，“深度造假”也可能被用于险恶目的，最可怕的是在政治和国际事务领域制造“深度赝品”，煽动暴力活动。

传媒形态的变化，为“深度造假”产生严重破坏性，提供了可能性。最近10年来，越来越多的人从社交媒体平台获取信息,这些平台依赖大量用户生成相对未经过滤的内容，平台算法强化了用户兴趣视角，使社交媒体沦为人云亦云的“回响室”。这些平台还存在一种信息“瀑布效应”，即人们传递他人分享的信息时并未核实，这就使得以讹传讹更加容易。结果是，事实与虚构越来越难以区分，谎言比以往任何时候传播得更快，社交媒体因而成为传播“深度仿冒品”的沃土，对政治社会产生潜在的爆炸性影响。此外，“深度仿冒品”越是情节惊人，就越有效，这意味着未来的假新闻或许会更生动逼真、更具共享性。

我们应该如何应对这种威胁?一是利用技术手段检测伪造。2018年6月，美国达特茅斯学院和纽约州立大学奥尔巴尼分校的计算机科学家宣布开发了一个程序，通过在视频中观察研究对象眨眼时眼睑运动是否异常，来检测“深度造假”。当然，在攻防过程中，“深度造假”技术可能随着检测技术演进而不断升级。

二是在传播之前标明“数字出处”。美国“真实照片”(Truepic)公司正在研究如何在创建音频、照片和视频时，利用分布式分类账或区块链等不可变的方式记录元数据，标出数字水印，可以用来与可疑赝品进行比对。这种方法面临两大障碍：首先，将该技术部署到大量设备中本身就是一个难题;其次，将标明“数字出处”作为向数字平台提供内容的前提，意味着阻止人们上传未经验证的信息，恐怕社交媒体难以做到这一点。

三是提供所谓“经过认证的不在场证明服务”。可以采用增强版的“生命日志”，随时记录生活，以证明其任何时间身在何处、说了什么或做了什么。一些公司可能已经开始提供这项服务，并且可以与主要新闻和社交媒体建立合作伙伴关系，以快速确认或揭穿某些“深度造假”的内容。但是，这样的记录无疑带有严重的侵入性，而且如何存储和处理由此形成的巨大数据也是一个问题。

除了技术解决方法之外，法律手段也要有所作为。比如规定制作或分享“深度仿冒品”，构成诽谤、欺诈或盗用他人肖像等民事和刑事违法行为;激励社交媒体承担更多识别和删除“深度造假”或欺诈性内容的责任等。