科技行者Deepfake视频正在快速传播,也许区块链能够阻止这波“瘟疫”

Deepfake视频正在快速传播,也许区块链能够阻止这波“瘟疫”

Deepfake视频正在快速传播,也许区块链能够阻止这波“瘟疫”

Deepfake视频正在快速传播,也许区块链能够阻止这波“瘟疫”

2019年10月22日 10:49:59 科技行者
  • 分享文章到微信

    扫一扫
    分享文章到微信

  • 关注官方公众号-科技行者

    扫一扫
    关注官方公众号
    科技行者

“假新闻”一词已经成为当下的热门话题,而Deepfake(即看似真实,但实为伪造的视频操纵行为)则会进一步加剧民众与媒体之间的不信任危机。

来源:科技行者 2019年10月22日 10:49:59

关键字:区块链

“假新闻”一词已经成为当下的热门话题,而Deepfake(即看似真实,但实为伪造的视频操纵行为)则会进一步加剧民众与媒体之间的不信任危机。技术人员希望利用区块链的天然特性重建信任体系,以帮助公众再度获得对所见、所闻的信任感。

时至今日,真相正逐渐变成一种相对成立的表达。当每个人都有属于自己的一套真相时,民主将变得毫无意义。Deepfake的出现,则又给整个社会一记沉重的打击——越来越多的人可以轻松根据自己的观点及目标制造事实。短短几年之内,我们的肉眼与耳朵已经无法分辨视频或者音频内容是否属实。换言之,人类社会正面临一个新的难题。

将“深度学习”与“伪造”结合起来,我们得到的就是deepfake——大家可以理解成人工智能支持下的超级PS技术。只要能够提供与现有主题相关的充足数据(或者素材),deepfake算法完全可以被用于操纵视频内容,人类几乎无法看出其中的破绽。

Deepfake的社会影响

Deepfake有可能改变舆论、左右选举结果或者引发种族暴力。在人身攻击层面采取伪造宣传方法早已不再新鲜,但随着deepfake的出现,信息的伪造手段提升到了新的层面。在AI技术快速发展以及社交媒体病毒式传播的双重作用下,deepfake可能会成为困扰人类发展的最可怕技术之一。

Deepfake还拥有着改变游戏规则的力量,其原因有二。第一,deepfake代表着目前AI技术所能达到的复杂性高度。第二,也是更重要的一点,其技术获取途径正在快速民主化。

Deepfake的意义甚至与社会性无关,而可能表现为一种非常个人的行为。某个匿名Reddit账户就因利用deepfake技术大肆制作名人伪造视频而广为人知——主要是色情视频。虽然这位作者的subreddit早在2018年2月就被封禁,但其视频作品目前仍在网络上广泛传播。

然而,deepfake的流行又催生出新的应用方向。名人不再是唯一的潜在受害者,如今极为广泛的获取途径以及更低的上手门槛,使得任何人都可以制作“报复性”视频。

软件生态

自此之后,市场上出现了多家致力于解决deepfake骗局的初创企业,Ambervideo.co当数其中的佼佼者之一。考虑到伪造视频使得真实记录越来越难以成为合法的证物,Amber公司希望构建起一套中间层,用于检测恶意变更。此外,他们还努力开发出检测与验证技术方案。

为了进行检测,Amber拥有一款软件工具,能够查看视频与音频轨道以及其中的种种元素,从而找到一切可能的修改迹象。Amber公司还在训练自己的AI模型,用于适应视频修改过程中所留下的种种特定模式。

这种方法的问题在于其严重依赖于反应机制,因为AI只能从以往出现过的模式出发进行学习。这种识别方式几乎无法检测出较新的deepfake算法,因此人们普遍认为这种检测思路将长期落后于最先进的生成技术。

为了解决这个问题,Amber又开发出了验证技术:加密指纹会在录制后立即被添加在视频之上。Amber Authenticate利用区块链基础设施每隔30秒进行一次哈希存储,因此对这些哈希产生影响的任何活动都有可能代表着篡改行为。

除了Amber这类软件解决方案之外,应对deepfake难题还需要硬件解决方案的支持。Signed at Source等企业正在通过为利益相关方提供摄像机集成产品的方式,自动对捕捉到的数据进行签名。Deepfake视频几乎无法提供与自动捕捉数据相同的签名信息,这意味着我们能够证明是哪台摄像机录制了这段视频,从而完成溯源以及伪造识别工作。

现实用例

2019年10月3日,美国执法部门技术供应商Axon Enterprise公司宣布,他们正在探索对便携摄像机的全新数据跟踪技术,并将利用区块链技术验证警员随身设备拍下的视频的真实性。

Axon并不是唯一致力于解决deepfake相关问题的组织。国防高级研究计划局(DARPA)的媒体取证计划正在开发“用于自动评估图像或视频完整性的技术。”为了帮助证明视频是否经过篡改,Factom Protocol公司提出了一种新的解决方案,名为Off-Blocks。Factom Protocol市场营销总监Greg Forst表示:

“在对新闻、内容以及文档的准确性进行严格审查时,deepfake技术的兴起无疑给我们的社会带来了重大威胁。随着这种现象的兴起以及使用门槛的下降,我们可能将很难信任任何以视频形式呈现的信息。这是一种危险的趋势,模糊了数字身份的界线,因此我们需要在最严格的安全措施当中考虑到这项挑战。”

Forst认为,开发人员、区块链布道者以及网络安全专家还应着力探索不同的途径,尝试缓解deepfake造成的危害。数字解决方案的真实性证明能力对于消除伪造内容至关重要。遗憾的是,此类解决方案目前仍无法提供对数字媒体历史与出版的跟踪功能。

区块链能否拯救一切?

以Axiom的执法随机摄像机为例,视频在源记录器中即被添加进指纹信息。这些指纹被写入至不可变区块链之上,并可由设备下载并上传至云端。这些事件都将被记录在智能合约当中,并由合约负责整理出审计跟踪索引。

Deepfake视频正在快速传播,也许区块链能够阻止这波“瘟疫”

Axiom公司使用的技术被称为“受控捕捉系统”,其应用范围当然不止于警用摄像机。它能够从内容源中提取签名,并利用加密方式进行签名,从而实现视频记录的可验证性。

但是,由于视频往往会经过编码,因此即使在理想情况下,我们也很难获取到原始数据。另外,就算对视频进行极小的修改,签名也将不再有效。而且编码也不是唯一的问题——如果有人使用原始摄像机之外的设备进行视频转录,我们将同样无法访问到原始视频数据。

谷歌的Content ID可能代表着一种可行的解决方案。该服务最初是为了揪出盗版活动所开发,但后来人们发现其可被用于检测deepfake行为。在投入1亿多美元进行系统开发之后,谷歌公司成功创建出一种算法,能够将用户上传的视频与一组注册在案的参考视频进行匹配,从而消除部分匹配或者小幅修改造成的真实性影响。

但只有在deepfake内容与原始副本非常相似时,该算法才能发挥作用。此外,保留大量指纹并调整变更算法,会对数据以及计算要求产生重大影响。在谈论区块链技术能否应对由deepfake带来的威胁时,Factom公司的Frost补充道:

“谈到deepfake,区块链技术有望带来独特的解决方案。通过在区块链之上创建视频内容,再配合验证标签或图形,其能够给deepfake行为设置更高的门槛。……数字身份必须强调内容的来源与创作者。我们可以看到,新闻与电影行业可能正在寻求这种解决方案;不过潜在的操纵者完全可以注册为合法用户并在系统当中插入deepfake文件,因此情况仍然相当棘手。即使是在区块链之上,不良数据仍然是不良数据。因此我倾向于使用一整套解决方案组合。”

通常情况下,由于传播与影响的起效速度很快,因此现有检测技术往往根本就找不到施展的舞台。由deepfake视频带来的公众形象损失可能难以修复,种族或民族之间的矛盾也会快速升级,甚至让个人间的关系在事件得到验证前就彻底崩溃。换言之,最大的问题在于如今的信息传播速度已经失控。

齐心协力打击deepfake

Purple Quarter公司首席运营官、搜索业务技术主管Roopa Kumar认为必须强调技术本身的危害性:

“以核能为例,其既可被用于为数百万居民供电,也有可能落入恶人手中在瞬间抹杀上百万条人命。技术本身没有任何道德观念,但人类有。Deepfake可以被用于制作有趣的应用,以供每个人在手机上使用。但是,如果被恶意人士所掌握,同样的应用程序也有可能颠覆我们所熟悉的日常生活乃至社会结构。”

如今,很多人对政府及银行等大规模中央机构已经不再信任。而区块链的核心原则,也正是强调这种不信任心态。然而,区块链(乃至整个技术生态)并不足以承担起与deepfake斗争的全部责任。

因此,各方必须齐心协力,共同打击deepfake。从事deepfake技术研究的开发人员必须在线发布代码,以便第三方能够交叉检查。此外,监管机构还应探索如何更好地监督这一领域。最重要的是,要让民众充分了解这种技术,并确保在接纳一切信息前都首先进行理性判断。