新闻 以色列正在新兴的“深度伪造...

以色列正在新兴的“深度伪造”网络战线上与哈马斯作战

1979

随着以色列与哈马斯冲突加剧,网络空间将再次成为实时决策和舆论的关键战场,深度造假技术也带来了新的威胁。自以色列和哈马斯冲突爆发以来,由人工智能生成的关于冲突的虚假视频充斥着世界各地的媒体。美国哥伦比亚广播公司新闻工作人员近日筛选了据称在以色列或加沙地带的民众提交的1000个视频,发现只有10%的提交内容可用,其余视频中存在部分“深度造假”视频。哥伦比亚广播公司高管表示,部分深度造假创作者目标是传播错误信息。

人工智能初创公司Clarity首席执行官迈克尔·马蒂亚斯表示,错误信息的“戏剧性超级进化”正在席卷全球,人工智能战线不容低估;深度造假会产生巨大的影响,大多数媒体机构都低估了人工智能生成的镜头所构成的威胁程度,在线平台和出版商主要使用传统的审核技术,还没有能力处理此问题;深度造假技术的一个可怕方面是任何人都可以自行创建深度造假内容,不存在成本或技术障碍来阻止其通过伪造内容来影响公众舆论;哈马斯及其支持者已经在当前的战争中使用了深度造假,亲巴勒斯坦的深度造假创作者将很容易在未来几周内尝试操纵政治局势; 在涉及到谈判、人质以及非常微妙的、基于身份的情况时,深度造假是一种改变现实的方法,可以通过社会工程来欺骗受众;目前,绝大多数深度造假视频都来自 Telegram 等平台上用户生成的内容群组,相关视频吸引了大量受众,并且具有高度病毒性,能够改变公众对事态的看法;以色列政府机构在保护整个网络空间方面一直发挥着巨大的作用,以色列拥有世界上最好的技术来应对深度造假带来的威胁;分享深度造假是战争的一部分,当前正处于一场“深度造假革命”的开端,分享深度造假内容成为战争的一部分。

Clarity公司研发总部位于以色列,旨在通过开发供全球使用的“人工智能集体智能引擎”来应对深度造假挑战,主要业务集中在世界各地的选举系统、关键基础设施的完整性以及深度造假操纵带来的威胁上。Clarity公司近期将宣布建立合作伙伴关系,以验证敏感内容并保护公众免受深度造假操纵者的伤害。该公司部分研发人员曾在以色列国防军第 8200 部队服役。

自以色列和哈马斯冲突爆发以来,由人工智能生成的关于冲突的虚假镜头充斥着世界各地的媒体。

近日,美国哥伦比亚广播公司新闻工作人员筛选了据称是在以色列或加沙地带的人们提交的1000个视频,结果发现只有10%的提交内容可用。

哥伦比亚广播公司(CBS)员工拒绝接纳的 900 段视频中,有一些是由所谓的“深度造假”人工智能制作的。

哥伦比亚广播公司首席执行官温迪·麦克马洪表示,该公司正在“悄悄地建立”应对“深度造假”的能力,并补充说一些“深度造假”的创造者这样做的目的是为了“错误信息”(misinformation)。

随着以色列国防军准备进入加沙,网络空间将再次成为实时决策和舆论的关键战场。然而,这一次,深度造假带来了新的威胁,而这并不是以色列最近与哈马斯发生冲突的一个因素。

以色列时报采访了Clarity公司首席执行官迈克尔·马蒂亚斯。该初创公司成立于一年前,旨在通过开发供全球使用的“人工智能集体智能引擎”来应对深度造假挑战。迈克尔·马蒂亚斯认为,这条战线不容低估。

迈克尔·马蒂亚斯表示,“错误信息的戏剧性超级进化正在席卷我们,尤其是在战争中,它会产生巨大的影响。在线平台和出版商没有能力处理这个问题,因为他们使用传统的审核技术,主要是人类审核员。”

不为人知的威胁

迈克尔·马蒂亚斯表示,深度造假成为头条新闻还不到一年,因此公众对于人工智能生成的技术以及不良行为者如何使用它仍然感到困惑。

迈克尔·马蒂亚斯解释称,“深度造假是一种模仿行为,你利用某人的身份,让他们做一些他们没有说过或做过的事情,说一些他们没有说过或做过的事情。”他指出,最近一段乌克兰总统泽连斯基敦促军队放下武器的深度造假视频就是一个人工智能产生威胁的例子。

迈克尔·马蒂亚斯表示,今年早些时候,深度造假的视频曾被用来篡改巴西的选举,现在又出现在英国,该技术也已在美国运用,“对政治领导人进行深度伪造,以改变公众的看法”。

以色列领先的网络安全专家之一、资深首席信息安全官 埃亚尔·萨森评价称,“深度造假的攻击媒介正在随着人工智能的步伐而发展,需要人工智能能力来应对。我们已经发现在银行发生的金融欺诈行为,以及在政治体系中进行大规模的社会工程企图。它将会无处不在。”

信息安全公司Cyberark董事长乌迪·莫卡迪表示,“各机构必须开始采用工具来防范这些先进的社会工程和网络钓鱼诈骗。”

无成本、无技术障碍

迈克尔·马蒂亚斯表示,Clarity与斯坦福大学和麻省理工学院的合作伙伴共同创立,研发总部位于以色列,计划将大部分注意力集中在世界各地的选举系统、关键基础设施的完整性以及深度造假操纵带来的威胁上。

迈克尔·马蒂亚斯表示,突如其来的以色列-哈马斯战争改变了Clarity的情况。他表示,深度造假技术的一个可怕的方面是任何人都可以在自己的家里创建深度造假。换句话说,不存在成本或技术障碍来阻止人们通过伪造从未发生过的事件来影响公众舆论。

正如哥伦比亚广播公司首席执行官温迪·麦克马洪承认的那样,媒体机构没有做好区分真实镜头和出于“错误信息”目的而生成的镜头的准备。

迈克尔·马蒂亚斯表示,尽管哥伦比亚广播公司正在开发应对深度造假挑战的能力,但大多数媒体机构都低估了人工智能生成的镜头所构成的威胁程度。

“深度造假革命”

迈克尔·马蒂亚斯表示,哈马斯及其支持者已经在当前的战争中使用了深度造假,亲巴勒斯坦的深度造假创作者将很容易在未来几周内尝试操纵政治局势。(出于安全原因,迈克尔·马蒂亚斯表示他无法透露任何已使用的深度造假的示例。)

迈克尔·马蒂亚斯表示,“当涉及到谈判、人质以及这些非常微妙的、基于身份的情况时,深度造假是一种改变现实的方法,可以通过社会工程让人们认为发生了一些实际上没有发生的事情。”

迈克尔·马蒂亚斯表示, “目前,绝大多数深度造假视频都来自 Telegram 等平台上用户生成的内容组。这些视频吸引了数百万人,并且具有高度病毒性。你可以改变公众对所发生事情的看法。”

迈克尔·马蒂亚斯表示,总部位于纽约和加州的Clarity 在以色列设有研发人员,其中包括他在以色列国防军第 8200 部队服役时的几位朋友。该部队职能与美国国家安全局相当。

迈克尔·马蒂亚斯表示,尽管10月7日的意外突袭动摇了以色列民众对军队和安全部门的信心,但以色列国家在保护整个网络空间方面一直发挥着巨大的作用。他称,“以色列拥有世界上最好的技术来应对深度造假带来的威胁。” Clarity公司很快将宣布建立合作伙伴关系,以验证敏感内容并保护公众免受深度造假操纵者的伤害。

迈克尔·马蒂亚斯称,“分享深度造假的成本是战争的一部分,这是一场全球反恐战争。我们正处于一场深度造假革命的开端。”

留言

Please enter your comment!
Please enter your name here