园友接待 规章 你问我答 新手资源 宣传 活动 资源超市 检索 代理 国外 精品 VIP 初级 中级 学术嘉宾 群英会 版主 区版 管委 邀请朋友 (有奖!)

科研经验 投稿 基金 课件 科软 会议 教学 精品馆 互助 硕博 标准求助|共享 书籍 S 考研 考博 英语 资格 公务员 考试精品 工作 留学 交友

数学 物理 化学化工 生命 地学 环境 机械 力学 能源 材料 土建 水利 信息 电力 电子 信息工程 理综 药学 医学 外科 内科 妇儿五官 公卫 医综

文史哲 外语 法学 经济 年鉴 报告 管理与教育 文学原创 零点家园 影音 美图 脑力 体育 健康生活 时尚 心理 美食 医护 电脑网络 百宝箱

返回列表 回复 发帖

伪造视频变得越来越容易?为何这项技术如此可怕

伪造视频变得越来越容易?为何这项技术如此可怕

  2018年09月11日 稿源:网易智能
  自今年4月份以来,涉及美国前总统巴拉克·奥巴马(Barack Obama)的一段一分钟长视频已被观看过480万次。视频中,奥巴马坐在椅子上,背景中可以看到美国国旗,他直接对着观众发表讲话,并用淫秽下流的语言攻击其继任者唐纳德·特朗普(Donald Trump)。
  或者更确切地说,当奥巴马发表上述演讲时,他的嘴唇会随之而动。这段实际上是由演员兼导演乔丹·皮勒(Jordan Peele)模仿奥巴马的声音制作的所谓“深度伪造”(Deepfake)内容。皮勒制作这段视频是为了说明伪造音频和视频内容所带来的危险,实际上这些内容并非奥巴马所说。纽约大学的研究人员将“深度伪造”描述为“即将到来的威胁”。
  “深度伪造”由何而来?
  虽然操纵数字文件并不是什么新鲜事儿,但这种可信的伪造行为是通过使用一种人工智能(AI)形式的计算机程序完成的。一个算法被训练来识别特定人的实际音频或视觉记录中的模式,这个过程被称为深度学习。就像修改过的图片一样,一段音频或视频内容可以通过更换新元素(比如更换别人的脸或声音)来改变,并无缝地将两者结合起来。
  与语音克隆技术结合使用时,这种手法最容易让人产生误导。语音克隆技术将音频录音分解成半音节的片段,然后可以重新组合成新词,与苹果的Siri和亚马逊的Alexa等语音助手的创建方法相同。
  为何“深度伪造”更可信?
  深度学习算法所包含的内容库越大,它就显得越真实。奥巴马的“深度伪造”视频需要56小时的录音样本,而苹果公司录制了10到20个小时的演讲来制作Siri。许多报道现实,语音克隆只需用几秒钟的材料就能制成。
  “深度伪造”如何传播?
  Vice旗下出版物《Motherboard》去年12月份报道称,一个名叫“深度伪造”的Reddit用户已经公开提供了一种使用开源代码制作假视频的算法。以前,这项技术主要供学术和研究人员使用,但现在任何人都可以利用它。“深度伪造”开始成为一种制造虚假色情内容的手段,通常是把女明星的脸换到色情明星的身体上,以伪造从未发生过的色情场景。Reddit禁止用户使用“深度伪造”技术,但这种技术却得到了推广,现在可以在FakeApp等应用程序上使用。
  谁在伪造视频?
  在所谓的“技术军备竞赛”中,大学和研究公司都在自己的技术,以测试“深度伪造”的威力,并以此击败邪恶的伪造视频从业者。卡内基梅隆大学的研究人员最近开发了一种系统,可以将特征(比如面部表情)从某人的视频传输到另一个人的合成图像上。许多初创公司包括Lyrebird和iSpeech,一直在销售用于人机界面商业应用的语音克隆技术。
  为何“深度伪造”引发担忧?
  令人担心的是,“深度伪造”技术可能会过度损害声誉,甚至引发骚乱。想象一下,在伪造的视频中,总统候选人猥亵儿童,警察局长煽动针对少数群体的暴力行为,或者士兵犯下战争罪,结果会如何?政治家和商界领袖等知名人士面临的风险尤其高,因为他们的录音大多数是公开的。
  对于普通人来说,尤其是女性,这项技术使“色情报复”成为可能,即使没有真实的裸体照片或视频存在。一旦一段视频在互联网上疯传,几乎无法控制。另一个值得关注的问题是,随着“深度伪造”技术的广泛传播,将使那些真正被录下做坏事或说令人反感言论的人更容易指出,这些针对他们的证据都是伪造的。
  “深度伪造”如何检测?
  制造出“深度伪造”内容的机器学习方式很难逆转用以检测它们。研究人员已经确定了一些线索,这些线索可能表明视频不是真实的。例如,如果说话者有一段时间没有眨眼睛,或者看上去有点儿呆板,但这样的细节很容易被观众忽略。
  通过提高某人视频的色彩饱和度,可以从面部皮肤几乎看不见的变化中检测出他或她的脉搏,而由杂乱剪辑合成的图像会有不规则或不存在的血流。美国国防部正在开发一种工具来对付那些“深度伪造”内容。
  有仁慈的用途吗?
  的确有。苏格兰公司CereProc为因疾病而失去自我的人们创造了数字声音,声音克隆可以通过再现历史人物的声音来达到教育目的。北卡罗莱纳州立大学的一个项目就综合了马丁·路德·金(Martin Luther King)的一篇未录音演讲。
  CereProc公司制作了约翰·肯尼迪总统( President John F. Kennedy)的最后一次演讲,他在发表讲话前就遇刺身亡。然而,约翰·肯尼迪图书馆拒绝收录这段录音,称其不符合规定。


铁打的营盘流水的兵,让我们用心守护零点花园。
随着“深度伪造”技术的广泛传播,将使那些真正被录下做坏事或说令人反感言论的人更容易指出,这些针对他们的证据都是伪造的。


返回列表

零点花园属于纯学术、非经营性专业网站。

大家出于学习和科研目的进行交流讨论,如有涉侵犯著作权人的版权等信息,请及时来信告知,我们将在3个工作日内做出相应的处理,并给予相应的答复,谢谢。

辽宁网警

辽宁网警