注册
闽南网 > 新闻中心 > 社会新闻 > 正文

AI“换脸”真相:“深度伪造”的网络狂欢和安全威胁

来源:央视新闻客户端 2019-09-09 10:11 http://www.mnw.cn/

  近期,一款名为ZAO的人工智能换脸APP在国内推出。用户只需上传一张正面照,就可以一键操作,把一些影视剧片段中演员的脸换成自己的,立刻生成视频,还可通过社交媒体传播,仿佛瞬间圆了明星梦。

  这一款换脸APP很快就成了爆款,颇受欢迎,但也很快引起有关部门的注意,就在本周,工信部就网络数据安全问题约谈了相关公司。

  与此同时,“换脸” 软件所依托的的一项AI技术,也引起了人们的关注,它被称为:DeepFake, 深度伪造。

  外国媒体报道:我们不能相信网上的所有东西,没错,深度伪造,深度伪造,深度伪造!是的,这到底是什么?深度伪造技术是利用人工智能合成以假乱真的视频,这是一种高科技手段,可以把某些话塞进某人嘴里。

  Deepfake(深度伪造),“Deep learning”(深度学习)和“Fake”(伪造)结合而成的新单词。

  简单来说,这是一种可以实时伪造面部表情,并将其渲染成2D合成视频的人工智能技术。

  早在一年多前, 2017年12月,一个名为“DeepFakes”的用户在Reddit网站发布“假视频”,将成人色情电影中演员的脸替换成了斯嘉丽·约翰逊等知名女演员的脸,画面以假乱真。这为人工智能换脸技术吸引来了一大波流量,“DeepFake”深度伪造,也逐渐成为这一技术的代称,同名算法也在Github开源,这是一个面向开源及私有软件项目的托管平台。

  网络视频打假专家 沃德尔博士:你好,今天我要和你讨论一项影响名人的新技术。(记得)奥巴马说特朗普是笨蛋,或者卡戴珊的说唱“因为我总是半裸吗”?深度伪造!深度伪造!深度伪造!这也是深度伪造,我也不是阿黛尔,我是(打击)网络伪造的专家。深度伪造用来形容人工智能技术合成的视频或音频文件。它起初就是一种非常基本的面部更换,现在还成了电影特技。有了这样的爆款技术,天啊,我们不能相信任何东西了。没错,深度伪造就是可怕的反乌托邦。它们只会变得更容易,制作成本也更低廉。

  李浩是美国南加州大学的助理教授,“针幕动画”公司的联合创始人,这家公司推出的软件可以让用户在玩虚拟现实游戏和购物时,即时定制自己的三维虚拟化身。

  “针幕动画”联合创始人 李浩:现在我制作了一个你的化身。

  美国公共广播公司记者 奥布莱恩:一个和蔼整洁的奥布莱恩。

  这种戏法可以用在任何人身上,当然也包括政界要人。

  美国公共广播公司记者 奥布莱恩:现在我成了我们的总统(特朗普),日本首相安倍晋三。

  “针幕动画”联合创始人 李浩:当然,这个技术可以用来做一些真的很坏的事情。但主要目的绝不是如此,它被用于娱乐,一个有趣的工具,用于时尚、生活方式各方面,带给我们更多体验。

  但随着技术的发展,这样的合成图像或视频,真实度越来越强,欺骗性也越来越强。对此,研发者也不无担忧。

  “针幕动画”联合创始人 李浩:我们都假设会有一个临界点,届时将无法区分真假。我的意思是,从视觉效果上说,我觉得你已经可以做到非常接近了,只是取决于你花多少努力在上面。但就任何人都可以创建的内容而言,我认为已经非常接近这个临界点了。

  2018年1月,一个名为FakeApp的软件上线,宣称可以实现“一键换脸”。可生成的视频内容包括恶搞美国总统特朗普,或是将自己的脸贴到好莱坞明星身上。

  虽然有的社交新闻站点比如Reddit网站,已明令禁止在自己的平台传播换脸视频和图片,但仍有超过9万名用户在Reddit上传播这类视频。

  计算机科学专家 法里德:我担心这项技术被武器化,还担心它如何影响我们整个社会。

  深度伪造不仅可以换脸,还可伪造声音。

原标题:“换脸”真相:“深度伪造”的网络狂欢和安全威胁
责任编辑:郑莉莉
相关阅读:
新闻 娱乐 福建 泉州 漳州 厦门
猜你喜欢:
热门评论:
频道推荐
  • 董事长称被开除员工涉嫌学历造假 被开除当
  • 章泽天登胡润财富榜:净资产600亿 清华与浙
  • 全球最大级集装箱船出海试航 最大载货量241
  • 新闻推荐
    @所有人 多项民生礼包加速落地快来查收 三峡大坝变形?专家:又有人在恶意炒作 北京新一波疫情为什么没出现死亡病例? 戴口罩、一米线 疫情改变了哪些习惯? 呼伦贝尔现幻日奇观 彩虹光带环绕太阳
    视觉焦点
    石狮:秋风起,紫菜香 石狮:秋风起,紫菜香
    石狮环湾生态公园内粉黛乱子草盛放 石狮环湾生态公园内粉黛乱子草盛放
    精彩视频
    世遗泉州︱最美乡村·南安燎原村:星星之火 点亮民宿发展之势
    世遗泉州︱最美乡村·南安燎原村:星星之火 点亮民宿发展之势
    世遗泉州︱最美乡村·惠安东山:小渔村的蝶变
    世遗泉州︱最美乡村·惠安东山:小渔村的蝶变
    专题推荐
    关注泉城养老服务 打造幸福老年生活
    关注泉城养老服务 打造幸福老年生活

    闽南网推出专题报道,以图、文、视频等形式,展现泉州在补齐养老事业短板,提升养老服

    新征程,再出发——聚焦2021年全国两会
    2020福建高考招录
     
    48小时点击排行榜
    武平:昂首阔步迈入“高铁时代” @厦门符合条件家庭 明天起保障性租赁房可 “征拆建管”一体化,打造连城新名片 使用全功能自助终端 软件园三期智慧办税 福建省第三批“最美乡村‘福’路”名单公 丁俊晖再轰单杆147不敌奥沙利文 无缘大师 长汀以“引绿、增绿、创绿”为抓手 产业 荣耀x50gt和华为nova12哪个好值得买 区别