AI换脸让朱茵变杨幂,视频真假难分辨?安全专家帮你识破换脸术

栏目: 数据库 · 发布时间: 4年前

内容简介:今年2月,因为一段“朱茵变脸杨幂”的视频,“AI(人工智能)换脸”火出了学术圈,被更多普通人所知晓。人们一边惊叹AI以假乱真的强大能力, 一边提出各种担心:有人用它来炮制假新闻怎么办?将无辜女孩儿的脸换到黄色小视频里,又该怎么办?令人感到抚慰的是,安全技术人员们已在采取行动,探索潜在风险的破解之道。在6月1日的DEF CON CHINA 1.0大会上,有演讲者分享了识破“AI换脸”的新方法,在实验环境下,两种方法的准确率都达到了90%以上。眼前播放的明明是1994年版《射雕英雄传》的视频段落,画面中天真烂漫

今年2月,因为一段“朱茵变脸杨幂”的视频,“AI(人工智能)换脸”火出了学术圈,被更多普通人所知晓。人们一边惊叹AI以假乱真的强大能力, 一边提出各种担心:有人用它来炮制假新闻怎么办?将无辜女孩儿的脸换到黄色小视频里,又该怎么办?

令人感到抚慰的是,安全技术人员们已在采取行动,探索潜在风险的破解之道。在6月1日的DEF CON CHINA 1.0大会上,有演讲者分享了识破“AI换脸”的新方法,在实验环境下,两种方法的准确率都达到了90%以上。

“AI换脸”技术日益成熟,引发网友隐私担忧

眼前播放的明明是1994年版《射雕英雄传》的视频段落,画面中天真烂漫、表情灵动的黄蓉却不是朱茵,而是杨幂?

AI换脸让朱茵变杨幂,视频真假难分辨?安全专家帮你识破换脸术

换脸后,杨幂成了《射雕英雄传》里的黄蓉。图自网络。

今年2月,B站的一段短视频在网上迅速传播,“毫无PS痕迹”的画面,激发公众好奇心。1.3 亿阅读量、3 万讨论量的微博话题“#将朱茵的黄蓉换成杨幂的脸#”,足以说明事件热度,“AI换脸”,由此走进大众视野。

AI换脸让朱茵变杨幂,视频真假难分辨?安全专家帮你识破换脸术

”毫无PS痕迹”的换脸视频。图自网络。

据了解,许多换脸视频的背后,都是一种叫做Deepfakes的技术。以前述视频为例,算法系统先把视频中的每一帧抽取出来,识别出朱茵的脸,再把杨幂的脸换进去,整个过程有点像高级修图。只不过,与人类修图不同,AI抓取与转换人脸的动作背后,是深度神经网络的支持。

在训练过程中,两组自动编码器分别对朱茵和杨幂的脸进行编码、解码,并通过大量朱茵和杨幂的脸部图片进行学习。训练完成后,两组编码器很清楚“自家艺人”长什么样,也能分辨出对方艺人。如果你把朱茵的脸输入到杨幂的自动编码器,它能够还原出杨幂的脸;反之亦然。

自2017年开始,就有基于Deepfakes的换脸视频在网上流传。2017 年底,因主演《神奇女侠》圈粉无数的女演员盖尔·加朵惨遭“毒手”,被合成到了一段色情短片里。除了她,制作者还合成了斯嘉丽·约翰逊、麦茜·威廉姆斯等诸多高人气女演员,吸引了不少点击量。

当然,几乎以假乱真的视频,也引起了国内外网友的担心。有人怕黑产团伙利用这一技术攻击刷脸支付,有人担心假新闻泛滥引发社会动荡。2018年5月,比利时某政党就合成了美国总统特朗普的换脸视频,引发民众声讨。

还有很多女性指出,将女性的脸任意换到色情视频里,涉嫌侵犯肖像权、隐私权和名誉权,可能将当事人置于“百口莫辩”的困窘境地。

借助深度神经网络,安全专家让假视频显形

在中国,“AI换脸”的出现,已经引起政策制定者的注意。今年4月下旬,民法典人格权编草案二审稿提交十三届全国人大常委会第十次会议审议。其中拟规定,任何组织或个人不得以丑化、污损,或者利用信息技术手段伪造等方式侵害他人的肖像权。这被视为立法者对人工智能问题的法律回应。

5月底开始公开征求意见、目前尚未正式出台的《数据安全管理办法》中也规定,网络运营者利用大数据、人工智能等技术自动合成新闻、博文、帖子、评论等信息,应以明显方式标明“合成”字样。有专家指出,人工智能可以自动生成看似可信的假新闻,带来社会隐患。

值得庆幸的是,安全专家们也在积极探索应对策略。6月1日,由DEF CON和百度安全联合主办的DEF CON CHINA 1.0大会进行到第二天,来自百度安全团队的研究人员介绍了识别换脸视频方面的研究进展。

AI换脸让朱茵变杨幂,视频真假难分辨?安全专家帮你识破换脸术

5月31日,由DEF CON和百度安全联合主办的“御•见未来”2019第二届DEF CON CHINA Baidu安全行业国际峰会暨DEF CON CHINA 1.0在北京正式开幕。图自百度安全。

据研究人员介绍,他们同样使用了深度神经网络来训练识别算法,目前探索出了两种行之有效的方法。

第一种方法主要是基于视频画面的低级特征,实验中的识别准确率达到99%。所谓低级特征,指的是视频每一帧画面的分辨率、色度等。原来,Deepfakes重新生成的换脸画面多少都会有些瑕疵,比如说画面模糊、脸部边缘有接缝,等等。人的肉眼可能看不出来,但这些细微的瑕疵无法逃脱AI的法眼。

第二种方法则更为深入,引入了Facenet等算法模型。这种方法识别的不是画面本身的问题,而是真假视频中的人脸信息特征。简单而言,进入到模型后,一张人脸会被映射成一个向量,模型比对两张人脸,其实就是计算两个向量间的距离。通过比对人脸信息特征,算法模型能找出换脸视频。在实验中,这种方法的准确率不如前者,但也达到了94%。

“伪造视频有很严重的安全威胁,我们需要用技术去检测。”百度安全研究人员说。


以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持 码农网

查看所有标签

猜你喜欢:

本站部分资源来源于网络,本站转载出于传递更多信息之目的,版权归原作者或者来源机构所有,如转载稿涉及版权问题,请联系我们

Linux多线程服务端编程

Linux多线程服务端编程

陈硕 / 电子工业出版社 / 2013-1-15 / 89.00元

本书主要讲述采用现代C++ 在x86-64 Linux 上编写多线程TCP 网络服务程序的主流常规技术,重点讲解一种适应性较强的多线程服务器的编程模型,即one loop per thread。这是在Linux 下以native 语言编写用户态高性能网络程序最成熟的模式,掌握之后可顺利地开发各类常见的服务端网络应用程序。本书以muduo 网络库为例,讲解这种编程模型的使用方法及注意事项。 本......一起来看看 《Linux多线程服务端编程》 这本书的介绍吧!

JSON 在线解析
JSON 在线解析

在线 JSON 格式化工具

XML 在线格式化
XML 在线格式化

在线 XML 格式化压缩工具