近期，一款名为ZAO的人工智能换脸APP在国内推出。用户只需上传一张正面照，就可以一键草作，把一些影视剧片段中演员的脸换成自己的，立刻生成视频，还可通过社交媒体传播，仿佛瞬间圆了明星梦。
这一款换脸APP很快就成了爆款，颇受欢迎，但也很快引起有关部门的注意，就在本周，工信部就网络数据安全问题约谈了相关公司。
与此同时，“换脸” 软件所依托的的一项AI技术，也引起了人们的关注，它被称为：DeepFake, 深度伪造。
外国媒体报道：我们不能相信网上的所有东西，没错，深度伪造，深度伪造，深度伪造！是的，这到底是什么？深度伪造技术是利用人工智能合成以假乱真的视频，这是一种高科技手段，可以把某些话塞进某人嘴里。
Deepfake(深度伪造)，“Deep learning”(深度学习)和“Fake”(伪造)结合而成的新单词。
简单来说，这是一种可以实时伪造面部表请，并将其渲染成2D合成视频的人工智能技术。
早在一年多前， 2017年12月，一个名为“DeepFakes”的用户在Reddit网站发布“假视频”，将成伦SE请电影中演员的脸替换成了斯嘉丽·约翰逊等知名女演员的脸，画面以假乱真。这为人工智能换脸技术吸引来了一大波流量，“DeepFake”深度伪造，也逐渐成为这一技术的代称，同名算法也在Github开源，这是一个面向开源及私有软件项目的托管平台。
网络视频打假专家 沃德尔博士：你好，今天我要和你讨论一项影响名人的新技术。(记得)奥巴马说特朗普是笨蛋，或者卡戴珊的说唱“因为我总是半罗吗”？深度伪造！深度伪造！深度伪造！这也是深度伪造，我也不是阿黛尔，我是(打击)网络伪造的专家。深度伪造用来形容人工智能技术合成的视频或音频文件。它起初就是一种非常基本的面部更换，现在还成了电影特技。有了这样的爆款技术，天啊，我们不能相信任何东西了。没错，深度伪造就是可怕的反乌托邦。它们只会变得更容易，制作成本也更低廉。
李浩是美国南加州大学的助理教授，“针幕动画”公司的联合创始人，这家公司推出的软件可以让用户在玩虚拟现实游戏和购物时，即时定制自己的三维虚拟化身。
“针幕动画”联合创始人 李浩：现在我制作了一个你的化身。
美国公共广播公司记者 奥布莱恩：一个和蔼整洁的奥布莱恩。
这种戏法可以用在任何人身上，当然也包括政界要人。
美国公共广播公司记者 奥布莱恩：现在我成了我们的总统(特朗普)，日本首相安倍晋三。
“针幕动画”联合创始人 李浩：当然，这个技术可以用来做一些真的很坏的事请。但主要目的绝不是如此，它被用于娱乐，一个有趣的工具，用于时尚、生活方式各方面，带给我们更多体验。
但随着技术的发展，这样的合成图像或视频，真实度越来越强，欺骗新也越来越强。对此，研发者也不无担忧。
“针幕动画”联合创始人 李浩：我们都假设会有一个临界点，届时将无法区分真假。我的意思是，从视觉效果上说，我觉得你已经可以做到非常接近了，只是取决于你花多少努力在上面。但就任何人都可以创建的内容而言，我认为已经非常接近这个临界点了。
2018年1月，一个名为FakeApp的软件上线，宣称可以实现“一键换脸”。可生成的视频内容包括恶搞美国总统特朗普，或是将自己的脸贴到好莱坞明星身上。
虽然有的社交新闻站点比如Reddit网站，已明令禁止在自己的平台传播换脸视频和图片，但仍有超过9万名用户在Reddit上传播这类视频。
计算机科学专家 法里德：我担心这项技术被武器化，还担心它如何影响我们整个社会。
深度伪造不仅可以换脸，还可伪造声音。
