人工智能达到以假乱真，真假难辨可能带来严重后果

幸亏有了机器学习，使得生成逼真的视频和模仿别人变得更加容易。

强大的机器学习技术使得生成逼真的视频和音频变得更加容易。如果你想模仿别人，这些技术也能让你轻易做到，并且极高的相似性让你难以置信。

最近，俄罗斯的一家公司发布了一款智能手机应用程序FaceApp。这款程序能够自动修改某人的面部特征，如添加微笑，增减年龄，交换性别。它也具有“美颜”功能，能消除脸上的皱纹，使皮肤焕发光泽。

前不久，诞生于加拿大蒙特利尔大学的一家公司 Lyrebird展示了一种能够模仿人声音的技术。该公司公布了一些示范片段（这些片段模仿了奥巴马、希拉里、特朗普），验证了该技术的可行性。

这两个例子都说明强大的机器学习算法不仅仅能够分析数据，更能用于生成内容。

强大的图形硬件、软件以及新的视频捕捉技术正在驱动着这种趋势的发展。去年，斯坦福大学的研究人员展示了一款名为“Face2Face”的脸部交换程序。该程序能够操纵录像片段，以使一个人的面部表情能与深度感应相机记录的其他人的面部表情相匹配。其逼真结果往往令人难以置信。

正如Lyrebird的创造者所承认的那样，能够如此逼真地操纵声音和人脸可能会引发一些问题。

该公司在其官网上进行了道德声明：语音记录目前被认为是刑事侦查最强有力的证据之一，尤其是在许多国家的司法管辖区，语音记录极为重要。如今，我们的技术使得这种证据受到了质疑，这可能会造成非常严重的后果。

FaceApp和Lyrebird的这种技术都依赖于深度生成卷积网络，这意味着近年来流行的深度学习不仅仅能够学习分类，还能够自己生成貌似合理的数据。

目前，人工智能领域内的许多任务都需要训练大型的、深度的神经网络。这些网络根据输入的训练数据，自动调节网络参数，以使得它们能够对新输入的数据以高精度做预测。例如，可以训练神经网络进行人脸识别或对象识别。

从头开始训练一个能够生成逼真的图像的神经网络是可能的。在未来，使用相同的技术，也可能会使操纵视频变得更加容易。 Lyrebird的联合创始人Alexandre de Brébisson说：“在某种程度上，利用神经网络生成视频将是可能的。但是，这样的任务更具挑战性，因为在高维空间里表示视频具有更高的不确定性，当前的模型仍然不够完美。”

考虑到这些技术正在蓬勃发展，因此能够检测虚假的视频和音频的技术将会变得越来越重要。

德国弗里德里希-亚历山大大学的博士生Justus Thies（他也是Face2Face的研究人员）说，他已经开始了一个用于检测被操纵的视频的项目，其结果看起来很有前途。