道高一尺魔高一丈,用人工智能对抗人工智能,可以检测Deepfakes的AI

河畔研究人员开发了一种人工智能算法,通过编辑工具留下的不显眼的伪影识别被操纵的图像和视频。但更为复杂的深海潜水技术几乎肯定即将面世。

几年来,随着技术的进步,检测变得越来越困难,人工智能篡改了那些描述从未发生过的事件的视频,使这些视频看起来更加逼真。

目前,经过编辑的图像和视频会留下数字指纹,可以使用正确的工具进行检测。例如,加利福尼亚大学河滨分校的研究人员开发了一种人工智能算法,可以通过发现编辑工具留下的不显眼的伪影来识别被操纵的图像和视频。

这个深度学习算法来自Amit Roy Chowdhury,电气和计算机工程教授,UCR研究人员发现了由插入、移除或操作图像中的物体引起的异常现象。Roy Chowdhury解释说,这种想法是为了将图像操作本地化。”我们训练一个神经网络来识别未来图像中被操纵的区域,”他说。

开发“训练有素的神经网络”

神经网络是深度学习算法的基本组成部分。与传统软件不同的是,开发人员手动向计算机发出指令,神经网络通过分析和比较实例来发展他们的行为。

神经网络尤其擅长于发现模式和分类杂乱无章的非结构化数据,如图像和视频。当你为一个神经网络提供足够多的特定类型的图像的例子时——一个叫做“训练”的过程——它将能够在以前没有见过的图像中找到类似的特征。

罗伊·乔杜里说:“当有人操纵一幅图像时,他们试图以一种人类肉眼无法察觉的方式进行操作。”但通常像素空间的一部分会受到这些操作的影响。”

UCR的研究人员将他们的神经网络训练在用不同工具操作的注释图像上,让它发现在受影响对象边界上可见的常见像素模式。训练后,人工智能模型可以突出显示包含操纵对象的图像中的区域。

在目前阶段,深度学习模型可以在静止图像上工作,但同样的技术也可以被调整以识别深度标记和其他视频操作技术。Deepfakes基本上是一个视频,其中每一帧都被改变,以替换另一张脸。

“这个想法也可以用于视频。在每一帧图像中都有一个被操纵的区域,一个训练有素的神经网络可以突出被篡改的区域,”RoyChowdhury说。

相关文章