零售行业面临的一些常见网络威胁包括勒索软件攻击、社会
深度伪造是一种由人工智能 (AI) 生成的媒体形式(如照片或视频),以描绘真实或不存在的人执行他们从未做过的行动。 人工智能操纵图片、视频或语音记录来解析一个人的特征,然后使用独特的算法将这些特征与现有素材混合。 深度伪造技术可用于通过将脸部、身体或声音放在另一个人身上,来显示一个人说他们从未说过的话或做他们从未做过的事情。
继续阅读,了解为什么深度伪造如此危险,它们是如何创建的,它们是否合法,以及如何在线发现它们。
深度伪造技术的危险
虽然深度伪造技术并不是什么新技术,但由于人工智能工具的兴起,它使媒体看起来更可信。 深度伪造技术可以通过多种方式用于恶意意图,例如冒充、敲诈和欺诈。 如果人工智能生成的照片或视频将某人置于不适当或非法的情况下,则有人可以创建深度伪造以传播错误信息或损害某人的声誉。 假照片、视频或录音的影响可能导致大规模混乱、传播谎言并破坏某人的公共形象。
如何创建深度伪造?
您可能想知道如何制作此类真实的图像、视频和音频记录。 生成深度伪造需要大量的数据,主要是关于目标人物的数据。 一旦收集了足够的照片和视频,人工智能就会对这个人的一切进行解析,包括他们的面部表情、身体动作和独特特征。 与此同时,人工智能将从正在添加的人的图像或语音中了解数据。 通过混合目标人物的详细信息,人工智能可以创建看似自然的图像、视频或录音。 在此基础上,可以对一个人的阴影、唇部运动、眨眼等进行轻微的移动和修改,以使照片或视频尽可能看起来自然。
深度伪造是否合法?
尽管这项技术可能会对受害者造成巨大伤害,但深度伪造并不完全非法。 然而,一些州已经开始根据其内容和意图将深度伪造列为非法。 即使几个州正在对此技术采取行动,但目前没有联邦法律解决深度伪造的创建和分发问题。 深度伪造问责制法案于2019年首次提交国会;如果获得通过,它将创建与深度伪造相关的新刑事犯罪,并为受害者提供寻求法律行动的能力。
如何发现深度伪造
由于深度伪造一天天变得越来越逼真,因此检测一段媒体是否真实可能具有挑战性。 然而,您可以通过一些方法来发现深度伪造,并防止自己被虚假图像或视频欺骗或误导。
缺乏自然眨眼
在深度伪造视频中,密切关注一个人的眨眼出现的自然程度。 如果一个人的眨眼不一致或他们的眼神接触与他们的脸部方向不一致,则这是一个人的脸可能被叠加到另一个人的身体上(作为深度伪造)的迹象。 通过观察拍摄对象的眼睛,实际上可以看到深度伪造视频中非自然眨眼的另一个指标,因为如果仔细检查,就会发现深度伪造的眼睛通常是像素化的。
不匹配的音频
在听视频或录音时,您可以通过注意到任何音频失真来判断它是否已被人为深度伪造了。 您可能会听到与视频预期背景不一致的奇怪回声或背景噪音。 例如,如果名人在讲话,并且音频背景中具有市中心的交通噪音,但视频显示的是他们在贫瘠的玉米地里,则视频很可能是深度伪造的。
奇怪的面部定位和表情
深度伪造的一个明显迹象是人的脸在视频中移动的方式。 人类具有自然的身体动作和面部表情,但即使有大量的参考,人工智能也很难描绘出一个人跑步或大笑时的样子。 如果您看到一个人追逐其他人的视频,并且他们的身体没有按照应有的方式移动,则这可能是深度伪造。 此外,仔细查看深度伪造照片或视频中一个人的阴影,因为人工智能通常无法考虑自然光线。
非自然纹理
深度伪造通常使用照片或视频增强软件来使一个人的皮肤光滑到几乎看不到任何皱纹、毛孔或瑕疵。 人们还注意到,许多用于创建深度伪造的人工智能技术无法区分单颗牙齿,因此,如果一个人微笑,并且您无法识别单独的牙齿,这可能意味着图像是深度伪造的。 同样,人工智能也倾向于模糊单个身体部位,例如手上的手指。 过度模糊或平滑的图像可能是深度伪造,因为人工智能并不总是理解它应该生成一个人的环境。
不要被深度伪造骗了
随着人工智能继续改进其生成更准确内容的能力,深度伪造可能非常难以与真实图像、视频和录音区分开来。 然而,重要的是要意识到深度伪造的常见迹象,以避免相信谎言或传播错误信息。