当前位置:首页 > 技术相关 > 正文

别上当受骗!以下是如何识别人工智能生成的视频片段

别上当受骗!以下是如何识别人工智能生成的视频片段

随着生产性人工智能继续以惊人的速度发展,辨别你在网上看到的东西是真的还是假的变得越来越困难。我们需要担心的也不仅仅是静态图像。人工智能生成的视频也在增加,随着OpenAI的Sora文本到视频工具即将到来,从人工智能生成的小说中辨别事实可能很快就会比以往任何时候都更加困难。

那么,你到底是如何找到苍井空和其他人工智能公司制作的视频的呢?目前,针对人工智能生成的视频的软件辅助检测工具极其稀缺(除非你只专注于人脸可见的深度假冒),因此目前,你必须相信自己,而不是机器人。

为了帮助您提高技能并了解需要注意的事项,我们从OpenAI收集了一些SORA视频样本(包括该公司研究论文《作为世界模拟器的视频生成模型》中附带的几个样本)。我们将以这些样本为例,向您展示视频可能是由AI生成的一些迹象。以下是你应该寻找的:

挑战物理学

除非你在看《盗梦空间》,否则大多数拍摄的东西都遵循物理定律。但对于苍井空来说,情况并非如此。在论文中,OpenAI谈到了苍井空作为模拟器的局限性,他说:“例如,它没有准确地对许多基本相互作用的物理模型进行建模,比如玻璃破碎。”

以下是一段视频,展示了类似的场景。一个玻璃杯跳到空中,附近没有明显的原因,液体穿过固体玻璃,当它击中桌子时,固体玻璃本身就会溶解。

当试图确定视频是否是人工智能创建的时,你应该密切观察其中的所有现象,无论是主要动作,还是发生在背景中的事情。

此外,当你在看的时候,要衡量你的感受。当事情的表现与应有的不同时,这通常会让我们人类感到不舒服–这种现象被称为诡异谷。所以相信你的直觉吧。如果有些东西看起来有点不对劲–即使你不太清楚到底是什么–那就把它当作一个信号,表明这段视频值得进一步审查。

不真实的状态

在现实生活中,咬一口苹果,一大块就不见了。在苍井空的世界里,这并不一定是这样的。OpenAI指出,“互动,就像吃食物一样,并不总是产生对象状态的正确变化。”

因此,虽然你应该监控动作来判断某个东西是否是人工智能,但同样重要的是你要跟踪反应,特别是对固体物体的反应。

在上面的视频中发生了很多事情,但当这名男子在雪中行走时,你会看到他身后有一组脚印。当他行走时,不会产生新的脚印。此外,太空头盔中涉及到很多纱线。

无意义序列

仔细看一段人工智能制作的视频,你很可能会注意到前后不一致的地方。它们可能是刺眼的,或者只是牵扯到你的思想角落的东西。如果是后者,注意你从哪里开始感觉到有什么不对劲,并密切关注它。

在上面的视频中,一只手画了一棵樱花树。虽然绘画是随着笔触的发展而发展的,但有时画笔上的颜料会改变颜色,尽管画笔从未离开画布。

寻找熟悉的事物

在接受《华尔街日报》记者乔安娜·斯特恩的采访时,OpenAI首席技术官米拉·穆拉蒂一再不愿透露苍井空接受过哪些培训,而不是说除了公开的、经过许可的数据之外。撇开这件事的伦理和潜在的法律后果不谈,这意味着你可以尝试对视频进行反向工程,看看它是不是真的。

尼克·圣皮埃尔是一位创意总监,也是中途之旅的粉丝,他对苍井空作品的来源有一种感觉。他想出了适合他看过的苍井空视频的提示,并将它们放在中途生成AI静止图像。果不其然,他想出了十几个例子,说明苍井空的视频只不过是旅途中的运动图像。

如果你在评估一段视频时想要使用的不仅仅是你的感官,那就想出你认为创建它们所需要的提示,并将其放入一两个文本到图像生成器中。看看它们有多相似。此外,将提示符转到谷歌搜索中,以找到可能用于该视频的来源。

保持警惕!

从文本到视频的人工智能目前仍处于非常初级阶段,由于这项技术正在不断发展,避免上当的最好方法是与其一起进化。随着人工智能的进步和生成越来越逼真的镜头,我们需要采用新的工具和技术来有效地发现它。所以,现在还不能感到舒服!密切关注新的检测工具和真实性验证系统,并确保定期检查本文–我们将在新工具出现时对其进行更新。

有话要说...