真人视频开始冒充Sora,威尔·史密斯吃意大利面名场面

💡 原文中文,约1300字,阅读约需3分钟。
📝

内容提要

OpenAI发布了生成式人工智能模型Sora,可以生成逼真的视频画面。一段关于威尔·史密斯吃意大利面的视频引起了网友的疯传,但也引发了对于Sora生成视频真实性的质疑。Sora的出现挑战了人们对现实的认知,加强AI管控势在必行。加强伦理规范、审查和监管,进行伦理教育和宣传,才能确保人工智能技术造福人类。

🔎

延伸解读

真实视频被误认为AI生成:认知混乱已现

文章提到,在Sora尚未开放时,社交平台已出现将真实视频指为Sora生成的乱象,例如一位男士吃流心芝士汉堡的视频被误传,最终由纽约大学荣誉教授Gary Marcus澄清并非Sora生成,视频实为5年前的YouTube内容。这表明,即使大多数人用不上Sora,其存在已足以让人怀疑真实影像,造成现实与虚构的认知混淆。

威尔·史密斯吃面视频:一场反向测试

疯传的对比视频中,下半段所谓“现在的AI视频”其实是威尔·史密斯本人出演。文章指出,他以此说明,仅让公众意识到AI的超强实力,就能让真实普通的视频游走于虚幻与现实之间。这提醒读者,在AI视频时代,眼见不一定为实,判断视频真伪需依赖来源核实,而非仅凭观感。

Sora的双刃剑效应与伦理治理紧迫性

文章援引央视财经和《经济日报》观点,指出Sora生成的深度伪造视频可能加剧虚假信息传播,例如让名人或政客说从未说过的话、做从未做过的事。Sora既可辅助艺术创作,也可能被滥用于造假、欺骗甚至颠覆认知。因此,完善伦理规范、加强审查监管及伦理教育宣传显得迫切,以确保AI造福人类而非成为威胁。

❓

Q&A

Sora是什么?它和ChatGPT有什么关系?

Sora是OpenAI继ChatGPT之后发布的生成式人工智能模型,将AI创作领域从文本及图片扩展到了视频。

威尔·史密斯吃意大利面的视频是怎么回事?

海外社交平台上疯传一段威尔·史密斯吃意大利面的视频,上半段是一年前的AI视频,下半段是所谓的“现在的AI视频”,但下半部分实际是由史密斯本人亲自出演,他以此展示AI的逼真程度已让人难以分辨真假。

Sora生成的视频可能带来哪些风险?

Sora生成的深度伪造视频可能加剧错误和虚假信息的传播,可能被滥用于造假、欺骗,甚至颠覆人们对现实的认知,还可能让名人或政客说从未说过的话、做从未做过的事。

目前Sora向公众开放了吗?

Sora目前仍未向公众开放。

如何应对Sora带来的伦理挑战?

需要完善细化相关伦理规范,加强审查和监管,以及进行相关伦理教育和宣传,只有正视Sora带来的伦理挑战并加强伦理治理,才能确保人工智能技术造福人类。

为什么说Sora是一把双刃剑?

因为Sora生成的视频可以以假乱真,一方面可以用于艺术创作,另一方面也可能被滥用于造假、欺骗,甚至颠覆人们对现实的认知。

🏷️

标签

➡️

继续阅读