• 1
  • 2
  • 3

商业洞察

【短视频平台】上海退休教授在阳台上搞核发电?又是用AI造谣,又是自媒体狂欢

查看信息来源】   3-12 6:38:12  

  不久前,有粉丝向上海辟谣平台举报,称圈群中有人流传“上海退休教授靠阳台核电池供电”假消息,希望公开辟谣。上海辟谣平台调查发现,相关消息大概率是诽谤者用AI技术编写、制图并剪辑视频。在流传者中,除了受误导的网民,还有一些别有用心的传谣者,他们通过续写、点评等方式扩大谣言负面效应。

  互联网上,“上海退休教授靠阳台核电池供电”的谣言主要有两个版本,一个是圈群流传的一张文字截屏,另外一个短视频平台上的各种视频。根据文字截屏内容,该事件的起源是一条42秒的短视频。

  然而,在文字截屏提到的短视频平台上,记者没有找到“老教授介绍核发电”的短视频,但同主题的短视频有许多,主要分成两类:一类看似“真人出镜”,但稍加查看就可发现,实际上就是用AI生成的图片剪辑而成,有的短视频上还带有“疑似使用了AI生成技术,请谨慎甄别”的提示。

短视频平台的“真人演绎”,是AI生成的

短视频平台AI生成的视频中,很多细节都袒露出它们是假的

  另一类看似是“阳台核发电原理分析”,但视频素材要么是AI生成的图片,要么是与核工业、科研相关的图片,没有一个镜头真正记录了“老教授家的核发电机”。

短视频平台的“核发电机”也是虚构图片

  而且,这两类短视频所配的文字与圈群流传的文字截屏基本一致,只不过有一部分采用了AI配音,听起来好像是人声播报或介绍。

  说白了,文字截屏与短视频构成了“鸡生蛋”“蛋生鸡”的关系——文字截屏称讨论内容来自短视频,短视频的内容又引用了文字截屏,但两个版本中都没有真人真物。

  谣言更多的漏洞可以从文字截屏中找到。例如,文字截屏称“中核集团”对该事件发布了声明、“国家电网官微”也发出了警告。可是,查遍中核集团、国家电网的各个官方发布渠道,都找不着任何与该事件相关的信息。

  再如,文字截屏称“平安产险推出‘核能家财险’”。但经查询比对,平安家财险并没有类似的保险内容;涉及核能的保险产品仅与核工业生产相关,与家庭财产无关。

  以上核查结果显示,这条“上海退休教授靠阳台核电池供电”的信息看似图文并茂、细节充分,却没有一张图片、一个细节经得起推敲核查。再从行文风格看,大概率是诽谤者利用AI大模型生成。

  然而,就是这样一条几乎“一眼假”的信息,却引发了更多自媒体的狂欢。

  在社交平台和短视频平台,出现了大量以此为基础的“二创”作品,不同自媒体进行了各种各样的点评。而且,部分自媒体明知信源有假,特意在短视频上打上“内容来源于网络”的标签,似乎就此撇清责任。

部分蹭热点的自媒体声明“内容来源于网络”,欲盖弥彰

  可是,基于压根就不存在的事情进行点评流传,真的就没有责任么?

  翻看该类自媒体此前的作品,不难洞察他们的真实想法——只要是热点话题,就能见到他们的身影,有的还自封“**观察员”。根本目的无非是紧抓热点话题,以此作为幌子,疯狂地蹭热度,从而博取大众眼球。

  更要提高警觉的是,部分自媒体在进行“二创”时,除了虚构虚假内容,还增加了具有挑拨性的语句和内容,试图以此撩拨网民情绪。他们不再满足于追求账号的热度与流量,还隐藏了不可告人的图谋。

  因此,其实其实不存在的“上海退休教授靠阳台核电池供电”一事,不仅提醒网民在AI时代要保持高度警觉不被蒙骗,不被所谓的细节和图片所迷惑;也是给平台敲响警钟:既要管控原生谣言,更要对基于谣言的“二创”内容强化管理。

  【记者手记】

  在信息流传的领域中,一直流传着这么一句话,“诽谤张张嘴,辟谣跑断腿”。到了当下 AI 时代,这样的现象愈发凸显,诽谤变得空前绝后的“简单”——如今,很多大模型功能强大得超乎想象,只要使用者提出要求,它们在不到一分钟的极短时间内,就能味同嚼蜡地生成一篇长达数千字且 “细节满满” 的谣言文章。更为甚者,这些大模型还能依据指令,进一步生成与之对应的真切图片甚至动态视频,以假乱真的水平足以迷惑众多云里雾里的百姓。

  与之形成鲜明对照的是,辟谣的难度呈几何倍数增长——除了假消息太多外,还会发现大模型在辟谣时很不给力。当人们试图借助大模型进行求证辟谣时,会发现大模型在学习进程中,获取的信息包含了那些恶意编造的谣言。由于大模型本身其实其实不具备判断信息真假的能力,所以无法像人类一样凭借经验和理性去甄别是非真伪,给出的定论要么似是而非,要么相互抵触。最终,辟谣工作还得依靠人工逐一进行核查,耗费大量时间和人力成本。

  面对如此严峻的困境,务必从问题源头入手,采取强有力的措施加以解决。

  首先,对诽谤者务必予以严查严厉责罚。要让这些恶意扰乱信息秩序、造成不良社会影响的人付出繁重的代价,通过法律的威慑力来遏制他们的诽谤激动。

  其次,平台肩负着不可推卸的责任。相关平台需要加大审核力度,构建更为严密的审核机制,对于各类谣言和谣言衍生出的 “二创” 内容,一律禁止发布,并及时下架已存在的相关信息,从而切断谣言流传的渠道。

  再者,大模型的开发者要积极行动起来。通过卓越的技术手段,好比设置严格的使用权限、智能识别异常操作等方式,制止那些别有用心者利用大模型进行做假行为,从技术根源上减少谣言引发的存在性。

  总而言之,在AI蓬勃发展的时代,要想做好辟谣工作,不能再靠事后核查的单一手段。务必往前一步,从惩办诽谤者、督促平台作为、推动技术防控等多个维度协同发力,从源头减少谣言。如此才能在复杂的信息环境中,有效遏制谣言的滋生与流传,还大众一个真实、清朗的信息空间。

安大互联 - 您值得的拥有的网站建设专家
Email:401112684@qq.com
联系QQ:401112684
官方网址:www.fengbaosun.com
手机搜索:进入手机搜索导航>>

Copyright © 2006 www.fengbaosun.com 繁体中文