商业热点 > 商业洞察 > 算法争议频出 -谣言-和-网暴-治理难点在哪?

【2025】算法争议频出 -谣言-和-网暴-治理难点在哪?

查看信息来源】   发布日期:1-16 12:26:40    文章分类:商业洞察   
专题:2025

  去年11月,农夫山泉开创人钟睒睒公开喊话要求今日头条、抖音让内容平台的推荐算法问题再度引发公众讨论。

  在他看来,抖音、今日头条是一个以盈利为企图的平台企业,应该承担企业的文明准则和规则。

  虽然推荐算法其实不是新生事物,围绕它的争议却历来没有间断。上线早期,推荐算法造成低质内容泛滥的问题曾引发讨论,一些内容创作者为了迎合算法的推荐规则,获取更多的流量和收益,可能会制作标题党、低质量、甚至不存在的内容。这些内容往往缺乏深度和价值,却因算法的推荐而大量流传。

  信息茧房的争议同样持续已久。许多人担忧算法会根据用户的偏好,推送相似内容,造成用户获取的信息局限在特定范围内,难以接触多元观点,思维逐渐固化。

  在钟睒睒公开喊话之后,公众关心的仍然是推荐算法造成的谣言、网暴等低质内容泛滥和信息茧房等诸多问题。因为在信息流传高度依赖算法的当下,算法推荐哪些内容的确直接影响着公众认知。

  其实,一味指责算法造成的问题而忽视其积极影响也有失偏颇。在北京大学教授、北京大学中国社会与发展研究中心主任邱泽奇看来,虽然算法造成了种种问题,但其对我国社会的积极作用更大。

  一家头部平台的运营责任人也持类似的意见。在他看来,算法提升了信息分发效率,让很多素人也拥有了被别人看到的可能。“信息本身作为一种生产要素,流动效率更高,肯定对生产也起到增进作用。”

  如何让算法更好的施展正向作用,是从业者需要思考的问题。

  算法的透明性亟待提升

  虽然推荐算法造成的信息茧房问题屡次引发争议,但在国内外的流传学学者看来,这其实不是当下算法最棘手的问题。

  加拿大渥太华大学流传学助理教授Elizabeth Dubois和牛津大学互联网研究所的学者Grant Blank在2018年发表的一项研究成果显示,信息茧房(回音室效应)的作用被虚构了。该研究随机抽样2000名英国人,通过实证研究探讨了政治兴趣、媒体多样性与信息茧房的关系,结果表明,人们我们时常接触到不答应见,会主动核对信息来源,甚至改善自身政治观点。即便是对政治不感兴趣的人群,也未显现明显的信息茧房特征。

  中国人民大学新闻学院副教授董晨宇对界面新闻表示,信息茧房不能只拿单个平台说事,因为没有用户只看一个平台。用户接收到的信息是不是丰富,是一个由媒体环境造成的结果。如果一个用户既看抖音,又看小红书、微博,任何一个单一平台的数据都无法反映这个用户生活的真实面貌。

  在董晨宇看来,相比于信息茧房,学界目前更关注算法的透明性和公平性。

  从国内各个内容平台算法引发的争议来看,算法不透明造成的问题尤其突出。好比近期在抖音上走红的“吴柳芳事件”,很多用户认为是平台通过算法推荐吴柳芳的擦边内容,带动其走红。但实际情况是,在成为社会热点事件之前,吴柳芳在抖音上的流量和粉丝量一直较少,平台也并未对其进行推荐。其流量的增长是在该热点引发社会关注后,用户主动搜索引发的。但由于平台未能及时、清晰地向公众解释算法机制,使得公众对算法发生了误解,认为平台存在不正确的推荐行为。

  抖音集团副总裁李亮在接受界面新闻采访时表示,关于算法的问题,抖音内部用了一个鸵鸟的形式来处理,没有和公众做比较好的沟通解释,是很不应该的。“很多东西要说明白,面对行业的疑惑,我们应该把真实的情景告知大家。”

  界面新闻观察发现,去年12月以来,李亮开始在微博上活跃,其在认证为抖音集团副总裁的个人账号上先后屡次解释算法的相关问题,并对吴柳芳事件、抖音用户将钱读成米等热点事件进行了回应,增加与公众的沟通。

  李亮透露,抖音预计将在今年春季上线安全与信任中心,让公众看到平台处理谣言、网暴信息的全过程,以减轻外界对平台的误解。

  处理谣言和网暴,平台需要处理诸多难题

  钟睒睒公开喊话今日头条和抖音,主要诉求是希望两个平台能够撤除对其的个人名誉权的侵害的言论、图片。

  2024年初,娃哈哈集团开创人宗庆后去世后,“农夫山泉开创人钟睒睒第壹笔创业收入来自娃哈哈”“钟睒睒因冲货被开除”等网络传言纷起,钟睒睒个人和农夫山泉均卷入舆论漩涡。据媒体统计,自2月28日起,农夫山泉官方旗舰店连续5日销量狂跌,较风波之前日销售金额跌超90%。

  3月3日,钟睒睒在农夫山泉官微发文辟谣网络传言,但由于舆论来势汹汹,辟谣其实不能完全消除网络传言造成的不良影响。

  身为一个被网络传言伤害的个体,钟睒睒对平台有怒火是一个很正常的反应。但此事的复杂之处还在于,网友对钟睒睒的声讨除了事实层面的信息造成的之外,还夹杂着对其过往商业竞争策略等方面的不满情绪,不只是简单把谣言处理掉就能平息的。

  而从行业来看,此事更值得讨论的是,其袒露了平台在处理谣言和网暴信息时,机制上仍存在诸多不健全之处。

  据界面新闻了解,今日头条、抖音等平台其实不是没有谣言和网暴信息的处理机制,但在快速发酵的舆情处理中的确面临诸多现实的挑战。

  李亮表示,抖音对平台不实信息,首选会做主动的发现和治理。尤其是社会信息,专业知识等影响较大的内容,会通过站内挖掘,站外监控,风险互通等渠道,主动进行不实信息的线索发现,由专门搭建的相关专业团队进行内容研判,对明确的不实信息录入不实信息库,发起回查和其它处置干预。但这个进程中,较难解决的就是,对于很多似是而非的信息,平台无法判断真伪。

  此前,今日头条和抖音面向公众开放了谣言举报功能,如果用户发现了涉及公共利益或自身的谣言,可以进行举报并提供证据,平台核对后会进行处理。企业发现设计自身的谣言,也可以给平台发布公函进行举证,要求平台批量删除相关信息。

  但在钟睒睒遭遇的舆论漩涡中,上述举报机制失效了。因为相关信息在几天之内以指数级速度增长,在前台针对单条信息举报显然不现实,而企业给平台发布公函再由平台核对处理,一般需要数天的时间,远远滞后于舆论发酵的速度。

  界面新闻从多个平台内部人士处了解到,在处理类似的舆情事件时,各个平台的策略人员也会观望其它平台的处置政策,这在一定水平上也造成了处置的滞后性。

  在邱泽奇看来,平台在处置谣言、网暴等信息上是有责任的。“任何技术的背后都有价值观,算法更有价值观,平台就应该承担它的责任。”

  对于平台在判断信息可靠性上面临的困扰,邱泽奇认为,平台在无法判断可靠性时,可以针对有真假争议的信息进行标记,对用户尽到提醒义务。“我们在治理虚假信息进程中很关键的一点就是要让平台承担提醒义务。”

  据界面新闻了解,此前微博、微信公众号等平台试点过针对有事实争议的内容对用户进行提醒。李亮向界面新闻透露,今日头条和抖音也在推进标注提醒的功能上线,但这些只能起到治标的作用。

  在他看来,信息流算法就像河流一样。河水被污染、修建大坝、控制流速等方法都有效,但治标不治本。治理河水污染最核心的是治理污染源,治理谣言网暴等信息污染,也需要严厉惩戒污染源,同时也要引入媒体、专业人士等更多优质的信息源。

  从各个平台过往处置虚假信息的实践来看,引入更多专业媒体透露对事实快速进行澄清是避免谣言发酵、当事人被网暴的有效手段。但多位平台运营人员向界面新闻透露,目前在重大舆论事件中,专业媒体提供的信息量不足是各家平台普遍面临的困扰。

  在董晨宇看来,中国在算法治理上已经走在世界前列,欧美也并没有更多顶尖的治理经验可供参考。“在处理谣言和网暴上,平台可以把事中和事后的工作再进一步细化,但问题就在于很多情况都是新出现的,平台也木有太多经验可参考,只能不断试错。”

手机扫码浏览该文章
 ● 相关商业动态
 ● 相关商业热点
2025】  【未成年人】  【传染病】  【新冠病毒】  【国务院】  【登记处】  【高质量】  【抖音集团】  【新型储能】  【中关村储能产业技术联盟】  【2024】  【抽水蓄能】