商业洞察
【信息茧房】四部门联合开展网络平台算法治理行动!剑指-信息茧房-、大数据-杀熟-等乱象!
【查看信息来源】 11-24 16:30:53《科创板日报》11月24日讯(记者黄心怡)为进一步深化互联网信息服务算法综合治理,中央 网络安全 和信息化委员会办公室秘书局、工业和信息化部办公厅、公安部办公厅、国家市场监督管理总局办公厅近日联合印发通知,部署开展“清朗·网络平台算法典型问题治理”专项行动。
据了解,自即日起至2025年2月14日开展该专项行动,聚焦网民关切,重点整治同质化推送营造“信息茧房”、违规操作干预榜单炒作热点、盲目追求利益侵害新就业形态劳动者权益、利用算法实施 大数据 “杀熟”、算法向上向善服务缺失侵害用户合法权益等重点问题,督促企业深入对照自查整改,进一步提高算法安全能力。
具体来看,主要任务包含:
深入整治“信息茧房”、诱导陷溺问题。构建“信息茧房”防范机制,提升推送内容多样性丰富性。严禁推送高度同质化内容诱导用户陷溺。不得强制要求用户选择兴趣标签,不得将违法和不良信息记入用户标签并据以推送信息,不得超范围收集用户个人信息用于内容推送。规范设置“不感兴趣”等负反馈功能。
提升榜单透明度打击操作榜单行为。全面公示热搜榜单算法原理,提升榜单透明度和可解释性。完善榜单日志留存,提高榜单算法原理可验证性。健全水军刷榜、水军账号等违规行为、账号检测识别技术手段,严管非法分子恶意利用榜单排序规则操作榜单、炒作热点行为。
防范盲目追求利益侵害新就业形态劳动者权益。严防一味压缩配送时间造成配送超时率、交通违章率、事故发生率上升等诸多问题。详细公示时间预估、费用计算、路线规划等算法规则。搭建通顺的申诉渠道,及时受理劳动者因交通管制、交通事故、恶劣天气等不可控因素引发的配送超时等申诉。
严禁利用算法实施 大数据 “杀熟”。严禁利用用户年龄、职业、消费水平等特征,对相同商品实施不同化定价行为。提升优惠促销透明度,清晰说明优惠券的领取条件、发放数量和使用规则等内容。客观如实说明优惠券领取失败原因,严禁以“来晚了”“擦肩而过”等提示词遮掩真实原因。
增强算法向上向善服务保护网民合法权益。持续优化完善面向未成年人、老年人的算法推荐服务,便利未成年人、老年人获取有益身心健康的信息。建立健全算法在赋能优质内容流传、犯法行为识别发现等方面的社会治理应用。持续提升生成合成信息检测识别能力,及时发现处理非法生成合成信息。
落实算法安全主体责任。健全算法机制机理审核、 数据安全 的管理制度和技术措施。确保算法的练习数据具有合法来源,及时检测修复代码安全漏洞和算法逻辑缺陷,定期对算法模型的可用性、可控性、可解释性和数据处理、模型训练、部署运行等环节开展安全评估。
在算法流行之前,美国学者凯斯·桑斯坦就已经提出“信息茧房”概念,用来阐述个人的信息需求和信息选择趋向窄化、封闭化的现象。有一些业内分析认为,算法的个性化推荐可能会让人陷入“信息茧房”的困境,即人只看到自己喜欢或感兴趣的内容,忽略了那些有益的信息。
值得强调的是,最近,上半年曾陷入舆论漩涡中心的农夫山泉老总钟睒睒,公开喊话字节跳动开创人张一鸣,算法应该知道无误的公布于众,让所有使用者评价其意义。
钟睒睒认为,平台应该遵守互联网文明准则,而非滥用平台权力,流传谣言、不实报道,把网络变成算法游戏。要求其承担企业文明规则,请求头条和抖音删除对其的伤害与污蔑。
知名经济学者、工信部信息通信经济专家委员会委员盘和林向《科创板日报》记者称,算法推荐不适用于避风港原则,不可以用这个规则封闭自身算法规则机制,之前法律要求各大平台有责任对平台数据收集和算法进行备案。推荐算法应该报备,由监管职能部门对算法的合理性进行审查
盘和林认为,此次通知之后将会有一轮具体的行动。“平台自查是不行的,算法本身就是平台自己的,其实不能发现算法问题,而第叁方机构和成熟统一的评估标准可能在这次指导文件发布后逐渐完善。这个需要时间,也需要政府侧配备相关人才等资源。”