21世纪经济报道记者王俊实习生刘欣北京报道
中秋节后,秋意渐浓。这两周,合规动态频繁。
人工智能 领域,OpenAI上线o1-preview模型,被视为通向AGI的节点。发展的同时,合规也在推进,网信办拟发布AI“内容水印”要求;X已同意永久停止利用来自欧盟及欧洲经济区(EEA)用户的数据进行Grok模型的练习;Runway与狮门娱乐(Lions Gate Entertainment)签订合作协议。
平台治理方面,近期有消息称推行“全民仅退钱”规则的电商软件京淘淘疑似卷款跑路,总共卷走20个亿,也有用户称被坑走数十万,引发各界关注。不过,京淘淘对此回应称,网传内容系谣言,公司目前正常经营中。市场监管总局严查侵权网店、直播带货冒牌假货,淘宝拼多多等81家平台签署自律公约。
南财合规科技研究院继续推进 跨境电商 平台报道,在时下风生水起的 跨境电商 行业,商家和平台的矛盾,正变得越来越显眼。如今电商平台对商家的合规监测,几乎都紧扣 大数据 和自动化系统,普遍做法是由机审识别风险线索,少量人工进行核查。在这一进程中,算法黑箱经常误杀或重伤商家。
一、平台治理
1、“全民仅退钱”APP京淘淘爆雷?公司回应称正常经营
近期有消息称推行“全民仅退钱”规则的电商软件京淘淘疑似卷款跑路。
京淘淘称自己是以“全民退钱”这一创新互联网模式为核心,秉持会员制服务体系之要义。仅有会员用户才能以“全民仅退钱”的价钱购买商品。京淘淘称,只要用户开通会员,不仅所有商品都支持仅退钱,每件商品退钱的同时还额外给予15%的收益。
根据京淘淘“全民仅退钱”会员协议,会员等级分为9级,开通费用从188元递增,最高为28888元,不同等级对应不同“仅退钱”额度。值得注意的是,据京淘淘会员活动细则,在签收商品之后,需完成配套会员任务或配套积分任务才可发起仅退钱申请。
9月19日下午,京淘淘相关职员向媒体回应称,网传内容系谣言,公司目前正常经营中。
2、网信办拟发布AI“内容水印”要求:大厂试水中,中小厂有挑战
9月14日,网信办起草的《 人工智能 生成合成内容标识办法(征求建议稿)》(下称《AI标识办法》),就专门针对AI内容标识,开始向社会公开征求建议。
与之配套的强制性国家标准《 网络安全 技术 人工智能 生成合成内容标识方法》征求建议稿(下称《AI标识国标》),也在当天由全国网安标委发布,拟在发布后6个月正式实施。
一位紧跟本领域监管动向的专家向21记者透露,深度合成问题是相关部门当前的关重视点,内容标识更是其中的关键点。虽然国家有相关标准和规定,各个大平台也有各自实践,但始终没有统一明确的规范。而且内容标识是一个最重要的AI治理工具,也是全球监管共识。这是新办法起草的大背景。
不过,多位大模型业内人士表示,AI内容标识仍面临成本高、技术不够可靠的挑战。21记者从业内了解到,一些大厂已经率先推进AI 数字水印 技术,小厂的压力更大,第叁方 网络安全 公司或能从中受益。
3、市场监管总局严查侵权网店、直播带货冒牌假货,淘宝拼多多等81家平台签署自律公约
9月20日,市场监管总局举行《电子商务平台经营者提升 知识产权 保护水平自律公约》(以下简称《自律公约》)集中签约活动。全国共有81家电商平台参加签约,23家电商平台代表在市场监管总局集中签约。
《自律公约》主要细化了 知识产权 权利人的平台投诉规则,要求平台建立便捷、通顺的维护权益解答通道,及时审查投诉证据,并在维护权益页面统一公布。
4、算法里的罪与罚: 跨境电商 的一场“盲盒游戏”
在时下风生水起的 跨境电商 行业,商家和平台的矛盾,正变得越来越显眼。 回看多起风暴中心,都是商家指责平台制定了不正确的“处罚”条款。
理想情境下,处罚规则应当是保护消费者、维护合规生态的一条重要手段。但随着处罚越来越像开盲盒,商家猜不准何时开出“大奖”,也摸不清判罚流程,矛盾进一步激化。
搭建起这个暗箱的,是头脑精密的算法和平台。21记者了解到,如今电商平台对商家的合规监测,几乎都紧扣 大数据 和自动化系统,普遍做法是由机审识别风险线索,少量人工进行核查。在这一进程中,相比误杀或重伤商家,平台更重视的是自身的业务指标会受到哪些影响。
违规行为无疑是商家身上的“原罪”。但,罪与罚的规则是否合理?谁能制定规则?这样的规则会引导商家走向合规,还是加剧恶性竞争?
南财点评:平台制定处罚规则是一种保护消费者的行径,这一点无法反驳。水军刷好评、冒牌劣质多、低价商品以次充好,这些乱象既是几大 跨境电商 平台想要撕掉的负面标签,也切实困惑着消费者。
可是,对于线上平台有不计其数的经营者,以往的监察管理模式面临挑战,平台便饰演起类似行政机关的监察管理者角色。
理想的情景下,平台的确享有自治权,可以自行制定规则,更灵活地解决管理难题。但平台毕竟不是行政机关,而是私主体,为了追求自身利益最大化,平台可能制定出不正确的处罚规则,造成处罚过度。在实际决定处罚规则时,平台往往考虑的是各部门的业务指标。好比,市场部门更在意流量,往往期待能进入平台的用户越多越好;而销售部门更在意商品不要被薅羊毛,希望稍有潜在风险的用户都直接被拦截在外,处置后果自然就更严格。
在经营本就越来越内卷的当下,不成比例的“重罚”,可能会造成更恶性的零和博弈。
二、 人工智能
1、Open AI发布o1-preview
9月13日凌晨,OpenAI在没有任何预告的情景下,扔出了o1-preview模型上线的重磅炸弹。
OpenAI对该模型介绍道,“ o1模型是一个新的大型语言模型,经过强化学习(reinforcement learning,RL)训练,可以执行复杂的推理。o1模型在回应用户之前会发生长串的内部思维链(chain of thought)。”这种内部思维链,类似于人类通过逐步推理来处理问题。
对此OpenAI称,这是一个重要的进展,代表了 人工智能 能力的新水平。
2、永久停止处理!X不能用欧盟用户个人数据训练大模型
爱尔兰数据保护委员会(DPC)近期宣布,针对X公司(前Twitter)非法使用欧盟公民数据训练其AI聊天 机器人 Grok的案件已达成和解。X公司已同意永久停止利用来自欧盟及欧洲经济区(EEA)用户的数据进行Grok模型的练习。该事件发生在今年8月,当时有用户向DPC提出投诉,指控X公司在未经用户同意的情景下,通过默认设置使用其公开帖子来训练AI聊天 机器人 Grok。作为欧盟/欧洲经济区的主要监管机构,这是DPC第壹次利用借助《通用数据保护条例》第134 条所采取的诉讼维护权益。《通用数据保护条例》是欧盟具有里程碑意义的数据保护法规。该条例于2018年生效,主要目标为取回个人对于个人数据的控制,和为了国际商务而简化在欧盟内的统一规范。《通用数据保护条例》不仅要求处理人们数据的合法依据,还要求对任何此类操作的透明度和公平性。
3、狮门影业片库卖去炼 AI ,潘多拉魔盒就此打开?
AI草创公司Runway近日与狮门娱乐(Lions Gate Entertainment)签订了一项合作协议,旨在将生成式 人工智能 技术引入电影和电视制作领域。
根据该协议,Runway将利用狮门娱乐的电影和电视剧内容库,开发定制的AI模型,以协助编辑和制作过程。这些环节往往涉及复杂、重复的人工操作,造成各方面的高成本,尤其是在《疾速追杀》等动作片中体现得更明显。
中国观众比较熟悉的,来自狮门娱乐的代表作包含《饥饿游戏》《暮光之城》《敢死队》《疾速追杀》和《惊天魔盗团》等。