【AIGC】测评六大社交平台 - AIGC大爆发 但治理仍滞后

　　竞争争秩序，永远是常说常新的话题。尤其是在新旧产业交替的时刻。

　　在过去一年，我们看到，互联网平台旧脚本的问题尚未解决，在存量竞争中矛盾越发突出； 人工智能 造成的新故事里，亦布满了安全与治理的迷惑。

　　即日起，我们将推出《2024年竞争秩序场报告》，聚焦电商、社交平台和端侧AI三大领域，从过去一年的典型案例入手，梳理竞争秩序的裂隙与演变。这不是一份处理问题的清单，而是一份抛出问题的地图：哪些秩序出现了裂隙？又将如何塑造将来的市场格局？

　　AIGC点燃社交平台：仍以辅助工具为主

　　AIGC已经成为社交平台创新发展的重要引擎。2023年的妙鸭相机以“AI玩图”掀起热潮，各大平台随即将AIGC技术深度融入业务线，希望造成全新的互动模式与用户体验。

　　在2024年春节前后，微博推出“评论罗伯特”账号。作为微博官方推出的评论 机器人 ，只要用户发布大于10字的原创微博，就有可能随机收到自动回复，开启了平台对AIGC的场景化探索。

　　随后微博推出了一系列功能型AI账号，好比@夸夸小猫猫，为用户提供夸赞服务；@配图猫，则能够智能识别影视台词并生成配图。但与前者的触发机制不同，此类AI账号依赖用户主动交互，需要关注账号或@特定名称，身为一个账号全面运营的能力有限。

　　其它社交平台如哔哩哔哩、小红书也在AI账号方向探索，提供以提升信息理解效率为核心的工具。例如，哔哩哔哩的“AI视频小助理”可通过主动评论触发，自动生成视频内容总结并以时间戳显现。该类AI账号依旧都以工具属性为主，尚未形成具有独立商业价值的生态。

　　相较之下，短视频平台对AIGC的运用更加多元，有更强的创作属性。

　　抖音将AI工具与短视频内容生产深度融合，交互门槛可以说是所有平台中最低的。好比，视频上传环节集成了“AI特效”模块、内嵌了AI小程序，使用户能像使用滤镜一样调用生成式AI。数据显示，生成宠物对口型AI视频的“FacePlay”抖音小程序，在2024年累计使用超过1.1亿次，成为平台热度攀升的助推器。

　　另外，快手推出“可灵AI”APP，抖音旗下的剪辑软件“剪映”在去年5月推出“即梦”APP，都进一步强化了AIGC在视频领域的应用。

　　AIGC治理压力凸显：维护权益难、标识难、侵权争议大

　　AI技术的快速普及也引发了复杂的治理难题。从真假难辨的生成内容到涉嫌侵权的作品，再到潜在的伦理争议，平台面临的治理压力愈发明显。

　　结合各大平台现行规则，我们可以看到平台重点关注的AIGC问题聚焦在四个领域： 虚拟数字人 直播、AI换脸、AI种草带货，和AI内容标识。

　　在 虚拟数字人 直播上，各平台的态度不一。微信视频号将其划归“非真人直播”，并实施严格限定。抖音和小红书则采取折中策略，要求数字人直播需完成注册与备案，而快手等平台暂未作出明确表态。

　　几乎每个平台都强调了AI换脸的危害。可以看到，AI换脸的危险主要体现在两个方面：一是深度伪造可能侵犯用户的肖像权，甚至被利用于色情复仇和金融欺诈等违法犯罪活动；

　　二是商业化滥用。尤其是在“种草式”隐性商业化内容增多的环境下，AI换脸一旦用来种草带货，容易涉及扭曲事实、虚构宣传或产品质量问题，直接触及《消费者权益保护法》和《广告法》的红线。目前只有小红书明确禁止通过AI生成内容虚构用户体验、进行商业变现，其它平台尚未出台类似的细化规则。

　　可以说，AIGC侵权会是各大平台将来的治理难点。AI侵权成本较低、用户侵权证据取证较难，怎样合理且及时地保护用户权益，将成为一个重要挑战。

　　目前业内普遍认为，对AIGC内容进行明确标注，是最可行的通用解决方案。六家社交平台都要求用户在上传内容时声明是否由AI生成，并在内容发布后显示“AI生成”标签。

　　但测评发现，实际执行效果仍存不足。一是因为，大多AI标注入口隐藏较深，且没有明显提示，用户上传作品时需点击2～3次才能发现；另外，仅仅依靠用户自觉难以跟上技术的发展。尽管抖音、小红书、哔哩哔哩三家平台已公开表示自己会通过技术手段自动监测疑似AI生成的内容，但整体鉴别能力仍有很大提升空间。

　　值得强调的是，越来越多平台既是玩家又是裁判，即又是内容产地又是AI开发者。这种情景下，用户上传内容的版权到底能被如何使用、平台能不能用它们训练AI，也是一个需要长期关注的问题。

　　当下的拉扯在于：对于平台而言，一旦公开把授权AI训练条款明文列进用户服务协议中，往往会引发用户不满和抵制；而对于创作者而言，只要存在技术黑盒，很难维护权益举证AI的“侵权”行为。因此大多平台选择回避争议，通过“不公开”训练数据来源来控制风险，但这种信息不透明的策略只会加剧创作者对平台的猜疑链，长期逐渐透支平台的权威。

　　秩序规则：治理新规出台，仍待落实

　　2024年，针对AIGC的治理进入快车道。9月14日网信办发布了《 人工智能 生成合成内容标识办法(征求建议稿)》（下称《AI标识办法》）。此前标明AI生成的责任更多放在AI技术提供者身上，而《AI标识办法》对流传平台明确提出了核验要求——如果核验发现文件元数据中有隐式标识，需要在发布内容周围添加明显的提示标识，明确提醒用户该内容属于生成合成内容。

　　除了按要求增加AI标识，各平台都在针对AI应用的泛滥问题作出具体治理。好比2024年3月，抖音表示，针对违规使用AI生成虚拟人物的表现，平台会对违规视频下架，对违规账号进行取消其投稿和营利权限、抹除账号粉丝、封禁账号等处置。《抖音关于不妥利用AI生成虚拟人物的治理公告》点名了滥用AI的具体行为：

　　生用虚假外国人的光辉形象，以想嫁给中国、想到中国生活、评价社会事件等言论博取眼球；

　　生成俊男美女虚假形象，诈骗互动，交友导流。将用户导流至私人聊天工具，甚至进行诈骗；

　　生成精英人士虚假人设，引流到站外以卖课、入群等方式获取利益。

　　2024年6月，腾讯视频号拟修订《视频号橱窗达人“发布低质量内容”实施细则》。修订后的细则将“挂机录播”部分的内容改为了“非真实直播”，违规示例中包含使用AI等工具生成虚拟形象进行直播的表现。该限制举措在业内引起很多关注。

　　司法案件上，小红书此前推出的文生图产品Trik AI被诉侵权使用训练语料案，在2024年6月于北京互联网法院正式开庭审理。四位插画师指控大模型的运营方未经授权，将自身美术作品用于训练AI模型并应用于商业用途；而运营“Trik AI”的被告公司辩称，被告的大模型训练行为即便使用原告作品，也应属于合理使用，不构成侵权。目前，该案还在审理中。