□江德斌
11月24日，胖东来商贸集团发布声明，称在第叁方网络平台发现多个账号，未经授权私自利用AI技术手段生成于东来的声音，并对于东来或胖东来享有著作权的视频内容进行非法剪辑和篡改，加入AI生成声音及误导性文案后发布，对公众造成误导和混淆。胖东来称，此类未经授权，私自利用AI技术手段和生成画面，实为博取流量而采取的违法侵权行为，对公众造成了误导，破坏了网络生态健康和秩序。胖东来严正警告，存在上述行为的账号，立即停止侵权行为。（11月25日上观新闻）
这些AI技术生成的视频，均采用文案编排的形式，用AI生成于东来的声音，再配以胖东来的素材画面，内容拟合度极高，看起来惟妙惟肖，普通网友很难分辨出是AI虚构的视频。由于这些其实不是于东来的真实声音和观点，视频内容存在一定的误导性，容易让网友发生误解，且涉嫌侵犯人格权及著作权，损害于东来及胖东来的名誉、形象，平台应采取措施将其删除，司法部门也可介入调查，追究做假者的法律责任。
此前，小米开创人雷军也曾受到AI配音的困惑，有网友用AI生成的“雷军语音包”制造恶搞视频并进行流传，引起了不小的网络效应，有很多网友信以为真。雷军对此公开回应称，对于此类行为感到困惑和不舒服，并但愿大家不要继续这样做。随后，各个平台删除了相关恶搞视频。因而可知，AI生成技术虽然能够给网友造成便利，创作出丰富的创意作品，但如果滥用的话，也会发生社会负面效应。
近年来，AI技术飞速发展，降低了深度伪造和低价量产的门槛，AI生成影像、换声及换脸视频大量出现，一些制作水平高的作品，更是令人真假难辨。然而，这些视频虽吸引眼球，并获得了广泛的流传和关注，但背后隐藏的危险却不容忽视，一旦被非法分子利用，容易误导网络舆论，制造社会恐慌情绪，甚至诱发网络欺诈等。《2024年 人工智能 安全报告》显示，基于AI的深度伪造欺诈在2023年激增30倍，对 网络安全 和社会安全构成了较为严峻的要挟。
网络空间的健康发展，离不开有效监管和强力治理。于东来和雷军遭遇的AI侵权案例，敲响了警钟，名人尚且被轻易侵权，普通人恐怕更加难以防范。对于AI生成技术的滥用和侵权行为，监管职能部门应采取措施加强监管，规范技术的使用标准和界限，遏制打击违法AI侵权行为。平台需巩固AI生成内容的审核和管理，探索建立声音、肖像保护机制，确保用户合法权益不受侵犯。
需要看到的是，AI生成作品的流传效果良好，充分表明该技术的市场潜力和价值巨大，未来，随着技术的不断发展和完善，AI生成将在更多领域施展关键作用。因此，在打击非法侵权行为之际，也要保护AI生成技术的正常合理使用，鼓励创作者通过正规渠道，获得合法授权，生成具有版权保护的创意作品，光明正大地流传、挣钱，以实现良性循环，让技术发生增进社会发展的正面效应。