【人工智能】给-AI造-加标识 应对AI作假的有效之举

　　不久前，国家互联网信息办公室等四部门联合发布《 人工智能 生成合成内容标识办法》（以下简称《标识办法》），自2025年9月1日起施行，强制性国家标准《 网络安全 技术 人工智能 生成合成内容标识方法》也将同步实施。

　　近年来， 人工智能 （AI）技术一日千里，AI生成合成的文字、图片、音视频等在网络平台迅速流传，在丰富信息内容的同时，也成为编造虚假信息、扰乱流传秩序、实施新型诈骗的帮凶。有利用AI撰写假新闻、诽谤博眼球者；有假手AI发表评论，缔造“智能水军”者；还有深度做假知名院士视频，带货宣传护肤品者；更有借助AI假冒明星，诈骗老人钱财者……

　　AI技术给虚假信息披上高科技“伪装衣”，使“耳听未必为真、眼见未必为实”，且技术还在不断迭代，迷惑性越来越强。防范AI做假，不只是网络平台的责任，依靠公众的“火眼金睛”去识别做假行为更不现实。

　　给AI生成合成内容添加标识，是从源头上治理AI做假的有效手段。如果把AI生成合成内容比作一种特殊产品，制作内容的AI服务商就是厂家，流传内容的网络平台就是商店。《标识办法》规定，厂家在产品出厂时要贴上标识引起商店关注，商店也要在销售时通过贴标识等方式提醒消费者注意。其作用就是从内容生产和流传的源头入手，给“AI造”打上识别码，使其更容易被网络平台检得出、被社会公众看得见。公众知道眼前信息源自AI，也就不会轻易挨坑被坑。

　　AI正在蓬勃发展，我们既要加强对其有违伦理方面的治理，但又不能因这种治理而阻碍技术进步。显然，制订《标识办法》注意到了这种平衡。好比，并未强制要求AI服务提供者采取难渡过大、成本过高的标识技术，而是创新提出多种低成本标识方法，以避免增加企业负担、造成其对AI技术研发的投入受到影响。制订强制性国家标准，也充分吸纳了AI领域高科技企业的专业意见。相关部门的这些举措，体现了“统筹发展和安全”的治理理念。

　　当然，治理AI做假，除了信息标识，技术防范同样不可忽视。好比，对网络平台上没有依规标识的AI生成合成内容该如何检测？怎样提升检测能力？如果未检测识别出来且造成不良社会影响的，责任应当如何划分？还有，对那些我国法规约束之外的境外AI工具生成合成内容，其发布和流传该怎样管理？这些，都是在《标识办法》实施中值得关注和解决的问题。

　　AI可以拟人、助人，但不能骗人、坑人。我们相信，《标识办法》的发布和施行，将有效治理“AI做假迷人眼”的乱象，还网络空间以清朗，促AI发展之健康。