【人工智能】AI造谣中伤上市公司 - 资本市场亟须与时俱进强化治理与监管

　　最近，“有顶流明星在澳门输了10亿元”的传言风靡网络，频繁登上热搜。3月14日，公安部网安局辟谣：这则消息是一网民使用软件“某书”中AI智慧生成功能生成的谣言。

　　随着生成式AI技术快速发展，各行各业获得赋能的同时，AI也成为诽谤者的利器。从资本市场来看，很多上市公司深陷AI谣言。在行业人士看来，AI只是工具，需要各方加强监管，以防不合法、不合规使用，扰乱资本市场秩序，侵害投资者合法权益。

　　多家公司被“AI诽谤”击中

　　在AI技术的加持下，诽谤者制造流传谣言的成本越来越低，AI谣言数量猛增，而且逐渐形成“谣言—AI引用—更多谣言”的黑色链条，大量上市公司受到影响。

　　去年11月份，有人冒充 比亚迪 员工，称 比亚迪 要和蔚来合作成立比未来汽车集团。尔后被 合肥市 公安局经开分局证实，该谣言系29岁外省男子谢某所做，利用AI软件合成不实图文上网流传，其目标是为提升自媒体账号的知名度、博取流量。

　　今年春节期间，某AI大模型爆火之后，一批“马甲”账号通过散布某上市公司入股该AI大模型或为该AI大模型提供技术支援等谣言，误导AI大模型给犯错误回答，误导投资者。随后，相关上市公司通过发布公告等方式进行澄清。

　　资本市场是一个“信息+信心”的市场，利用AI编造虚假消息、用虚假语料误导AI炮制“假利好”“假利空”等行为，影响资本市场秩序。目前，已经有网民编造流传虚假不实信息，影响金融秩序，被公安机关依法处罚。

　　华东政法大学国际金融法律学院教授郑彧对《证券日报》记者表示，目前AI生成的信息既可能包含AI通过网络截取到指定信息披露媒体的信息，也有可能存在包含自媒体或其它非指定信息披露媒体所刊载的信息，这就使得AI生成的信息真假难辨，且无法溯源，从而误导投资人的决策判断，同时也使得无法追索假信息的来源从而没有办法进行损失的维护权益。

　　“利用AI生成的虚假信息对资本市场的影响是多方面的，其危害不容忽视。”某大型投资机构量化团队相关责任人对《证券日报》记者表示，首先，虚假信息可能误导投资者决策，造成资产价格偏离其真实价值，破坏市场定价效率；其次，虚假信息可能加剧市场波动，引发恐慌性抛售或非理性追涨，扰乱市场秩序；再次，虚假信息还可能被非法分子用于操作市场，通过散布“假利好”或“假利空”来牟取非法利益，损害投资者权益；最后，更为严峻的是，虚假信息的泛滥可能削弱投资者对市场信息的信任，影响资本市场的长期健康发展。

　　对AI信息投资者需长上“火眼金睛”

　　今年以来，在某AI大模型爆火之后，越来越多年轻投资者向其寻求关于资产配置的建议。最近，《证券日报》记者做的一份问卷调查结果显示，超过一半（57.5%）的投资者曾向AI软件咨询过投资理财建议。只有不到两成的投资者认为AI提供的信息准确，接近六成认为AI回复一半对一半错，还有超过两成认为AI的回应中，绝大部分是错误内容。

　　“很多AI数据都是旧的，所以对投资理财没啥参考。”有投资者对记者坦言。问卷调查显示，超过六成的投资者也不会相信AI的荐股信息，有三成投资者认为需要视情况而定，只有个别投资者会相信AI的荐股。

　　除了部分投资者直接向AI软件寻求帮助，可能会受到AI虚假信息的影响外，量化交易利用AI大模型进行投资，部分采用事件驱动量化投资策略也有可能会受到影响。

　　“传统量化投资策略主要是基于量价因子的挖掘，所用到的基本上是客观真实的市场数据。对于该类量化投资策略，黑嘴用虚假语料炮制‘假利好’对其造成影响的存在性较小。”上述量化团队相关责任人表示，还有一类量化投资策略是基于分析市场情绪、新闻、社交媒体等信息，进而做出投资判断。对这种事件型驱动的量化投资策略，如果黑嘴利用虚假语料误导大模型，炮制“假利好”信息，则可能会对量化投资决策发生明显影响。

　　格上理财旗下金樟投资投研总监付饶在接受《证券日报》记者采访时表示，资本市场上的信息量较大，信息质量也良莠不齐，AI能够做到在极短时间内生成大量内容，然而这些内容是信息的整合和整理，其可信度通常还需要人为力量来识别。这就意味着，基金经理需要有能力识别和分析这些内容的可靠性，在新的投资时代下，AI为管理人提供更加高效工具的同时，对管理人也提出新要求。

　　对于投资者而言，需要提高鉴别能力，来判断AI消息的真假。上述量化团队责任人表示，首先，应优先选择权威、可信的信息来源；其次，可以通过多源信息交叉验证，对照不同渠道的数据和观点，判断信息可信度；再次，投资者还应关注信息的理论一致性，识别其中可能存在的矛盾或虚构之处；最后，投资者应加强对AI技术的学习，了解其生成内容的局限性，避免盲目依赖AI问答结果。通过提高信息鉴别能力，投资者可以更好地应对AI虚假信息造成的挑战，保护自身利益。

　　郑彧建议，对于普通投资者，不能直接将AI问答作为选股或投资决策的参考，可是可以借助AI理解有关资本市场价格形成机制的原理和事理，好比询问AI有关“资产负债率在特定行业的影响”等这些专业性的问题，通过对于这些问题的了解来理解拟投资行业、标的的投资价值。

　　多举措加强对AI谣言监管

　　近期，多方已经开始行动，强化对AI谣言的治理和监管。3月11日，微博社区观察员官方账号发文表示，将对未标识的“AI谣言”及时展开治理。平台将结合AI技术能力、专项人工审核与用户举报投诉，积极识别未标识的AI内容，并对相应情况予以相应处置。

　　据“网信中国”微信公众号3月14日消息，最近，国家互联网信息办公室、工业和信息化部、公安部、国家广播电视总局联合发布《 人工智能 生成合成内容标识办法》，规范 人工智能 生成合成内容标识，保护公民、法人和其它组织合法权益，维护社会公共利益。

　　上述量化团队责任人表示，在AI大模型广泛应用于金融市场的环境下，为减少其对市场的不良影响，建议可从以下几方面作为切入点：一是明确AI大模型在投资决策中的使用范围和界限，制定相关法律法规，确保其应用符合市场公平性和透明性的准则；二是聚焦于数据质量和可靠性，建立严格的语料审核机制，防止虚假信息或操作性数据污染模型训练过程；三是加强对AI模型的动态监控，如要求机构定期提交模型运行报告，包含其预测准确性、风险控制能力和异常事件处理情况，以便及时发现并纠正模型偏差或漏洞；四是关注市场操作行为，尤其是利用AI技术炮制虚假信息或进行高频交易操作市场的现象，通过技术手段追踪异常交易行为并加大处罚力度；五是任何向客户提供分析意见或建议的主体都务必是具有业务资质的持牌机构，防止非法或不合规的机构误导投资者。