在AI快速发展和普及的环境下，随同着技术进步而来的还有信息安全与隐私保护、自然资源消耗、算法歧视、替代人工、商业垄断等治理挑战，同时这些议题还体现了技术的两面性。世界经济论坛最新发布的《2025年全球风险报告》显示，错误信息和虚假信息连续第贰年成为全球最大的短时间风险。2024年8月，欧盟《 人工智能 法案》正式生效，全球对 人工智能 风险的治理已经提上日程。从ESG视角来看，AI大模型行业包含了算力、算法、数据三大要素，需要从法律法规、行业倡议到企业内部治理等多个层面逐渐搭建AI治理体系。
信息安全风险显现
人工智能 发展造成的深度伪造技术让网络世界的错误信息和虚假信息日渐增多。人们发现AI合成的知名医师张文宏在网络视频中带货，犯罪分子利用 人工智能 变脸冒充公司高管并诈骗员工2亿港元，专业团伙利用ChatGPT制作情绪丰满、博取眼球的假新闻。
“ 人工智能 高速发展给人们对网络世界虚假信息的识别造成严峻挑战。”中国人民大学新闻学院副教授方洁说，“人们对所处环境作出判断，依赖一个真实可信的信息流传系统，但现在人们我们时常会在信息世界里面临难辨真伪的境况。”
《2025年全球风险报告》列出了未来两年人类面临的十大短时间风险，错误信息和虚假信息连续第贰年排在首位，其次才是极端天气事件和国家间的武装冲突。
人工智能 技术尤其是自然语言处理（NLP）和生成对抗网络（GANs），使得虚假信息的生成和流传变得更加容易和高效。深度伪造技术可以生成真切的虚假图片、视频、音频，误导公众，诱发诈骗行为，甚至影响社会秩序。据 网络安全 公司奇安信统计，2023年基于 人工智能 的深度伪造欺诈事件数量激增3000%，AI垂钓邮件数量增长1000%。
“ 人工智能 造成的技术变革会对监管职能部门、互联网平台、媒体、网络用户都造成影响。令人头疼的是，利用 人工智能 生产虚假内容的成本很低，但人们识别虚假信息的成本却要高得多。”方洁说。
据了解，韩国警方近日宣布将投资91亿韩元，开发可以查出深度伪造文件和虚假信息的系统，应对利用 人工智能 生成图像和声音犯罪激增的情景，开发工作预计在2027年底完成。
另外， 人工智能 发展还会造成新的 网络安全 风险，奇安信老总齐向东表示，具体包含数据信息安全风险、认知安全风险和基础设施安全风险。 人工智能 技术演进依赖大量数据训练，这些数据往往包含敏感的个人信息，如果数据保障措施不到位，可能造成数据泄露和隐私侵犯。另外，AI系统本身也有可能成为网络攻击的目标。
相关风险袒露的起因是 人工智能 时代正加速到来，并且超越了互联网时代的发展速度和影响力。
中国互联网络信息中心去年11月发布的《生成式 人工智能 应用发展报告（2024）》显示，我国生成式 人工智能 产品用户达2.3亿人， 人工智能 核心产业规模接近6000亿元人民币。投行数据显示，2024年三季度全球近三分之一的危险投资资金流向了 人工智能 领域。
人工智能 大模型成为时代的新底层生产工具。被称为“百模大战”的 人工智能 竞技大赛已然开启，参与者涵盖了从科技巨头到草创企业。国际市场上，有谷歌的Gemini、微软的OpenAI和Meta的LLaMA等大模型。在国内市场，百度的文心一言、阿里巴巴的通义千问、腾讯的混元、字节跳动的豆包、 科大讯飞 的星火等纷纷加入大模型发展浪潮。另外，DeepSeek、智谱AI、MiniMax、Kimi、零一万物等草创企业研发的大模型也已崭露头角。
随着硬件优化和算法改进，大模型的练习和推理成本持续下降，使得AI技术能够更快渗透到中小企业甚至个人开发者中，推动大模型应用从通用场景向垂直行业拓展，如医疗、金融、法律、交通等各个领域。
人工智能 治理议题的两面性
ESG重视企业对社会的影响。从ESG视角分析不同行业企业的重要性议题，根据行业特性会有不同，而 人工智能 的重要性议题跨越了不同行业。
“ 人工智能 有三个关键要素，算力、算法、数据，既有软件行业的特质，也有芯片、存储设备等算力基础设施的特质，还有互联网行业的特质。”中央财经大学绿色金融国际研究院副院长、中财绿指首席经济学家施懿宸对记者表示， 人工智能 企业需要关注的重要性议题包含了算力基础设施需要关注的碳排放、能源消耗、水资源使用等环境维度议题，也包含了软件和互联网行业需要重视的信息安全与隐私保护等社会维度的议题。另外， 人工智能 企业还需要关注算法透明度，以避免算法歧视。
“这些议题中，信息安全与隐私保护的议题可以沿用互联网行业的思路，通过技术和法律手段加以解决，同时需要企业自我约束和平台的监察管理。”施懿宸说。记者了解到，OpenAI将GPT-4模型引入内容审核系统，提高内容审核效率。德国基尔大学科学家近期研制出一款新型 人工智能 工具，可以精准识别出虚假新闻。腾讯旗下朱雀实验室也推出了朱雀AI大模型检测系统，帮助用户识别AI生成的文本与图像。
算法歧视则来自 人工智能 决策过程所依赖的历史数据， 人工智能 算法可能会延续甚至放大历史数据中的偏见。例如，亚马逊曾用 人工智能 工具筛选人才，发现这一筛选系统对女性存在偏见。为应对算法歧视问题，微软开发出一套系统工具，用来判断 人工智能 算法是否存在偏见。微软、谷歌、IBM等企业都曾设置对 人工智能 进行伦理审查的治理机构和相应机制，商汤科技也成立了 人工智能 伦理与治理委员会。
而在另外一些ESG议题上， 人工智能 造成的影响尚难以界定，并显现出技术的两面性。例如， 人工智能 的练习过程需要消耗大量能源与水资源，但它同时能应用于提升能效、节约能源、保护环境、应对气候问题等领域。有科研人员估算，训练GPT-3所需的清水量相当于填满一个核反应堆的冷却塔所需的水量。另有研究称，GPT-3大模型每次训练耗电量为1287兆瓦时，能支撑3000辆 特斯拉 电动汽车共同开跑，每辆车跑20万英里。
但同时，在黄河上游的羊曲水电站， 人工智能 与 大数据 技术构建的 数字孪生 智慧电厂助力 新能源 发电站平稳运行。 中国电信 通过自研AI节能系统，年均节电8亿度，节省电费5.2亿元人民币。微软推出低成本的 人工智能 工具，帮助解决与水、农业、生物多样性和气候变化相关的环境问题。
在替代人工议题上， 人工智能 的应用引发了网约车司机等群体对就业前景的担忧，但同时其也在劳动强度高、危险性强的工作中开始施展作用。例如，泰科电子应用 人工智能 技术，在快速运转的流水线上精准检测连接器产品的瑕疵，避免了员工的高强度工作。万勋科技生产的软体 机器人 借助 人工智能 赋予的性能，进行大厦外墙和风力发电机叶片的高空清洗，替代人工完成具有高度危险性的工作。
“ 人工智能 使自动驾驶技术快速发展，而 无人驾驶 让人们出行更方便甚至更安全，但也有可能让网约车行业受到影响。”施懿宸表示，在技术发展推动社会变革进程中，需要监管机构、企业、公众、媒体等各方不断沟通，形成具有共识的基本规则与行业倡议，保障社会转型进程中的公平。
如何约束与治理
德勤中国可持续发展研究院院长谢安认为，从ESG角度来审视，建立健全 人工智能 治理体系，需要国家、行业和企业的多条理协同，共同推动 人工智能 的健康有序发展。
在国家层面，政府应制定全面的法律法规和伦理指引，为 人工智能 的发展提供制度保障。例如，中共中央办公厅、国务院办公厅2022年出台的《关于加强科技伦理治理的意见》，为科技伦理治理提供了明确的指导。另外，国家网信办联合国家发改委、科技部、工信部等相关部门2023年联合发布的《生成式 人工智能 服务管理暂行办法》也对生成式 人工智能 服务的规范应用提出了具体要求。
国际上，欧盟《 人工智能 法案》2024年8月正式生效，并于近日发布了更详细的条款，规定企业若滥用 人工智能 技术对用户进行潜意识操控、坑骗误导，区别对待个人或群体，抓取用户面部信息等，都有可能面临高额处罚。
在行业层面，谢安认为，各行业应结合自身特点，制定 人工智能 伦理指引和标准。例如，中国人民银行2022年发布的《金融领域科技伦理指引》，为金融领域的 人工智能 应用提供了具体的伦理规范。其它关键行业，如医疗等，也应制定相应的伦理指引。在企业层面，企业应建立完善的 人工智能 内部治理体系，确保AI技术安全合规应用。
另外，业内人士认为，相关部门需要提前研判，优化公共治理体系。大力发展 人工智能 衍生行业，如 人工智能 风险管理机构，以 人工智能 为基础的服务业、教育培训业等；在全社会健全职业历程终身培训体系，为低技能劳动者提供便捷的新技术培训服务，增加他们的就业机会。
