中新网乌镇11月22日电(奚金燕蓝伊旎) 人工智能 生成的内容如何“防伪”？网络空间国际规则怎么制定？ 数据安全 的界限在哪里？随着 人工智能 的高速发展和在各领域的广泛应用，强化 人工智能 在开发和应用层面的安全治理逐渐成为社会共识，聚焦的议题也愈加细分、深入。
11月19日至22日，2024年世界互联网大会乌镇峰会在乌镇举办， 人工智能 成为本次大会核心议题，AI的伦理风险、安全治理等诸多问题成为讨论的焦点。
近年来，AI技术的快速发展造成了巨大的经济和社会效益，也引发了众多安全和治理方面的挑战。
在本届峰会的 网络安全 技术发展与国际合作论坛上，奇安信集团老总齐向东指出，AI技术正面临着“黑箱化”造成内容生成鱼龙混杂、“黑产化”造成深度伪造泛滥成灾和“武器化”造成黑客攻击愈演愈烈三重安全危机，亟须通过多维度体系化防护、深度伪造技术防治和安全大模型的创新来加强治理。
“有了高效的安全治理，AI才有未来。”他认为，建立AI安全大模型是应对未来挑战的关键策略。
以奇安信为例，用其部署自研的QAX-GPT安全大模型赋能天眼、天擎、椒图等安全产品，再依托AISOC进行告警全局关联，可以让 网络安全 、终端安全、服务器安全的防御变得更加主动。
再如， 安恒信息 牵头研发的恒脑·安全垂域大模型在 杭州亚运会 赛事期间辅助处理安全事件287起，降低了ITCC57%的工作量。以AI对AI，以AI管AI， 人工智能 切实给网络安保造成了质的变化。
同时，随着 人工智能 深入到生活的各个方面，如何用人文关怀搭建数字桥梁、实现技术发展与社会责任间的平衡成为新的课题。
在量子之歌老总李鹏看来，随着数字资源供给日益丰富、数字发展环境逐渐优化，老年人对知识与精神生活的切实需求也更加迫切，银发教育普惠及资源共享需要在供给侧发力。
他呼吁， 人工智能 的发展应当为老年教育等领域提供更多的数字化解决方案。好比，通过“线上+线下”的融合创新，一起构建“15分钟学习圈”，实现“老年大学办抵家门口”，打通“老年教育最后一百米”，以数字创新增强老年教育服务的“可及性”和“均衡性”。
那么，应当如何加强安全治理和社会引导，助力 人工智能 可持续发展？
记者了解到，本届峰会围绕人才培养、 数据安全 等方面，缔造了多个“亮点”、实现了多个“第壹次”。
峰会期间，世界互联网大会智库合作计划启动。该计划由全球约60家智库联合发起，涉及互联网、 人工智能 、 大数据 、通信、 云计算 等专业方向和 数字经济 、网络文化、网络空间国际治理、 网络安全 等研究领域，将为全球互联网领域学术交流和思想对话机制化、常态化搭建合作平台，推动全球智库围绕互联网相关议题开展研究、交流与合作。
功以才成，业由才广。互联网迅猛发展，亟需规模宏大、结构合理、素质优良的创新团队。
为了应对这一挑战，世界互联网大会数字研修院正式启动，旨在聚焦 人工智能 、数据、 网络安全 、 跨境电商 等国际社会广泛关注的热点领域，通过开展国际化综合性、专题性培训和沙龙活动，为全球各国，尤其是发展中国家培养具有广阔国际视野、前沿数字化思维、先进数字化技能的专业人才。
作为研修院首批合作单位， 安恒信息 相关责任人表示，将以此为契机，在 网络安全 人才培养领域走稳走远，走深走实，助力“数字研修院”这一全新引擎，以更加创新、开放、普惠的形式，搭建全球能力建设平台，维护安全的新疆域、文明互鉴的新平台。
另外，世界互联网大会还成立了首个专业性、常态化分支机构—— 人工智能 专业委员会。第壹届专委会成员共170余人，汇集了来自 人工智能 领域国际组织、知名智库、科研院所、专业协会及产业界的权威专家和专业人才，建立了标准推进计划、安全与治理推进计划和产业推进计划。
当前正处于全球 人工智能 治理的重要时期，专委会将秉持搭建国际交流合作平台、推动发展与治理协同、增进全球共享 人工智能 发展成果的准则，通过开展专题研讨、成果分享、倡议发布等活动，不断凝聚国际共识，增进 人工智能 包容普惠、可持续发展。(完)