以“以共商促共享以善治促善智”为主题的2024世界 人工智能 大会暨 人工智能 全球治理顶级别会议于7月4日—6日在上海召开。本届大会期间，来自世界各地的专家学者围绕 人工智能 前沿技术的发展与治理，探讨全球治理面临的挑战和应对措施，探索构建 人工智能 治理的全球框架。本届大会也充任了 人工智能 全球治理的顶级别“议事厅”，向世界展示“中国智慧”“上海方案”。

　　上海 人工智能 实验室主任、衔远科技开创人周伯文在大会期间表示，“从算法研究、人才密集度、商业驱动力和算力等方面来看，我们对 人工智能 安全的投入远远落伍于对 人工智能 性能的投入。现在，全球只有1%的资源投入在安全考量上。”

　　基于此，周伯文提出一个技术主张：探索 人工智能 45度平衡律。对于 人工智能 全面的安全和能力可否兼得，他认为，要沿着可信AGI（通用 人工智能 ）的“因果之梯”拾级而上，进入泛对齐、可干预、能反思三个阶段，探索二者系统性平衡之路。

　　“目前， 人工智能 安全和性能技术发展主要停留在第壹阶段，部分在尝试第贰阶段。但要真正实现 人工智能 的安全与性能平衡，我们务必完善第贰阶段并勇于攀登第叁阶段。”周伯文说，最终，像安全可控的核聚变技术为全人类造成清洁、丰富的能源一样，人类可以通过深入理解 人工智能 的内在机理和因果过程，从而安全有效地开发和使用这项革命性技术。

　　在清华大学苏世民书院院长、清华大学 人工智能 国际治理研究院院长薛澜看来， 人工智能 的治理与发展已走到重要的“十字路口”，尤其是生成式 人工智能 所造成的挑战是空前绝后的。第壹， 人工智能 技术的发展速度远远快于监管制度的制定速度，首当其冲的便是发展与治理的平衡问题。第贰， 人工智能 引发的问题空前绝后，这使 人工智能 监管变得空前复杂，没有任何一个监管机构能够单独管理好 人工智能 牵涉的各个方面。第叁，随着国际格局变化，国际社会不太可能形成一个单一的全球性机构，来监管 人工智能 发展的各个方面。因此，强化国与国之间的 人工智能 治理沟通与合作非常必要。

　　 人工智能 可能造成一些显而易见的危险，薛澜表示。第壹，技术内在问题，包含所谓幻觉、自主发展的可能、对人类社会的要挟等；第贰，基于技术开发造成的危险，包含 数据安全 问题、算法歧视、能源环境等；第叁，技术应用造成的调整，包含误用、滥用、对社会就业的影响等。

　　解决这些问题，薛澜认为，要把发展和安全作为“一体两翼”。国际社会不仅要重视安全问题，更要关注 人工智能 鸿沟、数智鸿沟等。各国应通过多途径建立国际交流及防控体系；同时，希望联合国等国际组织能起到全面协调的作用。

　　中国科学院自动化研究所研究员，联合国人工高层顾问机构专家曾毅也谈到了人类对 人工智能 潜在风险的忽视。他说，“数据显示，2023年 人工智能 所造成的危险是2022年的10倍以上，这意味着，生成式 人工智能 的发展，把这项风险带向了社会各个领域，并且在各国之间反复出现。大家更多关注 人工智能 发展的机遇，对可能引发的定 时炸弹却没有更好地学习。”

　　他介绍，2020年起，联合国教科文组织召集了一批来自各国的 人工智能 伦理专家，撰写了全球 人工智能 伦理的建议书，体现了各国对 人工智能 伦理的共识。“但仅形成伦理共识是不够的，如何落地才是重点。”

　　曾毅强调，如果出现比人类更聪明的智能存在，人类在这一进程中需要进行反思和思维演化，要从以人类为方向转化为以生态为方向。“ 人工智能 像一面镜子，让我们看到自身的不足，同时也反过来加速人类发展。”

　　“控制好 人工智能 ，但又不能破坏它。”图灵奖得主、中国科学院院士、清华大学交叉信息研究院院长姚期智表示，风险体现在三个方面：一是网络风险延伸和扩大。二是没有意识到的社会风险，三是生存或存在的危险。“一方面我们把 人工智能 控制好，毕竟这是我们设计出来的；另外一方面，也不希望它被我们给破坏了，这样权衡是非常艰难的。正如图灵所说，这是无法预测的，预测不了机器有了足够算力之后会做什么。”

　　中国工程院院士高文指出， 人工智能 的安全风险可以从模型、算法硬件、自主意识不可控三个方面考虑。开展国际合作研究和人才培养是提高 人工智能 安全水平的关键。