随着第贰届AI安全峰会（5月21日至22日）在韩国首尔举行，25位世界顶尖AI科学家呼吁，全世界应对AI风险采取更强有力的行动。发表于《科学》杂志的一份专家共识文章中，专家组概述了全球应采取的紧急政策优先事项。文章指出，全球领导人需认真考虑，在未来十年内可能开发出超越人类能力的通用AI系统。他们表示，尽管世界各国政府始终在讨论先进AI，并尝试引入初步指导方针，但这与许多专家期望的快速、变革性进展仍有距离。目前关于AI安全的研究严重缺乏，只有1%—3%的AI出版物涉及相关安全问题。另外，全球没有适当的机制或机构来防止滥用和鲁莽行为，包含如何使用能独立采取行动和自行实现目标的自治系统。