【经济学】博鳌现场 -现有的大语言模型像个黑匣子，难以确定其真正目标和潜在风险-

　　“未来100年后，我们看如今的人类，就像人类看四万年前的山顶洞人。未来一定是 人工智能 和机器融合的时代，我们务必正视AI（ 人工智能 ）造成的危险，假如不加以引导控制，可能会引起生存危机。”

　　随同Sora、ChatGPT等接连诞生， 人工智能 正在引爆新一轮产业革命，在2024年博鳌年会上，中国工程院院士、清华大学智能产业研究院院长张亚勤谈到他心中的 人工智能 发展趋势。

　　“这是我第八年参加博鳌，也是第八次在现场讨论 人工智能 。”小i集团老总兼首席执行官袁辉袁辉笑称，在他第壹次参加时，当时的科技圈普遍认为 人工智能 的“奇点”还很遥远，如今科技发展瞬息万变， 人工智能 已成为人类需要思考和警惕的巨大挑战。

　　第四范式联合开创人胡时伟则在接受澎湃新闻记者采访时表示：“新质生产力是定义 人工智能 的模式和路径， 人工智能 是新质生产力重要的技术手段支撑和发展的重要引擎。这是国家战略层面的重要方向，我们要做的事情就是积极地去实现这个方向。”

　　 人工智能 的未来到底会走向何方？现场，多位学者和企业家展开热议。

　　大语言模型就像“黑匣子”

　　“如今的AI只是一个看似智能的信息处理工具，其实不具备真实的人类理解能力。”中国科学院自动化研究所研究员、联合国 人工智能 高层顾问机构专家曾毅表示。

　　 人工智能 作为学科出现时，普遍被认为能精确描述人类的智能学习或是各个方面，当前的 人工智能 在行为上看起来有接近人类水平的表现，但在一些重要的人类从不犯错误的领域， 人工智能 不停犯错，这说明如今的 人工智能 系统还只是一个看似智能但还没有真实的智能能力的系统。

　　在曾毅看来， 机器人 如今仍然是通过行为的模拟，尽可能和人类的接近。“但即便人只能做到60%，机器能做到99%，那百分之一就是人和机器的不同。”

　　“ 人工智能 是赋能所有行业的，目前已经像感觉空气一样感受到它的存在，而且一旦断开就再也木有生存可能，如今 人工智能 已经浸润人们生活的每个方面，渗透到思考、呼吸和每个动作，没有一个产业有理由拒绝 人工智能 。”袁辉表示，通用 人工智能 （AGI）最早的定义就是未来何时会具备人类同样的自我意识，那将是对人类发生终级挑战的物种。

　　“未来人类如何更好利用AI，将会是每个个体、甚至企业跑赢大盘的关键。”袁辉认为。

　　加州大学伯克利分校计算机科学教授斯图尔特·罗素表示，当前的 人工智能 系统仍旧存在技术缺口，容易的模型扩展和数据增量其实不能完全弥补这些差距。在他看来，现有的大语言模型像是一个“黑匣子”，其内部机制和运作方式其实不透明，这使得人们难以确定其真实的目标和潜在风险。

　　人类在面对照自己更强大的机器时，应该如何保持掌控权？罗素呼吁，应当在 人工智能 领域进行更深入的研究，以实现所谓的“可证明的AI”，即能够佐证其行为对人类有益的系统。

　　张亚勤则坦言，未来AI发展风险需要引引关注， 人工智能 加速了人类脑力的进化，未来一定是 人工智能 和机器智能融合。但风险很大，我们务必正视风险，假如不加以引导控制，这个风险会转化成为人类生存的危险。

　　谈国际差距：有能力未来对标国际顶尖

　　在中美AI差距方面，袁辉表示，本质从算法、数据和应用场景来看，各个国家有不同样的优势。“中国从互联网开始，在应用领域是全球可靠的。但我们需要在基础核心的技术研发领域进一步发力。”同时他表示，近年来甭管是在专利、 知识产权 申请还是论文发表方面，从数量和质量方面都有很大的跃升。

　　 科大讯飞 副总裁刘聪则告诉澎湃新闻记者，中国的确和国际卓越的AI水平存在一定差距，这是共识，可是这样的差距正在持续地追赶，在他看来，通用大模型的主战场还是底座大模型，中国大模型底座能力需要依托自主可控平台进行创新。 科大讯飞 去年与华为联合推出的首个支持万亿浮点参数训练的国产算力训练平台“飞星一号”， 科大讯飞 在今年1月30日发布讯飞星火大模型V3.5，同步推出星火语音大模型。讯飞星火V3.5七大核心能力全面提升，其中语言理解、数学能力超过GPT-4 Turbo，代码达到GPT-4 Turbo 96%，多模态理解达到GPT-4V 91%。

　　刘聪认为，中国有能力在算力平台上对标国际顶尖水平，目前，对标GPT-4当前能力的讯飞星火V4.0正在训练中，预计在2024年6月发布，将在中文能力上实现完全对标。

　　而在曾毅看来，中国未来 人工智能 发展不只是要在最基础模型上进行推翻式创新，更关键的是全自主的软硬件协同创新，虽然 人工智能 趋势是全球化产业链，可是我国要做好软硬件基础设施上不依赖于可能会脱钩断链技术的准备。不过， 人工智能 “脱钩断链”的做法可能得到全球反对，这会对全球发生更大的数字鸿沟。

　　他认为，为了避免这样的 势头，中国发展 人工智能 模型算法算力，未来应当它共享给全球。

　　“AI人才最紧缺，机会才刚开始”

　　对于大模型和生成式AI的关系，张亚勤表示，前者是技术、后者是能力。因为有了预训练的、超大规模的、自监督式的大模型，生成式AI才具有巨大能量，未来大模型的走向将分为三个方向，其中，第壹个是多模态，第贰个是自主智能，第叁个是边缘智能。

　　张亚勤表示，AI大模型走向自主智能，就可以制定目标、规划任务、自我制定路径、自我完成方案、自我编码。

　　在谈到AI是否会取代人类工作时，高通公司中国区老总孟樸坦言，他其实不焦虑，“我不太相信我们自己创造 人工智能 把我们完全替代，我倒更担忧的是一部分掌握 人工智能 的人会抢占先机， 人工智能 时代，我们要利用 人工智能 ，把最新的技术、最新的教育带到乡村，让所有的人都能掌握这些技术。”

　　在发展大模型产业中，算力、算法、数据和人才哪个最重要？

　　胡时伟告诉澎湃新闻记者，目前AI产业人才稀缺，“目前能解决超大规模集群的这群人才，肯定是稀缺的。另外，产业内还稀缺具备数字化思维，能够用 人工智能 的技术能够去解决行业问题，定义行业问题，并解决行业问题的人才。”

　　张亚勤则表示，上面这些因素都很关键，但长远来看的话，还是人才最重要，现在 人工智能 发展阶段还处于42公里马拉松的第5千米，机会才刚刚开始。