【人工智能】技术的十字路口 - AI发展的四大趋势与四层目标

　　大模型参数，从百亿、千亿到万亿，指数级迭代和进化所揭示的，正是 人工智能 持续而强悍的创造力。

　　这其实不是一挥而就。从手写识别、语音识别，到图像识别、阅读理解、语言理解，再到推理、数学计算等，经历了20多年的发展。直到前不久OpenAI发布GPT4-o，人机交互意识接近或部分达到人类的水平（“像一个真人站在后面”），生成式AI终于实现了具身智能堪称革命性的跃升。

　　如果说前十年是数字化在推动商业的进步，那么从2024年起，则进入到AI尤其是生成式AI推动商业的变革时期。OpenAI首席执行官萨姆·奥特曼5月22日在微软Build 2024开发者大会上说，当前我们处在一个特殊的激动人心的创业时期，它甚至可以与2008年的电话端热潮相媲美。

　　每一次重大技术创新，在提升生产效率、影响人类活动的同时，也随同着担忧甚至焦虑。远如蒸汽动力之于第壹次工业革命、电之于第贰次工业革命，近如互联网的出现，其间都伴有大量的忧虑甚至恐惧。但此前三次技术革命的担忧，可能加起来都比不上这一次。 人工智能 越来越聪明和强大，也意味着，人类自己面临另外一个自己的挑战，不排除有失控的危险。

　　5月14日刚离职的OpenAI前首席科学家伊尔亚，强调大模型开发务必“与人类对齐”。 科大讯飞 老总刘庆峰5月22日在BEYOND国际科技创新博览会也提到了 人工智能 的安全控制问题，他表示，一旦AI拥有自我意识是非常可怕的事情，“我们是不是创造了一个新物种，而且它未来会不会不可控，这是最重要的。”

　　虽然包含刘庆峰在内的大多数人都认为，从当前的主流技术路线观望，短时间内AI还不存在失控的危险，但以大模型开发和利用为核心的生成式AI，如何更加强化对人自身的关注，并将“以人为本”的理念从语料训练起就置入机器，已引起从业人员的重度重视。正如埃森哲首席技术和创新官杜保洛（Paul Daugherty）所说，“这场关乎工作、生活和学习方式的重大转型，将加速零售、娱乐、医药、制造等各行各业空前绝后的变革浪潮。企业应当采取人性化的形式，平衡好各类关系，公平且负责任地运用这些技术。”

　　技术为人而生，但其实不是所有的技术发展都是正向的、有益的。如果我们设计的工具，只有人类的能力、人类的智慧，却没有人类的良心，那我们创造的东西可能对社会和个人都造成损害。从这个意义上说，这一次，我们正站在技术的十字路口。

　　埃森哲近日发布《技术展望2024》，认为AI显现向“人性化”重大转变的四大趋势：一是AI伙伴：从知识到智识的革新。 人工智能 等技术的普及正重新组织数据的应用，朝着推理判断、甚至模仿人类创造力的方向进展。二是智能体：AI互联的生态系统。 人工智能 将成为个人生活和工作中的代理，并与其它代理相互联动，形成一个庞大的生态系统。

　　三是 空间计算 ：发掘虚拟实感的价值。将物理的二维世界扩展到利用 空间计算 、元宇宙、 数字孪生 和 增强现实 / 虚拟现实 （AR/VR）等技术建立的全新三维环境中，能够建立出令人耳目一新、内容丰富的沉醉式人际互动世界。四是人机互通：技术解码人类意图。有94%的高管都认为，人性化的界面技术将使我们更准确地理解行为和意图，革新人机交互模式。

　　无独有偶，微软亚洲研究院近期也提出了 人工智能 与人类价值观对齐的四层目标。第壹层，人类指令（Human Instructions）：让大模型能够理解丰富多样的人类指令并遵循指令来完成任务。第贰层，人类偏好（Human Preferences）：让大模型不仅能够遵循指令完成任务，同时保证采用符合人类偏好和利益的形式。第叁层，价值准则（Value Principles）：让大模型根据一系列价值准则来指导自身行为，好比“不能输出有害言论”等。第四层，基本价值观（Basic Values）：让大模型与特定的基本价值观分布进行对齐。

　　批判的武器不能取代武器的批判。如果说，机器的深度学习浩如烟海，这时，人类自己的深度学习也永无尽头。