技术的十字路口：AI发展的四大趋势与四层目标

21世纪经济报道记者孔海丽 北京报道

大模型参数，从百亿、千亿到万亿，指数级迭代和进化所揭示的，正是人工智能持续而强悍的创造力。

这并非一蹴而就。从手写识别、语音识别，到图像识别、阅读理解、语言理解，再到推理、数学计算等，经历了20多年的发展。直到前不久OpenAI发布GPT4-o，人机交互意识接近或者部分达到人类的水平（“像一个真人站在后面”），生成式AI终于实现了具身智能堪称革命性的跃升。

如果说前十年是数字化在推动商业的进步，那么从2024年起，则进入到AI尤其是生成式AI推动商业的变革时期。OpenAI首席执行官萨姆·奥特曼5月22日在微软Build 2024开发者大会上说，当前我们处在一个特殊的激动人心的创业时期，它甚至可以与2008年的移动互联网热潮相媲美。

每一次重大技术创新，在提升生产效率、影响人类活动的同时，也伴随着由于“不可知”产生的担忧甚至焦虑。远如蒸汽动力之于第一次工业革命、电之于第二次工业革命，近如互联网的出现，其间都伴有大量的忧虑乃至恐惧。但此前三次技术革命的担忧（物→物），可能加起来都比不上这一次（物→人）。人工智能越来越聪明和强大，也意味着，人类自己面临另一个自己的挑战，不排除有失控的危险。

5月14日刚离职的OpenAI前首席科学家伊尔亚，一直强调大模型开发必须“与人类对齐”。科大讯飞董事长刘庆峰5月22日在BEYOND国际科技创新博览会也提到了人工智能的安全控制问题，他表示，一旦AI拥有自我意识是非常可怕的事情，“我们是不是创造了一个新物种，而且它未来会不会不可控，这是最重要的。”

虽然包括刘庆峰在内的大多数人都认为，从目前的主流技术路线观察，短期内AI还不存在失控的危险，但以大模型开发和利用为核心的生成式AI，如何更加强化对人自身的关注，将“以人为本”的理念从语料训练起就置入机器，并贯穿到研发、生产和应用的全产业链全过程，已引起从业人员的高度重视。正如埃森哲首席技术和创新官杜保洛（Paul Daugherty）所说，“这场关乎工作、生活和学习方式的重大转型，将加速零售、娱乐、医药、制造等各行各业前所未有的变革浪潮。企业应当采取人性化的方式，平衡好各类关系，公平且负责任地运用这些技术。”

技术为人而生，但并非所有的技术发展都是正向的、有益的。如果我们设计的工具，只有人类的能力、人类的智慧，却没有人类的良知，那我们创造的东西可能对社会和个人都带来致命的损害。从这个意义上说，这一次，我们正站在技术的十字路口。

埃森哲近日发布《技术展望2024》，认为AI呈现向“人性化”重大转变的四大趋势：一是AI伙伴：从知识到智识的革新。人工智能等技术的普及正重新组织数据的应用，朝着推理判断、甚至模仿人类创造力的方向进展。二是智能体：AI互联的生态系统。人工智能将成为个人生活和工作中的代理，并与其他代理相互联动，形成一个庞大的生态系统。

三是空间计算：发掘虚拟实感的价值。将物理的二维世界扩展到利用空间计算、元宇宙、数字孪生和增强现实/虚拟现实（AR/VR）等技术创建的全新三维环境中，能够创建出令人耳目一新、内容丰富的沉浸式人际互动世界。四是人机互通：技术解码人类意图。有94%的高管都认为，人性化的界面技术将使我们更准确地理解行为和意图，革新人机交互模式。

无独有偶，微软亚洲研究院​近期也提出了人工智能与人类价值观对齐的四层目标。第一层，人类指令（Human Instructions）：让大模型能够理解丰富多样的人类指令并遵循指令来完成任务。第二层，人类偏好（Human Preferences）：让大模型不仅能够遵循指令完成任务，同时保证采用符合人类偏好和利益的方式。第三层，价值准则（Value Principles）：让大模型根据一系列价值准则来指导自身行为，比如“不能输出有害言论”等。第四层，基本价值观（Basic Values）：让大模型与特定的基本价值观分布进行对齐。

批判的武器不能代替武器的批判。如果说，机器的深度学习浩如烟海，那与此同时，人类自己的深度学习也永无止境。