大模型时代变局：人机伦理重构与监管规范

21世纪经济报道记者 张赛男 实习生漆慧琳 上海报道 

ChatGPT发布以来，国内涌现了大模型创业热潮。伴随着以大模型为代表的人工智能技术的发展，其与人类的共生关系也进一步引发讨论。

人工智能技术的发展对人类主体性是强化还是弱化？诸如这样的伦理之争，在今年世界人工智能大会引发专家热议之后，同样在聚焦前沿科技的外滩大会上涌动各方观点。

在前不久的一场“见解论坛”上，来自计算机科学、哲学、历史和文学领域的知名学者，以及人工智能领域企业家共同探讨大模型时代的人机关系、硅基生命和碳基生命的未来之争等话题。

在论坛的主题演讲中，小i集团董事局主席兼CEO袁辉甚至抛出了一个听上去有些“危言耸听”的观点：“无论是人工智能还是大模型，人类在既定程序中循环，人类最大的威胁不是人类本身，而是碳硅之争。人工智能按照目前的趋势发展，如果人类不能重新认识世界和自己，人工智能或将毁灭人类。”

生存还是毁灭，这是一个值得思考的问题。这场看似人工智能技术维度的探讨，蕴含着丰富的哲学与人文意味。

驾驭AI

袁辉首先就提示人工智能可能给人类带来的挑战：“人类在最初创造人工智能时，对它的定义就不是一个科技或工具。大家可以想一想，自己所期待的人工智能是一个怎样的概念？显然，它是一个具备自我意识的人工智能。这在未来是人类可能面临的最大挑战。”

那么，当前涌现大模型是否会造成这种威胁？袁辉认为并不会。“即使大模型在今天叠加了无数的算力，数据和算法，但本质上并没有突破。从这个角度讲，大模型并不会直接创造我们所担心和恐惧的级别，但这个序幕已经开始了。因为在一定的量变的基础上，大模型已经出现了所谓的思维链、举一反三，甚至具备了人类的一些基本的核心要素，所以从通用人工智能这个角度，（这种挑战）已经开始了。”

不可否认的是，大模型正在赋能各行各业。“过去的人工智能技术只能在某些行业和场景中实现商业化的转化，比如呼叫中心、智慧城市等。但今天大模型最大的价值，是有能力在同一时间推动所有行业的全线爆发，大模型能够直接帮各行各样进行大幅的降本增效。”

正是这种快速发展的速度，让袁辉感到警惕。“如果人工智能按目前的趋势发展下去，人类如果不能重新认识世界和自己，人工智能对人类将会是毁灭性的。”

感到警惕的还有复旦大学计算机科学技术学院教授肖仰华。他表示，人类智能发展受限于缓慢的生物进化速度，其认知能力是有限的。发展具备认知能力的机器，是认知日益复杂世界的必经之路。当前生成式大模型成为认知智能的新底座，“涌现”出了令人惊讶的“智能”，GPT-4等大规模生成式语言模型在“形式上”具备了人类思维的核心能力。

“它已经不单单只是在文本领域，它现在朝着多模态化、具身化，朝着操纵我们的这个世界的机械方向去发展，它已然掀起了通用人工智能的技术革命。而且这一波通用人工智能技术革命，绝不单单只是一次技术革命。”肖仰华说。

他承认，在大模型时代，人机交互形式统一为了自然语言，更消灭了专业语言鸿沟，机器“理解”专业语言不再存在障碍。但这也导致人机边界日益模糊，传统的图灵测试已难以胜任大模型时代的人机区分任务，这会带来重大社会治理问题，需要重建人机伦理关系、人机区分机制，规范AIGC（生成式人工智能）的使用，防止虚假与欺诈泛滥，积极调整产业结构以应对AI对人力的替代。

“未来AI大模型被广泛应用之后，最大的挑战是预防人类智力的倒退，智能的倒退必然引起人类主体性的丧失与文明的崩塌，因此必须重建大模型时代的新型人机关系，人类的新角色是智能机器的‘牧羊人’，人最重要的能力是使用和驾驭AI的能力。”

加强监管

一个新技术的诞生，在为经济社会发展带来新机遇的同时，也势必会伴随着各种各样的问题。人工智能的发展，除了给学界、业界带来有关对人类主体性的思考，实际上，已经切实地产生了诸如传播虚假信息、侵害个人信息权益、数据安全和偏见歧视等问题。如何统筹生成式人工智能发展和安全引起各方关注。

日前，由国家互联网信息办公室等七部门联合发布的《生成式人工智能服务管理暂行办法》于8月15日正式施行，这也是我国首个针对生成式人工智能产业的规范性政策。

此后，多家国产大模型产品陆续通过《生成式人工智能服务管理暂行办法》备案，正式上线面向公众提供服务。

作为人工智能领域的深度参与者，小i机器人日前已经发布了通用大模型“华藏”。袁辉如何看待上述监管措施带给市场的影响？

袁辉接受21世纪经济报道记者专访时透露，“华藏目前正在申请备案，时间表也按照正常节奏推进。”其还提到，“备案只是一个开始，因为人工智能的发展速度远超人类想象，而我们国家监管总体上是包容支持的，这一点是非常好的。”

袁辉还表示，“与目前市面上的通用大模型不同的是，华藏的目标是能让成千上万的企业能够直接去生成To B或者To C的应用。目前类似于Open AI向公众开放一个公用版本，其所创造的商业价值是有限的。所以二者侧重点会有些不同。”

另外，记者注意到，与ChatGPT发布伊始国内大模型如雨后春笋般涌现不同，近两个月，市场上有关大模型的发布不再如此密集。这两个月里，包括华藏在内的大模型公司有哪些进展？

袁辉还是用“马拉松”来形容这场大模型竞赛。“今天的大模型竞赛，是刚刚响起了发令枪，参赛者可能才跑出去一公里到三公里，所以你最开始会看到乌泱泱的一堆全部涌现，群众选手是非常多的。在头一公里之内的话，你几乎看不出来谁是冠军，但是没关系，他不是一直在跑嘛，3公里5公里，你就发现有很多人就慢慢就掉队了。所以我们现在会看到，好像比一开始参与的人少了，因为这是一个漫长的长跑。”

关于华藏的最新进展，袁辉透露，下个月华藏将有一场发布会以展示其通用能力，并公布合作伙伴和客户，让他们基于华藏“秀”自己真正的商业应用和价值。