外滩大会再谈AI伦理：新技术范式下，人工智能治理的问题意识与国际合作

南方财经全媒体 吴立洋 21世纪经济报道 蔡姝越 上海报道

在过往关于人工智能的讨论中，伦理问题往往是一种较为特殊的存在，一方面对于AI展现的巨大发展潜力，人们始终保持着一种对技术失控潜在风险的警惕，但另一方面，彼时的AI在实际应用中还并未成熟，真实案例的确实使得关于伦理的讨论难免缺乏现实层面的基础。

但近年来随着大模型技术的普及与其在更多现实场景中的广泛应用，深度造假、AI偏见、数据安全等问题和案例不断涌现，AI伦理愈加成为一个现实且迫切的社会问题，受到业界、学界与监管的广泛关注。

近日，外滩大会“AI科技伦理”见解论坛在上海举行，多位专家针对当前AI伦理的焦点问题分享了自身的观察与思考，结合更为前沿的AI应用案例共同探讨AI的伦理与治理之道。

技术变革与问题演进

相较于传统人工智能，经由大量数据与大规模神经网络训练出的大模型展现出更强的灵活性与实用性，极大提升了对人类工作的辅助乃至部分替代能力，但另一方面，更强力的大模型也意味着更高的成本与风险。

中国信息通信研究院华东分院院长廖运发指出，大模型的发展进一步加大了人工智能的固有风险：一方面，随着参数规模的扩大，训练数据的细节得以体现在参数中，多模态增加了模型的供给面；另一方面，随着大模型对训练数据集的快速增长，难以对人工标注进行检查，训练数据侵权也构成了产业发展的隐忧；此外，大模型使得人工智能训练的算力成本急速提升，在导致碳排放问题的同时，也使得中小企业越来越难以参与其中。

今年3月，1000名人工智能领域的学者签署公开信，提出当前人们难以理解、预测或可靠地控制大模型，呼吁暂停训练比GPT-4.0更强大的AI模型至少6个月。

事实上，随着AI与社会不同领域的结合愈加深入，其引发的伦理问题也进一步延伸除不同层次与维度，既包含人工智能算法本身的缺陷问题，也包含AI在应用层面的不合理性问题，进一步往深处延伸，还包含算法与社会原有机制融合为一个复杂系统后，因边界不清晰导致的社会影响不可控问题。

中国社科院哲学所科技哲学研究室主任、研究员段伟文在论坛发言中也指出，人工智能的生成与生产实际上是在数据基础上进行的知识自动化，本质上是对现实生活世界的一种映射，这也意味着现实中存在的偏见与歧视问题也必然会体现在大模型生成的内容中。

“当前的人机对齐工作实际是把价值观问题转化为工程问题，通过人的标注与反馈来改进人工智能，但人类自身的价值尚未对齐，人类与机器的价值又该如何对齐呢？”段伟文由此呼吁，应给予人工智能产业在伦理问题上更多的工程与技术调整时间。

今年七月，国家网信办等七部门联合发布《生成式人工智能服务管理暂行办法》，为生成式大模型的研发与应用划定了基础原则。多位参与本次论坛的专家也指出，随着大模型应用场景与应用案例的积累，相关的伦理规则也将进一步丰富和完善，最终形成技术、社会、行业等不同层面的具体要求。

“智能算法与智能控制在越来越多领域发挥关键作用，这就使得人工智能的安全问题也越来越重要，和人类一样，大模型与智能算法同样会出错，用得越多出现的错误也会越多，这也是社会需要长期关注AI安全问题的原因。” 中国科学院计算技术研究所研究员、副所长程学旗在论坛发言中表示，在处理AI伦理问题时需要技术治理与社会治理的同步推进，前者的目标是治理的自动化与常态化，后者则需要实现治理标准化与系统化。

伦理标准需多方共建

在论坛上，多位专家学者在发言中提到，确保人工智能技术公平、可控、安全，既是其能够广泛应用于生产生活的前提，也是保障AI产业健康发展的基础，而这离不开政产学研多方治理共识的达成。

在本次论坛上，蚂蚁集团在论坛上宣布启动大模型伦理共建计划。蚂蚁集团研究院院长李振华在启动仪式上表示，蚂蚁大模型伦理共建计划采用了国家法律法规数据作为训练资料，提供给大模型学习。通过法律专家为大模型出考题，让大模型了解伦理方面的问题，做出相应解答。

据悉，蚂蚁集团在前期已经进行了一些尝试，共为大模型训练建立了超过150个法律法规和司法解释相关的语料库。

“伦理共建计划将持续收集用户反馈和时事热点信息，动态更新不断优化大模型伦理知识体系，以提升大模型在处理实际问题方面的基本表现。”李振华表示，在共建大模型伦理计划时，可利用平台优势，让用户深度参与其中，为模型构建提供相关反馈和意见。

此外，随着人工智能席卷全球，AI伦理及其治理作为人工智能产业的重要认识维度，成为全球规则与共识达成的主要面向之一。

上海交通大学教授，国家新一代人工智能治理专业委员会委员李仁涵在论坛发言中指出，人工智能本身就是基于规则统计+函数+数学，如果不对技术加以规则规制，放任技术发展，可能会产生难以预料的后果。且未来的人工智能国际竞争，除人才竞争外，技术+规则的竞争将成为最重要的竞争领域。

“作为世界人工智能第二大国，国际规则的制定如果没有中国参与将是不完整的，也是不可想象的。” 李仁涵表示，人工智能伦理应以人为本，每个国家在治理本国人工智能时应强调以本国人为本，在国与国之间合作时找到共同点，而不能把自己的规则强加于他国，以和而不同的理念尊重多元文化，和睦相处。