南财合规科技研究院院长虞伟：AI热潮伴生风险，需兼顾发展与安全

21世纪经济报道 记者钟雨欣 北京报道

8月15日，由中国社会科学院法学研究所主办，中国社会科学院法学研究所网络与信息法研究室、南财合规科技研究院等共同承办的“全球治理话语竞赛下人工智能立法的中国方案”研讨会在北京举行，研讨会邀请监管部门、专家学者与行业代表，共同就我国人工智能发展相关问题建言献策。

“ChatGPT的问世引发了新一轮人工智能革命，科幻小说中的智能生活似乎正在照入现实。人类与机器、技术与产业、虚拟与现实之间的关系发生着广泛而深刻的改变，迸发出新的想象空间。”南财合规科技研究院院长虞伟在研讨会上致辞时说道。

“技术创新也给人类社会文明秩序带来了挑战。我们密切关注AI热潮中的伴生风险，并持续追踪研究，推出了系列专题报道、《生成式AI发展与监管白皮书》等，在这个过程中，我们发现许多值得深入探讨的问题。”虞伟进一步补充，比如，在大模型发展中，数据起到“压舱石”作用，数据资源亟待转换为数据优势。面对生成式人工智能庞大的数据需求，如何建立高质量的语料数据库？在数据收集、处理、输出的各个环节，数据泄露、隐私侵害等问题成为隐忧，如何加强全流程数据合规管理？再比如，AIGC的结果是否能构成著作权法所定义的“作品”仍存在一定争议，进一步的版权归属问题也需要厘清。此外，歧视、偏见、虚假信息传播等风险在大模型“大力出奇迹”的训练方式下被相应放大，如何将道德伦理原则教给AI，做到精准纠偏，兼顾公平与效率？

“机遇和风险并存，环球同此凉热。当前，全球正在进行治理话语竞赛，掀起新一轮AI监管潮。”虞伟介绍，欧洲谋求AI监管领域主导权，早早地将立法提上日程。2019年，欧盟委员会发布人工智能伦理准则，列出了评价“可信赖人工智能”的7项标准。2020年，欧盟出台《人工智能白皮书》，提供多种政策选项，促进AI在欧盟的运用。今年6月14日，欧洲议会以压倒性多数的投票结果通过欧盟《人工智能法案》草案，预计在完成最终谈判后会正式审批通过。

AI头部公司聚集的美国，也在紧锣密鼓地推进监管工作。今年3月份，数千名人工智能领域的企业家、学者、高管发布题为《暂停大型人工智能研究》的公开信，呼吁关注人工智能研发中产生的安全问题，并敦促各国政府及时介入人工智能的监管。6月，美国国会两党共同提议设立“国家AI委员会”，确保通过监管减轻人工智能带来的风险和可能造成的危害，并在建立必要、长期的AI法规过程中起到主导作用。7月底，美国拜登政府于白宫召集美国七家AI头部公司并获得了七家人工智能头部企业的自愿性承诺，确保人工智能技术的安全性、有保障性和可信任性。

在亚太地区，日本决定设立一个名为“人工智能战略会议”的新机构，东盟正在筹划人工智能治理和伦理指南，预计年底成型。中国则以《生成式人工智能服务管理暂行办法》率先交出一份答卷，同时，人工智能法草案也将预备提请全国人大常委会审议。

虞伟表示，南方财经全媒体集团作为专业财经媒体，紧跟时代脉搏，长期关注数字经济发展。“三年前，我们专门成立了南财合规科技研究院，持续关注海内外互联网、科技、金融等领域的立法、监管与企业合规，聚焦人工智能治理、个人信息保护、反垄断与反不正当竞争、网络未成年人保护、算法伦理、网络黑灰产、跨境电商等数字经济前沿合规课题，通过新闻报道、行业调研、产品测评、论坛研讨等方式，深入剖析行业发展状况与政策监管思路，发布深度报道和分析报告，提供一体化合规监测、咨询与分析服务。”

虞伟认为，人工智能发展或许会重塑未来的经济社会样态，在面对它时，必须对行业发展情况以及伴生风险进行广泛的调研、深入的探讨，这正是本次研讨会的价值所在。期待聆听监管、学界、业界等各界声音，进一步汇聚各方力量，为新一代人工智能技术的发展与安全共同努力。