涉及安全风险及应对策略，《人工智能安全治理框架》有这些亮点

9月9日，作为2024国家网络安全宣传周活动之一，网络安全技术高峰论坛主论坛暨粤港澳大湾区网络安全大会在广州南沙举行。会上，由全国网络安全标准化技术委员会（下称“全国网安委”）组织制定的《人工智能安全治理框架》（下称“框架”）公开发布。

人工智能的飞速发展给世界带来巨大机遇，也带来各类风险挑战。为了抓住机遇，应对挑战，全国网安委制定框架旨在推动社会各界就人工智能安全治理的原则举措达成共识。

据悉，框架制定过程中，全国网安委充分听取各方意见建议，以有效防范化解人工智能安全风险为出发点和落脚点，紧密结合人工智能特性，从内生、应用两个维度分析人工智能安全风险，明确风险来源和表现形式，并提出技术应对和综合治理措施。

框架主要分为4个板块：治理原则、安全风险、技术应对与综合治理措施、安全开发应用指引。

在具体内容上，第一板块阐述了人工智能安全治理的理念和原则，提出包容审慎，确保安全风险导向、敏捷治理、技管结合、协同应对、开放合作、共治共享的原则。

第二板块对人工智能可能面临的安全风险进行梳理和归类，包括内生安全风险和应用安全风险，内生安全风险涵盖偏见歧视，序列数据被投毒等风险，应用安全风险涵盖用于违法犯罪活动，加剧信息茧房等风险。

第三板块针对不同类型的安全风险，从技术和管理两方面提出防范应对措施，例如，针对内生安全风险提出安全开发运维，输出内容标识等技术手段，并推动负责任研发应用体系、供应链安全保障等管理措施。

第四板块提出人工智能安全开发应用指引，明确人工智能模型、算法研发者、服务提供者、重点领域使用者和社会公众等不同主体，分别提出人工智能安全指引规范。

接下来，全国网安委将积极开展人工智能安全标准的研制，加快构建并持续完善人工智能安全的标准体系。同时，加快推进生成式人工智能服务的训练数据安全、数据标注安全以及生成合成内容标识等重点急需标准的研制，并结合重点行业应用推动标准落地实施。

会上还公布了2024年人工智能技术赋能网络安全应用测试结果。

（来源：南方+ 记者：吴冠霖）