联合国:支持成立人工智能行业的“国际原子能机构”

合规科技冯恋阁 2023-06-13 21:02

南方财经全媒体记者 冯恋阁 广州报道

当地时间6月12日,据媒体报道,联合国秘书长古特雷斯公开表示,支持建立人工智能领域的“国际原子能机构(IAEA)”,对人工智能技术进行监管。 

“生成式人工智能敲响了震耳欲聋的警钟,我们必须认真对待这些警告。”他指出。 

古特雷斯同时宣布,将在未来几天组建一个由人工智能专家和联合国机构首席科学家组成的科学顾问委员会。此外,在今年年底前,联合国还将启动一个高级人工智能咨询机构,定期审查人工智能治理安排,并就治理安排如何与人权、法治和共同利益保持一致提出建议。

国际原子能机构(IAEA)成立于 1957 年,其目的是促进核技术的安全、可靠与和平利用。任何国家不论是否为联合国的会员国或联合国专门机构的成员国,经机构理事会推荐并由大会批准入会后,即可成为该机构的成员国。截至目前,目前该机构有 176 个成员国。 

去年年底,ChatGPT“横空出世”,人工智能技术带来的巨大潜藏风险同其惊艳的技术表现一起被推至聚光灯下。随着虚假信息、数据泄露等安全问题涌现,各界对人工智能采取监管的呼声也逐渐高涨。 

“当下,成立一个这样的国际组织有其必要性。”对外经济贸易大学数字经济与法律创新研究中心执行主任张欣指出,一方面,科技治理领域已有先例,如国际互联网名称和地址分配组织(ICAAN)就曾协助维护全球互联网秩序。另一方面,GPT-4及类似“巨型”人工智能模型展现出能力让人们意识到人工智能技术将可能超过未来人类控制的范围和界限。

今年以来,已经有两封警示AI风险、呼吁监管的联名信被发布,包括OpenAI首席执行官Sam Altman、特斯拉CEO埃隆·马斯克等千余名人工智能专家和从业者在其中签下了自己的名字。

5月底,Open AI公司首席执行官Sam Altman在国会山出席听证会时首次提出,应当成立类似“国际原子能机构”的专门监管机构对超过一定能力(或计算资源等)超级人工智能进行监管。 6月初,据媒体报道,Sam Altman在访问阿拉伯联合酋长国期间发表讲话,警告人工智能对人类的生存构成的风险提出警告。并再次提议成立人工智能领域的类“国际原子能机构”。 

“不过,”张欣指出,“与原子能不同,人工智能大模型与商业生态有非常深入的嵌入关系,公司、开发者等无论体量大小,都会希望能使用和调用相关服务。”因此,即使设立了类似机构,在多大程度上能够发挥作用,做到AI领域的“核不扩散”是一个还需思考和关注的问题。

虽然针对人工智能进行监管国际组织还未出现,但今年以来,多个国家和地区聚焦人工智能的监管工作已陆续展开。 

3月、4月,意大利、加拿大等国监管机构先后宣布将对ChatGPT及其背后公司OpenAI带来的数据安全风险开启监管调查。

5月,欧盟通过妥协版《人工智能法案》,试图厘清人工智能产业链各主体责任分配,并提出了基于风险的人工智能监管框架。同月,美国白宫总统科技顾问委员会也宣布成立了一个生成式人工智能工作组,以保证人工智能技术开发和部署尽可能公平、负责任和安全。

本月,我国公布《国务院2023年度立法工作计划》,人工智能法草案位列其中,这是4月《生成式人工智能服务管理办法(征求意见稿)》发布后我国在人工智能治理领域的迈出的又一步。

(作者:冯恋阁 编辑:王俊)