黑石创始人苏世民:人工智能发展需遵循五大伦理原则

姚瑶2020-07-09 13:18

“我们越早通过共同治理结构来统一并运用这些原则,就越有可能避免人工智能所带来的负面影响。”

“我们越早通过共同治理结构来统一并运用这些(人工智能)原则,就越有可能避免人工智能所带来的负面影响。”7月9日,黑石集团创始人、董事长兼CEO苏世民在2020世界人工智能大会上表示。

苏世民表示,七国集团近期公布全球人工智能的伙伴关系,这是令人鼓舞的开端。但是如果没有一份真正鼓励全球和跨学科合作的全球契约,各国最终均会在人工智能领域里面承受很大损失,更重要的是,在创新上错过的机会成本可能更高

在苏世民看来,人工智能发展要遵循五大伦理原则。

第一个原则,透明。让每个问题都可监督可审计,并且可以比较容易的进行设计。

第二个原则,公平。人工智能系统和软件不能简简单单是一个黑盒子,我们必须要理解如何使用人工智能系统原则公平。技术不应该加剧不平等,不应该导致偏见和歧视。相反应该促进包容性,并且尽可能让多的人从中受益。

第三个原则,安全性。人工智能技术不应该造成可预见或者不可预见的伤害,人工智能的设计就应该是可靠的,并且对于故意破坏应该有抵御能力和韧性。

原则四,责任。如果有些事情是由于人工智能的系统决定而出错,就应该有清晰的责任,并且在适用情况下采取强制性补救措施。研发和开发人员需要考虑到并应采取一致行动,降低人工智能潜在风险。

最后一个原则就是隐私。很多人工智能应用都依赖于数据,需要有一套机制保护人们的权利、利益和私人的隐私信息。人工智能系统需要以易于理解的方式披露它是如何使用、储存和保护个人信息的,用户应该可以非常轻松地撤销对其个人信息的使用授权。

苏世民表示,各国可以在医疗、教育、制造业等领域开展非常多的全球合作。比如人工智能可以帮企业优化自己复杂的全球供应链,并预测市场的变化。有了人工智能,企业能够打造更加灵活可靠、有韧性的端到端的供应链,这样的供应链可以挺过全球供应链的意外中断,比如最近因新冠疫情造成的全球供应链的中断。为了所有人的利益,各国应该共享人工智能等领域里的最佳实验,创新将在世界各地产生,从而形成有助于了解人工智能发展和应用的新经验。

苏世民说,我们越早通过共同治理结构来统一并运用这些原则,就越有可能避免人工智能所带来的负面影响。“我也非常清楚地了解中国多家组织已经发起了各种行动来促进人工智能的道德原则,包括中国新一代人工智能专家委员会发布的治理原则以及2018年、2019年世界人工智能大会发布两项上海人工智能的治理计划等等,各国政府都应该优先参与到这些计划和领域里面来。”

“中国愿意与其他国家合作共同发展人工智能以及造福人类。这一目标从未像今天这么重要,现在这一时刻已经到来了,世界各国政府必须携手确保人工智能发挥正面作用。”苏世民说。

(作者:姚瑶 编辑:辛灵)

姚瑶

海外部记者

21世纪经济报道海外部记者。长期跟踪中国企业、机构及个人的跨境投资资金流向,关注全球金融市场动态,还包括东亚地区宏观经济和重大产经新闻。曾多次参与达沃斯论坛和博鳌亚洲论坛年会等大型国际会议报道,曾获2016美国道富集团亚太区金融机构新闻奖年度最佳新晋记者。