AI前沿观察③丨迈向人工智能的未来：可信、可靠、可解释和重新定义的人机关系

21世纪经济报道 记者郭美婷 实习生杨婧文 广州报道

编者按

“人工智能从你出生那天就认识你，读过你所有的电子邮件，听过你所有电话录音，知道你最爱的电影……”尤瓦尔·赫拉利在《未来简史》一书中描述了这样一种未来景况：人工智能比人类更了解自己。

步入人工智能时代，人类的生活习惯和生产方式正在被重塑，科幻和现实渗透，惊喜与担忧交加。人与机器的未来是一场亲密的合作还是激烈的战争？机器会将人类的智能拓展到什么样的边界？

南财合规科技研究院推出AI前沿观察系列报道。从技术、政策和治理多角度，剖析人工智能的技术瓶颈与伦理考验，追问未来的可能与限度，以期寻找第四次工业革命浪潮翻涌下人工智能发展的最优路径。本篇是第三篇，多位一线专家畅议AI实现之路。

让我们再一次回到那场震撼了世人的围棋对局。

2016年3月15日，韩国首尔。世界围棋冠军、职业九段选手李世石坐于棋盘一端，双眼注视棋局，手指摩挲着棋罐；代表AlphaGo的另一端，棋手正依照电脑屏幕上的指示落下一子。17时02分,李世石投子认输。历时7天、鏖战20小时，这场号称“捍卫人类智力尊严”的博弈总比分定格在了1：4。

从惊呼“人工智能来了”到察觉“人工智能无处不在”，人类社会才走过寥寥数年。语音助手、人脸识别、自动驾驶……在如今这轮以深度学习技术为代表的AI浪潮下，人类享受到了越来越多的科技红利，也有那么一刻感到迷茫——新旧技术该如何更迭，即将到来的是高潮还是低谷，人工智能的前路走向何方？

多位受访专家提出了解题思路，如强化技术的可解释性、促进“AI+”落地，以及对人机交互、元宇宙的设想等。也许在AI如空气般无处不在的未来，人类注定需要从学会和机器的相处中，找寻答案。

低谷再现？

到2022年，人工智能已经走过66个年头。

1956年夏，达特茅斯会议首次提出“人工智能（Artificial Intelligence，简称AI）”概念，标志该领域的正式创立。随后，机器定理证明、跳棋程序等研究成果相继取得，掀起了人工智能的第一个高潮。但受限于计算机内存、运算速度和数据量的不足，人工智能的研发很快停滞不前。

突破和转折出现在20世纪70年代，专家系统崛起，人工智能实现了从理论研究走向专门知识的应用。然而随着应用规模的扩大，专家系统应用领域狭窄、缺乏常识性知识、推理方法单一等问题暴露，这直接导致了历史上的“AI之冬”。所幸，90年代互联网技术的发展再次点燃了人工智能的创新热情。

2012年，人工智能迎来以深度学习（DL, Deep Learning）为代表的新高潮。那场震惊了世人的“人机对弈”，背后正有深度学习的鼎力支持。过去曾对计算机极具挑战的任务，如图像分类、语音识别和自然语言处理等，都因深度学习而取得了进展。

“截至目前，人工智能发展仍处于高潮期，但整体进展将会逐渐放缓。”北京航空航天大学软件开发环境国家重点实验室副主任刘祥龙认为，人工智能技术虽已相对成熟，并在各领域投入应用，但未能出现颠覆性的理论和技术突破。从理性的角度看，人工智能接下来很可能会进入相对平静的发展期。

事实上，深度学习的局限已露端倪。今年三月，知名AI学者、Robust.AI创始人加里·马库斯（Gary Marcus）发表了一篇《深度学习撞墙了》的文章，他认为纯粹的端到端深度学习差不多走到尽头了，整个AI领域必须另寻出路。

尽管该观点遭到深度学习拥趸者的驳斥，但深度学习的缺点确实随着发展日益清晰。多位受访专家告诉21世纪经济报道记者，深度学习的本质是利用没有加工处理过的数据用概率学习的“黑箱”处理方法寻找规律。这一方法需要大量高质量的数据集进行训练，在封闭场景下才能更好地完成任务。且深度学习本质上不可解释，非常脆弱，在遭遇外界干扰，比如“对抗样本攻击”，通过在输入数据中添加扰动，即可使系统做出错误判断。

“深度学习撞墙了”，如同人工智能几起几落的发展史一般，有专家预测，人工智能或将又经历一次低谷期。

“人们对人工智能的期待和技术的真实水平相差太远。”北京邮电大学人工智能学院研究员、北邮人机交互与认知工程实验室主任刘伟直言，虽然从硬件上看，CPU（中央处理器）、GPU（图形处理器）等芯片已达到纳米级别，计算能力大幅度提升，但在人工智能发展的基石——数学方法上尚未获得根本突破，至少目前未看到曙光。

武汉大学计算机学院教授、资深区块链技术专家蔡恒进不这么看。“人机对弈”后，机器在多个领域超越人类，目前并未显露颓势。“问题在于我们对现有技术的理解存在问题，也即从根本上如何看待智能和意识。”

他表示，以AlphaGo为例，尽管它战胜了人类，但多数人仍将其看作工具，并不承认其可能拥有的想象力。深度学习亦同理，若能从物理限制中跳出，透彻理解其思维运转模式，或可为技术优化另辟蹊径。“这种观念的变化将在近期发生。”

AGI之梦

对人工智能未来的预测往往率先发生在科幻想象中。经典影片《她（her）》讲述了AI系统OS1化身女主萨曼莎，不仅博学广知，还拥有自主感受、思考、学习、决策的能力，甚至与人类深陷爱河。

这并非天方夜谭。很长时间里，人类都怀揣着企盼却担忧的复杂情感，致力于推动类似萨曼莎的通用人工智能（Artificial general intelligence，简称AGI）的实现。

深度学习技术在过去十年的迅猛发展，让不少人觉得造出类人的智能体指日可待。今年5月，马库斯与马斯克的赌局就赚足了噱头。

此事起因于埃隆·马斯克（Elon Musk）在推特放言：“2029年感觉是关键一年。如果那时我们还没有AGI，我会感到惊讶。”

加里·马库斯随即提出与马斯克对赌10万美元，并与纽约大学计算机科学家合作编制了五个检验AGI是否实现的标准，包括AI无法看懂电影、阅读小说、担任厨师等，作为打赌的内容。

“这是我的建议，如果你（或任何其他人）在2029年设法完成至少三个，就算你赢了。十万美元如何？”马库斯写道。可惜的是，直到奖金池滚到50万美元，马斯克都再无回应。

打造全知全能的AGI曾经承载着人类追求AI的终极梦想，然而也有不少声音指出，该目标能否实现目前来看尚是未知数。

通俗来说，AGI要求人工智能能够解决多种不同类型的问题。“即使放在一个人身上，要求其既能下棋，又能写小说，还能炒股，这也很难达到。何况我们连人类的思维尚未研究透彻。”刘伟提到。

蔡恒进则认为AI冠以“通用”一词本身就建立在错误的理解上。这好比爱因斯坦和乔丹间的智慧不可互通，亦无法对比出谁的智能更加高明。“我更愿意用‘强人工智能’这个词，如AlphaGo就是在围棋领域的强人工智能。”

“我也不完全认可下一代人工智能就是往可通用发展。它可以是未来方向，但短期内未必能实现。”在刘祥龙看来，实现AGI需先解决两方面问题。首先，从应用角度，人工智能如何深度赋能各行业还面临挑战，“AI+”应该是未来5-10年的突破重点；其次，相比于可通用，安全可信、可解释才是人工智能发展急需攻破的难题，也是“AI+”落地、实现AGI的前提条件。

实现“可解释”为何是关键一步？蔡恒进指出，“可解释”包含多个层次。从结论A证明到结论B，是一种强可解释，如人脑用概念理解世界，举一反三；而通过处理足够多的参数间接得到结论的，则是一种弱可解释，如深度学习需要同时处理上万亿个特征，眉毛胡子一把抓，因此其可信性可靠性欠佳，可迁移性也不强。

换句话说，如果将人脑的思维过程比作“把书读厚再读薄”，机器目前仍处在“读厚”的阶段。例如，当人类定义出“红黄蓝”等颜色概念，即使出现一种从未见过的颜色，依然能够根据其基本特征将其归类进少数几个颜色概念中。这是机器还需要继续训练、努力向人类靠近之处。

进到机器的世界里面去！

当AGI的前路迷雾重重，人工智能未来应走向何方？

“首先需要回答的是，机器能否从每个方面超越人类？以及，这样的发展是否有风险？”蔡恒进认为，发展没有壁垒但存在风险。为了回避风险，人类应进入到AI的世界中。

这也许是人机交互和人机混合（或称人机环境系统智能）提出的初衷之一。早在30年前，钱学森就给虚拟现实技术取名“灵境”，并为人工智能选择了人机结合、以人为主的发展方向。

从最基础的人和手机等电子设备的交互，到辅助驾驶、脑机接口、AR眼镜、智能语音、肌电手环、隔空手势识别……近年来，人机交互的基础研究和应用落地不断推进。

“机器能将理性（计算能力）最大化，却又不具人的感性（算计能力）。人机混合是人和机器的取长补短、相辅相成、相得益彰——这是理想状态。”刘伟评价，目前人机混合还处于较低水平。机器难以做到在合适的时间、合适的地点，以合适的方式提供给人合适的建议，甚至可能产生干扰。例如，人机混合下棋，赢不了单台机器。

刘祥龙则将人机混合分为两个层级。现阶段可以认为是浅层次的混合，机器主要以辅助人类对数据进行高效处理为主要协同模式，二者相对独立。下一步深层次的混合需要创新融合方式，人机相互赋能、提高协同能力，目前已有脑机接口等多个研究在关注这一点，技术上还有很大挑战。

为人机交互再添一把火的是去年的元宇宙风起。随着Roblox公司冲击“元宇宙第一股”和脸书母公司更名“Meta”，这个与“灵境”有异曲同工之妙的概念引爆了人机交互的万亿级市场。

蔡恒进提出以区块链技术为基础的元宇宙，将作为人类进入AI世界的入口，也是未来的发展方向。未来，元宇宙将利用区块链布局包括人类和机器在内的多个节点，由人类节点提供数据，机器节点计算处理，二者同时发挥作用。

“如此，既让AI在相对可控的环境下向前发展，又使人机构成了一个庞大的、拥有强大智能感知和预测能力的系统，该系统可能会涌现出社会性的自我意识，整体形成一个超级智能体、超级大脑。”蔡恒进设想道。

人工智能的发展已经迎来关键期。随着人工智能逐渐成为塑造全球竞争格局的重要因素，不少专家将这几年看作我国抢占科技制高点的黄金期。从重点技术突破，到人才培养、开源系统和生态布局，也许还需从更根本的人工智能哲学入手，摸清楚意识和智能，才能赢得AI新时代的门票。

出品：南财合规科技研究院

策划：曹金良

统筹：郭美婷、李润泽子

研究员：郭美婷、李润泽子、冯恋阁

本期作者：郭美婷、杨婧文（实习生）