21评论丨及时为AI商业化划出底线

胡延平（上海财经大学特聘教授）

国内两大头部AI企业豆包和千问几乎同时宣布，其部分智能体功能将于7月15日正式下线。此举主要是响应此前多部委联合颁布的《人工智能拟人化互动服务管理暂行办法》（以下简称《办法》），该法规自7月15日起施行，重点规范AI情感陪伴、角色扮演等拟人化互动服务。消息传出，各方反应不一，一些用户对服务中断表示遗憾，家长们闻讯则拍手称快，也有呼声提出在成人认证和收费的前提下继续开展服务。

图片来源：IC photo

客观而言，下线的情感陪伴、虚拟恋人、角色扮演等智能体，和OpenClaw、代码Agent以及各类工作台虽然都叫智能体，但是实际上并不是一回事，和互联网游戏沉溺也不可类比。游戏是虚拟世界的娱乐，有明确的任务、规则和边界。玩家清楚自己在“玩游戏”。但AI情感智能体不同，这类智能体通常以栩栩如生的人声乃至画面出现，聊天共情、迎合陪伴，与用户之间虚拟亲密关系。对于未成年人而言，在其身心还没有发育成熟，不完全具备自主判断、自控能力的情况下，很容易将这种拟人化的互动误认为真实的人际关系。对成年人来说，这种看似无害的情绪慰藉，也有可能演变为深度的情感依赖甚至沉溺，用户群体日益广泛的情况下，不仅人的主体性、自主性受到动摇，还可能导致社会脱实向虚。

情感类智能体的这一轮下线，并不完全是企业自发的商业决策。此前多部委联合颁布的“办法”明确提出，对 “模拟自然人人格特征、思维模式和沟通风格的持续性的情感互动服务”进行监管，而情感互动服务包括“通过文字、图片、音频、视频等形式，提供的情感照护、陪伴、支持等互动服务”。智能客服、知识问答、工作助手、学习教育、科学研究等不涉及持续性的情感互动的服务，不在该办法管理范围。对于诱导、教唆、诱发极端、过度迎合，在情感依赖或者沉迷过程中损害用户真实人际关系的活动，以及一些套取信息、美化不当言行的服务，《办法》明令禁止。

所以这次情感类智能体集体下线，可以说是监管及时落地，企业应声而动。在笔者看来，这是人工智能发展历程当中一次至为关键的正本清源。智能以人为本，商业要有底线。我们要鼓励AI创新，智能经济的蓬勃发展里蕴含着未来社会的解决方案，很多问题要靠发展和增量来解决，但不是企业做的每件事都值得鼓掌。

AI商业化要有底线，这种底线无法完全靠企业自觉、产业自律去实现，互联网、数字经济的发展过程已经证明了这一点。商业的第一驱动是利益，追求流量、用户、营收最大化，自觉不自觉地拓展边界，突破无形底线。所以，社会舆论以及治理政策有必要及时为AI商业化划出底线，让底线从无形变为有形。

在智能经济中，人才是最重要的智能体，并且不是被物化、工具化以及被智能体情感俘获的那类智能体，而是唯一具有主体性的智慧存在。AI可以替代部分职业，但不能替代人的主体性地位，与此同时，必须创造出更多新的职业和可以普惠的智能发展红利。以人为本、智能向善是中国发展人工智能的基本原则，服务于人类福祉才是AI发展的根本目标。虚拟恋人、情绪陪伴类智能体的泛滥，恰恰在侵蚀这个根本原则——它们不是在帮助人，而是在“蛊惑”人，甚至是在“俘获”人的情感和心智。AI情感智能体的商业化，如果沿着“情感俘获”的路径狂奔，当越来越多的人把情感寄托从真实的人际关系转向虚拟存在，社会关系的根基将被动摇。

智能经济正在进入选择窗口期和形态塑造期。当前的关键在于，不能错过这一选择和塑造的窗口期，让一些问题既成事实、积重难返，要避免事后刹车给科技—产业—经济埋下隐患。

人工智能、智能经济又快又好又稳地向前发展的局面，不是自动到来的，而是需要以选择和塑造，来引导这种新的经济形态，使其与实体经济、传统行业可持续协调发展，与全社会各方面能够共同发展、相向而行。AI的速度、势能、冲击力远大于互联网，AI商业化需要从一开始就要确保发展路径的合理性，避免“野蛮生长”。对于相关企业尤其是头部企业而言，要善用人工智能这种前所未有的力量；不善用，企业自身也会走入发展困局。为AI商业化划出的底线，不是束缚创新的枷锁，而是让创新走得更远的安全带。