AI、死亡与机器人:“数字生命”背后的生意与争议

合规科技冯恋阁,王俊 2024-03-22 16:55

21世纪经济报道记者 冯恋阁 王俊 广州、北京报道

2013年播出的科幻电视剧《黑镜》第二季中有这样一个故事——女主角玛莎在男友艾什被车祸夺走生命之后,长久无法走出分离的痛苦,最终选择利用科技重塑一个机器人“艾什”并试图与之共同生活。

彼时,数字生命大多数时候只是文艺作品中遥远的想象。但在11年后的今天,尝试实现一场“赛博复活”似乎已经成为AIGC浪潮下一种再自然不过的选择。

在电商平台上,提供此类的店铺已如雨后春笋般出现。不到几十元,一张亲人的照片、一段曾经的语音,就能实现逝者最简单的“赛博复活”。也有数字人赛道的企业提供类似的服务,通过更多的数据投喂和精准训练,更进一步实现还原效果。

“我要给丫丫完整的一生。”《流浪地球2》中图恒宇这句话,是人们对数字生命的终极想象。

AI应用之年,市场正在以各种方式探索AI赋能产业的途径。在生死之问下,人工智能会是把“趁手兵器”吗?

伦理问题是争议核心

在乔任梁父亲的反对声引发互联网各方对“数字生命”展开讨论以前,已经有许多人选择利用相关技术让思念之人“重返人间”。

今年2月,包小柏用AI技术“复活”三年前因病去世的女儿,表达思念;3月初的商汤年会上,商汤科技创始人汤晓鸥以数字人形式登台演讲。更早的时候,有歌手李玟的粉丝也尝试利用AI技术“复活”李玟。 

以“复活”为标签的文本和视频造物在人工智能浪潮下涌现,但这种情况并非人人乐见。 

支持者认为,利用AI技术“复活”逝去的故人在一定程度上能缓解生者对逝者的思念之情。 

然而,也有反对者指出,尽管AI技术能够模拟逝者的外貌和声音,但它无法复制逝者的思想、情感和个性。如果这类纪念行为没有得到逝者生前或者逝者亲属的同意,这种做法可能会侵犯逝者的人身权益。这种技术被滥用,可能会导致对逝者的不尊重,甚至有虚假宣传、误导公众的风险。 

但无论如何,有需求就有供给。数字复活实际上已经成为了本轮AI竞速的一条赛道。 

“它的难点,不在于技术和产品,也不在于定价。”小冰公司CEO李笛在接受媒体采访时表示,极高的伦理准则,是AI复活领域当前要面对的主要难点。牵涉到生死之问,这一场景下,便利性不是首要追求,伦理原则才是。 

以数据为“血肉”

要讨论可行与否,首先要看一个“数字生命”是如何诞生的。 

数据是这个赛博生命体成长不可或缺的骨架和血肉。“要实现当前技术能达到的最完美效果,需要文本(生前写的文章与聊天记录)、音频(说话的干声)、视频(尽量动作多一些的干净一点的录屏)等多种数据。”AI领域公众号“数字生命卡兹克”主理人卡兹克撰文表示。 

数据量丰俭由人,多多益善。在其他方面技术支持差距不大的情况下,“投喂”的数据越多,还原度就越高。 

在卡兹克的案例中,他提到,90秒的语音数据,借助当下市场上的大模型产品已经可以实现声音的简单“克隆”。有网友用聊天机器人网站Character.AI生成创作,则需要提供几千词的简要描述、详细描述,设计任务背景、设计对话生成一个聊天机器人。而硅基智能与全网1200万粉丝的科技博主严伯钧合作,联手打造全球首个AI化KOL,除了人物外形的1:1克隆,还将他以往发布的1400多条科普视频、100多万字的语料投喂给AI模型进行训练。“训练成果基本可以实现严伯钧本人形象和思想的全面AI化。”据硅基智能团队表示。

有了数据,接下来就是自然语言处理、计算机视觉、深度学习和语音、图像和视频生成等技术的介入。 

对外经济贸易大学数字经济与法律创新研究中心执行主任张欣介绍,开发者利用逝者生前的文本和影像进行训练,例如通过逝者生前的文本数据学习其语言风格、常用表达和交流习惯,利用深度学习技术分析学习逝者的图像数据,学习其面部特征、表情和肢体语言,从而允许模型生成逼真的逝者图像和视频,甚至模拟逝者的表情变化和动作。

除了语言、图像和声音的模仿外,目前更为复杂和高级的AI复活技术还可尝试模拟逝者的行为模式、决策方式和情感表达。将这些技术整合之后,可以通过创建交互式的AI模型实现与用户的对话与交流。

但目前的产品显然还并没有真正达到“复活”的程度。使用大模型的学习与生成能力,尽可能真实地还原一个人的动作、声音和语气,基本可以说是当前的极限。

市场良莠不齐

人类试图用代码赋予逝者新生的尝试一直存在,为什么最近受到越来越多的关注? 

大模型技术的突飞猛进是重要原因之一。 

硅基智能科技有限公司CEO司马华鹏在接受21记者采访时表示,近年来,随着技术迭代,数字人的制作成本也在逐步降低,最早做一个简单的数字人可能也需要十几万甚至几十万,但目前,最低只要几百元就可以做出一个数字人。

互联网产业分析师张书乐则指出,现在,使用百度的文心一言,不需要支付任何费用就能通过照片和录音实现简易的数字分身。“但这种廉价数字分身完成度并不高。” 

在需求可持续,供给更便利的当下,AI复活亲人已经成为了一门生意。 

在某些社交平台或电商平台上搜索“AI复活亲人”,会发现已经有不少人在提供相关服务。 21记者咨询了其中几位商家,给出的价格从几十元到几百元不等。 最便宜的服务是让照片动起来。如果愿意加钱,则可以逐步升级,让照片说话,甚至更复杂的视频。 



(电商平台上的相关店铺)

也有企业正在尝试提供类似服务。 

2023年,硅基智能发布了炎帝大模型,结合数据和影像资料,能够重建已故亲人的声音、形象乃至行为习惯,用户可以通过DUIX智能交互平台与数字人进行互动。据硅基智能团队介绍,目前公司的数字永生产品的标准售价为9800元,还包含一个10寸平板作为载体,人物外形、表情动作、说话习惯、思想表达等都已经可以做到和真人的高度仿真。而且客户提供的原始资料越丰富,最终交付的效果和还原度也会越好。

大模型公司MiniMax的语音大模型和海螺问问APP,以一段90秒的语音为提示,实现了逝者的语音克隆。与包小柏合作,让其女儿实现“数字复活”的是小冰公司,其前身是微软(亚洲)互联网工程院人工智能小冰团队。此外,腾讯旗下的智影能够实现相关功能。

对于企业来说,落地类似的数字复活业务,难吗? 

如果把视角拉得更远,会发现“数字生命”这个宏大概念的背后,还是大模型和数字人产业。

“这个问题需要分情况讨论。”张书乐指出,由于数字人的完成度各不相同,在现有AI大模型工具支持下简单制作的数字人其实成本不高。“主要是人力成本,但完成度也很低。”

但如果是类似此前“复活邓丽君”等项目中够真实、能互动的,完成度较高的数字人,其背后涉及的技术门类众多,成本自然也水涨船高。“音源库、动作捕捉、后期制作、3D投影,以及AI大模型驱动的千人千面交流能力等,都是不小的花费。”

在当下,做“AI复活”是一个好生意吗? 

张书乐认为,如果企业仅仅专注AI复活这个垂直赛道,前景并不乐观。 

老实说,当下这种AI复活模式及其相关产业非常垂直和长尾,且属于个性化定制,难以标准化生产,市场规模难以做大。”他坦陈。 

不过有人不这么觉得。“AI复活逝者将成万亿级市场。我们将通过优质的教学和服务,让你成为一名优质的‘AI复活师’。”社交平台上以“AI复活亲人”为名头的账号中,有相当一部分同时表示可以招代理、收徒。 

根据介绍,收徒的主要对象是“想学习AI技术、想创业、想找副业”的“是宝妈、白领、学生”。 

“真的能赚到钱吗?”面对记者的询问,其中一个商家回复道:“一个月四千到一万不等。”对比商家提供的980元“门徒课程”培训,回本似乎很容易。 


(商家收徒、代理收费价目表)

我们担心的是,可能打开了一个潘多拉魔盒。”李笛在接受前述采访时认为,在数字人成本大幅度下降的当下,AI复活这条赛道很有可能出现劣币驱逐良币的问题。在他看来,有机构承接这类业务,很正常,“但是追求商业利润最大化的机构去做,是截然不同的。 ” 

如何“合法永生”? 

“我们可以把这种行为看作是对已故亲人老照片、老视频的高清修复2.0版本。”在张书乐看来,高度抽象后,目前这种形式AI复活,本质上是一种基于“黑科技”的情感满足和精神慰藉。在现行法律下,最重要的是要保障行为没有侵害逝者权利。 

乔任梁父亲的反对态度引发争议,本质是AI技术爆炸下难解的法律风险和伦理隐忧。“复活”逝者的业务若要普及,先要解决隐私、授权和伦理等问题。 

“在法律上,无论公开与否,未经允许制作这样一种数字生命本身就涉嫌侵权。”上海大邦律师事务所高级合伙人游云庭指出,这种复活行为如果未经逝者的继承人同意,实际上侵害了逝者的肖像权、姓名权、声音权等人身权利。 

“针对名人表达追思或悼念之情,继承人不一定会发现或维权。但这不代表没有法律风险。”他表示。 

如果要开展此类业务,应如何做好相应的合规? 

逝者的相关权益受到法律保护,AI复活逝者技术及其应用不能踏出法律的边界。

“死者的姓名、肖像、名誉、荣誉、隐私、遗体等受到侵害时,配偶、子女、父母有权依法请求行为人承担民事责任,如果没有前述这些亲属,其他近亲属也可以依法追责。”张欣指出,我国《民法典》就对逝者权益保护专门作出了规定。

《生成式人工智能服务管理暂行办法》、《互联网信息服务深度合成管理规定》等“对口”规则也为相关业务合规提供了指引。

《办法》提出,生成式人工智能服务不得侵害他人肖像权、名誉权、等权益;《规定》也指出,深度合成服务提供者和技术支持者生成或者编辑人脸、人声等生物识别信息的应当履行显著标识义务并取得被编辑个人的单独同意。

“因此,如果是在逝者生前就利用其人脸、人声等生物识别信息进行训练的,还需要履行一整套合规义务。”张欣表示。 

针对具体的合规思路,游云庭指出,首先是相关算法要完成审核或备案。

其次,在应用发布后,人工智能服务提供者有责任履行管理职责,包括实行实名制要求,审核结果,并建立违法和不良特征库;并在生成内容中进行标识,表明相关内容是由人工智能生成;主动报告违法信息,并为用户提供申诉和公众投诉举报的渠道。此外,如果有涉及个人信息的内容,必须获得个人信息所有者的同意。

“合规性是从业者和企业必须严格遵守的原则。”硅基智能团队告诉21记者,在该公司提供相关服务时,会先确保已经获得本人或家属的授权,保障用户的肖像权、隐私权等。公司对生成内容会进行严格的审核,确保不会产生误导公众或侵犯他人权益的情况。

(作者:冯恋阁,王俊 编辑:王俊)

冯恋阁

记者

关注人工智能、知识产权、数据合规等互联网科技领域新动向。微信:isfenglg

王俊向TA提问

记者

做数字经济时代的观察者。微信:wangdajun0117