21世纪经济报道记者肖潇 报道
逼真的AI电话和视频诈骗,是这几年网络安全领域最令人担忧的一个问题。现在防御者开始尝试一种反向思路:让AI陪诈骗分子演戏,拖住时间收集情报。
一家名为 Apate 的澳大利亚 AI 初创公司,正在尝试这种反诈模式。Apate 的名字源于希腊神话中的欺骗女神,公司做的事情也与欺骗有关:让一群AI智能体伪装成潜在受害者,接听诈骗电话、回复可疑短信和电子邮件,目的是拖延诈骗分子的时间,让他们暴露更多信息。
Apate最近接受了多家外媒采访,公司表示,其 AI 反诈系统已经完成250万次对话,累计牵制了诈骗分子17年的时间。这些对话还能进一步收集诈骗活动中的关键信息——银行账户、加密货币钱包、电话号码、恶意网站,以及诈骗分子冒充的品牌等,此类信息往往要等到受害者被骗后才有机会被发现。
Apate的模式来源于一通真实的诈骗电话。Apate 创始人卡法尔(Dali Kaafar)在采访中表示,自己曾在一次家庭野餐中接到陌生号码来电,他很快意识到对方是诈骗分子,但为了不影响孩子们,他没有立即挂断,而是选择装作毫不知情,跟骗子聊了44分钟。
这次经历让他开始思考:能不能把拖住诈骗分子的过程自动化,并且获得更有用的情报?这一想法后来发展为他在麦考瑞大学开展的研究,利用机器学习和自然语言处理技术开展反诈工作。
Apate的训练方式和训练数据均没有透露,在外界测评中,Apate智能体会为自己设定不同的人物身份,并根据对话调整回应方式,有时主动要求添加社交账号,有时接听电话与对方周旋,也会在对话中表示“稍后再联系”,让诈骗分子继续等待。
Apate表示,银行、电信公司和政府机构是他们目前的主要客户群。8月,公司拿到了约800万美元的种子轮融资,约合人民币6000万元。Apate 目前只有20名员工,计划将资金用于产品开发和国际扩张,下一步重点开拓英国和美国市场。
Apate 的出现,背后也是网络安全“猫鼠游戏”的变化:既然攻击者会用AI大规模生成逼真的语音、视频和话术,那么防御者也可以用AI主动介入攻击过程。
网络安全公司天融信科技集团助理总裁王媛媛告诉21记者,Apate 让 AI 主动与诈骗分子沟通,是一种“革命性创新”。在传统网络安全领域,蜜罐(Honeypot)并不是新概念,威胁情报型蜜罐可以捕获恶意样本、产出威胁情报指标,欺骗型蜜罐则需要增加入侵者的时间延迟。但这类工具需要等待攻击者上钩,而Apate模拟的是能主动出击的人。
“此前也有预录音的应答机器人,但只能按设定好的剧本应答,稍有偏离就容易被识别出来,而新型的蜜罐从伪装服务进化到了伪装人格,在生成式大模型出现之前是不可能做到的。”王媛媛解释。
对于这类反诈蜜罐而言,最终效果主要看消耗诈骗时间、获取的可行动情报数量,以及可避免的资金损失情况。王媛媛认为,这几年攻击侧的成本大幅下降,仅仅判断一段语音、一条短信或一段视频是否可疑越来越不够,防御的底线从“看清内容”转变到验证身份,未来是 AI 对 AI 的摩擦力之争。
CrowdStrike 发布的《2025年全球威胁报告》显示,2024年下半年,全球语音钓鱼攻击增长442%。国内的 AI 换脸诈骗也在持续引发关注,据公安部通报,截至2026年9月,全国已累计侦破 AI 换脸类诈骗案件超过300起,涉案金额突破5亿元,单案最高损失达2000万元。
面对这类威胁,许多硬件厂商都在同步升级防御策略。比如谷歌近期表示,其通话防诈功能可以借助云端 Gemini 模型分析更复杂的对话语境,以更快识别诈骗意图;其短信和电话诈骗检测功能每月可标记超过500万条疑似诈骗电话和短信。
国内的荣耀、小米、OPPO、vivo 等厂商,近两年也陆续推出基于大模型的 AI 防诈功能,通过语义分析识别可疑话术,或检测 AI 视频中的变声、换脸风险,并向用户发出提醒。
(作者:肖潇 编辑:王俊)
南方财经全媒体集团及其客户端所刊载内容的知识产权均属其旗下媒体。未经书面授权,任何人不得以任何方式使用。详情或获取授权信息请点击此处。

