Token消耗量已成为衡量企业AI应用深度的通用标尺
21世纪经济报道记者 曹媛 深圳报道
一家以保险、银行为主业的综合金融机构,上半年日均Token消耗量缘何能突破千亿?
近期,平安集团日耗Token达1200亿的消息引发市场关注,“我们的日均Token消耗量从年初的300亿涨至年中超1200亿。”平安集团首席技术官王晓航告诉21世纪经济报道,最新数据已经突破2000亿Token/日。
超两千亿的日均Token消耗量,若放在整个市场看,低于字节豆包等大模型厂商日均百万亿级的Token消耗量,但远超金融同业:
今年多家银行披露的日均Token消耗量,最高仅为百亿级别:工商银行年初披露全行业务应用日耗Token量达百亿级;招商银行5月披露日耗Token达330亿;微众银行7月披露日耗Token超200亿……
一家并未向市场输出通用大模型的综合金融机构,日均超千亿Token,究竟用在哪儿了,产生了什么价值,账怎么算?
自8月20日公布中期业绩报告以来,中国平安A股、港股实现多日连涨,市值重回万亿元。
日耗超千亿Token,都用在哪儿了?
Token消耗量已成为衡量企业AI应用深度的通用标尺。但对金融机构而言,比“烧Token”更关键的,是如何把每一笔Token支出转化为业务条线可感知的增收、减损、提效与风控精度的提升。
日耗超千亿Token,平安都用在哪儿了?王晓航告诉记者,平安每年在科技领域投入超百亿元,其中AI聚焦三条主线:综合金融、医疗健康、内部提效,通过超大规模、超高频AI应用产生真实商业价值。
主线之一是AI驱动平安的综合金融服务体验创新。最典型的案例是今年平安推出的快捷服务AI助手,通过“一个入口,一站式解决”为客户提供平安内部保险理赔、融资、交易、救急等300多项服务,“AI查问办”已覆盖平安88%的业务场景,上半年超4700万人次体验。
“AI带来全新的咨询和办事体验,还能使线上APP渠道转化为高增长、低成本的客户经营渠道,每月线上增量订单的环比增速达两位数以上。”王晓航透露。
AI应用主线之二是提升医疗健康智能水平。据悉,平安现阶段目标是打造“最具专业性的AI医生”,“少数重疾的理赔金额占平安上千亿元赔付总额的50%以上,面对这部分肿瘤专病,我们跟北大、平安好医生共同打造了专病AI,专家一致性达90%以上,我们希望真正解决用户的严肃医疗问题,不光是健康咨询的问题。”他说。
另外,“AI医生”精准理解客户医疗需求后,还与平安的“到线、到院、到店、到企”四到服务体系联动,形成就医闭环。
主线之三是AI赋能企业内部提效。据悉,平安内勤员工超25万人,正大力推进AI Coding、AI运营、AI办公“三大AI工程”。
王晓航分享了一组数据:“上半年我们的新代码AI生成率已经达到62%,年初这一数字仅为30%,原定目标是60%,年中超额完成。”AI运营上,围绕重复性、事务性的流程,平安运营标杆岗位以工时为度量的提效达两位数;AI也在赋能其内部会议、审批等办公场景。
破解“算力焦虑”:用技术把成本降低超一半
当前AI行业普遍陷入“算力焦虑”,高端GPU紧缺且昂贵,算力成本高昂导致大模型应用“算不过来账”。平安如何承受如此庞大的算力消耗?
采访中,王晓航提出了“供给、效率、价值”三要素正循环的逻辑:“我们看算力本身,关注的不只是Token消耗多不多,同时也看Token的效率,也就是每个Token的单位成本高不高,以及Token的价值产出是不是足够大。这三者形成正循环,才能可持续地支撑这种大规模的投入。”
在供给端,平安6月Token日均消耗超1200亿,AI应用已深度嵌入到其亿级客户交互与内部高频场景中。
在效率端,平安在硬件成本上涨的背景下实现单位Token成本降低超一半。据王晓航介绍,平安通过全栈技术优化,包括上下文压缩、模型推理优化、异构多GPU算力集群、昼夜错峰调度等手段,实现了单位Token成本下降。
价值产出层面,平安的算力消耗集中在超大规模对客应用(2.53亿客户数)和超高频对内应用(约25万员工)。“供给扩大、使用Token的效率提高,以及Token产出的爆发,这样才能可持续。”王晓航总结。
平安为何不向C端市场推出通用医疗模型?
在医疗领域,据公开报道,豆包每天承载的健康咨询量超过2000万人次。今年8月,中国青年报社社会调查中心发布的一项调查显示:超九成受访者用AI查询过病情、获取过就医建议。
当AI问诊已成大模型刚需场景,市场好奇,面对真实医疗需求、拥有庞大且高质量的理赔与健康档案数据积累的平安集团,为何不面向更广泛的C端市场推出通用医疗模型?
“平安不卷通用AI,聚焦产业AI。”王晓航告诉记者,“在日常的健康咨询和全科问诊这些通用领域,随着前沿模型的能力水涨船高,模型本身很难拉开特别大的差距。平安更希望帮助客户解决严肃医疗问题,形成服务的闭环。”
这也意味着,当下平安集团的AI定位是赋能客户、优化流程、形成服务闭环,而非与通用大模型拼日常咨询流量。
还需注意的是,目前在医疗这类高壁垒领域,AI大模型主要面临专业度不足、幻觉频发的问题。面对这一行业难题,王晓航告诉记者,平安通过三方面推动解决:
一是专业质控,平安参照卫健委的医生质控标准开展AI医疗质控,已完成了超13万例问诊案例质控,专科和全科的幻觉率、错误率及红线率均低于千分之三。
二是专业验证,平安依托自建医疗知识库、病历库、循证文档库与检索技术,保障回答可溯源。
三是设置“安全护栏”并落实专家复核,对诊疗、交易等关键决策划定边界,采用AI与线上线下专家协同模式,即便幻觉问题已得到控制,仍持续守住严肃场景的风险底线。
在金融领域,王晓航则强调坚持深入业务场景,做好技术对业务人员的赋能。平安推出了面向代理人的AI赋能工具AskBob,当前39%的代理人每日高频使用该工具进行条款问询、策略解读。平安中报数据显示,上半年,AI智能体的辅助销售额高达573亿元。
除了赋能人,平安也在加强AI对流程的智能化改造。平安中报数据显示,平安AI坐席服务量占客服总量的81%。在车险领域,车代渠道94%的保单可以在一分钟之内完成出单。
据王晓航介绍,“未来AskBob还将升级改造为一个能办事的智能助手,贯穿代理人获客、触达、访问和转化全流程,帮助代理人从事务性工作中解放出来。”
未来,平安在科技领域主要聚焦三部分:基础研发、规模化创新、前瞻孵化。“我们主动将资源从基础研发向创新方向迁移。”
“价值只要讲得清楚、只要能够落地,我们是愿意花人力和算力,愿意投入的。”王晓航说。
(作者:曹媛 编辑:孙超逸,张俨)
该频道为南财特色专栏,频道刊载的内容知识产权均属广东南方财经控股有限公司所有,任何未经书面单独授权,任何人不得以任何方式使用。

