岩芯数智大模型朝多模态进化,CEO解读端侧落地的机遇和难点

21世纪经济报道 21财经APP 张赛男 上海报道
2024-09-27 15:59

21世纪经济报道记者 张赛男 上海报道 

2024年以来,此前密集涌现的大模型陆续进入商业化探索,谁能跑通“最后一公里”,才算进入了真正的竞争。

9月26日,岩山科技旗下公司岩芯数智在上海举行开放日活动,正式推出全新升级的Yan1.3大模型,并展示了其在无人机、机器人、PC、手机等各类终端设备上落地能力。

相比于今年初发布的Yan1.0版本只能处理自然语言,Yan1.3具备了强大的多模态能力,可高效处理图文及语音等多模态信息,并实现了模型在更广泛设备端上的离线无损部署,普通电脑CPU上也能够流畅运行。

不过这不是大模型的最终形态。在岩芯数智CEO刘凡平看来,Yan1.3还不具备自主学习的能力,目前只在发展的第二阶段。按照他的设想,希望通过探索大模型在设备端的训推同步,让模型具备自主学习能力,打造越来越多基于Yan架构的智能单元,让世界上每一台设备拥有自己的智能。

商业化进行中

作为国内首个非Transformer架构的大模型,岩芯数智CEO刘凡平坦言“Yan模型”自今年发布以来,收到的评论是“两极分化”的。但从当前的落地情况来看,他认为初步证明了Yan模型的能力。

“我们已经有商业交付,包括向某文娱单位交付了搭载Yan模型的导览机器人;AIPC方面,交付了内嵌在PC端的迅兔智能助手,能够自动语音转录进行会议摘要。”刘凡平在接受21世纪经济报道记者采访时说,Yan模型目前主要是在B端有业务落地,拓展在医疗、金融、能源、通信等领域的赋能,并与芯片厂商及终端厂商达成了初步合作意向。

21世纪经济报道记者在现场看到,岩芯数智团队展示了一款部署了Yan1.3大模型的“飞龙”无人机。区别于大多数云、边、端协同控制的无人机,飞龙的智能大脑Yan1.3直接部署于设备端,对突发状况能做出即时判断和处理,无需先传回云端判定再回到设备端执行,可大大提升无人机在复杂环境中的适应性和自主性,实现自动化水平和快速反应能力。

“我们与某厂商合作的无人机项目,便能解决设备将高清画面传回云端而产生的5G-A流量成本高的痛点。”现场工作人员表示。

在实际应用方面,部署了Yan1.3的飞龙无人机,能感知复杂环境并在设备端实时处理,支持各类环境下的智能巡检,可适配电力巡检、安全监控、环境监测等城市治理及工业场景。个人用户方面,可运用于AI拍摄、外出旅游、山地越野等生活情景。

AI手机机会与难点

大模型在手机端的应用最为受到市场关注,尤其是苹果AI的发布,带动了AI手机的资本热潮。

不过,作为行业资深从业者,岩芯数智对大模型在手机端的应用是偏谨慎的。“手机端运行大模型是有难点的,核心是在能耗和体验,如果大模型能耗很大,会导致电池发烫。”刘凡平说。

他认为,目前来看,这些问题国内厂商还难以在短时间内解决,要想在手机大模型上实现创新,关键要进一步突破算法,实现能耗和体验的平衡。而即便是有这个生产能力的手机厂商,打通产业链建设可能也需要1至2年的时间。

他还提到了大模型调用第三方软件的难点。“例如理想状态是可以通过手机大模型直接点一个外卖,但要打通这个外卖软件很难。而一个手机上有那么多第三方软件。”

但不可否认的是,AI手机的发展是值得期待的。刘凡平预计,大模型未来在一些消费终端设备上会有一些爆发,不仅仅是手机和PC这两个大市场,“现在很多终端设备智能还是按照固定化程序运转,接下来应该很快就能通过AI的方式产生变化,包括交互体验上的变化等。”

为了加速整个生态的形成,在开放日当天,岩芯数智还宣布设立1亿元产业基金去扶持上下游,尤其是投资下游产业链。

(作者:张赛男 )

张赛男
向TA提问

财经版记者

曾是一名宏观经济记者,现转向微观领域。专注A股上市公司、上交所监管动态。欢迎交流