当“生成式人工智能”成为行业热词,在关注各类新兴应用的同时,作为提供应用底层支撑的“算力”也开始成为关注的焦点之一。

对于传统的高算力终端而言,通过增加额外的GPU硬件即可填补大模型训练与AI生成所需的“算力鸿沟”,但像移动智能终端,受限于集成度、功耗限制等方面,想要摆脱联网需求,实现端侧部署生成式人工智能则具备更高的难度。
旗舰芯片AI领域率先发力,中端布局路径产生差异
在过去的两个月里,联发科和高通相继发布了新一代旗舰级SoC芯片,引起了人们的广泛关注。有趣的是,这两家公司都强调了对端侧AI能力的提升。

以联发科为例,他们最近发布的天玑9300芯片内部集成了联发科第七代AI处理器APU 790。这一处理器专为生成式AI而设计,整数运算和浮点运算的性能是前一代的两倍,功耗降低了45%。APU 790内置了硬件级的生成式AI引擎,可实现更高速、更安全的边缘AI计算,并深度适配Transformer模型进行子加速。
据官方数据,APU 790的处理速度是上一代的8倍,能在1秒内生成一张图片。此外,联发科还开发了混合精度INT4量化技术,结合内存硬件压缩技术NeuroPilot Compression,更高效地利用内存带宽,减少AI大模型对终端内存的占用。这使得该芯片支持终端运行最高可达330亿参数的AI大语言模型。
尽管新一代智能手机芯片为生成式人工智能提供了硬件支持,但搭载这些旗舰级SoC芯片的产品市场定位基本上都限制在高端市场。根据IDC的数据,2023年第三季度,国内智能手机高端市场(3500元以上)的出货占比为33%。换句话说,即便所有高端手机都开始支持端侧生成式AI,用户层面也只有三分之一的人有机会接触到这一功能。而中端机市场,市场份额占比达到了19%,且仍在不断增长。
如何扩大生成式人工智能的应用范围,让其不仅仅成为高端产品的“专属功能”,是终端厂商和上游芯片供应商面临的首要问题。与此同时,高通推出的第三代骁龙7,虽然并未提及AI功能的进步,但主要的提升依然集中在面向传统使用场景的CPU、GPU性能以及能耗上。

相比之下,联发科从天玑8000系列开始,已将中、高端机型作为加速移动芯片市场渗透的“基本盘”。其最新发布的天玑8300是同级产品中首个支持生成式AI的芯片,集成了联发科AI处理器APU 780。该芯片搭载生成式AI引擎,整数运算和浮点运算性能是上一代的两倍,支持Transformer算子加速和混合精度INT4量化技术,综合AI性能是上一代的3.3倍,可流畅运行终端侧生成式AI的创新应用。
据联发科无线通信事业部副总经理李彦辑透露,小米成为首个成功借助其芯片能力实现端侧生成式AI应用的手机厂商。小米集团总裁、Redmi品牌总经理卢伟冰也表示,Redmi手机将全球首发搭载天玑8300-Ultra芯片,该机在性能调度、系统应用和硬件底层能力开发方面,将应用新一代人工智能技术。刚刚发布的Redmi K70E即为首款支持端侧生成式人工智能的手机产品。
从云侧到端侧,移动大模型时代可以期待什么?
虽然产品有了、应用也有了,但是提到大模型这项技术,似乎距离普通用户还是很远,究其原因就在于具体场景落地的匮乏,对于大众消费者而言,根本感知不到大模型带来的体验差异。
值得庆幸的是,手机端的大模型应用正在加速普及,目前,包括华为、小米、vivo等手机厂商都已经将大模型手机端的应用提上了日程,其中诸如语音助手与大模型的结合很多都已经到了内测甚至公测阶段。
一位业内人士告诉钛媒体App:“大模型的加入可以让智能语音助手跳出既有的算法‘机械问答’模式,对用户指令的理解能力以及解决问题的能力都将增强,而这也只是第一步而已,下一步在端侧生成式人智能落地后,像目前还属于小众技能的‘图生文’‘文生图’‘图生图’等进阶应用,都有望在手机端实现,从而让语音助手开始显现出创造力。”
从长远来看,大模型与端侧生成式人工智能,的确有可能为智能手机等终端硬件带来更多或有趣、或实用的玩法。但钛媒体App在体验了现阶段手机端大模型应用后,只能说是“未来可期”而非“即刻革新”。
毫不客气的说,当前手机内的大模型应用更多只是个噱头而已,能够感知到的“智能升级”非常有限,虽然语音助手能听懂、回答的问题更多了,甚至可以具备一些简答的前后联系的逻辑思考,但与赛道内领先的Chat GPT仍有很大差距。
如果从AI绘图应用来说,移动端面临的挑战也不少,像算力层面,目前业界主流的Stable Diffusion经过实测,最起码需要RTX 3070以上级别的显卡才能获得比较流畅的应用体验,同时其上手门槛也并不低,因为AI绘画往往需要对调用学习模型进行选择,同时在绘画中不断提出新要求并对画面进行调整,才能最终获得一张质量还不错的图片。
Stable Diffusion这样从AI绘图应用兴起就开始不断改良的工具尚且如此,移动端的部署就会是更大的问题,如果只是通过文字描述可以生成图片而已,那对于普通消费者来说,最多是上手尝鲜一下,新鲜劲儿一过,立马就变成了冷门技能,大模型应用就会走上当年智能语音助手一样的老路,爆火之后市场便慢慢冷却下来。
因此,端侧大模型应用,也需要找到高频场景进行适配,李彦辑认为,“性能调度”将是一个很好的落脚点。“大模型不光可以学习传统的文字、图片资料,它也可以去学习用户习惯,进而具备应用场景的自适应切换能力,”他提到。
具体来说,就是摆脱传统的固定算法调度逻辑,让AI更多地参与其中,比如用户日常使用手机的时候,其处理社交信息、游戏、刷短视频时,对手机性能的需求都是不同的,过去手机系统往往是依靠应用来做反向适配,打游戏调用高频率大核心提高性能、文字聊天和待机使用小核心保持续航,这种调度能力是非常固化的。
智能手机具备端侧AI能力后,就能将性能调度这件事变得更加主动,可以根据当前的场景需求进行实时优化,而非照本宣科的进行软件和策略层面的适配。
钛媒体App分析认为,与聊天、AI绘图等看似创新的应用体验相比,能够对既有的高频场景进行精准赋能,才是端侧大模型短期内能够创造体验价值的关键所在,无论是影像、性能表现上的优化亦或是对屏幕、扬声器等硬件的实时智能调节,都是更能带给用户体验感知升级的维度。
假设有一天,通过端侧大模型结合用户习惯、应用感知得到的数据进行学习,利用对软硬件层面的综合调度,让智能手机的续航可以再提升20%甚至50%,谁还会说它只是个“噱头”呢?