自2022年秋季ChatGPT横空出世以来,“AI”这个话题就再一次成为了网络上、乃至许多消费者挂在嘴边的常客。
不可否认,以ChatGPT为代表的在线大模型所能实现的用户体验,看起来确实很神奇、也很容易引发大家的好奇心,让许多以往可能不那么关注AI、不关注科技行业的人,都开始意识到这一新技术的魅力。
但平心而论,上述这种在线AI大模型其实存在着诸多难以回避的短板。比如它们对算力和存储的要求过高,不太可能为一般的个人或小型企业部署;比如它严重依赖网络,一旦网络连接不佳就几乎不能使用。而且这种依赖网络进行数据上传,在服务器端分析、响应,最后再将结果下发的服务模式,本身也存在着可能会泄露用户隐私、以及相关数据可能存在一定泄露的风险。
正因如此,对于以智能手机、平板电脑,甚至是PC为代表的个人终端计算设备来说,比起在线式的大型AI,能够在“断网”状态下、仅靠本机算力就能运行,而且过程中完全可以不上传任何个人信息的“终端侧AI”技术,实际上对于业内的相关企业来说,才反而是最近这几年大家真正投入最多、发展也最快的技术方向。
当然,既然终端侧AI需要靠设备本身的性能来实现,那么它自然也就与设备上的AI算力水平,以及相关的AI软件堆栈优化程度息息相关。既然提到这一点,那么绕不开的一个厂商便是大家耳熟能详的高通了。
高通的AI之路,比大家想象的起步还要更早
高通是从什么时候开始做移动设备上的端侧AI?关于这个问题,我们三易生活此前就曾进行过考据。
简单来说,早在2013年、也就是距今10年前,高通方面就已经发布了一款型号为QRC52244563-QC、商品名为“Zeroth”的独立芯片。它是业界第一款量产、可用于移动设备的独立神经网络计算单元(NPU)。在这个时候,甚至还没有任何厂商宣称他们在手机上搭载了“独立NPU”,因此高通实际上也成为了NPU这个概念在移动端的发明者。
当时间来到2014年,高通方面便将“Zeroth”独立NPU芯片的架构和技术引入了当时的骁龙820平台。因此骁龙820实际上就成为了消费电子行业里,第一款带有NPU计算特性,能够在一定程度上独立执行端侧AI计算的平台。
更有意思的是,高通并没有将NPU、端侧AI的计算能力局限于高端产品线。因为就在那之后不久,他们就将类似的硬件加速AI功能引入到了主流的骁龙660平台。后续随着骁龙移动平台“家族”的扩大,对AI计算的软硬件加速体系,更是很“自然”地成为了整个骁龙产品线的共通特征。
2021年,高通提出了“统一技术路线图”的概念,正式明确了旗下的智能手机移动平台、汽车智能座舱方案、XR头显芯片、智能手表和智能音频产品在硬件架构路线上的统一路线。
到了2022年,高通还进一步发布了高通AI软件栈(Qualcomm AI Stack)工具。它以一套工具覆盖了多种AI框架、支持了市面上几乎全部主流的操作系统,使得开发者只需一次开发就能“搞定一切”,彻底免除了以往复杂的移植、适配过程。
深耕端侧AI,高通的成果遍布业界
很显然,比所有竞争对手更早的起步和发展历程,促使高通在旗下端侧AI技术的硬件和软件设计上,都积累了更多的经验与相关技术。
以结论而言,这也赋予了高通在端侧AI生态方面,无与伦比的广度和深度。
论“广”,我们几乎可以在当前高通旗下所有的骁龙相关平台里,都看到端侧AI计算的身影。往小了说,这包括骁龙音频平台上、用于蓝牙耳机的AI降噪算法,包括骁龙智能穿戴平台里的AI运动和健康监测技术,包括骁龙XR平台里基于AI驱动的端侧语言和摄像头物体识别。
而往大了说,除了大家耳熟能详的手机和平板上的骁龙移动平台外,用于PC的骁龙计算平台也成为了业界最早在Windows系统里支持端侧AI,能够原生启用AI语言降噪、AI摄像头虚化和自动居中等诸多功能的硬件方案。
更不要说如今在汽车上大红大紫的骁龙智能座舱方案,更是将端侧AI计算能力广泛用于ADAS高级辅助驾驶、驾驶舱低延迟语音交互等领域。与基于网络连接的方案相比,这些端侧AI用例不仅大幅降低了延迟,也变相提高了使用中的安全性。
使用骁龙移动平台在手机上端侧生成的AI图像
而论“深”度,2023年3月,高通AI研究院在智能手机上首次实现的Stable Diffusion部署,则可以作为一个很好的例证。在这些旗舰级的骁龙移动平台手机上,Stable Diffusion可在15秒内,完全基于本地算力完成20步推理,生成一张512*512像素的图像。这个时延表现基本上已经可以媲美云端推理,同时还完全避免了传统在线推理的信息泄露风险。
全新骁龙平台将至,拉开移动AI新纪元
值得注意的是,就在几天后,高通方面就即将召开2023年骁龙峰会,宣告全新一批骁龙平台的正式亮相。
从目前各种曝光的相关信息来看,全新一代的骁龙8系移动平台和骁龙X平台,大概率将会成为此次活动中的绝对主角。而它们将会带来的改变也注定了不仅限于单纯的架构、计算和图形性能提升。
可以预见的是,如今在高通的统一技术路线以及全栈AI优化体系的加持下,新一代的骁龙平台势必会继续增强端侧AI能力,将更多低延迟、无需网络连接的人工智能体验带到消费级移动设备上来。而它究竟会给我们的日常使用体验、乃至移动生活带来怎样的改变,大家不妨拭目以待。