接入大模型，手机终于要长“脑子”了？
AI大模型的战火，烧到了智能手机上。
最近一段时间，华为、小米、vivo、OPPO、荣耀等国产手机，均已对外公布众多大模型相关成果。目前，头部厂商不仅纷纷下场自研大模型，而且正在把能离线运行的端侧大模型，植入到新一代机型中，打造所谓的“AI大模型手机”。
相比调用云端算力的通用大模型，端侧大模型可以让用户更加高效、便捷、安全地使用AIGC。不过将其应用到手机上也不容易，不但要考虑到模型量级、AI体验和手机能耗的平衡等问题，还要承担从落地到迭代每年数十亿元的成本投入，这对于手机厂商的硬实力也是种极大的考验。
但大模型手机对于用户和厂商均价值非凡：一是在用户换机动力匮乏的寒冬下，AI大模型将成为手机厂商市场竞争的重要筹码；二是AI大模型未来有望变成每个用户专属的超级助理，革新手机乃至所有硬件终端的使用体验。
厂商开卷大模型
在手机+大模型的竞争中，每一个厂商都不想掉队。
早在7月份，华为就在开发者大会上发布了面向行业的盘古大模型3.0，最高版本高达1000亿参数，并官宣新一代智能操作系统HarmonyOS 4已接入了盘古大模型，小艺也成为首个具有AI大模型能力的终端语音助手。9月份，华为宣布大模型版小艺开启众测，首批支持机型为Mate 60/P60系列手机。
图源：网络
8月的年度演讲上，小米创始人雷军透露其自研大模型（MiLM）中的13亿参数版本已经成功在手机本地跑通，部分场景可以媲美60亿参数模型在云端运行结果，旗下Y语音助手小爱同学也已开始升级大模型版本。10月底，小米宣布自研AI大模型已经接入最新发布的澎湃OS，搭载到了小米14系列上。
图源：网络
10月26日，荣耀CEO赵明宣布，即将推出的Magic6系列手机，将支持自研70亿端侧AI大模型。赵明表示，荣耀对于端侧大模型的理解，将通过MagicOS 8.0和荣耀Magic6系列呈现出来，“有非常多、非常惊艳的创新在里面”。
11月1日，vivo的蓝心大模型矩阵（BlueLM）在其开发者大会上亮相，包含十亿、百亿、千亿等不同参数规模，随后vivo还推出基于该大模型开发的应用“蓝心小V”和“蓝心千询”。11月13日，vivo发布了行业首款AI大模型手机X100系列，落地终端侧70亿参数大模型，跑通端侧130亿参数模型。
图源：网络
11月16日，OPPO在开发者大会上正式推出了安第斯大模型（AndesGPT）。根据官方介绍，该模型支持从10亿至千亿多种不同参数规模模型，将会被接入到OPPO的手机操作系统ColorOS 14以及物联网操作系统潘塔纳尔OS，OPPO Find X6等机型于同日首发升级正式版。
图源：网络
手机厂商密集布局自研大模型，主要是因为通用大模型无法完美适配手机。
在手机上使用AI大模型并非新鲜事，ChatGPT、文心一言、讯飞星火、通义千问等通用大模型都推出了App版本，允许用户在移动端体验。不过这些App依赖的都是云端大模型，需要调运服务器算力并进行数据传输，因此也存在成本和安全问题。
vivo副总裁周围曾在接受媒体采访时表示，目前调用一次云端大模型的平均成本在1.2分-1.5分人民币。考虑到每个手机厂商至少有上亿的用户量，假如每人每天调用10次，那么每年产生的成本就会达到数十乃至上百亿元。这部分成本由厂商长期负担不现实，但由用户付费也会降低使用体验和意愿。
此外，作为全球普及率、使用率最高的终端硬件，手机中存储着大量用户隐私信息，如果被上传到云端便会存在安全隐患。前不久，WPS AI就在用户隐私问题上差点翻车，因为其未更新的隐私政策中包含“将用户文档资料用于AI训练”的表述，金山WPS被冲上热搜并连夜道歉。
为此，厂商们都在致力于自研大模型，并且努力将大模型部署在手机本地，仅利用芯片的算力生成结果，无需联网也能运行，也就是所谓的端侧大模型。相较云端大模型，端侧大模型由于利用了手机终端的闲置算力资源，减少了数据传输，因此在很多场景下会更加高效、便宜、安全。
每年烧钱数十亿
把AI大模型植入手机并非易事。
目前主流的云端大模型，参数量都在千亿级别，对于内存、算力、功耗的需求是一台手机根本满足不了的。正因如此，手机厂商自研的端侧大模型体量都比较小，将参数压缩到了数十亿到百亿左右，以便在手机端运行。比如，vivo X100系列搭载的就是70亿参数版本的蓝心大模型。
值得一提的是，端侧大模型能够成功落地手机，离不开芯片技术的进步。
vivo X100搭载的天玑9300芯片，就是联发科在11月7日刚刚推出的新一代旗舰产品，该芯片搭载了生成式AI技术，支持终端运行最高达330亿参数的AI大模型。此外，联发科于11月21日发布的次旗舰芯片天玑8300，以及高通10月份新发布的骁龙8 Gen3芯片，也均支持终端运行超100亿参数的大模型。
图源：联发科官网
轻量化、无需联网的端侧大模型，在响应速度、算力需求和信息保护上有与生俱来的优势，但在模型能力上无法媲美云端大模型。这是因为参数是衡量一个AI大模型质量的重要指标之一，通常情况下，参数越多，大模型能力也就越强大。
为了实现大模型体验和手机性能的平衡，厂商们目前普遍采取了“端云协同”的策略，同时部署端侧和云端两种模型，根据不同的应用场景和需求来进行选择。比如，涉及个人隐私、金融数据等信息的任务，以及知识问答、写作绘画等简单任务就可以使用端侧能力，而训练模型等复杂任务则可以调用云端能力。
端云协同可以最大化地发挥“端侧快”和“云侧强”的优势，同时还能解决信息安全隐患、云端算力成本过高等问题，可以说是现阶段打造大模型手机的最优解。
这也正是很多厂商发布大模型矩阵的原因之一，前面已经提到，华为、vivo、OPPO发布的自研大模型方案，都覆盖十亿、百亿、千亿多个参数量级，其中轻量化模型就是用于端侧部署，而大参数模型则是用于云端部署。
图源：网络
但大模型是公认的烧钱大户，无论是在端侧还是云端，其数据、算力、人工等方面的成本对于开发商来说都是一笔不菲的投入。
之前业内流传的说法是，一万枚英伟达A100芯片是做好AI大模型的算力门槛，而其单张成本就在10万元左右，这意味着搭建大模型算力集群的成本至少要数十亿元。在美国芯片禁令升级的当下，英伟达高算力芯片的价格还在蹭蹭上涨，而且有市无价。
此外，开发大模型的人工成本也很高。有行业人士表示，AI研发工程师的年薪基本都要7位数，一个千人研发团队一年至少也要20个亿。根据雷军在发布会上透露的数据，小米集团从事AI开发的研发团队已经超过了3000人。
vivo副总裁周围接受媒体采访时透露，自2017年组建AI全球研究院至今，vivo每年在人工智能上的投入保守估计在20亿-30亿元。他还表示，大模型是硬科技的赛道，研发投入和难度跟通信、芯片是同一个级别的。
重塑手机体验？
厂商不遗余力的投入，是因为大模型对于手机行业价值非凡。
在ChatGPT出现之前，手机行业的创新长期都集中在摄像、屏幕、通信、材料、芯片等领域，在全球手机市场疲软的当下，这种“挤牙膏式”的变化很难刺激消费者的购买欲望，用户的换机周期也在持续拉长。根据Counterpoint数据，2022年全球手机换机周期已经延长至43个月。
大模型的诞生，让行业看到了新的创新方向。大家普遍认为，AI能力将成为未来用户换机和选择手机品牌的重要考量因素，而大模型就是手机厂商在市场竞争中的重要筹码。
一个手机能不能跑大模型、能跑多大的大模型，和内存、算力等硬件配置息息相关。因此在初期发展阶段，大模型手机就成了手机品牌彰显硬核配置、打造高端形象的有力武器。
等到大模型成为行业标配，手机厂商的战场则会转移到大模型手机的体验上。从华米OV的答卷看，目前大模型和手机的结合方式，主要是围绕语音助手进行体验创新。
一方面，在大模型的赋能下，语音助手的语义识别、图像识别等能力都得到了强化，从而能够更加智能化的执行指令，提升用户的交互体验。
以语音助手的“语义搜索”功能为例，过去想要在手机上搜索文档或者图片，只能依靠分类AI的识别，通过某些场景关键词描述缩小搜索范围，例如风景、美食、人像等。而在有了大模型能力后，用户就可以通过自然语言描述图片、文档内容来完成搜索。
图源：网络
另一方面，有了大模型的加持，语音助手也将具备云端大模型App同款的“智能问答”、“AI写作”、“AI绘画”、“实时字幕”、“文档总结”等功能，化身提高工作和学习效率的生产力工具。
图源：网络
此外，在手机厂商的预期里，未来的大模型手机还将朝个性化方向发展，变成用户的专属私人助理。就如同现在被广泛应用的算法推荐，经过长时间的使用后，用户的数据也都会被用于端侧大模型的训练和迭代，进而让大模型手机像一个“老朋友”一样越来越懂用户。
到了那一天，由于不同品牌之间存在生态壁垒，用户更换手机所要付出的代价也将会更大，这样手机品牌也就能借助大模型来增强用户粘性，进一步巩固自己的护城河。
不过眼下大模型手机还在起步探索阶段，未来哪家厂商能够决胜千里，还要取决于模型、应用和产品的迭代创新。
本文来自微信公众号“亿欧新消费”（ID:EO-Consumer），作者：王鹏，编辑：顾彦，36氪经授权发布。
相关推荐
接入大模型，手机终于要长“脑子”了？
大模型接入手机助手，《Her》里面的场景离我们还远吗？
大模型不是手机厂商的杀手锏
中国首个接入大模型的 Linux 操作系统来了
读完李彦宏的33条语录，我终于把大模型搞明白了
阿里云正在实验将千问大模型接入工业机器人
国产旗舰手机的屏幕，终于要追上三星苹果了
李开复被大模型绊了一跤
端侧大模型，手机厂商的下一次入口级机会
钉钉：12 条产品线已接入大模型，可生成 PPT、思维导图等
网址: 接入大模型，手机终于要长“脑子”了？ http://m.xishuta.com/newsview100524.html
