支持端侧AI大模型已成新趋势，将推动智能手机內存容量突破20GB
11月16日消息，根据外媒wccftech报导，预计2024年将会流行的一件事就是终端AI的使用，该功能目前已内置于2024年发表的多款芯片组中，包括高通Snapdragon 8 Gen 3、联发科天玑9300和三星Exynos 2400。
一份新报告提出，支持终端侧AI大模型功能的智能手机将需要比以前更大容量的內存。因此，内置端侧AI大模型功能的Android智能手机其內存容量至少需要20GB 将成为趋势。
报告称，虽然8GB内存仍然是当前Android智能手机市场的主流。然而，市场上很多旗舰智能手机也已经达到了比现阶段多数笔记本电脑或台式机具有更多的內存容量。接下来，为了让设备上的AI更好的生产图像，Android手机将需要至少1GB的内存。原因是为具有设备上人工智能助理，以及其他功能的设备将需要超过20GB的内存才能确保更流畅的操作。
在此前天玑9300的预沟通会上，联发科无线通信事业部AI技术高级经理庄世荣就曾向芯智讯解释称，一款130亿参数的AI大模型，大概需要13GB 内存 (INT8)才能运行，而智能手机本身运行安卓操作系统通常就要占用4GB的内存，如果还要相对流畅的运行其他常规APP任务并保活，还需要6GB的内存，即总的手机内存容量需求将达到23GB。
但是目前主流的千元智能手机内存容量大多数都是在8GB/12GB左右，大多数旗舰智能手机的内存容量也才到16GB，仅有极少数旗舰手机内存容量达到了24GB。所以，要想在智能手机端运行130亿参数的AI大模型将会面临着内存限制的问题。
即便采用先进的内存压缩技术，要流程的运行130亿参数的AI大模型，智能手机也需要至少16GB的内存容量，如要要运行更大规模的330亿参数的AI大模型，内存容量就需要进一步提升到20GB以上。
报导强调，过去市场上就已经有内存超过20GB的手机。比如，中国手机品牌一加先前也发布了一款24GB大容量內存的手机，但当时设备上的AI并不是焦点。然而，根据这份报告，如果期望人工智能功能能够按预期工作，那么2024年的智慧型手机可能会配备更高的内存容量。不过，现阶段不能确定是否所有Android手机厂商都会效仿。
报道进一步强调，这里需要注意的另一件事是，考虑到各个Android手机厂商对AI的投资，2024年发表的设备将重点放在AI上已成为显而易见的事情。
编辑：芯智讯-浪客剑
发布于：广东
相关推荐
荣耀CEO赵明：探索把大模型引入端侧，打造专属的个人AI
荣耀Magic6搭载端侧AI大模型：数据锁本地 不上云端
高通：开启生成式AI新时代 将100亿参数大模型塞进手机
登陆云边端，AI芯片产业打响全线战争
工信部：着力推动大模型算法、框架等基础性原创性技术突破
大摩：2024年AI晶圆收入将达30亿美元，HBM消耗6亿GB！
进博会对话｜专访高通孟樸：发挥终端侧算力优势，拓展生成式AI发展空间
AI大模型遇上智能手表，真的能“救命”吗
AI大模型“太贵”，VC投钱望而生畏
侯明娟：骁龙新技术+生成式AI创新赋能顶级移动
网址: 支持端侧AI大模型已成新趋势，将推动智能手机內存容量突破20GB http://m.xishuta.com/newsview98092.html
