1月8日，OPPO发布植入70亿参数的端侧大模型智能手机新品。大模型终于不再仅仅以APP的形式出现在手机里，而是直接嵌入手机，这样的改变会给我们带来什么？

    其实，自2023年下半年起，人工智能的热潮已经从软件应用开始转向硬件领域，更多大模型手机、人工智能电脑呼之欲出。“随着技术创新的深入及产品的不断迭代，大模型正在重构当前的芯片、硬件、软件、云服务和应用体系，并有望重新定义数字时代的智能终端。”赛智产业研究院院长赵刚接受科普时报记者采访时表示。

    大模型终端异军突起

    大模型在智能终端的应用主要分为云侧应用和端侧植入。赵刚表示，云侧应用就是在现有的智能终端上安装大模型应用APP，端侧是直接将大模型部署在终端，不用联网本地就可调取应用。“目前，智能手机和笔记本电脑都进行端侧大模型相关的产业布局，手机领域的动作则更具看头。”

    智能手机由于受芯片和存储能力限制，很难支撑起端侧大模型的应用。直到谷歌宣布要在Pixel上内置端侧大模型之后，包括三星、华为、小米、OPPO、荣耀等主流手机厂商陆续被曝将在手机端支持大模型。OPPO的Find X7则首开先河，将70亿参数的大模型AndesGPT通过量化压缩及优化后装进了手机。“完全不同于云端的大模型APP应用，端侧大模型可以在保障用户隐私安全的前提下，带来响应更快、处理能力更强、生成质量更高的本地AI体验。”OPPO软件创新中心总经理张峻告诉记者。

    对于通用大模型，70亿的参数或许不值一提，但也正是由于这70亿参数大模型的加持，手机的AIGC（人工智能生成内容）能力迅速增强。张峻透露，Find X7在文本内容摘要场景下，200字的摘要首字生成仅需0.2秒；在通话语音转文字方面，通话结束后端侧大模型就能准确地理解对话内容并生成重点明确、细节不遗漏的摘要内容。

    在PC领域，大模型战略则略显低调。直到2023年的最后几天，英特尔基于全新的酷睿Ultra处理器和第五代至强可扩展处理器正式发布AI战略，并联合多家PC厂商正式拉开AIPC（人工智能个人电脑）时代的大幕。

    端云结合是技术主流

    不论是基于大模型手机还是AIPC,目前产业界传递出来的声音似乎都在强调端侧大模型更具应用优势。而实际情况是，即便是硬件强悍如拥有专用AI芯片的AIPC，英特尔也只能给出130亿参数的端侧大模型解决方案，略强于智能手机的端侧方案，但相较于动辄数千亿级参数的通用大模型，也就显得不太够看了。

    赵刚认为，云侧和端侧大模型各具优劣。“云端大模型参数级别高，不会增加移动端的硬件成本，但数据和隐私有泄露的风险；端侧大模型则是低参数的轻量级大模型，对终端的芯片、存储、操作系统等都有新要求，但可以离线使用，对用户的个人数据安全保障能力更强。”

    OPPO成功将大模型装进到手机端，但并没有将其能力限制在端侧。张峻认为，在移动终端，大模型应用需要大量的计算资源和存储空间，同时还需要进行高效的分布式训练和数据处理，而这些需求只有通过云端结合的方式才能得到满足。

    行业人士也普遍认为，以目前硬件技术的迭代水平，云端结合才是大模型终端主流的技术路线。