手机厂开卷AI这一年端侧大模型越做越小？

原创科创板日报 2024-10-11 19:46

数字万用表多少钱合适？ 精密双向电流感应放大器设计方案

30亿参数端侧模型有望成为标配。在云端大模型方面，百亿以下的模型对手机厂商极为有价值。AI会催生出全新的硬件品类，vivo等手机厂商均有计划推出眼镜产品。

作者 | 黄心怡

从2023年下半年，AI大模型就开始席卷手机圈。vivo、OPPO、华为、荣耀等国内手机厂商都在生成式AI上发力。

经过一年多的发展，多名业内人士告诉《科创板日报》记者，相比去年，如今云端运行大模型的成本已经大幅度下降，大规模的端侧普及也对降本起到了更多作用，越来越多的功能可以在端侧进行。同时，端侧模型的尺寸越来越小，30亿参数端侧模型有望成为标配。而在云端大模型方面，百亿以下的模型对手机企业极其有价值。

此外，AI有望催生出全新的硬件品类，特别是智能眼镜备受瞩目。除了华为、荣耀、小米已入局外，《科创板日报》记者在采访中了解，vivo也在计划推出眼镜产品。

不过当前AI功能尚不成熟，现如今就AI会加速智能手机的更换周期或许为时过早。但从长期来看，未来10年将会是一场真正的革命。

▌百亿以下模型极其有价值

当前，AI已成为手机厂商新机的亮点。把大模型装进手机，尤其是在旗舰机型上，AI已经是必备要素。

今年9月，首次搭载AI功能的iPhone 16正式发布，采用30亿参数端侧模型、自研云端大模型，以及与OpenAI合作接入的外部GPT模型相结合的模式。

在刚刚结束的vivo开发者大会上，vivo也发布了30亿参数量级的蓝心端侧大模型3B，并升级了千亿级蓝心云端大模型，蓝心语音大模型、图像大模型以及蓝心多模态大模型首次亮相。

谈及对AI的投入，vivo AI全球研究院院长周围在接受《科创板日报》记者采访时表示，会重点瞄准两千亿以下的云端模型，以及把端侧模型做到领先，把百亿模型做到独具特色，千亿以上的大模型则会考虑和第三方厂商合作。

“我们把大模型分为三个类别，第一是百亿及以下，第二是两千亿以下，第三是两千亿以上的。从投资的角度来看，这分别是两千张卡、一万张卡、N万张卡的投资边界。像我们这样的公司，可能一年花30亿、组建一万张卡的训练集群是上限。”

周围认为，对于手机企业而言，百亿以下的模型极其有价值。“像图像识别、声音识别、审核模型、PhoneGPT等都是百亿模型。千亿模型是云端的中控模型，大概可以达到大学生的水平。千亿以上则适用于一些复杂的场景，像大领域的应用等等，我们不会碰这些。”

▌大模型落地手机的成本大幅下降

要把大模型装进手机，面临着算力、内存、存储容量以及电池密度等各方面的瓶颈，导致其大模型参数量最高在百亿规模。去年，vivo曾实现了130亿蓝心大模型的端侧跑通，但这也对手机内存有较大的占用。如何进一步把模型做小，已成为手机厂商的探索方向。此次vivo就发布了尺寸更小的30亿端侧大模型3B。

“去年我们发布了70亿、130亿的大模型，经过极致量化压缩之后，70亿大模型仍要占用户3.5GB的存储空间。所以当时并没有把模型强行内置到系统中，而是给用户提供了可下载和可卸载的选择。今年尺寸更小的3B端侧大模型，占用1.5G的内存。因此，这次我们会内置到接下来旗舰机型的OriginOS 5之中。”vivo AI系统中心高级总监熊官敬介绍。

值得一提的是，苹果首款AI手机也选择了端侧30亿参数大模型。

熊官敬表示，3B模型已可以满足很多场景下的需求。“在通话、录音、输入法各个地方都能用。从大模型榜单上来看，3B模型PK之前的6B和7B都没问题。”

在去年的采访中，周围曾透露云端运行大模型的成本非常高：“vivo有3亿中国大陆用户，如果每天用10次，一天的运算成本大概是3000万元，一年需要花费约90-100亿元。”

在此次采访中，周围直言，随着各家大模型厂商相继降价，云端大模型的成本已经大幅度下降。不过，对降本起到更多作用的是大规模的端侧普及。

“今年我们有十几个、数十个功能都端侧化了，以后可能闲聊、识别、决策、执行全部都端侧化了。所以我们不浪费钱，费的是电。”

▌AI必将催生新的智能品类

除了手机以外，AI在眼镜等新兴终端的落地备受关注。IDC数据显示，2024年一季度全球AR眼镜出货量为10万台，同比增长56%；智能眼镜出货量为26万台，同比增长217%；另据IDC数据，2024年上半年，国内AR、ER市场共出货12.2万台，同比增长79.2%。去年9月，Meta与雷朋合作推出的Ray-Ban Meta智能眼镜在当前已成为全球智能眼镜领域内的爆款单品，第三方数据显示，其销量已突破100万台。

周围认为，AI会催生出全新的硬件品类。未来，vivo也计划推出眼镜产品。

“vivo本来就在做眼镜。我们去年给国家无障碍环境展示馆给盲人做导览，用的是vivo手机，但后来发现放在眼镜上的体验更好。我们和合作伙伴也在谈做软件和系统的支撑，用的是蓝河操作系统。但至于今年还是2025年或者什么时候出来，还不知道。这要看产品的成熟度，而且我们也希望行业有成功案例之后，才会有商业上的动作。”

谈及大模型在AI眼镜的落地，IDC中国研究总监潘雪菲认为，就音频AI眼镜来看，目前端侧落地大模型还是有相当长的时间。“考虑到佩戴舒适度，音频眼镜在体积和人体工学设计上对芯片体积和空间设计要求较高，可能会有一些小型模型在端侧本地运行，比如几个播放暂停接打电话等简单语音包，可以落在本地。”

▌AI驱动的换机潮何时到来？

当前生成式AI技术尚未成熟，对于AI手机元年何时带来的换机潮，业内也有争论。

近期，受到iPhone 16系列预购销量下滑影响，美国知名投资银行杰富瑞的分析师艾迪森·李将苹果股票评级从“买入”下调至“持有”，理由是担心人们对其新款支持AI功能iPhone的预期过高。

艾迪森表示，智能手机硬件目前还不够先进，无法满足高科技人工智能分析师和iPhone 消费者所期望的水平。他认为，对iPhone 16甚至17的高期望并不现实。因为缺乏实质性的新功能，人工智能覆盖范围有限，这意味着高市场预期（5%-10%的销量增长）不太可能实现。

艾迪森在报告中写道，“智能手机与人工智能服务器不同，缺乏高速内存和先进的封装技术，从而限制了它们的人工智能能力。现在就期待AI会加速智能手机的更换周期还为时过早。”艾迪森称，像苹果这样的制造商还需要两到三年的时间才能开发出能够顺利运行AI软件的智能手机硬件。

IDC中国研究经理郭天翔对《科创板日报》记者表示，很多国家地区苹果的AI功能依然不能使用，这导致对消费者的吸引力有限。此外，AI智能手机的杀手级应用还没出现，消费者不会因为智能手机有了足够好的NPU（芯片）主动购买。

“大多数消费者并不真正知道他们使用AI可以做什么。今天的AI智能手机超级周期更多是由手机厂商推动。但这符合新技术进入市场的规律。AI智能手机的普及已经开始，就像功能手机过渡到智能手机一样，第一步往往是科技公司主动吸引消费者购买体验。”

郭天翔表示，如今智能手机渗透率已经很高，某些地区超过90%，但智能手机出货量仍旧有所增长。“每个人都会因为新功能购买下一代iPhone、三星、小米或者其他品牌设备。所以首批用户应该是传统智能手机消费者更换AI智能手机。目前依然处于开始阶段。并不知道未来5到10年AI智能手机会给我们带来什么。”

郭天翔认为，乐观来看，未来10年将会是一场真正的革命，大多数消费者将找到真正有用的杀手级应用。IDC预计，到2028年，全球超过70%的智能手机都将支持人工智能或者生成式AI。

周围也对长期发展保持乐观。对于何时AI才能带来翻天覆地的销量变化，周围认为要保持平常心对待。

“现在还有一些功能要有云端的支持，但端侧化的演进非常快。预计到2027年，整个端侧的算力，可能就会很好地支撑今天演示的那些自动执行的能力。所以，我认为到时会发生很大的变化。当然，可能也不用等到那个时候，随着后续新机的发布，估计明年就会有强烈的感知。”

推荐阅读

登录阅读全文



免责声明：该内容由专栏作者授权发布或作者转载，目的在于传递更多信息，并不代表本网赞同其观点，本站亦不保证或承诺内容真实性等。若内容或图片侵犯您的权益，请及时联系本站删除。侵权投诉联系： nick.zong@aspencore.com！

科创板日报国内首个专注科创板、创投及TMT等领域的新锐媒体，致力于打造领先、专业、权威的科创信息服务平台。

进入专栏

科创板日报国内首个专注科创板、创投及TMT等领域的新锐媒体，致力于打造领先、专业、权威的科创信息服务平台。

文章：5227篇粉丝：8人

 私信

手机厂开卷AI这一年端侧大模型越做越小？

最近文章

热门文章

推荐

最新资讯