苹果AI亮相后,AI端侧的大规模落地还有多远?
稀土掘金
发表于 2024-9-23 05:41:23
152
0
0
在2024年苹果秋季新品发布会上,AI成为最大的亮点之一。
此前公布过的AI功能在iPhone 16上得到实现,它能够在邮件、备忘录和Pages文稿等应用中帮助用户优化文本内容,还支持通过自然语言描述生成个性化的表情符号和图像,以及通过简单的描述自动创作视频内容。
此外,Siri也得到了显著增强,能够更自然地理解用户的指令,提供个性化的服务,并能在应用程序内和跨应用程序执行数百种新操作。AI Agent的属性更加清晰。
业内对苹果的AI关注度如此之高,不仅因为其可能触发新一轮的iPhone换机热潮,也因为苹果的Apple Intelligence代表了AI在移动终端领域的发展,市场参与者正密切关注AI技术在移动设备上的实际应用效果。
端侧为AI提供了一个入口,这是AI技术普惠的基础。
日前,在2024沙利文新投资大会的AI重构数字经济分论坛上,INMO联合创始人吕一飞在圆桌论坛上表示,产品如AR眼镜,结合生成式AI,提供了一个直观的交互平台,利用其贴近视觉和解放双手的特性,成为获取AI内容的有效工具。
不过,用端侧完全承载大模型仍然难以实现,主要受限于处理能力、内存和电池续航等硬件瓶颈,但多种技术正在开发中,落地过程会循序渐进。
“端侧落地,会从些小的场景、大模型能做到的场景开始,采取端云协同的方式,有些内容会在端侧处理,大部分内容还是要回到云端处理。”IDC中国研究总监卢言霞向21世纪经济报道记者表示。
一场全球竞赛
事实上,各终端厂商在AI上的部署并不比苹果慢。
手机厂商基本都在all in AI。Canalys报告显示,2024年全球16%的智能手机出货为AI手机,到2028年,这一比例将激增至54%。
就在苹果发布会的几天前,荣耀在德国柏林消费电子展(IFA)上发布了行业首个跨应用开放生态智能体(AI Agent),同时宣布荣耀Magic 7系列将首发搭载荣耀AI Agent。
其具备四大核心能力:自然语义理解和计算机视觉、用户行为习惯学习和场景环境感知、意图识别及决策能力、应用内及跨应用操作。
这与苹果的Apple Iintelligence是相似的,即深入到手机操作系统的底层架构中,实现系统级的AI重构。这些能力使得AI Agent能够深度理解用户需求,主动提供服务,从而简化用户操作流程,提升使用效率。
在此之前,也有一些厂商推出了融合AI应用的终端产品。例如,三星Galaxy S24系列手机通过采用生成式人工智能技术,实现了AI通话翻译、智能抠图等创新功能;华为Pura 70系列旗舰手机则在AI摄影方面进行了创新,接入盘古大模型支持一键消除等功能;OPPO Find X7系列则搭载AndesGPT大模型,以AI通话、图像消除、全新AI助手为主要卖点。
业内普遍认为,AI手机的兴起被视为继功能机、智能机之后手机行业的第三阶段。这一趋势不仅推动了手机行业的创新,也可能导致行业的大洗牌。
PC是另一个AI落地的热门终端,在硬件方面,AIPC的功能扩展至计算、存储、传感等方面,形成了CPU-GPU-NPU的异构方案。在软件方面,AIPC整合了轻量化AI模型,实现了各种生成式AI应用的离线稳态运行。
各大PC制造商如联想、惠普、宏碁等都在积极探索和开发AI PC产品。以联想为例,在年初的CES 2024上,联想集团展示了10余款AI PC产品;在IFA 2024期间,联想集团展示了其在人工智能领域的最新成果,推出了一系列革命性AI PC设备,涵盖ThinkPad、ThinkBook、Yoga和IdeaPad等多个产品线。
根据高盛研报,联想集团将在AI PC驱动下,实现PC产品的平均销售价格增长,带动其PC业务将在2024财年和2025财年分别同比增长27%和22%,而AI PC将贡献2024财年和2025财年收入的21%和33%。
AI PC的市场还在扩大。Canalys表示,随着目前各大处理器供应商的AI PC规划逐步推进,预计2024年下半年及未来,AI PC供应量和用户采用率将显著提升,2024年出货量将达到4400万台,2025年有望达到1.03亿台。
值得注意的是,AI技术的落地应用已经远远超出了传统的手机和PC领域,其触角已延伸至多种终端设备,其中包括眼镜、耳机、智能家居设备、智能汽车等多种形态,形成了丰富的AI终端生态系统,他们为生成式AI提供了一个入口。
而应用在端侧也是AI技术更加垂直化发展的表现,业内普遍认为,垂直是AI未来的趋势,需要企业深入特定领域,在细分场景中应用,解决具体问题,从而推动AI技术的落地和行业的发展。
主流趋势:端云结合
端侧AI之所以受到广泛关注并实现了快速发展,主要基于以下几个原因:
其一,成本效益。尽管各家厂商大模型推理成本大规模下降,但长期来看,端云结合被认为是控制推理成本的有效途径。
随着手机等设备使用更强大的芯片,端侧AI的推理能力得到了显著增强。这使得在本地设备上完成复杂的AI任务成为可能,减少了对云端资源的依赖。
“如果所有的手机端能操作的任务都交给云端去操作,其实它成本是上升的。”在2024沙利文新投资大会上,商汤科技战略研究主任刘亮向21世纪经济报道记者表示,通过将大规模的计算任务交给云端处理,而将小规模、对实时性要求不高的任务交给端侧处理,可以优化资源分配,实现成本效益的最大化。
其二,数据的及时性。在智能汽车等实时性要求极高的应用场景中,数据传输速度成为了关键因素。对车外环境的实时感知和快速响应需要立即执行,不能有过多的延迟。最典型的例子,在自动驾驶里,大模型的部署必须是发生在端侧。
其三,数据安全与隐私保护。端侧AI模型由于在本地设备上运行,相对而言安全性更高。刘亮向记者表示,用户的数据不需要离开个人设备,从而降低了数据泄露的风险,并更容易建立安全机制,增强用户对设备的信任。
这也是AI手机、AI PC产品中频繁强调的一个特点。例如,在苹果最新发布会上,苹果强调使用Apple Intelligence时,用户的数据绝不会被储存、分享给苹果,只会被用来执行请求。这项隐私安全保障可被独立专家持续验证,是AI隐私的一大进步。
其四,手机、PC等终端厂商的推动。国内外主要手机厂商,如小米、苹果等,都在积极部署端侧AI技术。作为产品创新的亮点,有望推动用户更新换代手机的动力。
“许多手机制造商都在原有手机基础上进行改进,包括调整手机的整体架构,并在其中构建AI应用生态系统。这一过程可能需要一些时间,但制造商们相信这将为用户带来更好的体验,并激发新的换机需求。”日前,天风全球前瞻产业研究院联席院长孔蓉在接受21世纪经济报道记者采访时表示。
不过,以业内期待已久的Apple Intelligence的表现来看,其功能在差异化和颠覆性上都还有所欠缺,由AI带来的销量增长不会马上到来。
“许多人愿意为AI技术买单,但这也取决于AI技术的实际表现。如果AI表现得足够聪明,能够理解用户需求,用户就会愿意为其支付合理的价格。反之,如果AI表现不佳,用户可能就不会使用它。目前AI可能还处于成长阶段,尚未完全成熟。”孔蓉向记者表示。
落地,循序渐进中
尽管市面上已经涌现出了部分AI终端产品,但基本还是连接云端大模型,或端侧小模型和云端大模型相结合,大模型真正落到终端还在面临各类的硬件限制。
未来智能COO王超向21世纪经济报道记者表示,为了在端侧运行大型AI模型,如100亿参数的模型,需要相当高的算力,大约50Tops,以及至少13GB的内存。然而,目前许多手机和PC的硬件配置尚未达到这一标准,这限制了大型模型在这些设备上的应用。
同时,运行大型AI模型时,设备会消耗大量电能,导致电池续航时间大幅缩短。对于便携设备如手机和PC,这尤其成问题,因为它们的电池设计需要考虑便携性和重量,无法无限扩大电池容量。
“假设我一直端侧运行大模型,可能一个小时就没电了,无法打电话或者工作。”王超向记者表示,这些最终会严重影响到用户体验。
端云结合虽然可以克服掉部分的硬件限制,但对模型侧也提出高要求,即端侧的模型需要与云端模型保持一致性。这意味着,端侧模型需要在特定任务中至少达到与云端模型相同的性能水平,确保用户无论在云端还是端侧都能获得一致的体验。
通常,云端大模型需要具备广泛的通用能力,端侧模型专注于特定的功能,会部署一组专门化的小型模型,每个模型都针对特定的任务进行优化,以实现最佳性能。
随着技术的进步,端侧模型的性能正在不断提高,小参数的语言模型在多个评测指标上已经能够与更大参数的模型相媲美。
这种性能提升的原因是多方面的。大模型行业业内人士向记者表示,一方面,数据清洗和处理流程的改进提高了训练数据的质量;另一方面,云端大模型的强大能力可以帮助生成高质量的特定领域数据,这些数据可以用来更有效地训练端侧的小模型。
当然,作为一个产品,最终还需要看市场的接受程度,差异化和体验感是其中关键。
王超认为,目前来看,大多数产品仍然是品牌宣传的噱头,缺乏令消费者购买的冲动。“一些基本应用的用户粘性不高,直接下载大模型App也能满足这样的需求。”
业内分析认为,当前全球宏观经济状况不佳,若缺乏促销活动和显著的价格优惠,AI手机或AI PC市场的增长仍将面临重大挑战。
不过,刘亮提出了汽车作为AI终端的独特之处。他认为,汽车是算力最强大的个人用品,远超PC和手机。同时,汽车也是电力供应最充足的个人用品,尽管也存在所谓的电量焦虑问题,但与手机或电脑相比要好一些。
而消费者在汽车领域的消费意愿也通常更为强烈。“用户可能不会因为某款手机增加了AI而愿意额外支付一千元,但在汽车上为了某些AI功能多支付五六千元,这对许多用户来说是可以接受的。”刘亮向记者表示。
CandyLake.com is an information publishing platform and only provides information storage space services.
Disclaimer: The views expressed in this article are those of the author only, this article does not represent the position of CandyLake.com, and does not constitute advice, please treat with caution.
Disclaimer: The views expressed in this article are those of the author only, this article does not represent the position of CandyLake.com, and does not constitute advice, please treat with caution.
-
11월 14일, 세계예선 아시아지역 제3단계 C조 제5라운드, 중국남자축구는 바레인남자축구와 원정경기를 가졌다.축구 국가대표팀은 바레인을 1-0으로 꺾고 예선 2연승을 거두었다. 특히 이번 경기 국내 유일한 중계 ...
- 我是来围观的逊
- 어제 15:05
- Up
- Down
- Reply
- Favorite
-
계면신문기자 장우발 4분기의 영업수입이 하락한후 텐센트음악은 다시 성장으로 돌아왔다. 11월 12일, 텐센트음악은 최신 재보를 발표했다.2024년 9월 30일까지 이 회사의 3분기 총수입은 70억 2천만 위안으로 전년 ...
- 勇敢的树袋熊1
- 3 일전
- Up
- Down
- Reply
- Favorite
-
본사소식 (기자 원전새): 11월 14일, 다다그룹 (나스닥코드: DADA) 은 2024년 3분기 실적보고를 발표했다. 수치가 보여준데 따르면 고품질발전전략에 지속적으로 전념하고 사용자체험을 끊임없이 최적화하며 공급을 ...
- 家养宠物繁殖
- 그저께 15:21
- Up
- Down
- Reply
- Favorite
-
11월 12일 소식에 따르면 소식통에 따르면 아마존은 무료스트리밍서비스 Freevee를 페쇄하고 일부 종업원과 프로를 구독서비스 Prime Video로 이전할 계획이다. 올해 초 아마존이 내놓은 몇 편의 대형 드라마의 효 ...
- 度素告
- 3 일전
- Up
- Down
- Reply
- Favorite