高通孟樸:当终端随时都能运行生成式AI,才会实现广泛应用
我爱霍启刚掖
发表于 2024-3-1 14:07:39
196
0
0
不过,目前生成式AI大模型主要运行在云端,需要强大的算力提供支撑,难以普及应用。高通中国区董事长孟樸在最近举办的MWC2024期间接受采访时表示,如果我们希望让更多人快捷、便利地享受到AI发展带来的新体验,让生成式AI惠及更多人,这就需要将AI技术引入最贴近用户的地方。因此,只有在我们触手可及的智能手机、移动PC和网联汽车等终端设备中,实现随时随地运行生成式AI功能,才能使终端与云端紧密融合,从而推动生成式AI的广泛应用。
在今年的MWC大会上,高通推出了全新的高通AI Hub,为开发者提供一个全面的AI预优化模型库,支持在搭载骁龙和高通平台的终端上进行无缝部署。目前,高通AI Hub能够为开发者提供超过75个主流的AI和生成式AI模型,包括大家比较熟悉的Stable Diffusion、ControlNet、Baichuan-7B等等,所有这些模型均经过优化,以充分利用高通AI引擎内所有核心(NPU、CPU和GPU)的硬件加速能力,从而使推理速度提升4倍。开发者可以快速将这些模型无缝集成到应用程序之中,缩短产品上市时间,发挥终端侧AI部署的诸多优势,比如即时性、可靠性、隐私、个性化和成本优势。
为了服务更多的开发者,高通已经将这些优化模型同步上线到高通AI Hub、全球最大的代码托管平台GitHub以及AI开源社区Hugging Face。开发者注册登陆后,就可以在搭载高通平台的云托管终端上自行运行模型,还可以通过高通AI Hub提前获取新特性和AI模型,从而加快产品开发和升级的步伐,让用户获得全新的使用体验。此外,高通AI Hub后续还将持续增加新模型,同时还将支持更多平台和操作系统,不断丰富生成式AI应用开发生态,加速推动生成式AI在各类终端上的广泛应用。
此前,高通已经推出了公司首个专为生成式AI打造的移动平台——第三代骁龙8,支持在智能手机上运行100亿参数的AI大模型。同时,高通还专门面向AI PC推出了骁龙X Elite平台,支持在终端侧运行超过130亿参数的生成式AI模型。目前,包括小米14系列、iQOO12系列、荣耀Magic6系列、三星Galaxy S24系列、OPPO Find X7 Ultra等在内,已经有超过10款搭载第三代骁龙8的智能手机上市,而搭载骁龙X Elite的更多AI PC也将于今年晚些时候上市。所有这些,为生成式AI在终端上的应用提供了广泛的硬件基础,让更多消费者都能随时随地享受到生成式AI带来的创新体验。
孟樸进一步指出,随着芯片算力的提升和软件的持续优化,以及在生成式AI应用持续发展的过程中AI模型不断精简,未来12个月到18个月,生成式AI将从目前的骁龙8系列旗舰手机广泛扩展到骁龙7系列甚至骁龙6系列的产品上,而广大消费者也将体验到更加丰富的各种生成式AI功能。展望未来,高通也将继续致力于拓展终端侧AI在下一代PC、智能手机、软件定义汽车、XR设备和物联网等领域规模化商用,让智能计算无处不在。
CandyLake.com is an information publishing platform and only provides information storage space services.
Disclaimer: The views expressed in this article are those of the author only, this article does not represent the position of CandyLake.com, and does not constitute advice, please treat with caution.
Disclaimer: The views expressed in this article are those of the author only, this article does not represent the position of CandyLake.com, and does not constitute advice, please treat with caution.
-
11월 14일, 세계예선 아시아지역 제3단계 C조 제5라운드, 중국남자축구는 바레인남자축구와 원정경기를 가졌다.축구 국가대표팀은 바레인을 1-0으로 꺾고 예선 2연승을 거두었다. 특히 이번 경기 국내 유일한 중계 ...
- 我是来围观的逊
- 4 시간전
- Up
- Down
- Reply
- Favorite
-
계면신문기자 장우발 4분기의 영업수입이 하락한후 텐센트음악은 다시 성장으로 돌아왔다. 11월 12일, 텐센트음악은 최신 재보를 발표했다.2024년 9월 30일까지 이 회사의 3분기 총수입은 70억 2천만 위안으로 전년 ...
- 勇敢的树袋熊1
- 그저께 15:27
- Up
- Down
- Reply
- Favorite
-
본사소식 (기자 원전새): 11월 14일, 다다그룹 (나스닥코드: DADA) 은 2024년 3분기 실적보고를 발표했다. 수치가 보여준데 따르면 고품질발전전략에 지속적으로 전념하고 사용자체험을 끊임없이 최적화하며 공급을 ...
- 家养宠物繁殖
- 어제 15:21
- Up
- Down
- Reply
- Favorite
-
11월 12일 소식에 따르면 소식통에 따르면 아마존은 무료스트리밍서비스 Freevee를 페쇄하고 일부 종업원과 프로를 구독서비스 Prime Video로 이전할 계획이다. 올해 초 아마존이 내놓은 몇 편의 대형 드라마의 효 ...
- 度素告
- 그저께 13:58
- Up
- Down
- Reply
- Favorite