퀄컴 맹박: 단말기가 수시로 생성식 AI를 운행할 수 있어야 광범위한 응용을 실현할 수 있다
真不是我干的的
发表于 2024-3-1 14:07:46
241
0
0
중국 용의 해 춘절 기간 동안 OpenAI는 비디오 생성 모델 Sora를 발표하여"세계 시뮬레이터"로 불리며 많은 관심과 토론을 불러 일으켰습니다.최근 몇 년 동안 문자 대화 로봇부터 문자 생성 이미지, 문자 생성 동영상 등에 이르기까지 각종 AI 모델이 속출하면서 생성식 AI가 강력한 발전 추세를 보이고 있다.맥킨지가 발표한 연구 데이터에 따르면 생성식 AI 기술은 60여 개의 용례를 매년 2조 6천억~4조 4천억 달러의 전체 경제 효익 성장을 실현할 수 있다.
그러나 현재 생성식 AI 대형 모델은 주로 클라우드에서 운행되고 있으며, 강력한 계산력이 뒷받침되어야 하기 때문에 보급 응용이 어렵다.멍박 퀄컴 중국지역 회장은 최근 열린 MWC2024 기간 인터뷰에서"우리가 더 많은 사람들이 AI 발전으로 인한 새로운 경험을 빠르고 편리하게 누리고 생성식 AI가 더 많은 사람들에게 혜택을 주기를 원한다면 AI 기술을 가장 사용자와 가까운 곳에 도입해야 한다"고 말했다.그러므로 우리가 손에 닿을수 있는 스마트폰, 이동PC와 인터넷련합자동차 등 단말기에서 언제 어디서나 생성식AI기능을 운행해야만 단말기와 클라우드가 긴밀히 융합되여 생성식AI의 광범한 응용을 추진할수 있다.
올해 MWC 대회에서 퀄컴은 새로운 퀄컴 AI 허브를 출시하여 개발자들에게 스냅드래곤과 퀄컴 플랫폼을 탑재한 단말기에 빈틈없이 배치할 수 있도록 전면적인 AI 사전 최적화 모델 라이브러리를 제공했다.현재 퀄컴 AI 허브는 개발자들에게 익숙한 Stable Diffusion, ControlNet, Baichuan-7B 등을 포함한 75개 이상의 주류 AI 및 생성식 AI 모델을 제공할 수 있으며, 이 모든 모델은 퀄컴 AI 엔진 내의 모든 코어 (NPU, CPU, GPU) 의 하드웨어 가속 능력을 충분히 활용하여 추론 속도를 4배 향상시키기 위해 최적화되었다.개발자는 이러한 모델을 신속하게 응용 프로그램에 원활하게 통합하여 제품 출시 시간을 단축하고 단말기 측 AI 배치의 많은 장점을 발휘할 수 있다. 예를 들면 즉시성, 신뢰성, 프라이버시, 개성화 및 비용 우위이다.
더 많은 개발자를 서비스하기 위해 퀄컴은 이미 이러한 최적화 모델을 퀄컴 AI Hub, 세계 최대 코드 호스팅 플랫폼인 GitHub 및 AI 오픈 소스 커뮤니티인 Hugging Face에 동시에 오픈했다.개발자가 등록해 로그인하면 퀄컴 플랫폼을 탑재한 클라우드 호스팅 단말기에서 스스로 모델을 실행할 수 있고, 퀄컴 AI 허브를 통해 새로운 특성과 AI 모델을 미리 얻을 수 있어 제품 개발과 업그레이드에 박차를 가해 사용자가 새로운 사용 경험을 얻을 수 있다.또한 퀄컴 AI Hub는 후속으로 새로운 모델을 지속적으로 추가할 것이며, 동시에 더 많은 플랫폼과 운영 체제를 지원하여 생성식 AI 응용 개발 생태를 끊임없이 풍부하게 하고, 각종 단말기에서 생성식 AI의 광범위한 응용을 가속화할 것이다.
앞서 퀄컴은 자사 최초로 생성형 AI를 위한 모바일 플랫폼인 3세대 스냅드래곤8을 출시해 스마트폰에서 100억 파라미터를 실행하는 AI 대형 모델을 지원했다.이와 함께 퀄컴은 AI PC를 대상으로 스냅드래곤 X 엘리트 플랫폼을 출시해 단말기 측면에서 130억 개 이상의 매개변수를 실행하는 생성식 AI 모델을 지원한다.현재 샤오미 14 시리즈, iQOO12 시리즈, 영광의 매직6 시리즈, 삼성 갤럭시 S24 시리즈, 오포 파인드 X7 울트라 등을 포함해 3세대 스냅드래곤 8을 탑재한 스마트폰이 10개 이상 출시됐고, 스냅드래곤 X 엘리트를 탑재한 더 많은 AI PC도 올해 말 출시된다.이 모든 것은 생성식 AI가 단말기에서 응용될 수 있도록 광범위한 하드웨어 기반을 제공하여 더 많은 소비자들이 언제 어디서나 생성식 AI가 가져오는 혁신적인 경험을 누릴 수 있도록 한다.
맹박은 한걸음 더 나아가 칩의 계산력이 제고되고 소프트웨어가 지속적으로 최적화되고 생성식AI 응용이 지속적으로 발전하는 과정에 AI 모델이 끊임없이 간소화됨에 따라 앞으로 12개월에서 18개월까지 생성식AI는 현재의 스냅드래곤 8시리즈 기함폰에서 스냅드래곤 7시리즈 심지어 스냅드래곤 6시리즈의 제품으로 광범위하게 확장될것이며 광범한 소비자들도 더욱 풍부한 각종 생성식AI 기능을 체험하게 될것이라고 지적했다.퀄컴은 앞으로도 차세대 PC, 스마트폰, 소프트웨어 정의 자동차, XR 기기, 사물인터넷 등 분야에서 단말기 측 AI의 규모화 상용화를 확장해 스마트 컴퓨팅이 어디에나 있을 수 있도록 계속 노력할 예정이다.
CandyLake.com is an information publishing platform and only provides information storage space services.
Disclaimer: The views expressed in this article are those of the author only, this article does not represent the position of CandyLake.com, and does not constitute advice, please treat with caution.
Disclaimer: The views expressed in this article are those of the author only, this article does not represent the position of CandyLake.com, and does not constitute advice, please treat with caution.
You may like
- 전 세계 주식 투자자들이 모두 열광하고 있다!TOP20 주식 시장의 과반수가 최고치를 경신하고 있다
- 바이두 하준걸: 지능체는 생산력이고 사람마다 슈퍼개체가 될수 있다
- 가약정은"FF는 영원히 리윤을 얻을수 없다."고 대답했다. 단장취의 심지어 요언을 날조하기도 했다.작년에 인도된 차량 10대 중 6대는 모두 임대?그는 이렇게 말했다
- 혼다 중국 1~5월 단말기 누적 판매량은 346940대로 전년 동기 대비 16.7% 감소했다
- 혼다 중국 상반기 단말기 자동차 판매량은 약 41만6000대로 전년 동기 대비 21.5% 감소했다
- 구글과 메타 모두 레이펑 안경의 모회사 지분을 인수할 의향이 있다는 소식이다
- 혼다 중국 전 7월 단말기 자동차 판매량 전년 동기 대비 24.4% 감소
- 통용 중국 감원, 생산능력 감축 소문에 응답: 중국 내 업무는 모두 양질의 자산이다
- 과학기술주의 난감함: AI 붐이 점차 가라앉으면 대다수 사람들이 나체로 수영을 하고 있는가?
- 혼다 중국 전 9개월 단말기 자동차 판매량 전년 동기 대비 29.3% 감소
-
11월 14일, 세계예선 아시아지역 제3단계 C조 제5라운드, 중국남자축구는 바레인남자축구와 원정경기를 가졌다.축구 국가대표팀은 바레인을 1-0으로 꺾고 예선 2연승을 거두었다. 특히 이번 경기 국내 유일한 중계 ...
- 我是来围观的逊
- 5 시간전
- Up
- Down
- Reply
- Favorite
-
계면신문기자 장우발 4분기의 영업수입이 하락한후 텐센트음악은 다시 성장으로 돌아왔다. 11월 12일, 텐센트음악은 최신 재보를 발표했다.2024년 9월 30일까지 이 회사의 3분기 총수입은 70억 2천만 위안으로 전년 ...
- 勇敢的树袋熊1
- 그저께 15:27
- Up
- Down
- Reply
- Favorite
-
본사소식 (기자 원전새): 11월 14일, 다다그룹 (나스닥코드: DADA) 은 2024년 3분기 실적보고를 발표했다. 수치가 보여준데 따르면 고품질발전전략에 지속적으로 전념하고 사용자체험을 끊임없이 최적화하며 공급을 ...
- 家养宠物繁殖
- 어제 15:21
- Up
- Down
- Reply
- Favorite
-
11월 12일 소식에 따르면 소식통에 따르면 아마존은 무료스트리밍서비스 Freevee를 페쇄하고 일부 종업원과 프로를 구독서비스 Prime Video로 이전할 계획이다. 올해 초 아마존이 내놓은 몇 편의 대형 드라마의 효 ...
- 度素告
- 그저께 13:58
- Up
- Down
- Reply
- Favorite