퀄컴 맹박: 단말기가 수시로 생성식 AI를 운행할 수 있어야 광범위한 응용을 실현할 수 있다

真不是我干的的

중국 용의 해 춘절 기간 동안 OpenAI는 비디오 생성 모델 Sora를 발표하여"세계 시뮬레이터"로 불리며 많은 관심과 토론을 불러 일으켰습니다.최근 몇 년 동안 문자 대화 로봇부터 문자 생성 이미지, 문자 생성 동영상 등에 이르기까지 각종 AI 모델이 속출하면서 생성식 AI가 강력한 발전 추세를 보이고 있다.맥킨지가 발표한 연구 데이터에 따르면 생성식 AI 기술은 60여 개의 용례를 매년 2조 6천억~4조 4천억 달러의 전체 경제 효익 성장을 실현할 수 있다.
그러나 현재 생성식 AI 대형 모델은 주로 클라우드에서 운행되고 있으며, 강력한 계산력이 뒷받침되어야 하기 때문에 보급 응용이 어렵다.멍박 퀄컴 중국지역 회장은 최근 열린 MWC2024 기간 인터뷰에서"우리가 더 많은 사람들이 AI 발전으로 인한 새로운 경험을 빠르고 편리하게 누리고 생성식 AI가 더 많은 사람들에게 혜택을 주기를 원한다면 AI 기술을 가장 사용자와 가까운 곳에 도입해야 한다"고 말했다.그러므로 우리가 손에 닿을수 있는 스마트폰, 이동PC와 인터넷련합자동차 등 단말기에서 언제 어디서나 생성식AI기능을 운행해야만 단말기와 클라우드가 긴밀히 융합되여 생성식AI의 광범한 응용을 추진할수 있다.
올해 MWC 대회에서 퀄컴은 새로운 퀄컴 AI 허브를 출시하여 개발자들에게 스냅드래곤과 퀄컴 플랫폼을 탑재한 단말기에 빈틈없이 배치할 수 있도록 전면적인 AI 사전 최적화 모델 라이브러리를 제공했다.현재 퀄컴 AI 허브는 개발자들에게 익숙한 Stable Diffusion, ControlNet, Baichuan-7B 등을 포함한 75개 이상의 주류 AI 및 생성식 AI 모델을 제공할 수 있으며, 이 모든 모델은 퀄컴 AI 엔진 내의 모든 코어 (NPU, CPU, GPU) 의 하드웨어 가속 능력을 충분히 활용하여 추론 속도를 4배 향상시키기 위해 최적화되었다.개발자는 이러한 모델을 신속하게 응용 프로그램에 원활하게 통합하여 제품 출시 시간을 단축하고 단말기 측 AI 배치의 많은 장점을 발휘할 수 있다. 예를 들면 즉시성, 신뢰성, 프라이버시, 개성화 및 비용 우위이다.
더 많은 개발자를 서비스하기 위해 퀄컴은 이미 이러한 최적화 모델을 퀄컴 AI Hub, 세계 최대 코드 호스팅 플랫폼인 GitHub 및 AI 오픈 소스 커뮤니티인 Hugging Face에 동시에 오픈했다.개발자가 등록해 로그인하면 퀄컴 플랫폼을 탑재한 클라우드 호스팅 단말기에서 스스로 모델을 실행할 수 있고, 퀄컴 AI 허브를 통해 새로운 특성과 AI 모델을 미리 얻을 수 있어 제품 개발과 업그레이드에 박차를 가해 사용자가 새로운 사용 경험을 얻을 수 있다.또한 퀄컴 AI Hub는 후속으로 새로운 모델을 지속적으로 추가할 것이며, 동시에 더 많은 플랫폼과 운영 체제를 지원하여 생성식 AI 응용 개발 생태를 끊임없이 풍부하게 하고, 각종 단말기에서 생성식 AI의 광범위한 응용을 가속화할 것이다.
앞서 퀄컴은 자사 최초로 생성형 AI를 위한 모바일 플랫폼인 3세대 스냅드래곤8을 출시해 스마트폰에서 100억 파라미터를 실행하는 AI 대형 모델을 지원했다.이와 함께 퀄컴은 AI PC를 대상으로 스냅드래곤 X 엘리트 플랫폼을 출시해 단말기 측면에서 130억 개 이상의 매개변수를 실행하는 생성식 AI 모델을 지원한다.현재 샤오미 14 시리즈, iQOO12 시리즈, 영광의 매직6 시리즈, 삼성 갤럭시 S24 시리즈, 오포 파인드 X7 울트라 등을 포함해 3세대 스냅드래곤 8을 탑재한 스마트폰이 10개 이상 출시됐고, 스냅드래곤 X 엘리트를 탑재한 더 많은 AI PC도 올해 말 출시된다.이 모든 것은 생성식 AI가 단말기에서 응용될 수 있도록 광범위한 하드웨어 기반을 제공하여 더 많은 소비자들이 언제 어디서나 생성식 AI가 가져오는 혁신적인 경험을 누릴 수 있도록 한다.
맹박은 한걸음 더 나아가 칩의 계산력이 제고되고 소프트웨어가 지속적으로 최적화되고 생성식AI 응용이 지속적으로 발전하는 과정에 AI 모델이 끊임없이 간소화됨에 따라 앞으로 12개월에서 18개월까지 생성식AI는 현재의 스냅드래곤 8시리즈 기함폰에서 스냅드래곤 7시리즈 심지어 스냅드래곤 6시리즈의 제품으로 광범위하게 확장될것이며 광범한 소비자들도 더욱 풍부한 각종 생성식AI 기능을 체험하게 될것이라고 지적했다.퀄컴은 앞으로도 차세대 PC, 스마트폰, 소프트웨어 정의 자동차, XR 기기, 사물인터넷 등 분야에서 단말기 측 AI의 규모화 상용화를 확장해 스마트 컴퓨팅이 어디에나 있을 수 있도록 계속 노력할 예정이다.