高通和聯(lián)發(fā)科在MWC 2024上爭奇斗彩,AI端側(cè)落地已做好準備
關鍵詞: 高通 聯(lián)發(fā)科 人工智能
高通(Qualcomm)繼去年推出Snapdragon X Elite PC處理器,以AI實力直接挑戰(zhàn)蘋果與英特爾同級產(chǎn)品后,在MWC 2024更一口氣推出75個可供開發(fā)商快速導入的AI模型庫,涵蓋PC、智能手機、軟件定義汽車、物聯(lián)網(wǎng)等領域,高通加速實現(xiàn)AI商業(yè)化,將挹注包括英業(yè)達、緯創(chuàng)、聯(lián)陽、奇景、瑞昱、友達、新唐等生態(tài)系臺廠開發(fā)加速前進。
AI時代來臨,發(fā)展遠出乎市場預期,除超大型數(shù)據(jù)中心不斷加速建置外,芯片巨頭已將眼光轉(zhuǎn)向邊緣運算商機,過往以手機芯片為翹楚的高通,看準全世界終端應用產(chǎn)品導入AI需求暴增,直接提供75個AI模型資料庫,幫助業(yè)者快速將圖像生成、圖像辨識、文件摘要等AI功能,增添至安卓應用程式中,試圖以軟件更緊密包裹生態(tài)系伙伴。
MWC上,高通發(fā)布AI最佳化WiFi7系統(tǒng)-FastConnect 7900及5G數(shù)據(jù)機射頻系統(tǒng)--Snapdragon X80,兩者皆充分發(fā)揮整合AI優(yōu)勢。前者于單一芯片上整合Wi-Fi、藍牙和超寬頻技術,提供高效能、低延遲和低功耗連接;5G射頻保持高通在數(shù)據(jù)機領域的領先優(yōu)勢,推動5G Advanced應用于更多領域。
高通強調(diào),云端AI需要快速、可靠的上傳以處理多媒體資料,獨家高頻段同步Wi-Fi技術,可降低延遲,進一步提升使用者體驗。國內(nèi)產(chǎn)業(yè)人士則估計,今年Wifi 7滲透率雖然相對有限,但將與前幾代增長軌跡相符,因此,各界皆爭相搶進包括PC、手機等迭代商機,爭取AI時代高速連線霸主。
MWC各家業(yè)者精銳盡出,主軸皆環(huán)繞AI進行,人工智能焦點逐漸自云端推論、運算轉(zhuǎn)變?yōu)槿藱C互動應用,其中邊緣設備為關鍵要角;高通從硬體設備出發(fā),往軟件生態(tài)系構(gòu)建,以突破性創(chuàng)新徹底革新AI與連接領域的未來。
另,AI PIN也使用Snapdragon 平臺運行,將AI以對話式、無螢幕的全新型態(tài),雖然臺廠供應鏈指出,并未能完全取代手機功能,不過也增添AI使用場景的更多想像。
聯(lián)發(fā)科也不甘示弱
天璣9300作為首款在移動平臺上采用全大核設計的芯片方案,自發(fā)布以來就出現(xiàn)在不同品牌的高端旗艦機型上,天璣9300芯片成為了聯(lián)發(fā)科登頂之作。此次MWC上,聯(lián)發(fā)科為我們展示了天璣9300更為強大的落地應用場景。
不可否認的是,除CPU和GPU的性能足夠強悍外, 天璣9300在AI方面也是下足了功夫。其中,最引人注目的是天璣9300和8300芯片已經(jīng)優(yōu)化支持谷歌的Gemini Nano1,這是谷歌為智能手機設計的大型語言模型(LLM),可以在設備上實現(xiàn)生成型AI的功能。生成型AI可以讓用戶通過語音或文本輸入,生成各種有用或有趣的內(nèi)容,比如摘要、詩歌、歌詞、笑話等。這些功能不需要云端計算,而是直接在手機上運行,從而提高了性能、隱私、安全和可靠性,降低了延遲和運營成本。
MWC聯(lián)發(fā)科展臺上展示了端側(cè)生成式 AI 技能擴充技術,它可以基于基礎大模型持續(xù)在端側(cè)進行LoRA(LoRA,Low-Rank Adaptation)Fusion,進而賦予基礎大模型更加全面的能力。如在日常生活中通過此項技術智能設備能夠?qū)崟r將攝像頭錄制的人像,用戶使用智能設備錄制的人物影像能夠被實時處理,生成不同動畫風格的視頻,或者生成一個AI 虛擬形象。
端側(cè)AI變革將至
端側(cè)AI是AI發(fā)展的下一階段,其具備獨立性、低時延等性能,能夠完成各種AI推理任務,大模型小型化、端側(cè)AI框架開源等為終端硬件承載AI算法提供了可能。此外,端側(cè)AI芯片性能提升,存儲、模組等升級打通了終端硬件運行AI算法的道路。
AI PC、AI Phone作為端側(cè)AI的核心持續(xù)向前發(fā)展,英特爾、高通、聯(lián)想等國內(nèi)外廠商發(fā)布相關產(chǎn)品、戰(zhàn)略規(guī)劃,打造智能終端的同時也完善相關產(chǎn)業(yè)生態(tài),我們看好端側(cè)AI產(chǎn)業(yè)進展。
端側(cè)AI具備安全性、獨立性、低時延、高可靠性等特點,能很好地完成各種AI推理任務。多個大模型均已推出“小型化”和“場景化”版本,其輕量化提供了端側(cè)運行基礎。對于數(shù)據(jù)精度例如INT4、INT8的支持優(yōu)化、ExecuTorch等AI框架的開源,為端側(cè)AI進展鋪平道路。
AI Phone和AI PC將開啟新時代。高通展示了其手機端離線運行大模型,微軟開發(fā)者大會高通展示其PC運行AI大模型,英特爾、聯(lián)想等發(fā)布AI PC加速計劃、發(fā)布首款AI PC等,國內(nèi)外廠商持續(xù)發(fā)力AI Phone和AI PC,端側(cè)AI將走入新的時代。
AI PC不同于傳統(tǒng)PC的主要之處在于其SoC芯片中要有AI模塊,通過AI芯片中的NPU等模塊為硬件終端提供算力支撐,從而運行端側(cè)AI大模型。生態(tài)上,Windows也開始全力支持ARM體系,自去年開始了多輪支持Arm架構(gòu)芯片的操作系統(tǒng)更新,高通大概率會在PC市場上拿到部分份額。DRAM、計算模組等有望迎來新的升級與市場機遇。
通過將大模型賦能終端硬件,AI應用浪潮將有望開啟。我們看好端側(cè)AI產(chǎn)業(yè)進展,尤其是AI Phone和AI PC領域,其已有相關產(chǎn)品落地,將傳統(tǒng)PC、Phone結(jié)合上AI能力有望帶動整個PC、Phone產(chǎn)業(yè)鏈復蘇。
