九色综合狠狠综合久久,色一情一乱一伦一区二区三区,人人妻人人藻人人爽欧美一区,扒开双腿疯狂进出爽爽爽动态图

歡迎訪問深圳市中小企業(yè)公共服務(wù)平臺電子信息窗口

嵌入式存儲器如何協(xié)同SoC 助力AI Mobile高效運(yùn)轉(zhuǎn)

2024-04-15 來源:互聯(lián)網(wǎng)
2793

關(guān)鍵詞: 存儲器 AI-Mobile 長江存儲

今年以來,以人工智能為核心的AI Mobile,正開始成為手機(jī)行業(yè)的“主角”。越來越多的手機(jī)廠商正在研發(fā)或已推出各種AI Mobile,甚至部分研究機(jī)構(gòu)認(rèn)為,AI Mobile或?qū)⒊蔀槭謾C(jī)市場的新增長點(diǎn),并掀起新一輪換機(jī)潮。

AI Mobile,簡單來說,是支持AI功能的新一代智能手機(jī)。和常規(guī)手機(jī)相比,AI Mobile的SoC是關(guān)鍵。

異構(gòu)集成 SoC是關(guān)鍵

當(dāng)下主流的AI Mobile SoC突出特性采用CPU、GPU及NPU異構(gòu)集成的架構(gòu)形態(tài),具備更強(qiáng)的算力,能夠處理AI相關(guān)計(jì)算和推理任務(wù)。

CPU和GPU屬于通用處理器,擁有很強(qiáng)的兼容性和靈活性。一方面能夠高效處理手機(jī)常規(guī)任務(wù),保證手機(jī)基礎(chǔ)功能的流暢運(yùn)轉(zhuǎn),例如操作系統(tǒng)、游戲、拍照、娛樂等;另一方面還能和NPU相串聯(lián),針對AI相關(guān)的應(yīng)用和場景,提供更佳的AI體驗(yàn)。

NPU,全稱Neural network Processing Unit,即神經(jīng)網(wǎng)絡(luò)處理單元,其突出特性是在電路層模擬人類神經(jīng)元和突觸,用深度學(xué)習(xí)指令集直接處理大規(guī)模的神經(jīng)元和突觸,一條指令完成一組神經(jīng)元的處理。

相較于CPU和GPU的馮諾依曼結(jié)構(gòu),NPU通過突觸權(quán)重實(shí)現(xiàn)存儲和計(jì)算一體化,進(jìn)行神經(jīng)網(wǎng)絡(luò)計(jì)算的效率也遠(yuǎn)超GPU。目前,NPU已被大規(guī)模應(yīng)用于包括AI Mobile、AI PC在內(nèi)眾多人工智能、機(jī)器學(xué)習(xí)等領(lǐng)域。

業(yè)界通過異構(gòu)集成技術(shù),將CPU、GPU及NPU等不同用途芯片融合在一顆SoC上,最終促成AI Mobile的誕生。

當(dāng)然除了SoC,在AI Mobile中數(shù)據(jù)存儲也是執(zhí)行AI計(jì)算和推理任務(wù),實(shí)現(xiàn)AI功能,協(xié)同SoC打造AI體驗(yàn)的關(guān)鍵一環(huán)。

高性能特性 協(xié)同SoC加速AI功能實(shí)現(xiàn)

從底層設(shè)計(jì)上看,AI Mobile因不斷豐富和完善的AI功能,會涉及更多復(fù)雜且高頻的計(jì)算、推理和生成等任務(wù)指令,需要嵌入式存儲器提供更高性能、更大帶寬,高效迅速的將SoC發(fā)出的相關(guān)數(shù)據(jù)和指令傳輸?shù)狡渌到y(tǒng)硬件,進(jìn)而推進(jìn)AI功能的實(shí)現(xiàn),為前端的用戶提供響應(yīng)更及時(shí)的AI體驗(yàn);

從具體應(yīng)用上看,AI Mobile重要功能設(shè)計(jì)便是云側(cè)和端側(cè)的混合大模型,云側(cè)大模型需要實(shí)時(shí)不間斷地和AI Mobile進(jìn)行數(shù)據(jù)的同步,指令的對接,科學(xué)合理的進(jìn)行算力的調(diào)配,算法的更新,這都對嵌入式存儲器執(zhí)行SoC相關(guān)指令的響應(yīng)速度,傳輸效率提出更高挑戰(zhàn);至于端側(cè)大模型,在模型訓(xùn)練的各個(gè)階段,包括數(shù)據(jù)的收集、篩選、分析和歸一等步驟中,無一離得開高性能嵌入式存儲器提供的高帶寬、高讀寫速度。

低功耗設(shè)計(jì) 提升整體續(xù)航 助力AI Mobile性能不打折

隨著AI功能的加入,需要處理的指令和傳輸?shù)臄?shù)據(jù)都在呈指數(shù)級增長。同時(shí),鑒于AI Mobile和云端模型保持?jǐn)?shù)據(jù)的實(shí)時(shí)傳輸,會更加頻繁的調(diào)動嵌入式存儲器進(jìn)行數(shù)據(jù)的讀取和寫入。由此,包括SoC在內(nèi)的各種硬件,其功耗也會肉眼可見的升高。

嵌入式存儲器,作為AI Mobile的重要組成,更低功耗的設(shè)計(jì),在處理同等負(fù)載的任務(wù)時(shí),能夠節(jié)省功耗,從存儲端提升AI Mobile的整體續(xù)航。

同時(shí),更低功耗設(shè)計(jì),也將減少存儲器工作時(shí)的發(fā)熱量,最大程度的拖延甚至避免存儲溫度墻的出現(xiàn),始終維持更高的性能表現(xiàn),助力AI Mobile性能不打折。

更大容量為AI Mobile功能實(shí)現(xiàn)和拓展保駕護(hù)航

AI Mobile同樣需要嵌入式存儲器提供更大容量。

一方面,AI Mobile內(nèi)置端側(cè)大模型,需要海量空間,存儲用于訓(xùn)練大模型的各種“養(yǎng)料”,包括語音、文字、視頻等各種數(shù)據(jù);同時(shí),隨著端側(cè)大模型的不斷豐富和迭代,需要存儲的參數(shù)和數(shù)據(jù)量也會不斷激增,對存儲器提出了更高容量需求。

另一方面,在應(yīng)用端,AI Mobile端側(cè)和云側(cè)大模型的完善,將刺激和生成許多帶有AI功能的且豐富多彩的應(yīng)用,例如私人助理功能,生成式AI助手可根據(jù)用戶喜好,定制推送新聞、視頻、音樂等內(nèi)容;智能翻譯功能,借助AI算法,在用戶進(jìn)行語音通話的同時(shí),實(shí)時(shí)進(jìn)行語音的翻譯,以及語音轉(zhuǎn)文字的記錄等功能。而這些功能的實(shí)現(xiàn),不僅需要SoC的算法支撐,同時(shí)還需要大容量嵌入式存儲器,存儲和承載這些應(yīng)用本體及生成的各種緩存文件。

面對著AI手機(jī)的浪潮,長江存儲推出一系列嵌入式存儲器,不斷滿足AI手機(jī)的存儲需求。


undefined


長江存儲UC033是基于晶棧?Xtacking? 3.0技術(shù)的TLC三維閃存芯片打造的UFS3.1嵌入式存儲產(chǎn)品,擁有高性能、大容量、低延遲等特性,最大順序讀取速度達(dá)2100MB/s,產(chǎn)品設(shè)計(jì)128GB, 256GB,512GB三個(gè)容量,能夠滿足AI時(shí)代,手機(jī)等智能終端對嵌入式存儲器全面的產(chǎn)品需求。



注:部分技術(shù)解釋源于網(wǎng)絡(luò)