愛芯元智:“混合精度NPU+AI ISP”如何引領(lǐng)AI芯片天花板?
歷經(jīng)數(shù)年洗禮的AI芯片賽道,如今正快步走進(jìn)“話語權(quán)”爭奪的下半場。畢竟,過去數(shù)年,眼見不少新成立的AI芯片公司大多都在通過“玩概念”“蹭熱度”“PPT”等方式來進(jìn)行炒作,以求達(dá)到快速吸引投資、圈錢的目的。但往往越是這類公司,越經(jīng)不起時間的考驗(yàn),僅僅數(shù)年光景,就從人們視野中徹底消失,成為半導(dǎo)體圈內(nèi)茶余飯后的談資。
而那些真正能夠挺到今天的AI芯片企業(yè),無疑都是兼具技術(shù)與資本的雙項(xiàng)實(shí)力的硬核玩家。愛芯元智就是其中的典型代表,這家2019年5月成立的本土AI芯片公司主打感知和計(jì)算兩大關(guān)鍵技術(shù),成立僅兩年多就陸續(xù)發(fā)布了兩顆AI的視覺處理芯片——AX630A和AX620A。
對于立志要做AI視覺芯片領(lǐng)域頭部企業(yè)的愛芯元智來說,尋求有實(shí)力的資方也尤為必要。據(jù)愛芯元智半導(dǎo)體(上海)有限公司創(chuàng)始人兼CEO仇肖莘介紹:“到現(xiàn)在為止,我們一共做了三輪融資,Pre A、A輪和A+輪,A+輪是今年6月初做完的,我們注重引進(jìn)了一些產(chǎn)業(yè)界的投資方,最早的Pre A輪主要是啟明創(chuàng)投和聯(lián)想之星。今年的A輪、A+輪,我們是引入了美團(tuán)和韋豪創(chuàng)芯,韋豪創(chuàng)芯是韋爾股份的投資平臺,我們跟豪威有很多協(xié)同,所以這個對我們將來的發(fā)展是有好處的。同時,像GGV,耀途,還有元禾璞華,石溪資本等,也有一定的協(xié)同性。”
截止目前,愛芯元智的員工數(shù)量已300多人,尤其是最近這一年大概差不多翻了一倍。之所以短期內(nèi)如此快速的擴(kuò)張,仇肖莘解釋到:“因?yàn)槲覀儺a(chǎn)品出來以后,各種軟件,客戶支持的人力需求快速增加。同時,我們也希望愛芯能夠做成一個邊緣側(cè)和端側(cè)人工智能芯片的領(lǐng)軍企業(yè),所以希望我們整個產(chǎn)品研發(fā)的節(jié)奏能夠支持頭部企業(yè)的目標(biāo)狀態(tài)。這樣才能在整個邊緣側(cè)、端側(cè)整個的競爭的范圍之內(nèi),我們能夠處于第一梯隊(duì)的狀態(tài)?!?/p>
愛芯元智擁有業(yè)內(nèi)領(lǐng)先的混合精度NPU,以及行業(yè)“天花板”的自研AI ISP圖像處理技術(shù),基于自有ISP與NPU的聯(lián)合架構(gòu)設(shè)計(jì),可以大幅提升傳統(tǒng)ISP中多個關(guān)鍵模塊的性能,打造世界先進(jìn)水平的優(yōu)秀畫質(zhì)“樣板間”,為客戶拓展圖形圖像類業(yè)務(wù)提供基礎(chǔ)設(shè)施。
仇肖莘表示:“大家知道,NPU的等效算力其實(shí)跟標(biāo)稱算力是不一樣的,很多人說NPU比如有10T的算力,但是它的有效利用率可能只有10%或者20%,那就是說它的有效算力只有1TOPS或者2TOPS。為什么有效算力這么低,其實(shí)不是說NPU的核少了,而是這個數(shù)據(jù)有內(nèi)存墻的問題,數(shù)據(jù)沒辦法送到核里去做運(yùn)算,卡在數(shù)據(jù)上。針對這個問題我們有兩個思路,一個思路是說現(xiàn)在有很多在研發(fā)中的技術(shù)叫存算一體,就是不搬數(shù)據(jù)了,在數(shù)據(jù)旁邊做運(yùn)算,但是這種方案也有它自己的問題,就是工藝節(jié)點(diǎn)做不下去,運(yùn)算能力也上不去。我們的解決方式不是做存算一體,而是盡量減少數(shù)據(jù)搬運(yùn),所以這就是我們混合精度NPU的一個設(shè)計(jì)初衷,怎么把數(shù)據(jù)搬運(yùn)的數(shù)量減少,這樣才能夠讓NPU運(yùn)行的效率大幅增加?!?/p>
除此之外,算法協(xié)同NPU設(shè)計(jì)也是愛芯元智的關(guān)鍵技術(shù)優(yōu)勢,愛芯元智ISP負(fù)責(zé)人、系統(tǒng)架構(gòu)師張興表示:“我們有整體設(shè)計(jì)的思維方式,即芯片和算法協(xié)同設(shè)計(jì)的理念,我們一定要對算法比較了解,比如常用的檢測、識別、分割和AI畫質(zhì)提升的等算法,熟悉常用的大量網(wǎng)絡(luò)結(jié)構(gòu),以及對應(yīng)的量化需求以及算子需求,整個內(nèi)存訪問的需求等等。根據(jù)這些,我們來定義NPU的架構(gòu),算法對NPU的設(shè)計(jì)有一個指導(dǎo)性的作用,NPU的設(shè)計(jì)反過來又會對算法的實(shí)現(xiàn)有影響。因?yàn)镹PU的設(shè)計(jì)會給出算法,現(xiàn)有算子的硬件加速,量化上的限制,數(shù)據(jù)流訪問、優(yōu)化、存儲訪問等在硬件上的不同限制,我們將這些限制抽象出來,從算法層面進(jìn)行協(xié)同優(yōu)化。因此,算法和整個硬件設(shè)計(jì)是聯(lián)合優(yōu)化和迭代的過程,這樣就會對我們整個的硬件設(shè)計(jì)起到一個非常好的指導(dǎo)性的作用。”
在ISP方面,愛芯元智的AI ISP被稱為能拓展行業(yè)“天花板”的技術(shù),之所以能夠做到如此,仇肖莘解釋到:“因?yàn)槲覀兪亲龈兄右曈X處理的,所以ISP是我們重中之重,一個非常重要的IP,我們將整個ISP pipeline里面的幾個重要的模塊,比如高動態(tài),3D降噪,21TM,還有demosaic進(jìn)行了AI化、AI處理。因?yàn)檫@些處理,我們整個ISP的效果就比傳統(tǒng)的ISP提升了一個數(shù)量級。原來傳統(tǒng)的方案是通過sensor信號進(jìn)來一路去做處理,而我們的做法就是讓信號通過NPU,讓混合精度的NPU去跑HDR和3D降噪的AI模型,然后再通過ISP pipeline往下走,所以是一個ISP和NPU的混合/聯(lián)合設(shè)計(jì),而且是純自研,這是我們的優(yōu)勢。”
目前,愛芯元智的產(chǎn)品已經(jīng)導(dǎo)入諸如智慧城市、智能交通、消費(fèi)類電子等領(lǐng)域。除此之外,在視覺處理相機(jī)、手機(jī)、工業(yè)檢測相機(jī)、視頻會議等場景都有廣泛的應(yīng)用。未來,愛芯元智將繼續(xù)在AI芯片賽道奮力沖刺,借助自身優(yōu)勢的純自研IP——ISP和NPU,立足打造行業(yè)“天花板”級的產(chǎn)品,成為國產(chǎn)AI芯片行業(yè)的“隱形冠軍”。
