Nvidia 之所以如此成功，要?dú)w功于一套名為CUDA的強(qiáng)大專有軟件，它使人工智能科學(xué)家能夠訪問(wèn) GPU 中的所有硬件功能。英特爾正在與包括谷歌在內(nèi)的其他芯片和軟件巨頭合作，構(gòu)建非專有的開(kāi)放軟件，使軟件公司能夠輕松更換芯片提供商。


科技巨頭組局，對(duì)抗英偉達(dá)

據(jù)報(bào)道，由英特爾、谷歌、Arm、高通、三星和其他科技公司組成的一個(gè)組織正在開(kāi)發(fā)一個(gè)開(kāi)源軟件生態(tài)系統(tǒng)，以防止人工智能開(kāi)發(fā)人員被“套牢”在英偉達(dá)的專有技術(shù)中。

這個(gè)聯(lián)合項(xiàng)目名為UXL，旨在創(chuàng)建一個(gè)開(kāi)放源代碼的人工智能硬軟件生態(tài)系統(tǒng)，將允許開(kāi)發(fā)人員的代碼在任何硬件上和任何芯片上運(yùn)行。該項(xiàng)目將在今年上半年確定技術(shù)規(guī)格，并且其技術(shù)細(xì)節(jié)應(yīng)該會(huì)在今年下半年達(dá)到“成熟”狀態(tài)，不過(guò)UXL尚未給出最終發(fā)布的目標(biāo)。

據(jù)悉，該項(xiàng)目將包含由英特爾開(kāi)發(fā)的OneAPI開(kāi)放標(biāo)準(zhǔn)，該標(biāo)準(zhǔn)旨在消除將開(kāi)發(fā)人員捆綁在特定架構(gòu)上的特定編碼語(yǔ)言、代碼庫(kù)和其他工具等門檻。

高通人工智能和機(jī)器學(xué)習(xí)負(fù)責(zé)人Vinesh Sukumar在接受采訪時(shí)表示，“我們實(shí)際上是在向開(kāi)發(fā)人員展示如何從英偉達(dá)平臺(tái)遷移出去，提供多元化的運(yùn)算平臺(tái)?！?/span>

谷歌高性能計(jì)算總監(jiān)兼首席技術(shù)專家Bill Magro認(rèn)為，“這是關(guān)于在機(jī)器學(xué)習(xí)框架的背景下，我們?nèi)绾蝿?chuàng)建一個(gè)開(kāi)放的生態(tài)系統(tǒng)，促進(jìn)生產(chǎn)力和硬件選擇?！?/span>

UXL表示，雖然該項(xiàng)目最初的目標(biāo)是為人工智能應(yīng)用和高性能計(jì)算應(yīng)用提供更多選擇，為其平臺(tái)贏得大量開(kāi)發(fā)者，但從長(zhǎng)遠(yuǎn)來(lái)看，UXL的最終目標(biāo)是支持英偉達(dá)的硬件和代碼。

當(dāng)被問(wèn)及開(kāi)源和風(fēng)險(xiǎn)投資軟件正努力打破英偉達(dá)在人工智能領(lǐng)域的主導(dǎo)地位時(shí)，英偉達(dá)高管Ian Buck在一份聲明中回應(yīng)道，“世界正在加速發(fā)展。加速計(jì)算的新想法來(lái)自整個(gè)生態(tài)系統(tǒng)，這將有助于推進(jìn)人工智能和加速計(jì)算所能實(shí)現(xiàn)的范圍?！?/span>

對(duì)此，金融和戰(zhàn)略咨詢公司D2D Advisory的首席執(zhí)行官Jay Goldberg指出，英偉達(dá)在AI領(lǐng)域的軟硬件地位目前來(lái)看很難撼動(dòng)，“重要的是，人們已經(jīng)使用CUDA 15年了，他們圍繞CUDA編寫代碼、優(yōu)化工作?！?/span>


CUDA到底是什么？

CUDA，全稱Compute Unified Device Architecture（統(tǒng)一計(jì)算設(shè)備架構(gòu)），是由NVIDIA開(kāi)發(fā)的一種技術(shù)，讓我們能夠利用顯卡（也就是GPU）來(lái)進(jìn)行大規(guī)模的計(jì)算。通常，GPU是用來(lái)處理電腦游戲中的圖形和影像的，但CUDA讓它能夠做更多，比如科學(xué)計(jì)算、深度學(xué)習(xí)等。

核心技術(shù)與特點(diǎn)

1. 并行計(jì)算模型

CUDA基于單指令多數(shù)據(jù)流（SIMD）和多線程并行處理架構(gòu)，允許程序員定義并行執(zhí)行的“線程塊”（thread blocks），每個(gè)線程塊又包含多個(gè)線程。這些線程在GPU的流處理器（Streaming Multiprocessors, SMs）上并行執(zhí)行，從而實(shí)現(xiàn)大規(guī)模并發(fā)計(jì)算。


2. 虛擬指令集與編程接口

CUDA提供了直接訪問(wèn)GPU虛擬指令集的途徑，以及一組高級(jí)編程接口（Application Programming Interface, API），如cudaMalloc()、cudaMemcpy()、cudaLaunchKernel()等，使得開(kāi)發(fā)者可以便捷地管理GPU內(nèi)存、執(zhí)行數(shù)據(jù)傳輸以及啟動(dòng)并行計(jì)算內(nèi)核（kernel）。


3. 編譯器與編程語(yǔ)言支持

CUDA配備了一個(gè)C/C++編譯器，允許程序員使用擴(kuò)展后的C/C++語(yǔ)法編寫GPU代碼（通常稱為CUDA C/C++）。此外，CUDA還支持其他編程語(yǔ)言，如Fortran、Python、Java等，通過(guò)相應(yīng)的語(yǔ)言綁定或接口實(shí)現(xiàn)對(duì)GPU的編程。


4. 庫(kù)與工具鏈

CUDA附帶一系列豐富的庫(kù)，如 cuBLAS（基礎(chǔ)線性代數(shù)子程序庫(kù)）、cuDNN（深度神經(jīng)網(wǎng)絡(luò)庫(kù)）、cuFFT（快速傅里葉變換庫(kù)）等，封裝了針對(duì)特定計(jì)算任務(wù)優(yōu)化的算法，極大地簡(jiǎn)化了開(kāi)發(fā)過(guò)程。完整的CUDA工具鏈還包括性能分析工具（如nvprof/nvvp）、調(diào)試器（Nsight Systems/Debugger）以及樣例代碼和教程，為開(kāi)發(fā)者提供了全面的支持環(huán)境。


CUDA有哪些作用？

科學(xué)研究：在物理、化學(xué)、生物等領(lǐng)域，CUDA能夠加速?gòu)?fù)雜的模擬和計(jì)算過(guò)程。比如，模擬宇宙的起源、分析大量的基因序列等。

深度學(xué)習(xí)：深度學(xué)習(xí)需要處理大量的數(shù)據(jù)和復(fù)雜的計(jì)算。使用CUDA，訓(xùn)練神經(jīng)網(wǎng)絡(luò)的時(shí)間可以從幾周縮短到幾小時(shí)。

圖像處理：從電影的特效制作到醫(yī)學(xué)圖像的分析，CUDA能夠加速圖像處理的過(guò)程，讓復(fù)雜的圖像分析變得更加快速和準(zhǔn)確。

金融分析：在金融領(lǐng)域，CUDA被用來(lái)加速風(fēng)險(xiǎn)分析、市場(chǎng)模擬等計(jì)算密集型任務(wù)，幫助分析師更快地做出決策等等。

CUDA的優(yōu)勢(shì)

高效的并行計(jì)算能力：CUDA能夠讓成千上萬(wàn)的GPU核心同時(shí)工作，大幅提高計(jì)算速度。

廣泛的應(yīng)用場(chǎng)景：從科學(xué)研究到商業(yè)分析，CUDA的應(yīng)用幾乎遍及所有需要大量計(jì)算的領(lǐng)域。

強(qiáng)大的生態(tài)支持：NVIDIA提供了豐富的文檔、教程和工具，讓開(kāi)發(fā)者更容易地開(kāi)發(fā)基于CUDA的應(yīng)用。


護(hù)城河難跨

CUDA之所以能成為英偉達(dá)的護(hù)城河，正是因?yàn)槠潺嫶蟮腉PU軟件計(jì)算生態(tài)。

你可以把他理解成GPU的Windows系統(tǒng)，雖然有Linux這樣的替代品，但因?yàn)槎嗄暌詠?lái)構(gòu)成起來(lái)的生態(tài)以及用戶粘性，很少會(huì)有科技企業(yè)會(huì)放棄這個(gè)編程語(yǔ)言從頭訓(xùn)練AI產(chǎn)品。

從本質(zhì)上講，是否使用CUDA，還是取決于任務(wù)的需求。對(duì)于較小的AI設(shè)備的話，工程師確實(shí)可以使用其他開(kāi)發(fā)工具替代CUDA。

但涉及到大公司的企業(yè)級(jí)任務(wù)，包括AI大模型、自動(dòng)駕駛模型，CUDA憑借自身出色的速度以及可擴(kuò)展性，始終是大公司的首選解決方案。

長(zhǎng)期來(lái)看，雖然其他廠商也會(huì)推薦新的AI芯片以及非CUDA標(biāo)準(zhǔn)，但想要完全取代英偉達(dá)芯片并不現(xiàn)實(shí)。

另外，英偉達(dá)自身也意識(shí)到CUDA的地位可能在下滑。因此在今年GTC大會(huì)之前，開(kāi)始禁止第三方硬件兼容CUDA。

在過(guò)去，英特爾、AMD等公司會(huì)參與ZLUDA這樣的第三方項(xiàng)目，國(guó)產(chǎn)廠商也有類似的兼容方案，這些非英偉達(dá)GPU可以直接兼容CUDA接口，從而直接運(yùn)行CUDA 程序。

但現(xiàn)在來(lái)看，英偉達(dá)希望再度加固CUDA系統(tǒng)的壟斷，客戶要么重新選一個(gè)生態(tài)系統(tǒng)，要么繼續(xù)使用英偉達(dá)的產(chǎn)品。

雖然競(jìng)爭(zhēng)對(duì)手們一直在“炮轟”英偉達(dá)的 CUDA，不少人都認(rèn)為開(kāi)源軟件開(kāi)發(fā)框架會(huì)比CUDA更高效地使用。

但奈何英特爾、AMD等芯片廠商在硬件層面都很難追上英偉達(dá)，更不要說(shuō)帶著第三方開(kāi)發(fā)者們放棄目前最好用的AI訓(xùn)練生態(tài)。

我們可以說(shuō)UXL基金會(huì)的愿景很好，但想要取代CUDA，現(xiàn)在看起來(lái)似乎還挺遙遠(yuǎn)的。