ChatGPT算崩了!GPGPU會成為算力危機(jī)的解藥嗎?金融

                  證券之星 2023-02-13 17:26
                  分享到:
                  導(dǎo)讀

                  GPGPU通過 GPU 多條流水線的并行計算來實現(xiàn)大量計算,其已在通用GPU(即GPGPU)領(lǐng)域有所延申,盡管國內(nèi)近兩年在GPGPU領(lǐng)域已取得了很多的突破。

                  近日大火的聊天機(jī)器人程序ChatGPT,最終還是崩了!多位用戶反映,其網(wǎng)站因為運算量過大,出現(xiàn)了無法回復(fù)的情況。

                  翻譯:我們出現(xiàn)了遠(yuǎn)超預(yù)想的(運算)需求,請再堅持一下并等待我們將系統(tǒng)擴(kuò)展。

                  事實上,ChatGPT出現(xiàn)崩潰只是算力緊張的一個縮影。近日隨著百度、京東、騰訊等國內(nèi)廠商宣布參與智能聊天機(jī)器人領(lǐng)域的競爭,未來類似ChatGPT這樣的程序?qū)⒃絹碓蕉唷H斯ぶ悄馨l(fā)展是大勢所趨,全球市場對于算力的需求也將出現(xiàn)快速的增長。

                  GPU的“變種”在算力領(lǐng)域“擠走”CPU

                  提到算力,首先不得不說的就是CPU(Central Processing Unit,中央處理器)。1971年,英特爾生產(chǎn)的4004微處理器將運算器和控制器集成在一個芯片上,標(biāo)志著CPU的誕生,這也是大規(guī)模機(jī)器運算的開始。后來從四位運算開始,每隔幾年處理器的性能就會翻倍。

                  再之后,單純的運算位數(shù)增加已不再滿足復(fù)雜的運算需求,CPU逐漸向更多核心,更高并行度發(fā)展。典型的代表有英特爾的酷睿系列處理器和AMD的銳龍系列處理器。

                  CPU最大的特點是全能,作為中央處理器,其性能被平均分為多個模塊,也因此CPU可以完成絕大多數(shù)指令下的任務(wù),整體屬于一款較為均衡的產(chǎn)品。

                  與此同時,由于電腦顯示器的出現(xiàn),傳統(tǒng)的GPU(Graphics Processing Unit,圖形處理器)也應(yīng)運而生。顯示器上的圖形顯示需要大量的重復(fù)運算(顯示各種顏色,甚至三維圖像),其對于算力的要求要遠(yuǎn)高于以處理指令為主的CPU。因此不同于CPU,GPU更強(qiáng)調(diào)了并行計算的方法,這也讓GPU無論是算力還是運算速度,都要高于CPU。

                  隨著顯示器分辨率的不斷提升,特別是多款大型游戲?qū)τ陲@示器分辨率的要求越來越高,GPU的運算性能也在飛速提升,而且提升速度快于CPU。

                  在這一方面,英偉達(dá)占據(jù)了GPU市場的頭把交椅,不少人應(yīng)該都有過為了某款熱門游戲,而單獨安裝英偉達(dá)顯卡的經(jīng)歷。

                  很長一段時間以來,CPU負(fù)責(zé)中央控制和各種運算,GPU負(fù)責(zé)少量處理和大量重復(fù)運算,兩者相輔相成,各自擔(dān)負(fù)起了對應(yīng)的職能。

                  然而,有人看到了GPU相對于CPU高算力的優(yōu)勢,于是一種去掉了GPU圖形處理部分內(nèi)容,而僅保留了科學(xué)計算,AI訓(xùn)練、推理任務(wù)等通用計算類型的GPGPU(General-Purpose computing on Graphics Processing Units,通用圖形處理器)誕生了。

                  GPGPU,可以說是特化版的運算芯片,GPGPU通過 GPU 多條流水線的并行計算來實現(xiàn)大量計算。超長流水線的設(shè)計以吞吐量的最大化為目標(biāo),在對大規(guī)模的數(shù)據(jù)流并行處理方面具有明顯的優(yōu)勢。

                  如果說普通CPU的計算能力是小溪流,那么GPGPU的計算能力就是并行了注入多條河流的大江長河。在未來人工智能爆發(fā)的時代,其遠(yuǎn)優(yōu)于CPU的運算性能,決定了這個GPU家族的“變種”在算力領(lǐng)域?qū)ⅰ皵D走”傳統(tǒng)的CPU,大規(guī)模應(yīng)用于算力市場中。

                  事實上,此前就有消息表示,ChatGPT已導(dǎo)入了至少1萬個英偉達(dá)高端的GPGPU,不論此消息是否屬實,ChatGPT至少很大概率使用了大量的GPGPU,并且好像已投入的部分還不夠用,需要更多。一個高端GPGPU動輒數(shù)十上百萬,這樣看來,GPGPU的市場空間可能會非常大。

                  GPGPU生態(tài):英偉達(dá)業(yè)內(nèi)領(lǐng)先,國內(nèi)生態(tài)初見雛形

                  事實上,一般的GPGPU確實具備了超快速的運算能力,然而,要想達(dá)到ChatGPT這種真正具備一定解決問題能力的成型AI系統(tǒng),仍需要大量的開發(fā)工作,特別是需要海量的深度學(xué)習(xí)支持。AI才能面對并有效處理海量的問題。深度學(xué)習(xí)與GPU的圖形處理有一些相通的地方,它需要大量的數(shù)據(jù)來“訓(xùn)練”模型。比如一個貓圖識別AI,需要提供數(shù)以萬計的貓圖供其“學(xué)習(xí)”。而每一張貓圖的學(xué)習(xí)又與其他貓圖沒有先后關(guān)系,每一張貓圖,其實就相當(dāng)于一次學(xué)習(xí)。

                   而如果缺少這些必要的開發(fā)學(xué)習(xí)支持,否則的話,GPGPU空有大量的運算能力,卻不一定能夠做出正確的運算。例如,前兩天谷歌Bard的發(fā)布會中,就犯了事實性的錯誤,在一個“關(guān)于詹姆斯·韋伯太空望遠(yuǎn)鏡(JWST),我可以告訴我9歲的孩子它有哪些新發(fā)現(xiàn)?”的問題中,Bard給出的一個答案是:太陽系外行星的第一張照片,是用JWST拍攝的。然而事實上,2004年,第一張系外行星照片是由歐洲南方天文臺的甚大望遠(yuǎn)鏡(VLT)拍攝的。

                  這種學(xué)習(xí)、運算與開發(fā)的過程,往往需要一個統(tǒng)一的開發(fā)架構(gòu),架構(gòu)越優(yōu)秀、越適配GPGPU。開發(fā)的效果也會越好。在這一領(lǐng)域,英偉達(dá)的優(yōu)勢比較明顯,英偉達(dá)的CUDA(Compute Unified Device Architecture,統(tǒng)一計算架構(gòu))集成技術(shù),占據(jù)了全球八成以上的GPGPU開發(fā)市場。通過這個技術(shù),用戶可利用英偉達(dá)的GPU進(jìn)行圖像處理之外的運算。由于絕大多數(shù)架構(gòu)都是針對CPU進(jìn)行編程的,更突顯出了英偉達(dá)該架構(gòu)的稀缺性。

                  不過,最近英偉達(dá)也遇到了越來越多的挑戰(zhàn),首先是一款新的架構(gòu)PyTorch在AI開發(fā)領(lǐng)域大有后來居上的架勢,由于其將支持更多GPU,相比于英偉達(dá)對GPU領(lǐng)域的壟斷,受到了很多廠家的歡迎。而后續(xù)OpenAI(推出ChatGPT的公司)又發(fā)布了一款開源的GPU開發(fā)架構(gòu)Triton。其雖然可以看作簡化版的CUDA,但由于其采用較易編碼的Python進(jìn)行開發(fā),且性能不輸CUDA太多,最重要的是:其代碼開源也意味著開發(fā)者享受著自由的環(huán)境,因此該開發(fā)架構(gòu)也受到了很多開發(fā)者的歡迎。盡管目前Triton還只支持英偉達(dá)的GPGPU芯片,但其負(fù)責(zé)人員表示未來會支持更多廠商的芯片,做到真正的自由開發(fā)。

                  國內(nèi)的GPGPU生態(tài)起步較晚,但近年來不斷的投入,也在2022年有了一定的成績。首先是在RISC-V(一種開源架構(gòu))中國峰會上,清華大學(xué)集成電路學(xué)院何虎副教授團(tuán)隊發(fā)布了基于RISC-V的開源GPGPU實現(xiàn)方案,名為“承影”(Ventus),同時還給出了映射方案、指令集和微架構(gòu)的實現(xiàn)。

                  而上海交大在GPGPU架構(gòu)領(lǐng)域,同樣取得了不小的突破。2022年8月,上海交大團(tuán)隊正式對外發(fā)布了自研開源GPGPU平臺“青花瓷”。“地緣政治所帶來的不確定性在這幾年有增無減,國產(chǎn)化的勢在必行。利用開源及開源生態(tài)所創(chuàng)造的芯片,就有可能解決卡脖子的困境。發(fā)布這款芯片的團(tuán)隊主要成員梁教授表示。“通過十年的努力打造屬于中國的GPGPU生態(tài),做人人都用得起GPGPU,這是我們的愿景”。

                  國內(nèi)GPGPU公司:有所突破,但仍任重道遠(yuǎn)

                  有了多樣的生態(tài),國內(nèi)的一些GPGPU公司也在研發(fā)的道路上不懈努力,推出了一些有競爭力的產(chǎn)品。

                  2022年9月,壁仞科技首次展出了BR100系列GPGPU芯片,算力創(chuàng)下全球紀(jì)錄。壁仞科技首款通用GPU芯片BR100,基于壁仞科技原創(chuàng)芯片架構(gòu)研發(fā),采用的是7nm先進(jìn)制程工藝,可容納770億顆晶體管,16位浮點算力達(dá)到1000T(1T=1024G)以上、8位定點算力達(dá)到2000T以上。BR100芯片在國內(nèi)率先采用Chiplet(先進(jìn)封裝)技術(shù),使得中國的通用GPU芯片邁入“每秒千萬億次計算”新時代,最為振奮人心的是,這是第一次全球通用GPU算力紀(jì)錄由中國企業(yè)制造。

                  隨后,浪潮AI服務(wù)器成功搭載壁仞科技自研的高端通用GPU,在多項比拼中獲評全球最佳性能,實現(xiàn)了國產(chǎn)芯片在國際AI賽場上的精彩亮相,取得了歷史性的突破。

                  在A股上市公司當(dāng)中,目前還沒有以GPGPU為絕對主業(yè)的公司,但仍有與GPU業(yè)務(wù)有一定關(guān)系的上市公司,其中景嘉微經(jīng)過多年的研發(fā)積累,公司在傳統(tǒng)GPU設(shè)計及特定領(lǐng)域應(yīng)用方面形成一定的技術(shù)、品牌等綜合優(yōu)勢。公司在半年報中指出,其已在通用GPU(即GPGPU)領(lǐng)域有所延申,正持續(xù)研發(fā)并提供相關(guān)產(chǎn)品。

                  而以CPU為主要產(chǎn)品的海光信息,也已研發(fā)出了基于GPGPU的DPU(Data Processing Unit,中央處理器分散單元)產(chǎn)品,該產(chǎn)品其實是GPGPU的一種。其兼容“類 CUDA”環(huán)境,解決了產(chǎn)品推廣過程中的軟件生態(tài)兼容性問題。公司通過參與開源軟件項目,并實現(xiàn)與 GPGPU 主流開發(fā)平臺的兼容。

                  圖片來源:海光信息招股說明書

                  值得注意的是,盡管這兩家公司只是與GPGPU業(yè)務(wù)有一定關(guān)系,但兩家公司近日雙雙大漲,其中2月9日景嘉微20cm漲停,海光信息也大漲超13%。市場或許也已意識到算力爆發(fā)背景下,GPGPU產(chǎn)業(yè)的投資機(jī)會。

                  除了上述公司外,登臨科技、芯動力、沐曦半導(dǎo)體等公司,也正在GPGPU這條賽道上不斷努力著。如果這些仍未上市的GPGPU公司選擇上市,投資者也可以關(guān)注他們的動態(tài),選擇參與打新或二級市場的投資。

                  綜合來看,盡管國內(nèi)近兩年在GPGPU領(lǐng)域已取得了很多的突破,但也要看到國外一些大型廠商已在該領(lǐng)域經(jīng)歷了數(shù)十年的發(fā)展,積累了豐富的經(jīng)驗和技術(shù),并擁有著大量的上下游市場資源。而我國的GPGPU產(chǎn)品不僅在生態(tài)和開發(fā)領(lǐng)域面臨著國外大廠卡脖子的挑戰(zhàn),即使是在各自的芯片研發(fā)領(lǐng)域也面臨著研發(fā)周期長、投入量大、產(chǎn)品成功概率偏低等一系列問題。我國以CPU和GPU為代表的高端芯片設(shè)計行業(yè)的整體研發(fā)實力、創(chuàng)新能力和應(yīng)用推廣能力仍有待提升。面對事關(guān)未來時代變革的重要產(chǎn)品,或許需要政府、高校和研發(fā)企業(yè)共同努力,互相共享經(jīng)驗和成果,才能真正在這一領(lǐng)域縮小與國外的差距,實現(xiàn)真正的國產(chǎn)替代、自主可控。


                  GPGPU GPU CPU
                  分享到:

                  1.TMT觀察網(wǎng)遵循行業(yè)規(guī)范,任何轉(zhuǎn)載的稿件都會明確標(biāo)注作者和來源;
                  2.TMT觀察網(wǎng)的原創(chuàng)文章,請轉(zhuǎn)載時務(wù)必注明文章作者和"來源:TMT觀察網(wǎng)",不尊重原創(chuàng)的行為TMT觀察網(wǎng)或?qū)⒆肪控?zé)任;
                  3.作者投稿可能會經(jīng)TMT觀察網(wǎng)編輯修改或補(bǔ)充。