AI市場(chǎng)明爭(zhēng)暗斗:微軟“背刺”英偉達(dá) 低調(diào)研發(fā)新網(wǎng)卡
編者按:
勁敵頻現(xiàn),英偉達(dá)守擂
AI卷的競(jìng)爭(zhēng)再次白熱化。視頻生成模型Sora火爆全球后,Groq的大模型又引發(fā)市場(chǎng)熱烈討論,與此同時(shí),微軟正在研發(fā)一款全新網(wǎng)卡,或?qū)[脫“英偉達(dá)依賴”。自大模型興起以來(lái),英偉達(dá)的GPU芯片一卡難求,但如今,其已身在對(duì)手的包圍圈中。不斷出現(xiàn)的勁敵能否撼動(dòng)英偉達(dá)在AI界的地位?
微軟再傳新動(dòng)向。
北京時(shí)間2月21日,有媒體報(bào)道稱,微軟(MSFT.O)正在研發(fā)一款全新網(wǎng)卡,以提升其Maia AI服務(wù)器芯片的性能。微軟該項(xiàng)目負(fù)責(zé)人被曝為普拉迪普?辛杜(Pradeep Sindhu),后者曾任網(wǎng)絡(luò)設(shè)備開(kāi)發(fā)商瞻博網(wǎng)絡(luò)(Juniper Networks,JNPR.N)的聯(lián)合創(chuàng)始人,并成立初創(chuàng)公司Fungible。
據(jù)報(bào)道,微軟研發(fā)的全新網(wǎng)卡類似于英偉達(dá)的ConnectX-7,項(xiàng)目研發(fā)或?qū)⑿枰^(guò)一年的時(shí)間。不過(guò)一旦研發(fā)成功,該項(xiàng)目將減少OpenAI在微軟服務(wù)器上訓(xùn)練模型所需時(shí)間,同時(shí)降低成本。
“作為微軟Azure云基礎(chǔ)設(shè)施系統(tǒng)方法的一部分,微軟專注于優(yōu)化堆棧的每一層。”微軟的發(fā)言人在一份聲明中表示,“公司經(jīng)常開(kāi)發(fā)新技術(shù)滿足客戶的需求,包括網(wǎng)絡(luò)芯片。”
事實(shí)上,微軟在自研AI硬件的道路上越走越遠(yuǎn),而這也被外界視為微軟試圖減少對(duì)英偉達(dá)(NVDA.O)的依賴。2023年11月,微軟推出云端AI芯片微軟Azure Maia 100及服務(wù)器CPU微軟Azure Cobalt 100。
如今,微軟悄然進(jìn)行網(wǎng)卡項(xiàng)目研發(fā),背后醞釀著怎樣的心思?
低調(diào)進(jìn)軍網(wǎng)卡?
微軟研發(fā)全新網(wǎng)卡的傳聞,引發(fā)業(yè)界廣泛關(guān)注。
所謂網(wǎng)卡,是數(shù)據(jù)中心的一項(xiàng)重要技術(shù),主要用于提升服務(wù)器的流量速度。一位行業(yè)人士向21世紀(jì)經(jīng)濟(jì)報(bào)道記者指出,數(shù)據(jù)中心服務(wù)器集群需要通過(guò)網(wǎng)絡(luò)連接并彼此共享信息,從而實(shí)現(xiàn)高效協(xié)作,而流量從服務(wù)器傳輸至數(shù)據(jù)中心網(wǎng)絡(luò)正是需要通過(guò)網(wǎng)卡。作為數(shù)據(jù)中心的專業(yè)構(gòu)成,網(wǎng)卡能夠傳輸數(shù)據(jù)并優(yōu)化傳輸速度。
聚焦到微軟方面,在其數(shù)據(jù)中心使用英偉達(dá)的AI芯片時(shí),由于需要傳輸OpenAI等AI公司所需的大量數(shù)據(jù),可能將出現(xiàn)過(guò)載現(xiàn)象。因此,對(duì)于微軟來(lái)說(shuō),開(kāi)發(fā)網(wǎng)卡新品有望提升其數(shù)據(jù)中心服務(wù)能力。
據(jù)報(bào)道,微軟此次研發(fā)的全新網(wǎng)卡將對(duì)標(biāo)英偉達(dá)的ConnectX-7。英偉達(dá)官網(wǎng)介紹稱,ConnectX-7可支持超低時(shí)延、400Gb/s吞吐量和創(chuàng)新的NVIDIA網(wǎng)絡(luò)計(jì)算加速引擎,實(shí)現(xiàn)額外加速,為超級(jí)計(jì)算機(jī)、人工智能和超大規(guī)模云數(shù)據(jù)中心提供所需的高可擴(kuò)展性和功能豐富的技術(shù)。
其中,有別于傳統(tǒng)的數(shù)據(jù)共享方式,ConnectX-7通過(guò)運(yùn)用RDMA技術(shù),可繞過(guò)CPU從而讓數(shù)據(jù)檢索速度快速提升。有消息稱,微軟的新網(wǎng)卡不僅將借鑒這一全新技術(shù),還將從性能上進(jìn)行全面優(yōu)化。
需要注意的是,微軟在網(wǎng)卡技術(shù)上的布局并非空穴來(lái)風(fēng)。早在2019年,微軟就曾提及DPU(數(shù)據(jù)處理單元)的重要性,并于2023年收購(gòu)服務(wù)器芯片初創(chuàng)企業(yè)Fungible,后者為專門(mén)生產(chǎn)數(shù)據(jù)處理單元(DPU)的企業(yè)。
在收購(gòu)Fungible的公告中,微軟指出,F(xiàn)ungible是一家可組合基礎(chǔ)設(shè)施提供商,旨在通過(guò)高效、低功耗的數(shù)據(jù)處理單元(DPU)加速數(shù)據(jù)中心的網(wǎng)絡(luò)和存儲(chǔ)性能。Fungible的技術(shù)有助于實(shí)現(xiàn)高性能、可擴(kuò)展、分解、橫向擴(kuò)展的數(shù)據(jù)中心基礎(chǔ)設(shè)施,并具有可靠性和安全性。
“微軟的收購(gòu)舉措有望進(jìn)一步加強(qiáng)其在數(shù)據(jù)中心基礎(chǔ)設(shè)施方面的能力。通過(guò)收購(gòu)Fungible獲得的專業(yè)技術(shù)積累,也有望在全新網(wǎng)卡項(xiàng)目研發(fā)中發(fā)揮作用。”前述行業(yè)人士向21世紀(jì)經(jīng)濟(jì)報(bào)道記者指出。
值得一提的是,F(xiàn)ungible的創(chuàng)始人正是如今微軟網(wǎng)卡業(yè)務(wù)傳聞中的負(fù)責(zé)人普拉迪普?辛杜。因此,微軟的網(wǎng)卡研發(fā)項(xiàng)目很可能指向DPU,后者被視為繼CPU和GPU之后的“第三顆主力芯片”。
事實(shí)上,在當(dāng)前數(shù)據(jù)增幅大量提升的背景下,以DPU為代表的異構(gòu)計(jì)算市場(chǎng)正在受到更多的關(guān)注。根據(jù)賽迪顧問(wèn)數(shù)據(jù),2020年全球DPU產(chǎn)業(yè)市場(chǎng)規(guī)模達(dá)30.5億美元,預(yù)計(jì)到2025年全球DPU產(chǎn)業(yè)市場(chǎng)規(guī)模將超過(guò)245.3億美元,期間CAGR高達(dá)51.73%。
“伴隨著5G、云網(wǎng)融合時(shí)代的到來(lái),以及虛擬交換等技術(shù)的引入,基于服務(wù)器的網(wǎng)絡(luò)數(shù)據(jù)平面復(fù)雜性急劇增加。海量的數(shù)據(jù)搬運(yùn)工作被CPU承擔(dān),導(dǎo)致網(wǎng)絡(luò)接口帶寬急劇增加,CPU資源負(fù)載過(guò)大,大大影響了CPU將計(jì)算能力釋放到應(yīng)用程序中,”民生證券研究團(tuán)隊(duì)指出,“為了提高主機(jī)CPU的處理性能,Smart NIC(智能網(wǎng)卡)將部分CPU的網(wǎng)絡(luò)功能(如IP分片、TCP分段等)轉(zhuǎn)移到網(wǎng)卡硬件中,起到了加速運(yùn)算的目的,其可視為DPU的前身。”
擺脫英偉達(dá)依賴
目前,AI芯片市場(chǎng)的“霸主”無(wú)疑是英偉達(dá)。在生成式AI大火的背景下,主導(dǎo)AI芯片的英偉達(dá)也賺得盆滿缽滿。
英偉達(dá)所推出H100,被公認(rèn)為是訓(xùn)練大語(yǔ)言模型最需要的GPU。與此同時(shí),英偉達(dá)通常將ConnectX-7網(wǎng)卡與其GPU捆綁銷(xiāo)售。其中的一個(gè)例子,便是將H100與ConnectX-7相結(jié)合推出的融合加速器“H100 CNX”,該款產(chǎn)品可為I/O密集型應(yīng)用提供強(qiáng)勁性能。
作為生成式AI的重要角力者,微軟通過(guò)向OpenAI注入數(shù)十億美元的巨資,將后者的技術(shù)融入到自身的各類產(chǎn)品中。甚至,將OpenAI技術(shù)加以進(jìn)行內(nèi)部產(chǎn)品整合,已經(jīng)成為微軟發(fā)力AI的一大戰(zhàn)略。例如,OpenAI新近發(fā)布Sora模型后,微軟方面亦透露,會(huì)將該模型融入Copilot產(chǎn)品中。
不過(guò),大模型的訓(xùn)練瓶頸終歸落在算力上,不愿被英偉達(dá)“掣肘”的微軟,也開(kāi)始動(dòng)作不斷。2023年11月,微軟推出云端AI芯片微軟Azure Maia 100及服務(wù)器CPU微軟Azure Cobalt 100,前者能夠運(yùn)行大語(yǔ)言模型并支持AI計(jì)算,亦被業(yè)界視為微軟打響拋棄英偉達(dá)芯片依賴的“首槍”。
如今,微軟的網(wǎng)卡項(xiàng)目,則再度顯現(xiàn)了這個(gè)巨頭在AI基礎(chǔ)設(shè)施領(lǐng)域自給自足的決心。“該項(xiàng)目有望重塑微軟與英偉達(dá)之間的競(jìng)爭(zhēng)格局,從而對(duì)整個(gè)AI行業(yè)產(chǎn)生影響。一旦項(xiàng)目研發(fā)成功,微軟也將構(gòu)建一個(gè)更強(qiáng)大并更具競(jìng)爭(zhēng)力的Azure平臺(tái)。”有行業(yè)分析人士向21世紀(jì)經(jīng)濟(jì)報(bào)道記者指出。
不過(guò),也有芯片行業(yè)從業(yè)人士向21世紀(jì)經(jīng)濟(jì)報(bào)道記者直言稱,DPU開(kāi)發(fā)難度很高,結(jié)構(gòu)復(fù)雜,而且不太好落地,有的大芯片DPU單價(jià)可能達(dá)到十幾萬(wàn)。
“AI巨頭布局DPU的原因是他們有規(guī)模龐大的服務(wù)器集群,定制DPU可以有效地降本增效,覆蓋芯片開(kāi)發(fā)成本。”該人士表示。同時(shí)他判斷,微軟該項(xiàng)目大概率為專用產(chǎn)品,未必會(huì)對(duì)芯片市場(chǎng)整體有大幅影響。
(作者:楊清清)
本文鏈接:AI市場(chǎng)明爭(zhēng)暗斗:微軟“背刺”英偉達(dá) 低調(diào)研發(fā)新網(wǎng)卡http://www.sq15.cn/show-2-3034-0.html
聲明:本網(wǎng)站為非營(yíng)利性網(wǎng)站,本網(wǎng)頁(yè)內(nèi)容由互聯(lián)網(wǎng)博主自發(fā)貢獻(xiàn),不代表本站觀點(diǎn),本站不承擔(dān)任何法律責(zé)任。天上不會(huì)到餡餅,請(qǐng)大家謹(jǐn)防詐騙!若有侵權(quán)等問(wèn)題請(qǐng)及時(shí)與本網(wǎng)聯(lián)系,我們將在第一時(shí)間刪除處理。
上一篇: 發(fā)揮我國(guó)商業(yè)應(yīng)用創(chuàng)新優(yōu)勢(shì),大力發(fā)展人工智能