21世紀(jì)經(jīng)濟(jì)報(bào)道記者楊清清 北京報(bào)道 微軟再傳新動(dòng)向。
北京時(shí)間2月21日，有媒體報(bào)道稱，微軟（MSFT.O）正在研發(fā)一款全新網(wǎng)卡，以提升其Maia AI服務(wù)器芯片的性能。微軟該項(xiàng)目負(fù)責(zé)人被曝為普拉迪普·辛杜（Pradeep Sindhu），后者曾任網(wǎng)絡(luò)設(shè)備開發(fā)商瞻博網(wǎng)絡(luò)（Juniper Networks，JNPR.N）的聯(lián)合創(chuàng)始人，并成立初創(chuàng)公司Fungible。
據(jù)報(bào)道，微軟研發(fā)的全新網(wǎng)卡類似于英偉達(dá)的ConnectX-7，項(xiàng)目研發(fā)或?qū)⑿枰^一年的時(shí)間。不過一旦研發(fā)成功，該項(xiàng)目將減少OpenAI在微軟服務(wù)器上訓(xùn)練模型所需時(shí)間，同時(shí)降低成本。
“作為微軟Azure 云基礎(chǔ)設(shè)施系統(tǒng)方法的一部分，微軟專注于優(yōu)化堆棧的每一層。”微軟的發(fā)言人在一份聲明中表示，“公司經(jīng)常開發(fā)新技術(shù)滿足客戶的需求，包括網(wǎng)絡(luò)芯片。”
事實(shí)上，微軟在自研AI硬件的道路上越走越遠(yuǎn)，而這也被外界視為微軟試圖減少對英偉達(dá)（NVDA.O）的依賴。2023年11月，微軟推出云端AI芯片微軟Azure Maia 100及服務(wù)器CPU微軟Azure Cobalt 100。
如今，微軟悄然進(jìn)行網(wǎng)卡項(xiàng)目研發(fā)，背后醞釀著怎樣的心思？
低調(diào)進(jìn)軍網(wǎng)卡？
微軟研發(fā)全新網(wǎng)卡的傳聞，引發(fā)業(yè)界廣泛關(guān)注。
所謂網(wǎng)卡，是數(shù)據(jù)中心的一項(xiàng)重要技術(shù)，主要用于提升服務(wù)器的流量速度。一位行業(yè)人士向21世紀(jì)經(jīng)濟(jì)報(bào)道記者指出，數(shù)據(jù)中心服務(wù)器集群需要通過網(wǎng)絡(luò)連接并彼此共享信息，從而實(shí)現(xiàn)高效協(xié)作，而流量從服務(wù)器傳輸至數(shù)據(jù)中心網(wǎng)絡(luò)正是需要通過網(wǎng)卡。作為數(shù)據(jù)中心的專業(yè)構(gòu)成，網(wǎng)卡能夠傳輸數(shù)據(jù)并優(yōu)化傳輸速度。
聚焦到微軟方面，在其數(shù)據(jù)中心使用英偉達(dá)的AI芯片時(shí)，由于需要傳輸OpenAI等AI公司所需的大量數(shù)據(jù)，可能將出現(xiàn)過載現(xiàn)象。因此，對于微軟來說，開發(fā)網(wǎng)卡新品有望提升其數(shù)據(jù)中心服務(wù)能力。
據(jù)報(bào)道，微軟此次研發(fā)的全新網(wǎng)卡將對標(biāo)英偉達(dá)的ConnectX-7。英偉達(dá)官網(wǎng)介紹稱，ConnectX-7可支持超低時(shí)延、400Gb/s 吞吐量和創(chuàng)新的 NVIDIA 網(wǎng)絡(luò)計(jì)算加速引擎，實(shí)現(xiàn)額外加速，為超級(jí)計(jì)算機(jī)、人工智能和超大規(guī)模云數(shù)據(jù)中心提供所需的高可擴(kuò)展性和功能豐富的技術(shù)。
其中，有別于傳統(tǒng)的數(shù)據(jù)共享方式，ConnectX-7通過運(yùn)用RDMA技術(shù)，可繞過CPU從而讓數(shù)據(jù)檢索速度快速提升。有消息稱，微軟的新網(wǎng)卡不僅將借鑒這一全新技術(shù)，還將從性能上進(jìn)行全面優(yōu)化。
需要注意的是，微軟在網(wǎng)卡技術(shù)上的布局并非空穴來風(fēng)。早在2019年，微軟就曾提及DPU（數(shù)據(jù)處理單元）的重要性，并于2023年收購服務(wù)器芯片初創(chuàng)企業(yè)Fungible，后者為專門生產(chǎn)數(shù)據(jù)處理單元（DPU）的企業(yè)。
在收購Fungible的公告中，微軟指出，F(xiàn)ungible是一家可組合基礎(chǔ)設(shè)施提供商，旨在通過高效、低功耗的數(shù)據(jù)處理單元（DPU）加速數(shù)據(jù)中心的網(wǎng)絡(luò)和存儲(chǔ)性能。Fungible的技術(shù)有助于實(shí)現(xiàn)高性能、可擴(kuò)展、分解、橫向擴(kuò)展的數(shù)據(jù)中心基礎(chǔ)設(shè)施，并具有可靠性和安全性。
“微軟的收購舉措有望進(jìn)一步加強(qiáng)其在數(shù)據(jù)中心基礎(chǔ)設(shè)施方面的能力。通過收購Fungible獲得的專業(yè)技術(shù)積累，也有望在全新網(wǎng)卡項(xiàng)目研發(fā)中發(fā)揮作用。”前述行業(yè)人士向21世紀(jì)經(jīng)濟(jì)報(bào)道記者指出。
值得一提的是，F(xiàn)ungible的創(chuàng)始人正是如今微軟網(wǎng)卡業(yè)務(wù)傳聞中的負(fù)責(zé)人普拉迪普·辛杜。因此，微軟的網(wǎng)卡研發(fā)項(xiàng)目很可能指向DPU，后者被視為繼CPU和GPU之后的“第三顆主力芯片”。
事實(shí)上，在當(dāng)前數(shù)據(jù)增幅大量提升的背景下，以DPU為代表的異構(gòu)計(jì)算市場正在受到更多的關(guān)注。根據(jù)賽迪顧問數(shù)據(jù)，2020年全球DPU產(chǎn)業(yè)市場規(guī)模達(dá)30.5億美元，預(yù)計(jì)到2025年全球DPU產(chǎn)業(yè)市場規(guī)模將超過245.3億美元，期間CAGR高達(dá)51.73%。
“伴隨著5G、云網(wǎng)融合時(shí)代的到來，以及虛擬交換等技術(shù)的引入，基于服務(wù)器的網(wǎng)絡(luò)數(shù)據(jù)平面復(fù)雜性急劇增加。海量的數(shù)據(jù)搬運(yùn)工作被CPU承擔(dān)，導(dǎo)致網(wǎng)絡(luò)接口帶寬急劇增加，CPU資源負(fù)載過大，大大影響了CPU將計(jì)算能力釋放到應(yīng)用程序中，”民生證券研究團(tuán)隊(duì)指出，“為了提高主機(jī)CPU的處理性能，Smart NIC（智能網(wǎng)卡）將部分CPU的網(wǎng)絡(luò)功能（如IP 分片、TCP 分段等）轉(zhuǎn)移到網(wǎng)卡硬件中，起到了加速運(yùn)算的目的，其可視為DPU的前身。”
擺脫英偉達(dá)依賴
目前，AI芯片市場的“霸主”無疑是英偉達(dá)。在生成式AI大火的背景下，主導(dǎo)AI芯片的英偉達(dá)也賺得盆滿缽滿。
英偉達(dá)所推出H100，被公認(rèn)為是訓(xùn)練大語言模型最需要的GPU。與此同時(shí)，英偉達(dá)通常將ConnectX-7網(wǎng)卡與其GPU捆綁銷售。其中的一個(gè)例子，便是將H100與ConnectX-7相結(jié)合推出的融合加速器“H100 CNX”，該款產(chǎn)品可為I/O密集型應(yīng)用提供強(qiáng)勁性能。
作為生成式AI的重要角力者，微軟通過向OpenAI注入數(shù)十億美元的巨資，將后者的技術(shù)融入到自身的各類產(chǎn)品中。甚至，將OpenAI技術(shù)加以進(jìn)行內(nèi)部產(chǎn)品整合，已經(jīng)成為微軟發(fā)力AI的一大戰(zhàn)略。例如，OpenAI新近發(fā)布Sora模型后，微軟方面亦透露，會(huì)將該模型融入Copilot產(chǎn)品中。
不過，大模型的訓(xùn)練瓶頸終歸落在算力上，不愿被英偉達(dá)“掣肘”的微軟，也開始動(dòng)作不斷。2023年11月，微軟推出云端AI芯片微軟Azure Maia 100及服務(wù)器CPU微軟Azure Cobalt 100，前者能夠運(yùn)行大語言模型并支持AI計(jì)算，亦被業(yè)界視為微軟打響拋棄英偉達(dá)芯片依賴的“首槍”。
如今，微軟的網(wǎng)卡項(xiàng)目，則再度顯現(xiàn)了這個(gè)巨頭在AI基礎(chǔ)設(shè)施領(lǐng)域自給自足的決心。“該項(xiàng)目有望重塑微軟與英偉達(dá)之間的競爭格局，從而對整個(gè)AI行業(yè)產(chǎn)生影響。一旦項(xiàng)目研發(fā)成功，微軟也將構(gòu)建一個(gè)更強(qiáng)大并更具競爭力的Azure平臺(tái)。”有行業(yè)分析人士向21世紀(jì)經(jīng)濟(jì)報(bào)道記者指出。
不過，也有芯片行業(yè)從業(yè)人士向21世紀(jì)經(jīng)濟(jì)報(bào)道記者直言稱，DPU開發(fā)難度很高，結(jié)構(gòu)復(fù)雜，而且不太好落地，有的大芯片DPU單價(jià)可能達(dá)到十幾萬。
“AI巨頭布局DPU的原因是他們有規(guī)模龐大的服務(wù)器集群，定制DPU可以有效地降本增效，覆蓋芯片開發(fā)成本。”該人士表示。同時(shí)他判斷，微軟該項(xiàng)目大概率為專用產(chǎn)品，未必會(huì)對芯片市場整體有大幅影響。
本文鏈接：AI市場明爭暗斗：微軟“背刺”英偉達(dá)，低調(diào)研發(fā)新網(wǎng)卡http://www.sq15.cn/show-2-3030-0.html
聲明：本網(wǎng)站為非營利性網(wǎng)站，本網(wǎng)頁內(nèi)容由互聯(lián)網(wǎng)博主自發(fā)貢獻(xiàn)，不代表本站觀點(diǎn)，本站不承擔(dān)任何法律責(zé)任。天上不會(huì)到餡餅，請大家謹(jǐn)防詐騙！若有侵權(quán)等問題請及時(shí)與本網(wǎng)聯(lián)系，我們將在第一時(shí)間刪除處理。